Egy tudóscsoport szerint a mesterséges intelligencia megalkotása nemcsak az emberiség legfontosabb, hanem rossz forgatókönyv esetén egyben az utolsó eseménye is lehet. Az Independentben közös cikket megjelentető kutatók között van Stephen Hawking és Frank Wilczek is.
A prominens kutatók által közölt cikk szerint a mesterséges intelligencia nemcsak fontos esemény lesz történelmünk szempontjából, de a fölösleges kockázatok miatt lehet, hogy egyúttal az utolsó is. A csoport szerint nem szabad csak tudományos fantasztikumként gondolni az intelligens gépekre, ráadásul a ma is elérhető fejlesztéseket még komolyabbak követik a következő évtizedekben.
A mesterséges intelligencia fejlesztése alapvetően a jó célokat is szolgálhatja, hiszen véget vethetünk vele a háborúnak, az éhezésnek vagy a szegénységnek, azonban rendkívül sok a hibalehetőség mindebben.
A kormányok automatizált fegyverrendszert alkalmaznának, amely önállóan választhatna és semmisíthetne meg a különböző célpontokat, és bár az ENSZ, valamint a Human Rights Watch ezeket már betiltotta, nem látni olyan fizikai törvényeket és alapvető korlátokat, amik megakadályoznák a mesterséges intelligencia túlfejlődését.
Ha a technológia okosabb lehet a pénzügyi piacoknál, vagy ha a mesterséges intelligencia jobb feltaláló lesz az emberi agynál, és ha embereket túrnak ki a vezetői pozícióból, akkor az súlyos veszélyt jelenthet ránk nézve. A mesterséges intelligencia hosszú távú hatásai pont azért problémásak, mert a szisztémát bárki irányíthatja. Az emberiség lényegében a legjobb vagy a legrosszabb dologgal néz szembe, ami történhet vele.
Kevés a komoly kutatás, ugyanakkor mindenkinek fel kell tennie a kérdést magának: hogy érhető el, hogy lefölözzük a hasznot, de elkerüljük a kockázatokat? Hogy milyen választ adunk erre a kérdésre a közeljövőben, létfontosságú lesz az emberiség sorsát illetően.
Az Independentben megjelent cikket Stephen Hawking és Frank Wilczek fizikusok mellett Stuart Russel professzor és Max Tegmark fizikus jegyezte.