Szavazati jog

Miért ne lehetne az ember 'robotellenes':

"RAND Corporation - írja a CNBC.

Az elemzők úgy vélik, hogy évtizedek óta azért van viszonylagos béke a világban, mivel a nagyhatalmak tisztában vannak azzal, hogy bármilyen nagyobb háborúnak az egész világot elpusztító atomcsapások sorozata lenne az eredménye. Az AI és a gépi tanulás miatt viszont ez a status quo megszűnhet.

A RAND szakemberei attól tartanak, hogy a szenzorok technológiai fejlődése miatt már megsemmisíthetőek lesznek a mobil rakétakilövők és a tengeralattjárók, az AI-alapú döntéshozatali asszisztensek pedig arra buzdíthatják az embereket, hogy megelőző atomcsapásokkal harcoljanak ki maguknak alkupozíciókat, hiszen elhitetik velük, hogy akadna olyan atomháborús forgatókönyv, melyet megnyerhetnének.

Különösen az lehet veszélyes, ha a katonai stratégia kialakításához olyan AI-t használnak a döntéshozók, ami még nem elég fejlett technológiailag, vagy egyenesen hibás, a döntéshozók viszont nem jönnek erre rá és annak az illúziójában döntenek például az atomcsapás mellett, hogy a mesterséges intelligencia számításai teljesen megbízhatóak.

A RAND elemzői említenek egy konkrét korábbi esetet is, amikor a technológia kis híján elpusztította az emberiséget: 1983-ban a szovjet Oko rakétavédelmi rendszer műszerei azt jelezték, hogy az Egyesült Államok atomrakétákat lőtt ki. Stanyiszláv Petrov szovjet alezredes a protokollt megszegve mégsem indított el nukleáris válaszcsapást, mert úgy ítélte meg, hogy hibás a készülék. Mint kiderült, igaza lett és ezzel lényegében megmentette a világot egy atomháborútól.

Az AI veszélyeire a RAND emberei mellett nemrég száz mesterséges intelligencia-kutató is felhívta a figyelmet egy ENSZ-nek eljuttatott levélben, a dokumentumot többek közt Elon Musk is aláírta, aki amiatt aggódik, hogy az AI egy immorális diktátort emel majd az emberiség élére. "