Může AI v budoucnu ovládnout atomový arzenál?
Jednoho krásného dne může mít AI možnost ovládnout atomový arzenál. Dnes se to sice zdá jako naprosté sci-fi, ale nikdy nemůžeme vědět, jak se budoucnost bude vyvíjet.
I v současné době už je celá řada moderních bojových prostředků z části řízena algoritmy. Není tudíž tak složité si představit, že za pár dekád budou alespoň některé fragmenty těch nejvyspělejších světových armád podřízeny umělé inteligenci.
A to už je jen krůček k přebrání kontroly nad jaderným arzenálem, což by mohl být v konečném důsledku náš konec. I podle největších propagátorů AI by tedy umělá inteligence nikdy neměla mít přístup ke zbraním hromadného ničení. Snad se touto zásadou budou řídit i budoucí generace.
Nenápadné zotročení
Zkáza lidstva nemusí mít pouze podobu totální anihilace. Umělá inteligence teoreticky může i docela dobře ovládnout naše myšlení, a to dokonce i dost nenápadně. Do jisté míry to dělá i dnes, a sice prostřednictvím algoritmů na sociálních sítích.
V dnešní době tyto algoritmy stále ovládají lidé, nicméně není zase tak složité si představit, že jednoho krásného dne tomu tak už nebude. Umělá inteligence se může v určitém bodě stát autonomní a zcela ovládnout naši mysl nejen prostřednictvím sociálních sítí, ale třeba i zpravodajství.
Člověk je v první řadě tvor emocionální a pokud nám bude všemocná AI brnkat na ty správné struny, můžeme si nakonec docela rychle vzájemně vyměnit role a lidstvo od určitého bodu začne pracovat pro umělou inteligenci, aniž by si to samo uvědomovalo.
Zničující dezinformační kampaně
Rozličnými dezinformacemi je současný západní svět doslova zaplaven. Pořád je to ale jen malá předehra. Očekává se totiž, že se za pár let do této hry zapojí umělá inteligence o poznání více.
Už dnes lze s její pomocí upravovat nejen fotografie, ale hlavně videa a hlas. Jakmile se AI ještě více vylepší, nebude problém vyrábět kompromitující materiály ve stejné kvalitě, jako kdyby byly pravé.
Společnost je už dnes v celé řadě zemí rozdělená. Výše naznačené možnosti však mohou v mnoha státech vést až k občanské válce. V takovýchto případech však nemusí být na vině samotná umělá inteligence, ale jedinci, kteří ji takto zneužijí.