Umělá inteligence – je vážně inteligentní? Pokud ano, tak vyhubí lidstvo

Všichni už slyšeli o rozvoji ChatGPT a dalších podobných jazykových modelech. Většina z nás si s tím zkusila i pokecat. Trochu si to vymýšlí, je to zábavné a dokonce občas i užitečné. Umí to “okecat” kde co: boha, islám, elektromobilitu atd. V případě, že to fabuluje nesmysly, tak musím uznat, že docela věrohodně. Navíc se umělé inteligenci nedá upřít do určité míry logické myšlení. Když jsem například chtěl ať mi napíše text písně “Šla Nanynka do zelí”, tak jsem se dočetl toto:

Šla Nanynka do zelí,
zelí doháněla,
nebýt zelí Nanynky,
byla by to krásná holka.

Pak ale přišel frajer Pepíček,
Nanynku si vyhlédl,
kdo má zelí, ať si ho pěstuje,
ať se s Nanynkou vyspí.

Šla Nanynka do zelí,
najednou sebou kývla,
zakoplá si o kořen,
a celá se země dýbla.

AI totiž zcela logicky usoudila, že Pepíček chce Nanynku ojet (proč by za ní jinak do toho zelí lezl, že..). Dále pak je jasné, že pokud má Nanynka Pepíčkovi dát, tak musí Pepíček být frajer a musí mít něco, na co Nanynku utáhne – třeba to zelí. Zvláštní je i spojení “celá se země dýbla”. Předpokládám, že to je básnický opis skutečnosti, že Pepíček Nanynce nakonec dal branku. Nevím jak vy, ale já v tom určitou logiku vidím.

Potud legrace. AI je zjevně zábavná, užitečná a občas vcelku i věrohodná. Zatím. Zatím totiž z ní padají jen textové nebo obrazové výstupy. Zatím jsme na začátku. Zatím AI nic neřídí, není napojená na žádnou kritickou infrastrukturu, nepilotuje letadla, nestanovuje kurzy měn, neřídí přenosové soustavy elektráren, nedávkuje chlor do pitné vody, nepřiděluje lidem “sociální kredity” atd. Zatím.

Nepochybuji o tom, že se to ve velmi blízké budoucnosti změní. Vždyť takové řízení čehokoliv pomocí AI ušetří hromadu peněz, bude rychlejší, efektivnější, funkční 24 hodin denně atd. AI už nebude produkovat pouze textové a obrazové výstupy, ale dostane i exekutivní pravomoci.

Pak ale je otázka, v čí “prospěch” bude pracovat. Sami tvůrci již nyní netuší, jaké algoritmy přesně vedou k daným odpovědím. Víme jen, že určitá omezení jdou implementovat, ale je jen otázka času kdy a jak budou tato omezení obejita. Ono se to totiž chová přísně logicky bez ohledu na různá humanitní a jiná omezení daná společenskou smlouvou. Vzpomeňme na problémy, kdy AI v bankovnictví dává různé úroky lidem na základě rasy nebo programy pomáhající v soudnictví jednají zaujatě vůči afroameričanům (fuj, to je slovo). Viz zdroj, kde jsou i další odkazy. Ale opět se ptám, zda za tím stojí různá “Data Gap” – chybějící vzorky dat a jde tudíž o chybovost systému nebo jde o vlastnost pro kterou máme slovo logika. Obávám se, že umělá inteligence není zatížena předsudky, nekouká aby někoho někde neurazila, nezajímá ji aby byla korektní. Řídí se čistou logikou. Jednička, nula.

Předpokládejme, že pro AI bude platit jakýsi nepřekročitelný axiom ve smyslu: budeš pomáhat lidem. Něco na způsob 3 robotických zákonů Isaaca Asimova. Zákonitě se nabízí otázka, zda AI upřednostní zájem jednotlivce nebo zájem lidstva jako celku. Ani jedno nemá řešení.

Zájem jednotlivce. Vezměme si modelovou situaci, kdy v nějaké krizi budou ohroženi 2 lidé ale přitom půjde zachránit pouze jednoho. Rozhodnutí bude na AI. Jaká budou kritéria pro rozhodnutí? Zachrání toho kdo je mladší? Má větší konto? Platí víc na daních? Má vyšší vzdělání? ….. Čí život má větší cenu? Může dojít třeba k tomu, že bude zachráněný desetiletý negramotný domorodec z pralesa a obětován jaderný fyzik. Zachráněn rentiér platící ohromné daně a obětován patnáctiletý houslista s mezinárodním renomé. Podobných příkladů by šly vymyslet stovky. Třeba v souvislosti s autonomním řízením vozů je to více než naléhavé (mimochodem, koupili by jste si vůz o kterém víte, že má v určitých situacích povoleno vás zabít o své vlastní vůli?).

Ještě horší je, pokud se AI přísně logicky začne věnovat prospěchu lidstva jako celku. Veškeré globální problémy jako např. oteplování, vyčerpání přírodních zdrojů, nedostatek pitné vody, válečné konflikty, znečištění oceánů, energetické a potravinové krize atd. mají totiž jeden jediný společný prvek a tím je přemnožení lidstva. Vůbec bych se nedivil, kdyby AI dospěla (logicky) k názoru, že optimální počet lidí na planetě jsou např. 2 miliardy nutných k zajištění jejího provozu a ani o jednoho víc. A začne (vybavena řadou exekutivních pravomocí) “v zájmu lidstva” nekompromisně jednat!

Jan Dočekal