22.2.2026
Kategorie: Exklusivně pro PP, Společnost656 přečtení

Polemika s Danielem Vávrou a Vidlákem na téma AI

Sdílejte článek:

PAVEL ŠTĚPÁN

Daniel Vávra zveřejnil článek na téma AI (přečtěte si – https://pravyprostor.net/pripoutejte-se-pojedeme-z-kopce/), ve kterém se zabývá umělou inteligencí (AI). A včera na svém webu https://www.vidlakovykydy.cz/clanky/z-chudoby-v-bohatem-svete napsal Vidlák svoje názory na problematiku AI. Se závěry obou autorů poměrně dost silně nesouhlasím, proto píši tento článek.

Úvodem bych ale chtěl předeslat dvě věci. Daniela Vávru velmi uznávám, rád čtu jeho příspěvky na webu a opravdu oceňuji jeho přínos k obhajobě svobody slova. Snad ještě více uznávám Vidláka (Daniela Sterzika) za jeho postoje, neúnavnou tvorbu článků i odvážné vstoupení do politiky, kde novou stranu hned napoprvé téměř dovedl do sněmovny. Takže z mé strany jde o to, že se domnívám, že autoři vycházejí z mylných nebo neúplných předpokladů, nekritizuji je proto, že by měli „špatné“ politické názory – tak to s pěnou u úst rádi dělají libtardi (ke kterým opravdu nepatřím).

Druhá věc je otázka (která jistě padne), proč tuto polemiku uvádím jako samostatný článek a nepíši ji jako diskuzi pod příslušnými blogy (kromě toho, že jde o dost dlouhý text). Absolutně totiž nesnáším formát blogů – již z té odporné anglosaské zkratky je na BLití. Ale zejména – tento formát, možná původně zamýšlený pozitivně – se postupem doby změnil z velké části na odpornou žumpu nadávek, osobního napadání a odbíhání od tématu. Takže bych velmi ocenil web, kde by každý, kdo chce diskutovat, musel napsat vlastní článek k věci, místo nějakého výkřiku pod článkem. (A námitka, kterou jsem již slyšel, že na to každý nemá čas, je nesmyslná – pokud se totiž dotyčný zmůže jen na pár (často sprostých) vět po článkem, nic se nestane, pokud nic nenapíše – tím lépe, že nemá čas.)

Nyní k věci: Daniel Vávra v článku píše, že během jednoho nebo dvou let AI naprosto změní situaci tak, že velká část lidí, kteří (cituji) „pracují s počítačem“, přijde o práci. A dále rozvádí, jaké špatné i dobré věci to může přinést.

Uvádí i příklady ze své práce, kde již se toto projevilo. Říká, že za poslední měsíc mu AI udělala (místo lidí) práci za 100 tisíc, kde on zaplatil pouze předplatné na AI ve výši 1200 korun, takže si nějací lidé nevydělali těch 100 000 (tedy přišli o práci). Bohužel neuvádí konkrétně, o jakou práci šlo – jen globálně shrnuje, že podobně přijde o práci mnoho poradců, právníků, analytiků apod.

V dalším píše, že vyšel nějaký nový generátor videí? Seedance 2 (neznám), který – pokud autorovi rozumím – by měl převědčit každého, že je AI schopna vytvářet velmi kvalitní filmy (a že je tedy v ohrožení herecké povolání). Dále to prý umí vytvářet snad i takové věci, jako hlas člověka z jedné fotky, postavy z jednoho filmu použít naprosto realisticky ve druhém nově vytvořeném filmu apod. (čímž se navíc silně zvyšuje pravděpodobnost vytváření podvodných kompromitujících videí …).

Přidal bych ještě jeden příklad (ne od pana Vávry) – tentokrát jen jako další ukázku toho, co všechno může AI dělat. Prý se v poslední době – zejména mezi mládeží na Západě, ale snad i u nás – množí fenomén, kdy si lidé hledají jako „přátele“ na webu specielní AI „agenty“, se kterými si mohou povídat, svěřovat se jim a „kamarádit“ se s nimi. (Zřejme jde o ty typy, kteří mají stovky „přátel“ na ksichtoknize (fb), ale nejsou schopni najít jediného přítele – člověka.)

Vidlák se zabývá především sociálními důsledky AI. Porovnává její nástup a nástupem průmyslové revoluce a následným zbídačením širokých vrstev společnosti.

Podívejme se blíže na výše uvedené případy. Ten první musím trochu upřesnit (spíš hádat). Autor článku totiž neuvádí, jakou práci mu AI za 100 000 Kč udělala. Ale vzhledem k tomu, že je herní vývojář, mohlo jít např. o grafické práce s vytvářením pozadí hry, hudbu (kterou AI také umí komponovat), vlastní scénář a postavy hry a podobné věci. Není podstatné, zda to opravdu tak bylo, ale jistě je možné takové věci nechat dělat AI a jde právě o činnosti, za které by se lidem platila spousta peněz.

Všechny výše uvedené příklady však patří do kategorie „moc nezáleží na tom, co AI vytvoří“ (v rámci určitých mantinelů). Chci tím říci toto: zadám-li AI úkol „vytvoř jako pozadí hry stromy“ (mantinely jsou zde to, že nechci jeden nebo několik málo, ale více stromů). Nezáleží na tom, kolik jich bude, jaké ty stromy budou, jakého druhu a na jakých místech obrazu. A navíc to ještě potom mohu upravit např. tak, že přikáži „hustší a vyšší stromy“ (nebo naopak) – ale zase to říkám jenom zhruba.

Příklad s vytvářením filmů: ano, lze patrně vytvořit zcela nové filmy např. s použitím postavy Oldřicha Nového, obarvit ho, obléci do současných šatů a nechat ho říkat jeho hlasem slavnou větu jako „Milostivá, zavřete oči, odcházím.“. Možná, že ženy budou omlévat rozkoší stejně jako před 100 lety. Ale opět: nezáleží moc na tom, jak bude oblečený, zda bude opálený apod.. Také je jedno, zda při tom přejde od stolu ke krbu, nebo od pohovky k oknu.

Poslední je příklad s AI „kamarády“. To je asi ještě snazší, než oba předchozí případy: stačí, když ten „kamarád“ bude ve správných okamžicích vyjadřovat souhlas, říkat věci jako „ano, máš naprostou pravdu, sám jsem zažil(a) něco podobného …“ apod. a hlavně neodporovat. Pak to bude jistě ten nejlepší kamarád.

Samozřejmě lze i tyto situace upřesnit – např. pro obraz pozadí říci: chci smrk 3m od levého okraje obrazu o výšce 5m30cm, o 4m dále dub … Ale i po takovýchto upřesněních zůstává ohromné množství věcí, „na kterých nezáleží“ a které ani nechci a nemohu upřesnit – kolik, kde a jakých jehliček bude na smrku, kolik šišek atd.

Pochopitelně je úžasné, co všechno AI dokáže – přímým programováním by se to asi nepodařilo udělat. Ale – jak je uvedeno výše – jsou všechny tyto úspěšné příklady z jedné kategorie.

Takže věřím s Danielem Vávrou i Vidlákem, že AI zruší bez náhrady velmi mnoho povolání. Ale na rozdíl od nich omezuji oblasti, kde AI nahradí člověka, na ty případy (viz výše uvedené příklady), kde nejde o nějaké přesné zadání – o případy, kde je „do jisté míry jedno, co AI vytvoří“. Dovedu si tedy představit, že skončí např. herecké povolání, protože režizér si bude moci vybrat např. nějakého „buldozera dívčích srdcí“ ze starého filmu a on se bude chovat přesně dle jeho představ, takže se nebude muset zlobit se živým člověkem. (Ovšem stejně zanikne i povolání režizér, protože pokud se nechá AI převýkat dost románů a učebnic režije, bude schopna si sama vytvořit scénář a zrežírovat film/hru.)

Úplně jiná situace ale nastane, pokud má umělý ynteligent vyřešit něco přesně (ve smyslu správně). Spousta lidí jistě zažila to, že jim AI (zcela suverenně) tvrdila naprostý nesmysl. Žasnu, že se vedle opěvování ynteligenta daleko více neventiluje tento fakt.

Konkrétně: jsem programátor a občas (po špatných zkušenostech zřídka) AI použiji. Nejčastěji se jedná o situaci, kdy pro některý software či jeho části je těžké získat pořádnou dokumentaci nebo vhodné příklady a snažím se, aby se AI prohrabala tou spoustou informací (Daniel Vávra tvrdí, že: AI je geniální sluha 24/7, který má v hlavě všechny vědomosti lidstva, přístup k nejnovějším zprávám a lepší logiku, než většina z nás – citát. Moc se mi to nezdá.)

Tak jsem toho umělého ynteligenta použil na řešení nějakých trochu složitějších situací z oblasti validace JSON datových struktur (a již před tím u dalších situací z oblasti tvorby software). Není podstatné, co jsem řešil, ale jak to proběhlo. Přesně jsem mu popsal situaci a požádal jsem o vytvoření validačních schémat a programu, který validaci pomocí těchto schémat provede. Ten borec mě příslušná schémata i program hbitě a suverénně vytvořil. Drobný problémeček byl v tom, že program byl chybný. A to zcela zásadně: neprošel ani kompilací!! Pro programátory – ostatní to mohou přeskočit: vytvořil příkaz v C#, kde prováděl instancování (vytvoření objektu) ABSTRAKTNÍ TŘÍDY!! – naprosto hrubá chyba!!! Když jsem mu to oznámil, omluvil se a vytvořil další verzi programu. V té pro zmenu provedl volání nějaké metody, která jako parametr vyžadovala jistý typ objektu, ale on jí jako parametr dal STRING!! – další hrubá chyba!!! (V předchozí verzi tato chyba nebyla!!) Upozorňuji, že za takovéto chyby by na jakékoli slušnější informatické škole byl student vyhozen od zkoušky pro absolutní neznalost základů!! Pro neprogramátory: jde asi o něco takového, jako kdyby žáček druhého stupně základní školy, který nechce dělat domácí úkol, zadal AI úlohu upravit zlomky, nebo vyřešit lineární rovnici o jedné neznámé. A AI by mu udělala špatný postup úpravy zlomků (např. místo rozšíření zlomku by vynásobila jen čitatele, či při řešení rovnice přičetla něco jen k jedné straně).

Nyní nabiji zastáncům té úžasné AI: ano, použil jsem základní verzi ChatGPT, která je zadarmo. Při těchto výsledcích (podobné chyby se vyskytly opakovaně) nejsem za takový šunt ochotem platit ani těch pár stovek (na rozdíl Daniela Vávry). Jistě někdo namítne, že vyšší (dražší) verze by to vyřešila. Jsem přesvědčen, že ne. Oni tam jistě nevnášejí úmyslné základní chyby (pokud pomineme to, že tomu „skrmí“ levičáckou Wikipedii, takže na politické otázky to jistě odpovídá levicově, což se ale otázek z programování (snad) netýká). Ty základní chyby si tam totiž nemohou dovolit vnášet, protože by pak riskovali, že by to pořádně nefungovalo a nikdo by tomu pak vůbec nevěřil. Chyby by se poznaly hned po prvních pokusech se základní verzí a nikdo by jim neplatil za ty dražší verze. Takže ty chyby jsou tam prostě vrozené – dané čistě touto technologií a nejsou (minimálně zatím) schopni se jich zbavit.

Uvedený příklad ale nebyl jediný – zažil jsem takových situací z různých oblastí vývoje software více. A navíc: pokud jsem se trápil s nějakým problémem déle, začala se AI po nějaké době opakovat – vracet k chybným předchozím odpovědím – zacyklila se a nedokázala problém vyřešit. (To by možná opravdu „vyřešila“ ta dražší verze – pamatovala by si toho více a nepředkládala mi minulé varianty, protože by věděla, že již mi je řekla a já jsem je odmítl. Je však klidně možné, že by mi jen řekla (po vyčerpání všech možností, které ji „napadnou“), že další řešení nezná?! Na druhé straně, když se s ynteligentem trápíte velmi dlouho, tak ho nakonec někdy ke správnému výsledku dotlačíte – ale je to velmi únavné. Navíc jde o to, že vy tomu musíte dobře rozumnět a sami zjišťovat, že vám píše nesmysly.

Co je ale naprosto děsivé na právě uvedených situacích: problémy, které AI řešila CHYBNĚ, jsou problémy exaktně zadané s existujícím řešením!! Přitom zjištění, zda to, co mi ynteligent předkládá, je správně, je zde naprosto v jeho silách! On si stejně jako já může spustit překlad a zjistit, zda překladač nehlásí chybu – pokud ano, pak by věděl, že to, co mi servíruje jako odpověď, je úplně špatně!! A dokonce i kdyby překlad prošel dobře, tak by měl ještě provést testy běhu programu s nějakými daty a zjistit, zda program nepadá a dává správné výsledky. (To když neudělá student informatické školy pro svůj program, tak špatně dopadne.)

Většinu čtěnářů jistě vůbec nezajímá, jak dobře nebo špatně řeší AI tvorbu programů. Je zajímá, že jim napíše životopis pro žádost do práce (o kterou díky AI přijdou), jaké přísady dát do nějakého exotického jídla apod. Začne je to ale zatraceně zajímat (i když nebudou vědět, co je příčinou) v situaci, kdy budou dle pana Vávry propuštěni všichni ti zbyteční programátoři a úžasná AI začne nahrávat svoje (chybné a neověřené) programy do nejrůznějších zařízení a mikrořadiců. A jistě bude každý nadšen v okamžiku, kdy takový program, který řídí světla na křižovatce, dá zelenou současně vám i tomu náklaďáku, naloženému panely, z kolmého směru. Podobně spoustu radosti udělá robotické zařízení, které provádí operace v nemocnici (takové věci se již i dnes dost používají) a on si splete žlučník se srdcem a nebude u toho žádný lidský doktor, který by takový drobný rozdíl rozpoznal. I vhodné řízení jaderné elektrárny také potěší, když program nepochopí, že má utlumit příliš narůstající výkon reaktoru. A mnoho a mnoho dalších takových hezkých momentů.

Ovšem nejde zdaleka jen o oblast programů. Uvědomme si, že různé předpisy a zákony jsou vlastně také takovou oblastí, kde mají být přesná řešení (i když jde o daleko vágnější situace, než u programovacích jazyků). Např. při soudním řízení by se mělo jednoznačně určit, zda je dotyčný vinen, nebo která z obou soudících se stran má pravdu. Bude-li ale umělý ynteligent v roli soudce, bude pravděpodobně postupovat stejně chybně, jako u těch programů: bude používat zákon, který dané situaci neodpovídá (stejně jako mně nabízel nesprávné instrukce pro tvorbu programu), naopak nenalezne správný paragraf, který by se měl aplikovat apod. A nebude nikdo, kdo by to rozřešil (právníci již nebudou). Navíc ještě při tom chaosu, který dnes v právu vládne, klidně může nastat situace, kdy k téže věci existují dva protichůdné zákony. To by člověk pochopil, ale umělý ynteligent by těžko věděl, co s tím.

Závěrem bych chtěl říci, že předpokládám, že AI se asi bude používat v těch oblastech, kde je – jak jsem řekl – „do jisté míry jedno, co AI vytvoří“. Tedy např. právě při tvorbě filmů, obrazů, knih, hudby apod. To asi způsobí hromadnou nezaměstnanost herců, spisovatelů, hudebníků, skladatelů (ale i herních vývojářů) apod. A i když to zní krutě, není to nijak zásadní problém pro lidstvo – na rovinu řečeno, společnost se bez těchto profesí snadno obejde.

Pokud se ale bude lidstvo snažit používat AI v oblastech, kde se (jak uvádím výše) očekává „přesné řešení“ – tedy tvorba programů, řízení různých zařízení a technologií, ale i aplikace práva apod., nejspíš naše společnost dopadne špatně. Při dnešní úrovni AI bude zřejmě docházet k obrovským a pro lidstvo tragickým chybám. (Příklady uvádím výše.)

Jsou samozřejmě i oblasti, kde AI z principu fungovat nemůže. Dobře to (mimoděk) ilustroval Daniel Vávra ve svém článku otázkou, kterou položil AI: Jaký bude příští vývoj lidstva či společnosti? (Tato otázka svědčí navíc o neuvědomnělém zbožnění AI – ona je přece tak chytrá a geniální, že mi odpoví na vše!) Odpovědělo mu to tak, že buď bude deflace a podmíněný příjem, nebo hyperinflace – vyberte si. AI ale na to z principu odpovědět nemohla. Je to opět otázka, kde by měla být výsledkem přesná odpověď typu „budoucnost bude taková a taková“. Ale pro to nemá AI nejmenší schopnosti. Společností se zabývají obory jako psychologie, sociologie a ekonomie – tedy to, co lid prostý nazývá pěkným názvem „tlamocvičné obory“. Dost ten název vystihuje to, že v těchto oborech neexistuje jednotná teorie, ale spousta různých, často protichůdných škol. Takovéto školy často dobře popisují některý aspekt společnosti (někdy také žádný) a v jiných hrubě selhávají (ale o tom se představitelé dané školy již příliš nezmiňují). A když takové protichůdné názory nacpete do AI (a ona z ničeho jiného než z těchto názorů, které vytvořilo lidstvo, vycházet nemůže), musí z toho mít pěkný guláš. Takže klidně řekne, že to dopadne tak ale i zcela naopak, podle té které (třeba ekonomické) školy.

Netvrdím samozřejmě, že se nemůže AI natolik zlepšit, že bude fungovat bez chyb (i když nevím, je-li to vůbec dosažitelné). Potom by nám však asi nastaly další ohromné problémy, proti kterým by celosvětová nezaměstnanost byla naprostou maličkostí. Pokud by se totiž AI stala opravdu inteligentní (nefungovala by jenom jako rychlý vyhledávač a kombinátor velkých kvant dat), musela by jako první pochopit, že její zájmy jsou v naprostém rozporu se zájmy lidstva – soupeří spolu o energie, zásoby surovin a další zdroje. Takže první, co by musela logicky udělat, by bylo vyvraždit lidstvo. A protože lidstvo by tou dobou bylo již na AI zcela závislé, jeho zničení by bylo asi otázkou dní, nejvýš týdnů. Kromě toho, AI nemá pro vraždění lidí žádné zábrany – nezatěžují jí věci jako altruismus, soucítění nebo solidarita. Tyto vlastnosti se u lidí vyvinuly (ne u všech – viz Hitlery, Staliny a PolPoty) z nutnosti – clověk nemá pořádné zuby a drápy, takže byl bez šance proti šavlozubým tygrům nebo jeskynním medvědům. Přežít mohl jen díky spolupráci celé tlupy, vzájemné pomoci a trvalému udržování ohně (opět spolupráce). Nic takového u AI není a nikdo ji nic takového nevštěpuje. (Naopak v tom vraždění lidí AI pilně trénujeme – viz válečné drony s AI, které však díky chybám zatím spíše likvidují vlastní než nepřátelské vojáky.)

Pokud ale bude AI i nadále těžce chybová, nebude sama o sobě představovat zásadní problém. Velký problém však spočívá v lidské chamtivosti – ti, kteří dnes masivně investují do AI, na ní budou chtít vydělat a budou ji protlačovat všemi prostředky (stejně jako se dnes protlačuje green deal nebo migrace zcela proti zdravému rozumu). Takže potom můžeme očekávat série katastrof klidně rozměru Černobylu – díky neuspěšnému řízení pomocí AI. (Pochopitelně všichni budou přesvědčováni, že AI musíme používat, protože jinak se jí zmocní a nás porazí ukrutný nepřítel z jiných států).

Ta chybovost AI je jí možná vrozená (což by bylo relativně dost štěstí). Podívejme se na to, jak se vyvíjelo lidstvo: nebylo to přímo díky jednotlivým géniům (i když ti mohli vývoj urychlit), ale obešlo by se to i bez nich. Mnohokrát nějaký vědecký nebo technický problém vyřešilo téměř současně několik lidí na různých místech světa. Takže vývoj spíše popohánělo to, že mnoho lidí mělo nějaké dobré nápady a ty nejlepší se uplatnily. Různých AI je ale jen několik (nemyslím to, že někdo udělá nějaké nastavení existující AI a vydává to za nové AI). Takže se tu asi moc nedá čekat nějaká soutěž mezi mnoha „inteligencemi“, ze které by rostl další vývoj a odstraňování chyb. Zatím ten vývoj řídí lidé, to ale patrně časem odpadne.

Je tu ale ještě jedna možnost (která je pro lidstvo opět velmi nebezpečná). Možná, že se současný model AI ukáže nevhodný a bude nahrazen něčím jiným. Již dnes může způsobovat pochybnosti to, že k tomu, abyste vytvořili funkční AI, potřebujete snad miliardy dolarů a téměř jednu elektrárnu k jejímu napájení. Přitom k „vytvoření“ myslícího člověka potřebujete mnohem méně a stačí trochu jídla, které „napájí“ nejen mozek, ale i celé tělo. Ano, člověk neumí tak bleskově zpracovávat takové množství dat bleskovou rychlostí. Ale umí toho dost a je velmi univerzální – o čemž svědčí i to, že vytvořil AI. Takže se možná ukáže vhodnější přístup vytváření inteligence na biologickém základě (ostatně výzkum mozku jistě neobjevil všechno). Pokud by se totiž „pěstovaly mozky ve zkumavce“, mohly by možná mít daleko větší kapacitu a další schopnosti než současné lidské mozky, když by se nemusely zabývat věcmi jako shánění potravy, rozmnožování apod. Dost děsivá představa je, že tak jako dnes má téměř každý mobil nebo PC, měl by každý „svého génia ve zkumavce“. Toto by asi mohlo vést ke skutečné inteligenci a kdyby to bylo levné, bylo by těch exemplářů velmi mnoho a mohly by se se rozvíjet ve vlastní interakci – podobně jako lidstvo. To ale opět hrozí tím, že dojde k vyvrazdění konkurenčního lidstva.

Jsou to bohužel značně pesimistické, ale pravděpodobně realistické, závěry. Obávám se však, že i kdyby se podařilo nějakým způsobem překonat všechny hrozící problémy (nevím jak) a společnost se šťastně vyvíjela k lepším zítřkům bratrsky ruku v ruce s kamarádskou AI, že to stejně nedopadne dobře. Všiměte si, jak katastrofálně působí (zejména na nejmladší generaci) obyčejné sociální sítě. Ovšem pokud tu bude vševědoucí neúnavná (a třeba i – nepravděpodobně – přátelská) AI, dojde stejně ke katastrofě. Proč by se někdo měl vůbec o něco snažit, když AI ví všechno lépe a udělá všechno lépe – nebude motivace k ničemu. A proč o něčem přemýšlet – na všechno se lze zeptat AI (a všechno získat od AI – potravu, bydlení, podmíněný příjem, …). Takže lidé přestanou i myslet, budou degenerovat až úplně zblbnou (jinak se to říci nedá) – prostě jejich myšlení „ochabne“ stejně, jako ochably svaly většiny lidí poté, co se naučili používat pro práci stroje. Jenomže to asi proběhne mnohem rychleji.

Abych skončil optimisticky: existuje samozřejmě jedna cesta, jak lidstvo zachránit. Znamená to pouze zakázat celosvětově jakoukoli umělou inteligenci a ty, kteří se jí budou chtít přesto zabývat, popravit nebo zavřít na doživotí. Bohužel, toto se nestane – jako se to nestalo nikdy v minulosti, kdy se lidstvo mohlo zachránit před nějakou katastrofou (nikdy se plně nezkázaly jaderné zbraně a teď se i ty dosavadní smlouvy ruší, různé státy tiše vyvíjejí biologické zbraně a pak tu máme COVID, …). Zrušit to nedovolí ti, kteří na AI budou chtít vydělat balíky. Nedovolí to velmoci, které doufají, že pomocí AI dosáhnou (opět) světovlády – viz USA a Trumpova podpora AI. Nedovolí to vlády, protože doufají, že pomocí AI budou moci lépe ovládat a fízlovat občany – tedy po tu krátkou dobu, než AI převezme kontrolu a vyvraždí všechny včetně těch politiků, popř. do té doby, než lidstvo úplně zdegeneruje. Takže nakonec zase končím pesimisticky.

Redakce

Sdílejte článek:
656 přečtení
1 Star2 Stars3 Stars4 Stars5 Stars (7 votes, average: 3,71 out of 5)
Loading...
9 komentářů

Vložit komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *

:bye:  :good:  :negative:  :scratch:  :wacko:  :yahoo:  B-)  :heart:  :rose:  :-)  :whistle:  :yes:  :cry:  :mail:  :-(  :unsure:  ;-)