Skutečným testem umělé inteligence budou už letošní americké prezidentské volby, tvrdí odborník Holý

11. leden 2024

Lidstvo by mělo mít obavy z ohrožení demokracie ze strany umělé inteligence. „Nechci nikoho strašit, ale v podstatě tyto obavy sdílím,“ říká v Osobnosti Plus odborník na umělou inteligenci a spoluautor podcastu Kanárci v síti Josef Holý. Nejde prý o to, aby například skupiny voličů uvěřily, že jen ten nebo onen vůdce je pro ně nejlepší. 

Čtěte také

„Také je můžete motivovat, aby nešli vůbec volit. Aby v určitou chvíli změnili vnímání nějakého fenoménu – ať už je to krize v Gaze, na Ukrajině, nebo dezinformační propagace o korupci na Ukrajině apod. Máte haldu různých strategií, kde jen stačí pohnout lidským vnímáním reality,“ doplňuje.

Obecně řečeno: Nová technologie zefektivní, automatizuje, zlevní způsob interpretace dat o cílových skupinách a následně i vytváření propagandy nebo obsahu pro ně na míru,“ pokračuje Holý. 

Obrana před AI? 

Umělá inteligence tady už je, takže se jejímu zneužívání bude složité ubránit. „V zásadě tomu bránit nelze, respektive regulovat se dají jen ty velké jazykové modely, které vytváří firmy, jako je OpenAI, Google a další.“

Čtěte také

„Ve Spojených státech už Joe Biden vydal prezidentský dekret, který zahrnuje tuto třídu umělé inteligence, stejně jako už i Evropská unie vytvořila balík regulací. Problém je, že vznikají méně výkonné modely v tzv. open source, které si kdokoliv může stáhnout.“

„Ty jsou z podstaty neregulovatelné, protože pokud je zregulujete, tak až si to někdo stáhne, regulaci si klidně odstraní. Například pokud modelu zamezíte, aby dal návod na výrobu bio zbraně nebo na nacistickou propagandu, tak si tyto ,obrany‘ stejně nějaký šikula dokáže promazat,“ popisuje Holý.

„Teď se i pro nás ukazuje síla EU, která přišla se zdaleka ne perfektním, ale poměrně kvalitním balíkem regulací. A protože jsme jako Evropa velký trh, máme sílu i pro vyjednávání s velkými technologickými hráči, což je vlastně jediná cesta,“ uvažuje expert o obraně před zneužitím.

Čtěte také

Přesto je zneužití AI velmi pravděpodobné a nevyhnutelné.

„Protože jsme selhali ve společenské odpovědi na první generaci AI, kdy jsme si nechali zprivatizovat veřejný informační prostor. Ten teď ovládají velké technologické celky a korporace, ať už je to Facebook, v případě TikToku čínská komunistická totalitní vláda, nebo u Twitteru (resp. u X) podle všeho ne úplně psychicky v pořádku miliardář Elon Musk – což soudím podle toho, co dělá.“

„To znamená, že nemáme kontrolu nad svým informačním prostorem ani nad řazením informací, které je určeno čistě obchodními preferencemi. Anebo taky geopolitickým posílením země v případě Číny atd.“

„A na tyto sítě teď posadíme generátor uvěřitelného obsahu a už teď se nám v novém informačním prostoru stírá realita, protože došlo k setření autorit.“ 

Test demokracie 

Jak složité, nebo snadné, bude přijít v budoucnu o demokracii?

Čtěte také

„Může to být velice snadné, protože demokracie je o vyvažování různých mocenských pák, center a tady máme obrovskou moc v rukou několika technologických hráčů, takže dochází k její velké koncentraci,“ odpovídá.

„Není to jen moc nad určitým trhem, což velké korporace v historii už také uměly. Je to moc nad naším vnímáním reality. A čím jsme mladší, tím víc vnímáme svět jen přes digitální média a sociální sítě,“ připomíná.

Zároveň dodává, že podle jedné teorie budou ti nejmladší, kteří už vyrostli v digitálním věku, pro nový svět vybaveni daleko líp.

Čtěte také

„Dokonce budou umět podvědomě odhalit manipulativní kampaně lépe než střední nebo starší generace. Na druhou stranu – než se současní ,náctiletí‘ dostanou k moci a povedou firmy, politické strany, vlády, tak nás čeká období, kde hrozí, že bude demokracie, tak jak ji známe, dost poškozena.“

„Ostatně, vidíme to i v Americe, kde byl po čtyřech letech vlády Donalda Trumpa pokus o puč, ve kterém hrála velkou roli (nejen) digitální média. A Trump se teď vrací. Takže pokud se ptáte, co bude za 20 let, tak já nevím, co bude za rok. Skutečným testem, lakmusovým papírkem, pro umělou inteligenci budou letošní podzimní americké volby,“ uzavírá.

Celou Osobnost Plus Barbory Tachecí najdete v audiozáznamu.

autoři: Barbora Tachecí , lup

Související

Více z pořadu

E-shop Českého rozhlasu

Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!

Jan Rosák, moderátor

slovo_nad_zlato.jpg

Slovo nad zlato

Koupit

Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.