Umelá inteligencia a paradox dôvery

Prednáška známeho historika na sympóziu o vývoji umelej inteligencie v rámci medzinárodného kongresu China Development Forum v Pekingu v marci 2025.
Autor upozorňuje na širšie súvislosti umelej inteligencie, ktorá je v médiách mylne prezentovaná ako spása ľudstva. Zdroj: Video prednášky nižšie.

„Ďakujem za pozvanie, je mi cťou byť na tomto podujatí. V tejto krátkej prednáške sa zameriam na tri otázky.

Po prvé, čo je umelá inteligencia (AI)? Po druhé, aké sú riziká AI? A po tretie, ako môže ľudstvo prosperovať v ére AI?

Takže – čo je AI? Okolo AI je priveľa mediálnej eufórie a tento pojem sa nepresne spája s takmer každým strojom. Je čoraz ťažšie vedieť, čo AI vlastne znamená.

Poviem to stručne a jasne. AI neznamená automatizáciu. AI znamená aktívne pôsobenie. AI nie je nástrojom v našich rukách. AI je aktívne pôsobiaci činiteľ. Umelá inteligencia nie je to, keď zariadenie koná automaticky. Musí mať schopnosť učiť sa a meniť sa, musí sa sama rozhodovať a sama tvoriť nové nápady.

Ako jednoduchý príklad uvediem kávovar. Ak stlačíte tlačidlo a prístroj vám automaticky pripraví espresso podľa vopred naprogramovaného postupu – to nie je AI. Stroj sa nič nenaučil, ani nevytvoril nič nové.

Iné však je, ak prídete ku kávovaru a skôr ako stlačíte nejaké tlačidlo, stroj povie: „Sledujem ťa už pár týždňov. Na základe všetkého, čo som o tebe a mnohých ďalších ľuďoch zistil, predpokladám, že by si si dal espresso. Už som ti urobil šálku.“

To je umelá inteligencia – niečo sa naučila a sama sa rozhodla. A je to naozaj AI, ak na druhý deň kávovar oznámi: „Dnes som vymyslel nový nápoj, ktorý by ti podľa mňa chutil ešte viac ako espresso. Nech sa páči.“

Okrem aktívneho pôsobenia ďalšou kľúčovou charakteristikou umelej inteligencie je to, že je to cudzí, umelý, neorganický činiteľ (agent), jeho inteligencia nie je ľudská a dokonca ani organická. Rozhoduje sa a vymýšľa riešenia, ktoré by človeku nenapadli.

Známym príkladom je spôsob, akým program AI Alph Go v roku 2016 porazil kórejského šampióna Lee Se-dola v hre Go. (Go je starodávna hra pôvodom z Číny, považovaná za jednu z najnáročnejších strategických hier na svete – poznámka prekladateľa.) Tento súboj sa stal slávny nielen preto, že umelá inteligencia porazila človeka, ale najmä preto, že algoritmus Alph Go v snahe vyhrať vynašiel nové stratégie, ktoré ľudským hráčom nikdy nenapadli za tisíce rokov kultúry Go.

Pokiaľ AI vymýšľa nové spôsoby hrania hier alebo nové druhy kávy, nezdá sa to veľmi dôležité. Umelá inteligencia však môže čoskoro vymyslieť nové vojenské a finančné stratégie, nové druhy zbraní a mien a dokonca úplne nové ideológie a náboženstvá.

Prejdime teda k druhej otázke – v čom je nebezpečenstvo AI? Umelá inteligencia má, samozrejme, obrovský pozitívny potenciál a môže ľudstvu pomôcť rôznymi spôsobmi, od objavu nových liekov až po pomoc pri riešení katastrofálnej zmeny klímy.

Umelá inteligencia však predstavuje aj mnoho hrozieb. Základným problémom AI je, že ide o cudzí, umelý prvok, ktorý je nepredvídateľný a nedôveryhodný.

V jadre konkurenčného boja pri vývoji super inteligentnej umelej inteligencie je paradox dôvery. Pre ľudí je ťažké dôverovať iným ľuďom, ale niektorí z nás napriek tomu veria, že by sme mali dôverovať AI.

Pri cestách po svete stretávam ľudí, ktorí vedú vývoj AI a často im kladiem dve otázky. Prečo postupujete tak rýchlo napriek obrovským rizikám? A odpoveď takmer všetkých z nich je – súhlasíme, existuje veľké nebezpečenstvo a bolo by najlepšie postupovať opatrne a viac investovať do bezpečnosti. Ak však spomalíme, zatiaľ čo naši konkurenti nespomalia, oni vyhrajú a svetu budú dominovať tí najbezohľadnejší ľudia. Nemôžeme dôverovať našim ľudským konkurentom, preto musíme konať čo najrýchlejšie.

Potom sa spýtam – myslíte si, že môžete dôverovať super inteligentnej AI, ktorú vyvíjate? A tí istí ľudia, ktorí mi práve povedali, že nemôžu dôverovať svojim ľudským konkurentom, ma zrazu ubezpečujú, že nimi vyvíjanej super inteligentnej umelej inteligencii dôverujú.

To je obrovský paradox – máme tisíce rokov skúseností s ľudskými bytosťami. Máme veľké znalosti o ľudskej psychológii a biológii, o ľudskej túžbe po moci a o silách, ktoré držia na uzde honbu za mocou. Tiež sme dosiahli značný pokrok pri hľadaní spôsobov, ako medzi ľuďmi posilňovať dôveru.

Pred 100 000 rokmi ľudia žili v malých skupinách len niekoľkých desiatok jednotlivcov a nemohli dôverovať nikomu mimo svojej skupiny. Dnes naopak, existujú národy ako Čína s 1,4 miliardou obyvateľov a existujú siete spolupráce, ktoré spájajú všetkých 8 miliárd ľudí na planéte. Úplne cudzí ľudia pestujú potraviny, ktoré jeme, iní vymýšľajú lieky, ktoré nám pomáhajú. Samozrejme, ani zďaleka sme nevyriešili problém ľudskej dôvery, ale aspoň chápeme výzvu, ktorej čelíme.

S AI však nemáme takmer žiadne skúsenosti, vytvorili sme len prvé prototypy. Už vieme, že aj primitívna umelá inteligencia dokáže klamať, manipulovať a prijímať ciele a stratégie, ktoré ľudskí vývojári nepredvídali. Netušíme, čo sa stane, keď milióny super inteligentných agentov AI budú interagovať s miliónmi ľudí. Ešte ťažšie je predvídať, čo sa stane, keď milióny super inteligentných agentov AI budú interagovať navzájom.

Je pravda, že v súčasnosti sú to ľudia, kto vyvíja AI, takže sa môžeme pokúsiť navrhnúť prvky AI tak, aby boli bezpečné. Nezabúdajme však, že to zariadenie je umelá inteligencia. Ak je schopná učiť sa a sama sa meniť, potom bez ohľadu na to ako ju ľudia pôvodne navrhnú, AI sa môže zmeniť radikálnym a nepredvídateľným spôsobom.

Jedným zo spôsobov, ako rozmýšľať o AI, je porovnať ju s inváziou mimozemšťanov. Predpokladajme, že sa k Zemi blížia vesmírne lode plné vysoko inteligentných bytostí a do roku 2030 pristanú na našej planéte. Môžeme dúfať, že budú priateľskí a pomôžu nám prekonať rakovinu, zabrániť zmene klímy a vybudovať prekvitajúci a mierumilovný svet. Väčšina ľudí však intuitívne cíti, že by bolo nebezpečné zveriť našu budúcnosť dobrej vôli mimozemšťanov.

Podobne je obrovským hazardom predpokladať, že môžeme jednoducho dôverovať nami vyvíjaným agentom AI, že zostanú našimi poslušnými služobníkmi. Ľudia, ktorí nedôverujú iným ľuďom, ale dúfajú, že bude jednoduchšie dôverovať umelej inteligencii, môžu robiť veľmi veľkú chybu.

Prejdem k poslednej otázke – ako môže ľudstvo prosperovať v ére AI? Odpoveď je jednoduchá – ľudia môžu ovládať AI len spoločne. Lebo ak budeme medzi sebou bojovať, AI nás ovládne. Preto by sme mali posilniť dôveru medzi ľuďmi skôr, ako vyvinieme skutočne super inteligentných agentov AI. V súčasnosti však na celom svete robíme presný opak. Dôvera medzi ľuďmi je v troskách.

Kríza dôvery je výsledkom veľkého nedorozumenia. Príliš veľa krajín si myslí, že byť silný znamená nikomu nedôverovať a byť úplne izolovaný od ostatných. Úplná izolácia je však nemožná. V prírode úplná izolácia znamená smrť.

Zamyslite sa nad ľudským telom. Každú minútu sa nadýchneme a vydýchneme, nádych a výdych. Každý nádych je malým gestom dôvery k tomu, čo je mimo nás. Vzduch berieme zvonku do pľúc, do nášho tela a neskôr ho vraciame späť do priestoru. Táto dôvera pri nádychu a výdychu je rytmom života. Ak nebudeme dôverovať všetkému mimo nás a zastavíme tento pohyb, zomrieme.

To platí aj pre celé národy. Každý národ je odlišnou kombináciou tradícií a myšlienok. Ale mnohé z týchto tradícií a myšlienok prichádzajú zvonku rovnako ako vzduch, ktorý dýchame. Napríklad, Čína za tisíce rokov dala iným krajinám veľmi veľa – myšlienky Konfucia, čaj, pušný prach, papier. A tiež veľa dostala od iných – myšlienky Budhu a Marxa, kávu, futbal, vlaky a počítače.

Ak by sa ľudia patriaci k nejakému národu obmedzili len na jedlo, hry a myšlienky, ktoré vznikli v ich vlastných národoch, naše životy by boli veľmi chudobné, ak nie nemožné. Každý človek patrí do nejakej skupiny, ale každý človek je tiež súčasťou ľudského druhu. Vo veku AI, ak zabudneme na naše spoločné ľudské dedičstvo a stratíme dôveru vo všetko a všetkých mimo nás, urobí to z nás veľmi ľahkú korisť pre umelú inteligenciu, ktorá sa vymkne spod kontroly.

Veľa ľudí si myslí, že dedičstvom histórie je hlavne bolesť a strach. V učebniciach dejepisu ľudia čítajú o minulých vojnách, o krutosti a nespravodlivosti. Preto si pamätajú minulé bolesti a obávajú sa bolestí budúcich. Na iných ľudí a iné národy sa pozerajú s obavou.

Zatiaľ čo strach a bolesť sú, samozrejme, dôležité pre prežitie a hoci nás niekedy chránia pred nebezpečenstvom, nikto nemôže prežiť iba v strachu a bolesti. História nás učí, že dôvera je dôležitejšia ako čokoľvek iné.

Viete, prečo na Zemi vládnu ľudia a nie šimpanzy alebo slony?

Nie preto, že by ľudia boli inteligentnejší. Ľudia vládnu svetu, pretože vieme lepšie ako ktorékoľvek iné zviera, ako si s cudzími ľuďmi vytvoriť dôveru a spolupracovať vo veľmi veľkom počte. Túto schopnosť sme rozvíjali tisíce rokov. Vo veku AI je viac ako kedykoľvek v minulosti dôležitejšie prežiť a prosperovať.

Ľudia musia jeden druhému dôverovať viac ako umelej inteligencii.“

* * *

Poznámka prekladateľa

K slovám historika Y. N. Harariho, autora kníh Sapiens, Homo Deus či Nexus, je vhodné doplniť aj pár myšlienok „krstného otca“ umelej inteligencie G. Hintona, ktorý v roku 2024 získal Nobelovu cenu „za základné objavy a vynálezy, ktoré umožňujú strojové učenie s umelými neurónovými sieťami“. Do roku 2023 bol nielen tvorcom algoritmov, ale aj obhajcom prínosov AI pre ľudstvo. Keď však videl, akým tempom a hlavne akým smerom sa AI rozvíja, vyjadril prvé obavy. Uviedol, že „teraz ľutuje svoje celoživotné dielo“. AI určite zvýši produktivitu, ale pokiaľ vlády nezasiahnu, bohatí budú ešte bohatší a uškodí to ľuďom, ktorí prídu o prácu. A nedávno smutne konštatoval: „Mojou najväčšou obavou je, že sa ukáže, že digitálne bytosti, ktoré vytvárame, sú lepšou formou inteligencie ako ľudia. … Už nebudeme potrební … Ak chcete vedieť, aké to je nebyť tvor s najvyššou inteligenciou, spýtajte sa sliepky…“

Nedávny rozhovor s ním:

Ja len dodám, že skutočne smrteľnou kombináciou je AI v rukách sociopatov pri moci, ako Trump, Rute či vedenie EÚ, ktorí chýbajúcu empatiu nahradili manipuláciou.

Preklad a redakcia – Augustín Rosa