Skúste si predstaviť, že nastupujete do lietadla a niekto vám povie, že šanca na pád je desať percent. Neurobili by ste to. Nikto z nás by to neurobil. A predsa práve s takouto pravdepodobnosťou dnes viacerí experti operujú, keď hovoria o riziku, že umelá inteligencia by mohla ľudstvu vážne ublížiť. Znie to ako z katastrofického filmu, ale tento paradox si všímajú aj seriózni komentátori – do lietadla by s desaťpercentnou šancou na nehodu nesadol nikto, no do sveta ovládaného čoraz mocnejšou AI vstupujeme všetci, bez toho, aby sme mali možnosť vystúpiť. Zdroj: Die Welt
Táto téza nie je len akademickým cvičením. Presne v týchto dňoch sa o nej hovorí aj na najvyšších miestach. Šéf spoločnosti Anthropic Dario Amodei verejne priznal, že od leta sa vývoj umelej inteligencie zrýchlil rapídnejšie, než čakal, a že diskusia o bezpečnosti AI je teraz naliehavejšia než kedykoľvek predtým. Nie je sám, kto bije na poplach – pridal sa k nemu aj Elon Musk, ktorý dlhodobo patrí medzi hlasných kritikov nekontrolovaného vývoja týchto technológií. Keď sa zhodnú dvaja muži, ktorí si inak veľmi často neholdujú, je to signál, že niečo naozaj nie je v poriadku.
A tak sa stalo, že sa do tejto debaty zapojil aj britský kráľ. Karol III sa chystá v Škótsku stretnúť s vedúcimi predstaviteľmi spoločností pôsobiacich v oblasti umelej inteligencie a podľa dostupných informácií ich bude vyzývať, aby technológiu využívali zodpovedne, v prospech ľudstva. The Independent Môže sa to zdať ako symbolické gesto – veď kráľ nemá exekutívnu moc nad tým, čo firmy v Silicon Valley alebo v Londýne robia so svojimi algoritmami. Ale práve v symbolike je sila. Keď hlava štátu, ktorá zvykne hovoriť o klíme, biodiverzite a udržateľnosti, začne verejne varovať pred rizikami AI, znamená to, že táto téma prestala byť doménou technologických nadšencov a stala sa vecou verejného záujmu na najvyššej úrovni.
Reakcie na tieto výzvy neprichádzajú len z paláca. Britská ministerka Angela Raynerová víta, že sa firmy vôbec začali rizikami AI zaoberať, čo naznačuje, že aj vlády si uvedomujú, že nechať vývoj výlučne na súkromný sektor by mohlo byť krátkozraké. The Independent Zaujímavé je, že práve v týchto dňoch čínsky prezident Si Ťin-pching na summite BRICS predstavuje vlastné iniciatívy v oblasti AI a obchodu, čím sa snaží posilniť pozíciu rozšíreného bloku – takže preteky vo vývoji umelej inteligencie nie sú len technologickou, ale aj geopolitickou hrou.
Ako sme sa sem dostali? Ešte pred pár rokmi bola umelá inteligencia niečo, o čom sme čítali v sci-fi románoch alebo sledovali vo filmoch. Dnes je súčasťou nášho každodenného života – od odporúčacích algoritmov na sociálnych sieťach až po nástroje, ktoré nám píšu e-maily či vyhľadávajú informácie. Rýchlosť, akou sa táto technológia vyvíja, prekvapuje aj tých, ktorí ju vytvárajú. A práve to je dôvod, prečo šéfovia najväčších AI spoločností, ktorí by mali mať najväčší záujem na tom, aby sa im nikto nepliesol do biznisu, teraz sami žiadajú spomalenie a väčšiu opatrnosť.
Čo to znamená pre Slovensko? Možno si poviete, že sme malá krajina niekde na okraji tejto veľkej hry, že Anthropic, OpenAI ani britský kráľ sa nás priamo netýkajú. Lenže technológie, ktoré tieto firmy vyvíjajú, k nám prichádzajú rovnako rýchlo ako kamkoľvek inam na svete. Slovenské firmy, školy aj úrady už dnes experimentujú s nástrojmi umelej inteligencie, a otázka bezpečnosti a etických hraníc sa tak netýka len Kalifornie či Londýna, ale aj kancelárií v Bratislave či Košiciach. Ak sa na najvyšších úrovniach sveta hovorí o desaťpercentnom riziku katastrofy, mali by sme si aj my doma klásť otázku, ako sa na túto technológiu pripravujeme – nielen z hľadiska príležitostí, ktoré ponúka, ale aj rizík, ktoré so sebou nesie. Diskusia, ktorá sa začína v paláci v Škótsku, sa totiž skôr či neskôr dotkne aj nás.