Predstavte si, že staviate raketu, viete, že letí čoraz rýchlejšie, ale nikto poriadne netuší, kde presne pristane. Presne takto teraz vyzerá situácia okolo umelej inteligencie – a práve na to upozorňuje muž, ktorý sám jednu z najvýkonnejších AI firiem na svete vedie.
Čo sa stalo
Dario Amodei, šéf spoločnosti Anthropic, verejne vyzval firmy vyvíjajúce umelú inteligenciu, aby spomalili tempo vývoja svojich modelov. Nejde o gesto konkurenta, ktorý by chcel zdiskreditovať rivalov – Amodei sám stojí na čele jednej z popredných AI laboratórií a napriek tomu bije na poplach. Navrhol trojkrokový rámec, ktorý má regulovať rýchlosť, akou sa nové a čoraz výkonnejšie modely dostávajú do sveta. Zdroj: SME Svet
Jeho slová nezostali bez odozvy. Podľa BBC varuje uprostred rastúcich obáv, že modely AI by mohli spôsobiť vážne škody na globálnej úrovni – nie niekde v teoretickej budúcnosti, ale reálne a čoskoro. BBC World Prekvapením je, kto sa k výzve pridal – Elon Musk, muž, ktorý sám investuje do vlastných AI projektov, verejne podporil túto iniciatívu na spomalenie pokroku, ako informuje MarketWatch.
Ak sa nad tým zamyslíte, je to trochu paradoxná situácia. Ľudia, ktorí na vývoji AI zarábajú a ktorých firmy súťažia o to, kto vydá silnejší model skôr, zrazu hovoria: počkajte, spomaľme.
Pozadie a kontext
Vývoj umelej inteligencie sa za posledné roky zrýchlil natoľko, že aj samotní tvorcovia priznávajú, že strácajú prehľad o všetkých dôsledkoch. Súťaž medzi veľkými technologickými firmami o to, kto vydá výkonnejší model ako prvý, vytvára tlak, ktorý mnohí odborníci opakovane označujú za nebezpečný – nie preto, že by samotná technológia bola zlá, ale preto, že bezpečnostné testovanie a etické zvažovanie dôsledkov jednoducho nestíhajú držať krok s rýchlosťou vývoja.
Amodeiho pozícia je v tomto zaujímavá práve preto, že nehovorí zvonku. Je to človek, ktorý denne vidí, čo jeho vlastné modely dokážu, a napriek tomu (alebo práve preto) žiada, aby sa celé odvetvie spomalilo. Fakt, že sa k nemu pridal aj Musk, ktorý má povesť človeka posúvajúceho technologické hranice čo najrýchlejšie, dodáva tejto výzve váhu, ktorú by inak možno nemala.
Trojkrokový rámec, ktorý Amodei navrhuje, má podľa dostupných informácií smerovať k tomu, aby sa rýchlosť vývoja modelov dala regulovať – teda aby nešlo len o dobrovoľné sľuby firiem, ale o niečo, čo dá odvetviu jasnejšie mantinely.
Čo to znamená pre Slovensko
Môžete si povedať – veď to sa deje niekde v Silicon Valley, čo má to spoločné so mnou tu na Slovensku? Odpoveď je: viac, než by ste čakali. Umelá inteligencia už dnes ovplyvňuje to, ako slovenské firmy fungujú, ako sa vyučuje na školách, ako fungujú bankové systémy či dokonca ako sa píšu správy, ktoré práve čítate. Ak sa vývoj týchto technológií spomalí alebo sa zavedú prísnejšie bezpečnostné pravidlá, dotkne sa to aj nás – od študenta, ktorý používa chatboty na domáce úlohy, cez firmu, ktorá automatizuje zákaznícky servis, až po štátnu správu, ktorá uvažuje o nasadení AI nástrojov.
Európska únia, ktorej je Slovensko súčasťou, už pracuje na vlastnej regulácii umelej inteligencie a diskusie ako tá Amodeiho môžu túto reguláciu ešte posilniť alebo zmeniť jej smer. Ak najvplyvnejší ľudia v odvetví sami priznávajú, že tempo je príliš rýchle, je to silný argument pre európskych zákonodarcov, ktorí sa už teraz snažia nájsť rovnováhu medzi podporou inovácií a ochranou občanov.
Zároveň je to aj pripomienka pre bežného človeka – ak aj tí, ktorí AI vyvíjajú, hovoria o rizikách, možno je čas prestať brať tieto technológie ako neškodnú hračku a začať sa zaujímať, ako presne fungujú nástroje, ktoré čoraz viac používame v každodennom živote. Nie je to strašenie, je to pozvanie k väčšej pozornosti – niečo, čo sa oplatí sledovať aj z Bratislavy, Košíc či Prešova.