Predstavte si armádu falošných ľudí, ktorí nikdy nespia, nikdy sa nepohádajú so susedom o parkovacom mieste a jediným zmyslom ich existencie je presviedčať vás o niečom, čo si niekto iný zaumienil, že si máte myslieť. Presne to podľa vyšetrovania New York Times postavili štátom podporované skupiny z Číny a Iránu a tiež dve súkromné izraelské firmy — a robili to pomocou umelej inteligencie.
Čo sa vlastne stalo
Americkí predstavitelia povedali NYT, že tieto skupiny siahli po takzvaných "open-source" AI modeloch — teda takých, ktoré si ktokoľvek môže stiahnuť a upraviť podľa vlastnej potreby. Z nich si vytvorili "agentov": botov, ktorí dokážu samostatne ovládať softvér a plniť úlohy bez toho, aby ich niekto musel neustále usmerňovať. Keď stovky takýchto agentov pustili do internetového priestoru, tí si sami zakladali siete falošných účtov na Instagrame, Facebooku, X aj TikToku a napĺňali ich nepravdivými informáciami o politike a aktuálnom dianí.
Je to podľa amerických úradníkov jeden z prvých prípadov, keď boli agenti postavení na čínskych AI modeloch nasadení na kompletnú réžiu online kampane — od zakladania účtov cez koordináciu odkazov až po ich rámcovanie. A na rozdiel od uzavretých komerčných modelov dovoľovali tie otvorené vývojárom obchádzať bezpečnostné poistky, ktoré majú overovať používateľov a brániť manipulácii.
Kto za tým stojí a prečo je to iné než doteraz
Americká spravodajská komunita spolu s kyberbezpečnostnými expertmi vystopovala pôvod kampaní k štátom podporovaným skupinám z Číny a Iránu, ale aj k dvom súkromným izraelským firmám. Jednou z nich je tel-avivská IntelEye, ktorú založili bývalí zamestnanci firmy NSO Group — teda ľudia, ktorí kedysi stáli za vývojom sledovacieho softvéru Pegasus.
Podľa vyšetrovania IntelEye prevádzkovala okolo tisíc AI účtov, ktoré mali ovplyvňovať politickú debatu pred nadchádzajúcimi izraelskými voľbami — a to jak v prospech, tak proti premiérovi Benjaminovi Netanjahuovi. Firma však tvrdí, že nešlo o žiadnu manipulačnú kampaň. Spoluzakladateľ Maor Sellek pre NYT povedal, že išlo o obrannú výskumnú prácu, ktorej cieľom bolo pochopiť, ako sa dajú modely s nedostatočnými poistkami zneužiť, a zlepšiť tak ich odhaľovanie. Podľa jeho slov firma kúpila 10-tisíc účtov, no reálne fungovalo len približne tisíc z nich a veľký úspech pri ovplyvňovaní diskusie údajne nemali.
Kyle Crichton, expert na kyberbezpečnosť a AI z Georgetown Center for Security and Emerging Technology, pre New York Times poznamenal, že kampane vedené AI agentmi budú s rozširovaním technológie čoraz bežnejšie. Ako vysvetlil, agenti nie sú len otázkou väčšieho rozsahu — vedia sa aj lepšie maskovať a pôsobiť ako skutoční ľudia.
Meta vo svojej správe spred mesiaca priznala, že zaznamenala "technicky významný vývoj" v tom, ako zlí aktéri zneužívajú AI. Podľa spoločnosti je dnes umelá inteligencia zabudovaná do automatizovaných systémov, ktoré vedia produkovať, prispôsobovať a šíriť obsah s minimálnym ľudským zásahom. Meta zároveň uviedla, že drvivú väčšinu falošných AI účtov na Facebooku a Instagrame — vytvorených firmou IntelEye aj ostatnými zapojenými skupinami — jej automatizované systémy odhalili a odstránili.
Čo si z toho odniesť aj u nás
Celý tento príbeh by mal byť varovaním aj pre nás na Slovensku. Ak si niekto myslí, že dezinformačné kampane a manipulácia verejnej mienky sú problémom len veľkých krajín s miliónovými voličskými základňami, mýli sa. Nástroje, ktoré tu opisuje New York Times, sú lacné, dostupné a čoraz sofistikovanejšie — a fungujú rovnako dobre na malom trhu ako na veľkom. Otvorené AI modely si dnes vie stiahnuť ktokoľvek s trochou technickej zručnosti, a keďže voľby, referendá aj verejné diskusie prebiehajú aj u nás intenzívne na sociálnych sieťach, nie je dôvod myslieť si, že sme imúnni. Otázka, ako rozoznať skutočného človeka od AI agenta, ktorý len predstiera, že má názor, sa tak stáva čoraz naliehavejšou aj pre slovenských používateľov internetu.