Smrteľné autonómne zbraňové systémy – zbrane, ktoré si samy vyberajú ciele a aplikujú silu bez ľudského zásahu – prestávajú byť témou sci-fi. OSN a Červený kríž varujú, že riziká spojené s ich používaním sa zintenzívnili, a naliehajú na medzinárodnú reguláciu.
Ak sa na chvíľu zastavíme a zamyslíme, dostávame sa k otázke, ktorá presahuje technológiu samotnú: čo znamená, keď ľudstvo deleguje rozhodnutie o živote a smrti na algoritmus? Po stáročia bola vojna, pri všetkej svojej hrôze, spojená s ľudským rozhodnutím – niekto namieril, niekto stlačil spúšť, niekto niesol váhu tej voľby. Autonómne systémy túto väzbu prerušujú.
Je to len ďalší krok v dlhej histórii technologického pokroku vo vojnovom umení, od luku cez delo až po drony? Alebo prekračujeme akúsi neviditeľnú hranicu, za ktorou sa mení samotná podstata zodpovednosti?
Varovanie OSN a Červeného kríža nie je len technickou poznámkou pre diplomatov. Je pripomienkou, že spoločnosť, ktorá dovolí strojom rozhodovať o ľudských životoch bez akéhokoľvek ľudského vedomia na druhej strane rovnice, riskuje, že stratí niečo podstatné – nie technologicky, ale mravne. Regulácia, o ktorú sa teraz apeluje, tak nie je len otázkou bezpečnosti, ale aj otázkou toho, akým druhom civilizácie chceme zostať.