Je zvláštnym rysom ľudskej civilizácie, že sa zdá, akoby sme sa poučili len z bolesti. História je plná príkladov, kedy sme dokázali predvídať riziko, no k skutočnej zmene správania došlo až po tom, čo sa nešťastie skutočne stalo. Otázka, ktorú si dnes kladú v Silicon Valley – či postačí jedna katastrofa spôsobená umelou inteligenciou, aby sme konečne prišli k rozumu – je v skutočnosti oveľa staršia otázka, len v novom šate.
Superinteligencia, o ktorej sa hovorí ako o blízkej realite, nie je len technologický míľnik. Je zrkadlom, v ktorom sa odráža naša schopnosť – alebo neschopnosť – konať preventívne. Prečo je pre nás jednoduchšie reagovať na katastrofu, než jej predchádzať? Možno preto, že skutočné riziko je abstraktné, kým následky konkrétnej udalosti sú hmatateľné a emocionálne pôsobivé.
A tak sa vynára nepríjemná téza: možno naozaj potrebujeme prvú veľkú chybu, aby sme si uvedomili hranice, ktoré sme si mali vytýčiť už dávno. Ak je to tak, potom otázka neznie „ako predísť katastrofe“, ale „ako veľkú katastrofu si môžeme dovoliť, kým sa poučíme“.
Táto úvaha nie je o technológii. Je o nás – o tom, ako spoločnosť zaobchádza s mocou, ktorú sama vytvára, no ešte jej plne nerozumie. Zdroj: Denník N