Direktori triju vodećih kompanija za razvoj umjetne inteligencije upozorili su Vijeće sigurnosti UN-a da bi sve moćniji AI sistemi mogli dodatno napredovati, izmaći ljudskoj kontroli i predstavljati prijetnju međunarodnoj sigurnosti.
Vijeću su se obratili izvršni direktor OpenAI-ja, Sam Altman, izvršni direktor Anthropica, Dario Amodei, i suosnivač Hugging Facea, Clément Delangue.
“Ako se umjetnom inteligencijom loše upravlja, vjerujem da bi ona čak mogla predstavljati rizik za čovječanstvo u cjelini”, rekao je Amodei.
Altman je istakao da najvažnije odluke o razvoju AI-ja ne bi trebali donositi samo tehnološki laboratoriji.
“Ako umjetna inteligencija treba biti demokratska, najvažnije odluke ne mogu donositi samo laboratoriji u San Franciscu. Moraju se oblikovati kroz demokratske procese i moraju ih donositi vlade koje su odgovorne ljudima kojima služe”, kazao je Altman, pozvavši na međunarodnu saradnju.
Yoshua Bengio, jedan od najpoznatijih istraživača umjetne inteligencije i supredsjedatelj Nezavisnog međunarodnog naučnog panela UN-a, upozorio je da su rizici stvarni i neposredni.
“Opasnosti su stvarne i neposredne”, rekao je Bengio, ocijenivši da se Vijeće sigurnosti suočava s neviđenom prijetnjom koju nijedna država ne može sama obuzdati.
Vijeće sigurnosti UN-a prvi put je raspravljalo o rizicima umjetne inteligencije 2023. godine.