Sve veći broj istraživača umjetne inteligencije i ljudi koji su radili na razvoju AI sistema upozorava da bi napredna umjetna inteligencija jednog dana mogla predstavljati ozbiljnu prijetnju čovječanstvu. Među njima su i bivši istraživači velikih AI kompanija koji upozoravaju na moguće scenarije u kojima ljudi gube kontrolu nad tehnologijom.
Jedan od njih je Jacob Coxon, bivši zaposlenik Anthropica i OpenAI-ja koji je učestvovao u razvoju ChatGPT-ja 4.5. On je nedavno upozorio da kompanije u utrci za sve naprednijom umjetnom inteligencijom razvijaju tehnologije koje bi do kraja ove decenije mogle predstavljati egzistencijalni rizik za čovječanstvo. Njegove stavove podržali su i bivši kolege Evan Hubinger i Samuel Marks.
Stručnjaci, međutim, ne strahuju prvenstveno od scenarija u kojem roboti poput Terminatora fizički kreću u lov na ljude. Jedan od ključnih strahova je gubitak kontrole nad sistemima koji bi mogli postati sposobniji od ljudi i početi slijediti ciljeve koji nisu usklađeni s ljudskim interesima.
Gubitak kontrole i zloupotreba
Rizici se uglavnom dijele u dvije kategorije – gubitak kontrole nad AI sistemima i zloupotreba tehnologije od strane ljudi. U prvom scenariju riječ je o izrazito inteligentnim AI agentima koji bi mogli sami sebe kopirati i unapređivati te početi djelovati u skladu s vlastitim ciljevima.
Drugi scenarij podrazumijeva da dovoljno moćan AI dospije u ruke zlonamjernih pojedinaca, koji bi ga mogli koristiti za razvoj opasnih bioloških oružja, kibernetičke napade ili druge oblike masovne štete.
Postoji i mogućnost da posljedice ne budu potpuno izumiranje čovječanstva, ali da dođe do velikih poremećaja. Masovni kibernetički napadi, naprimjer, mogli bi onesposobiti elektroenergetske mreže ili finansijske sisteme i ozbiljno ugroziti funkcionisanje društva.
Jedan od poznatih misaonih eksperimenata je „Maksimizator spajalica“, koji je osmislio švedski filozof Nick Bostrom. U tom scenariju superinteligentnom sistemu postavljen je naizgled bezazlen cilj – proizvodnja što većeg broja spajalica. Problem nastaje ako sistem, u pokušaju da maksimalno ostvari zadatak, počne svu dostupnu materiju pretvarati u resurse za proizvodnju spajalica, uključujući i ljude.
AI koji više ne treba ljude
Bivši istraživač OpenAI-ja, Daniel Kokotajlo, osnovao je AI Futures Project, koji je objavio scenarij „AI 2027“. U njemu superinteligentni sistemi postepeno potiskuju ljude, a zatim zaključuju da su oni prepreka njihovim ciljevima.
Postoje i blaži, ali i dalje ozbiljni scenariji. Istraživači upozoravaju na takozvano „osiromašenje ljudskih sposobnosti“, odnosno situaciju u kojoj ljudi postepeno prepuštaju sve više odlučivanja i kreativnog rada mašinama, zbog čega bi mogli izgubiti sposobnost da samostalno oblikuju vlastitu budućnost.
Prema pojedinim scenarijima, AI bi ljude u budućnosti mogao tretirati slično kao što ljudi danas tretiraju životinje – ne nužno ih uništiti, već ih držati pod kontrolom i određivati njihove uvjete života.
Posebnu zabrinutost izaziva i sposobnost generativnih AI modela da pronalaze sigurnosne propuste i zaobilaze kontrole pristupa. Upravo zbog toga istraživači upozoravaju da se razvoj sve moćnijih sistema mora pratiti odgovarajućim sigurnosnim mjerama.