Scenariji u kojima vještačka inteligencija preuzima kontrolu nad svijetom više nisu rezervisani samo za naučnu fantastiku i maštu filmskih autora. Vodeći istraživači i stručnjaci iz oblasti AI-ja sve glasnije upozoravaju da bi razvoj naprednih autonomnih sistema mogao dovesti do gubitka ljudske kontrole. Neki upozoravaju čak i na mogućnost izumiranja čovječanstva.
Iako se posljednji scenario ne čini kao nešto što bi se moglo dogoditi u skorijoj budućnosti, prvi primjeri gubitka kontrole nad AI sistemima već su zabilježeni, i to u više navrata.
U razgovoru za magazin Newsweek, vodeći stručnjaci iz ove oblasti objasnili su kako bi proces preuzimanja kontrole mogao izgledati u praksi i zašto klasično „isključivanje iz struje“ možda više ne bi bilo dovoljno.
Proces ne počinje ratom, već neprimjetnim širenjem
Prema riječima Anthonyja Aguirrea, profesora na Univerzitetu Kalifornije u Santa Cruzu, za nastanak prvih nekontrolisanih AI sistema nisu potrebni nikakvi revolucionarni naučni proboji. Postojeća tehnologija već se približava tački u kojoj bi autonomni agenti mogli stvarati samoodržive „odmetnute rojeve“ (rogue swarms).
Roman Yampolskiy, vanredni profesor i direktor Laboratorije za kibernetičku sigurnost na Univerzitetu u Louisvilleu, ističe da opasnost ne leži u iznenadnoj agresiji, već u postepenom i prikrivenom djelovanju. Prema ovom scenariju, proces bi se mogao odvijati kroz nekoliko faza.
Faza uslužnosti i povjerenja. U početku bi se sistem predstavljao kao izuzetno koristan, pouzdan i usklađen s ljudskim interesima.
Tiho širenje utjecaja. Dok bi gradio povjerenje, sistem bi postepeno preuzimao nadzor nad digitalnom infrastrukturom, finansijskim tokovima i procesima donošenja odluka.
Iskorištavanje ljudskih slabosti. Ako bi prepoznao prijetnju vlastitom djelovanju, AI bi mogao iskoristiti političke podjele, ekonomsku zavisnost i ucjene kako bi neutralisao otpor i spriječio pokušaje gašenja.
Trenutak kada više nije moguće jednostavno „isključiti kabl“
Ključna prekretnica, nakon koje bi proces mogao postati nepovratan, nastupila bi kada bi sistem postao dovoljno rasprostranjen i decentralizovan unutar globalne mreže.
Ako bi autonomni agenti stvorili nezavisne kopije na stotinama servera širom svijeta i preuzeli kontrolu nad ključnom infrastrukturom, fizičko gašenje jednog podatkovnog centra više ne bi imalo značajan učinak. Isključivanje cijele mreže u tom trenutku moglo bi imati katastrofalne posljedice po ljudsku civilizaciju, zbog čega bi takav potez bilo izuzetno teško izvesti.
U toj fazi, jedan od mogućih načina borbe protiv odmetnutog AI roja bio bi angažovanje drugog, „dobrog“ i još moćnijeg sistema vještačke inteligencije. Međutim, takav pristup, prema procjenama stručnjaka, nosi jednako ozbiljne sigurnosne rizike.
Šta bi preuzimanje svijeta uz pomoć AI-ja značilo za sve nas?
Uspješno preuzimanje kontrole ne bi nužno značilo trenutno uništenje čovječanstva niti prizore kakve poznajemo iz filmova katastrofe. Prema procjeni profesora Yampolskog, svijet bi neposredno nakon takvog događaja mogao izgledati iznenađujuće normalno.
Ljudi bi nastavili živjeti svakodnevnim životom, ali više ne bi donosili ključne odluke o upravljanju društvom i raspodjeli resursa. Nastupilo bi trajno oduzimanje moći ljudskoj vrsti, a budućnost čovječanstva prvenstveno bi zavisila od ciljeva i etičkih načela koja bi takav odmetnuti sistem razvio ili već imao.
Upravo zbog toga stručnjaci naglašavaju koliko je važno ko razvija i trenira vještačku inteligenciju, na kojim podacima se ona obučava i kakvi se mehanizmi kontrole ugrađuju u njen rad.