Niko zapravo ne zna šta bi se dogodilo ako umjetna inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe trenirati, upozorava Jared Kaplan, suosnivač i glavni naučni direktor Anthropica, kompanije koja razvija model Claude.
Kaplan smatra da bi prepuštanje AI sistema samom sebi moglo izazvati svojevrsnu „eksploziju inteligencije“. Prema njegovim procjenama, takva prijelomna tačka mogla bi nastupiti između 2027. i 2030. godine.
Najnapredniji AI sistemi već danas pomažu programerima u razvoju novih modela, što dodatno ubrzava tehnološki napredak.
Naučnik koji je postavio temelje današnje AI revolucije
Kaplan je fizičar koji je prešao u svijet umjetne inteligencije. Dok je radio u OpenAI-ju, vodio je istraživanja o povezanosti veličine modela, količine računarske snage i njihovih sposobnosti, a učestvovao je i u razvoju modela GPT-3.
Godine 2021. napustio je OpenAI s grupom kolega i učestvovao u osnivanju Anthropica, kompanije čiji je fokus razvoj naprednih AI sistema uz naglasak na sigurnost.
Kaplanova upozorenja dolaze u vrijeme sve glasnijih rasprava o tome koliko daleko treba ići u razvoju autonomne umjetne inteligencije.
Strah od gubitka kontrole
Na oprez poziva i izvršni direktor Anthropica Dario Amodei, koji je upozorio na ubrzavanje razvoja AI sistema. Posebnu pažnju privlači činjenica da umjetna inteligencija već pomaže u stvaranju novih generacija modela.
U međuvremenu su se javila i upozorenja pojedinih bivših istraživača iz vodećih AI kompanija. Jacob Coxon, koji je ovog mjeseca napustio Anthropic, javno je kritikovao razvoj sistema koji mogu sami sebe unapređivati.
Jedan od bivših istraživača koji je radio s Kaplanom za Business Insider je ocijenio da bi dopuštanje AI sistemima da se automatski unapređuju predstavljalo izuzetno rizičan potez, čak i uz ljudski nadzor.
Rasprava o kontroli napredne umjetne inteligencije sve više se širi i izvan tehnološke industrije, uključujući američke zakonodavce koji razmatraju nova pravila o sigurnosti AI sistema.