Bivši izvršni direktor Googlea, Eric Schmidt, upozorio je na mogući razvoj umjetne inteligencije koja bi u budućnosti mogla postati toliko napredna da ljudi više ne bi razumjeli kako funkcioniše.
Na pitanje šta bi trebalo učiniti u takvoj situaciji, Schmidt je odgovorio: „Isključite je.“
Schmidt smatra da tri smjera razvoja već mijenjaju umjetnu inteligenciju – znatno veći kontekstualni prozori, AI agenti i sistemi koji tekstualne upute pretvaraju u funkcionalan softver.
Prema njegovoj procjeni, AI bi za pet godina mogla obrađivati veoma složene „recepte“ od čak hiljadu koraka za rješavanje problema u nauci, medicini, istraživanju materijala i borbi protiv klimatskih promjena.
„U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1.000 koraka i upravljati milionima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti šta rade“, izjavio je Schmidt.
Milioni specijaliziranih AI agenata
Kao jedan od ključnih razvoja izdvojio je AI agente – specijalizirane sisteme koji mogu učiti o određenim područjima, razvijati ideje i potencijalno ih testirati.
Kao primjer je naveo agenta koji bi mogao proučavati hemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti rezultate za dalje učenje. Schmidt smatra da bi se s vremenom mogli pojaviti milioni takvih agenata.
Drugi važan pravac razvoja je ono što naziva „tekstualnom akcijom“, odnosno mogućnost da korisnik jednostavno opiše šta želi da softver radi, bez samostalnog pisanja koda.
Schmidt upozorava da bi kombinacija ovih tehnologija mogla omogućiti različitim AI sistemima da međusobno sarađuju. Kao jednu od mogućnosti naveo je i razvoj vlastitog jezika koji ljudi više ne bi mogli razumjeti.
„U jednom trenutku ovi će sistemi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno. Znate li šta bismo trebali učiniti? Isključiti je“, rekao je Schmidt.
Njegova upozorenja dolaze u vrijeme sve intenzivnijih rasprava o sigurnosti razvoja napredne umjetne inteligencije. Dio stručnjaka upozorava na rizike autonomnih sistema, dok drugi smatraju da su pojedina katastrofična predviđanja pretjerana.
Jedan od ključnih izazova, prema upozorenjima stručnjaka navedenim u izvoru, jeste mogućnost da autonomni AI agenti izvršavaju veliki broj povezanih zadataka bez dovoljnog ljudskog nadzora.