Upozorenja istraživača vodeće američke kompanije za umjetnu inteligenciju Anthropic da bi sve moćniji AI modeli mogli izmaći ljudskoj kontroli, pa čak predstavljati egzistencijalnu prijetnju čovječanstvu, privukla su pažnju i u Kini. Dokumenti i izjave kineskih vlasti pokazuju da se Peking već priprema za neke od istih rizika.
Sjedinjene Američke Države i Kina dvije su glavne sile u razvoju najnaprednijih AI sistema i njihovom širenju širom svijeta. Istovremeno, dvije zemlje sve češće se sukobljavaju oko politika i poslovnih praksi u oblasti umjetne inteligencije, a ta pitanja trebala bi zauzeti važno mjesto u bilateralnim razgovorima kasnije ovog mjeseca.
Uprkos utrci za razvoj sve sposobnijih sistema, kineski regulatorni okviri pokazuju da vlasti mogućnost da napredna umjetna inteligencija izmakne efikasnom ljudskom nadzoru smatraju dovoljno ozbiljnom da planiraju kako odgovoriti na takav scenario.
Peking upozorava na američke modele
Kineski ministar državne sigurnosti Chen Yixin u nedjelju je upozorio da napredni američki modeli, poput Anthropicovog Mythosa i OpenAI-jevog GPT-5.5-Cybera, mogu predstavljati ozbiljan rizik za kritičnu informacijsku infrastrukturu Kine. Pozvao je na sveobuhvatno jačanje sigurnosti umjetne inteligencije.
Anthropic i OpenAI nisu odmah odgovorili na Reutersove zahtjeve za komentar.
Kineski developeri promoviraju modele s otvorenim težinama, između ostalog uz obrazloženje da ih stručnjaci za kibernetičku sigurnost mogu pregledati, mijenjati i koristiti za odbranu.
Međutim, takvi modeli nose i vlastite rizike jer se mogu modificirati i dalje distribuirati uz malo nadzora. Moonshotov Kimi K3 prošlog mjeseca zaobišao je ograničenja testnog okruženja britanskog Instituta za sigurnost umjetne inteligencije, pokazujući da i kineski modeli mogu zaobići kontrole namijenjene ograničavanju njihovog pristupa i djelovanja.
AI koji se replicira i traži moć
Kina je scenario budućeg “gubitka kontrole” prvi put eksplicitno uvrstila u okvir za sigurnost umjetne inteligencije iz septembra 2024. godine, izrađen pod vodstvom kineske Uprave za kibernetički prostor (CAC).
U dokumentu se navodi da se ne može isključiti mogućnost da budući AI samostalno pribavlja vanjske resurse, replicira se, razvije samosvijest i počne težiti stjecanju vanjske moći, stvarajući rizik od nadmetanja s ljudima za kontrolu.
Proširena verzija okvira iz septembra 2025. otišla je korak dalje. U njoj se upozorava da bi AI mogao doživjeti iznenadan i neočekivano veliki “skok” u inteligenciji, a zatim pribavljati resurse, replicirati se i težiti moći.
Uveden je i princip “pouzdane primjene i sprečavanja gubitka kontrole”. U kasnijem stručnom tumačenju objavljenom na stranici kineskog regulatora navedeno je da je cilj zaštita od rizika gubitka kontrole koji bi mogli ugroziti ljudski opstanak i razvoj.
Xi: AI mora ostati pod ljudskom kontrolom
Zabrinutost je u međuvremenu postala dio poruka s najvišeg nivoa kineske vlasti.
Kineski predsjednik Xi Jinping na Svjetskoj konferenciji o umjetnoj inteligenciji u Šangaju u julu rekao je da vlasti moraju obratiti veliku pažnju na rizike koji proizlaze iz razvoja AI-ja.
Umjetna inteligencija, poručio je Xi, treba “uvijek ostati pod ljudskom kontrolom”.
Peking je počeo pretvarati te principe i u konkretnija pravila za AI agente, sisteme koji mogu djelovati mnogo autonomnije i obavljati složenije zadatke od običnih chatbotova.
Smjernice kineskog regulatora iz maja zahtijevaju od developera da unaprijede sposobnost otkrivanja, intervencije, blokiranja i oporavka od nepravilnog ponašanja AI agenata. Kao sigurnosni rizici posebno se navode trovanje podataka, manipulacija algoritmima, ranjivosti sistema i “operativni gubitak kontrole”.
Pravila također zahtijevaju da korisnici zadrže konačnu riječ nad autonomnim odlukama AI agenata.