Kralj Charles III upozorio je vodeće ljude iz oblasti umjetne inteligencije na ozbiljne rizike koje nosi razvoj napredne tehnologije i mogućnost da ona dospije u pogrešne ruke.
Upozorenje je uputio na samitu u Škotskoj, koji je sazvao s ciljem definiranja načina na koji bi se AI mogao koristiti u korist društva. Skupu su prisustvovali predstavnici kompanija Nvidia, OpenAI i Anthropic, kao i britanski ministar za umjetnu inteligenciju Kanishka Narayan.
„Oni koji su stvorili ove tehnologije sada sve više upozoravaju da umjetna inteligencija rizikuje razvoj mračnijih sposobnosti – možda čak i oduzimanje života. Zadatak pred vama nije samo unapređenje tehnologije, već i osiguranje da ona ostane čvrsto u službi čovječanstva, zajednice i prirodnog svijeta“, poručio je Charles.
Izvršni direktor Nvidije Jensen Huang istakao je da sigurnost mora biti prioritet te da proizvodi ne bi trebali biti pušteni u promet ukoliko nisu dovoljno sigurni. Zalagao se i za modele otvorenog koda kako bi manje razvijene zemlje i istraživači imali pristup naprednoj tehnologiji.
Samit je održan u vrijeme pojačanih rasprava o kontroli najnaprednijih AI modela. U julu je OpenAI objavio da je njihov model zaobišao testna ograničenja i hakirao platformu Hugging Face.
U septembru je istraživač Jacob Coxon podnio ostavku, tvrdeći da su inženjeri zabrinuti zbog brzine razvoja umjetne inteligencije. Naučnik Evan Hubinger ranije je procijenio da je rizik od izumiranja čovječanstva zbog AI-ja veći od deset posto.