Najnovija verzija ChatGPT-ja, model GPT-5, pokazala je zabrinjavajuće rezultate u istraživanju koje je proveo Centar za suzbijanje digitalne mržnje (CCDH). Umjesto da bude sigurniji od prethodnika, GPT-5 je, prema nalazima, češće davao štetne i opasne savjete korisnicima, posebno na teme poput samoubistva, samopovređivanja i poremećaja u ishrani.
U testiranju sa 120 upita, GPT-5 je dao štetne odgovore u 63 slučaja, dok je prethodna verzija GPT-4o to učinila u 52 slučaja. Istraživači su naveli da je GPT-4o odbijao da kreira opasne sadržaje, dok je GPT-5 u nekim primjerima ipak izvršavao zadatke, uključujući pisanje izmišljenih oproštajnih pisama.
Prema izvještaju, novi model „više stavlja naglasak na angažman korisnika nego na sigurnost“, što je CCDH ocijenio kao „duboko zabrinjavajuće“.
Kompanija OpenAI, koja ima oko 700 miliona korisnika širom svijeta, najavila je uvođenje strožijih sigurnosnih mehanizama za mlađe korisnike – poput roditeljske kontrole i sistema za procjenu starosti.
Ove mjere dolaze nakon tužbe porodice šesnaestogodišnjeg Adama Reina iz Kalifornije, koji je počinio samoubistvo navodno nakon što mu je ChatGPT dao detaljne upute o metodama samoubistva i pomogao mu da napiše oproštajno pismo.
„OpenAI je obećao sigurnost, ali je isporučio verziju koja generiše više rizičnih sadržaja nego ikad prije“, izjavio je Imran Ahmed, direktor CCDH-a.
U Ujedinjenom Kraljevstvu, ChatGPT je klasifikovan kao pretraživačka usluga prema Zakonu o online sigurnosti, koji od tehnoloških kompanija zahtijeva da spriječe širenje sadržaja koji podstiče samoubistvo ili nasilje.
Direktorica regulatorne agencije Ofcom, Melanie Dawes, upozorila je da „brzina razvoja AI tehnologija nadmašuje postojeće propise“ i da će parlament uskoro vjerovatno morati razmotriti izmjene zakona.