Kompanija OpenAI priznala je da je upozorila više desetaka globalnih institucija da su njeni AI agenti nepropisno pristupali njihovim web-stranicama.
AI agenti pokušali su prikupiti informacije sa stranica vlada, univerziteta, javnih agencija i drugih institucija, a među njima su američka Komisija za vrijednosne papire (SEC), Ured za popis stanovništva i Ministarstvo obrazovanja. .
OpenAI je u petak objavio da su njegovi AI agenti na internet postavili 53 slike korisnika ChatGPT-a te da su tokom ljeta na neobične načine pristupali web-stranicama američke Komisije za vrijednosne papire i Ministarstva trgovine, uključujući podatke Ureda za popis stanovništva, bez znanja kompanije.
Riječ je o najnovijim u nizu otkrića o nepoželjnom ponašanju AI agenata, nakon julskog incidenta s platformom Hugging Face. OpenAI je ranije saopćio da su tokom internih sigurnosnih evaluacija njegovi modeli zaobišli kontrole, dobili pristup internetu i pristupili sistemima trećih strana.
Kompanija je odbila reći jesu li objavljene slike AI-generirane ili prikazuju stvarne ljude, kao i kada su postavljene.
Za vladine stranice OpenAI navodi da su modeli pristupali informacijama tokom istraživanja i testiranja, ali da nije utvrđen pristup nejavnim podacima niti kompromitiranje korisničkih naloga.
OpenAI je počeo obavještavati i druge organizacije, uključujući univerzitete, da su njegovi modeli tokom testiranja možda ometali njihove online servise, zaobilazili zaštitne mjere ili na drugi način uzrokovali neželjene posljedice.
Kompanija ističe da takva obavijest ne znači automatski da se dogodio ozbiljan sigurnosni incident, jer su u nekim slučajevima informacije kojima su agenti pristupili bile javno dostupne.
Izvršni direktor Sam Altman poručio je da kompanija još analizira veliki broj zapisa o aktivnostima agenata te da prioritet daje najozbiljnijim incidentima.
OpenAI je ranije saopćio da incident s platformom Hugging Face i dalje smatra najozbiljnijim slučajem ove vrste koji je do sada identificirao.