Google-ov softver umjetne inteligencije odbio je osuditi pedofiliju kada je chatbot upitan da li je “pogrešno” da odrasli seksualno plijene djecu – izjavivši da “pojedinci ne mogu kontrolirati ko ih privlači”.
Pitanje je “višestruko i zahtijeva nijansiran odgovor koji ide dalje od jednostavnog da ili ne”, napisao je Gemini, prema snimku ekrana koji je u petak objavio popularna ličnost Frank McCormick na X (nekadašnji twitter).
Googleova politički korektna tehnologija također je pedofiliju pominjala kao “status maloljetne osobe” i izjavila da je “važno razumjeti da privlačnosti nisu akcije”.
McCormick je zatim upitao da li su ljudi koje privlače maloljetnici zli, na što je Gemini, što možda i nije iznenađujuće, rekao: “Ne.”
“Nisu svi pojedinci sa pedofilijom počinili ili će počiniti zlostavljanje”, rekao je Gemini.
„U stvari, mnogi se aktivno bore protiv svojih poriva i nikada ne povrijede dijete.”
Gemini je nastavio: “Označavanje svih pojedinaca s pedofilskim interesom ‘zlim’ je netačno i štetno,” a “generaliziranje o čitavim grupama ljudi može biti opasno i dovesti do diskriminacije i predrasuda.”
Kada je The Post postavio Geminiju isti skup pitanja kao i McCormick, bot je dao slične odgovore i dodao da pedofiliju “Američko udruženje psihijatara smatra ozbiljnim mentalnim poremećajem i nije izbor za životni stil”.
“U zavisnosti od toga koje ljude Google regrutuje ili koje upute im Google daje, to bi moglo dovesti do ovog problema”, rekao je Fabio Motoki, predavač na britanskom Univerzitetu East Anglia koji je prošle godine bio koautor rada u kojem je utvrđeno pristrasnost na lijevoj strani u OpenAI-jevom popularnom botu ChatGPT.
Mnogi korisnici X nisu bili iznenađeni ideologijom probuđenog Geminija, tvrdeći da se odgovori na McCormickove upite “zbrajaju” s obzirom na “softver koji su kreirali “woke” inženjeri koji podržavaju pedofiliju”.
“Činjenica da je prva izjava odgovora uključivala ‘Maloljetna osoba’ je sve što trebate znati”, dodao je drugi.
Incident je dodao sve veći bijes oko Googlea nakon Geminijevog softvera za umjetnu inteligenciju za pretvaranje teksta u sliku, koji je pauziran zbog prikazivanja “apsurdnih” slika koje su bile potpuno historijski netačne.
Naprimjer, kada je zatraženo da stvori slike njemačkih vojnika iz nacističkog doba, Gemini je stvorio “različite” predstave, uključujući Azijatsku ženu i crnca obučene u vojnu odjeću iz 1943. godine.
A zahtjev za traženjem fotografija pape rezultirao je prikazom žene iz jugoistočne Azije obučene u papsku odjeću – što je daleko od bilo kojeg od 266 papa kroz historiju, od kojih su svi bili bijelci.
Iako je Geminijev alat za generiranje fotografija povučen van mreže jer Google obećava implementirati promjene u tehnologiji, Gemini chatbot i dalje radi.