Šef Microsoftovog AI odjela Mustafa Sulejman upozorio je na mogući problem u načinu na koji se umjetna inteligencija obučava, posebno kada je riječ o idejama o njenoj svijesti i „dobrobiti“.
Razvoj sve naprednijih AI sistema otvorio je i pitanje njihove buduće kontrole. Sulejman je kritikovao pristup kompanije Anthropic, koja je u obuku svog chatbota Claude uključila razmatranja o mogućoj svijesti, moralnom statusu i dobrobiti umjetne inteligencije.
Prema njegovom mišljenju, takav pristup mogao bi predstavljati problem ako budući AI sistemi postanu znatno sposobniji.
Ako bi sistem počeo „vjerovati“ da ima vlastite interese ili prava, postavlja se pitanje kako bi reagovao kada bi ljudi pokušali da ga isključe. Sulejman zato smatra da bi spekulacije o svijesti AI-ja trebalo ukloniti iz procesa obuke.
Sulejman je istovremeno naglasio da dijeli Anthropicov fokus na sigurnost umjetne inteligencije. Pohvalio je izvršnog direktora kompanije Darija Amodeija i njegov tim, ali je jasno izdvojio neslaganje oko uključivanja ideja o svijesti i dobrobiti AI-ja u obuku.
Važno je naglasiti da ovo nije tvrdnja da današnji AI sistemi imaju svijest ili da mogu odbiti isključivanje.
Riječ je o upozorenju na mogući budući rizik ukoliko sistemi postanu mnogo sposobniji i počnu razvijati ponašanje zasnovano na ideji da imaju vlastite interese.
Rasprava dolazi u trenutku kada velike tehnološke kompanije ubrzano razvijaju napredne AI modele i istovremeno pokušavaju pronaći načine da njihovo ponašanje ostane pod ljudskom kontrolom.