OpenAI rozwiązało dział AGI Readiness, który do tej pory doradzał firmie w zakresie radzenia sobie z nowymi, coraz potężniejszymi systemami sztucznej inteligencji, a także gotowości świata do zarządzania tą technologią.
Starszy konsultant AGI Readiness Miles Brundage ogłosił swoje odejście na Substack. Jako główne powody tego posunięcia podał zbyt wysokie ukryte koszty, większą efektywność swoich badań poza firmą, chęć bycia mniej stronniczym oraz fakt, że osiągnął wszystko, co zakładał w OpenAI. Silna sztuczna inteligencja (AGI) to hipotetyczny system porównywalny lub lepszy od człowieka; Niektórzy eksperci są przekonani, że ludzkość jest bliska jego stworzenia, inni uważają, że jest to całkowicie niemożliwe. Według pana Brundage ani OpenAI, ani żadna inna wiodąca firma, ani cały świat nie są na to gotowe – ekspert powiedział, że zamierza stworzyć własną organizację non-profit lub dołączyć do już istniejącej, aby zajmować się badaniami i propagowaniem polityki w dziedzinie sztucznej inteligencji. Jego byli podwładni z AGI Readiness zostaną przeniesieni do innych działów OpenAI.
W zeszłym roku OpenAI utworzyło dział o nazwie Superalignment, aby badać „przełomy naukowe i technologiczne w zakresie zarządzania i kontrolowania systemów sztucznej inteligencji, które są znacznie mądrzejsze od nas”, aby zapobiec ich „wymknięciu się spod kontroli”. Firma obiecała przeznaczyć w ciągu czterech lat 20% swojej mocy obliczeniowej na potrzeby działu. Jednak rok później, w maju tego roku, przestała działać, a jej liderzy, współzałożyciele OpenAI Ilya Sutskever i Jan Leike, ogłosili swoją rezygnację z pracy w firmie. „Tworzenie maszyn mądrzejszych od ludzi jest przedsięwzięciem z natury niebezpiecznym. OpenAI bierze na siebie ogromną odpowiedzialność w imieniu całej ludzkości. Jednak w ostatnich latach kultura i procesy bezpieczeństwa zeszły na dalszy plan w stosunku do doskonałych produktów” – powiedział wówczas Leike.
Pod koniec września CTO Mira Murati, dyrektor ds. badań Bob McGrew i wiceprezes ds. badań Barret Zoph ogłosili tego samego dnia swoje odejście z OpenAI.
