„Zagrożenie dla całej ludzkości”: Musk, Woźniak i ponad 1000 ekspertów wezwali do zaprzestania trenowania sieci neuronowych, które przewyższają GPT-4

Elon Musk, Steve Wozniak i ponad 1000 innych ekspertów AI i IT wezwali do wprowadzenia sześciomiesięcznego moratorium na szkolenie systemów AI, które działają lepiej niż niedawno zaprezentowany przez firmę model GPT-4.OpenAI. W liście otwartym ostrzegli przed potencjalnym zagrożeniem dla społeczeństwa.

List został opublikowany przez organizację non-profit Future of Life Institute i podpisany przez wiele znanych osób z branży IT. Wszyscy wezwali do „przerwy” w rozwoju AI do czasu wypracowania wspólnych dla branży protokołów i standardów bezpieczeństwa, których stosowanie będzie weryfikowane przez niezależnych audytorów.

W liście podkreślono, że potężne systemy sztucznej inteligencji powinny być rozwijane dopiero wtedy, gdy ludzkość będzie pewna pozytywnych konsekwencji takiego rozwoju, a związane z nimi ryzyko będzie możliwe do opanowania. W liście wspomniano również o potencjalnych zagrożeniach dla społeczeństwa i cywilizacji ze strony systemów AI zdolnych do konkurowania z ludźmi, co może doprowadzić do wstrząsów gospodarczych lub politycznych. Programistów zachęca się do ścisłej współpracy z organami regulacyjnymi.

„Szeroko zakrojone badania wykazały, że takie systemy sztucznej inteligencji, które konkurują z ludźmi, mogą stanowić poważne zagrożenie dla całej ludzkości” – czytamy w liście.

List pojawił się po tym, jak Europol dołączył do grupy zajmującej się sztuczną inteligencją, aby ostrzec, że systemy takie jak ChatGPT mogą być wykorzystywane przez osoby atakujące do phishingu, dezinformacji i cyberprzestępczości. Musk, którego firma Tesla od dłuższego czasu wykorzystuje elementy sztucznej inteligencji w swoich systemach autopilota, otwarcie i wielokrotnie wyrażał zaniepokojenie zagrożeniami związanymi z systemami AI.

Od czasu premiery w zeszłym roku wspierany przez Microsoft chatbot OpenAI ChatGPT wykazał cechy, które zmusiły konkurentów do pilnego przyspieszenia rozwoju własnych dużych modeli językowych. W rezultacie firmy pośpiesznie integrują generatywną sztuczną inteligencję ze swoimi produktami. Szef OpenAI Sam Altman (Sam Altman), według przedstawiciela Future of Life, nie podpisał listu, a sama firma odmówiła komentarza.

Zdaniem jednego z ekspertów konieczne jest spowolnienie odpowiednich prac do czasu, aż ludzkość zacznie lepiej rozumieć konsekwencje, ponieważ systemy AI mogą wyrządzić poważne szkody. Zwłaszcza biorąc pod uwagę, że duzi gracze trzymają w tajemnicy informacje o tym, nad czym pracują – więc społeczeństwu trudno będzie się obronić, jeśli obawy będą uzasadnione.