Były dyrektor generalny Google ostrzega przed niebezpieczeństwami związanymi z dążeniem USA do dominacji w dziedzinie sztucznej inteligencji
Były dyrektor generalny Google Eric Schmidt opublikował artykuł zatytułowany „Strategia superinteligencji”, którego współautorami są Dan Hendrycks, dyrektor Centrum Bezpieczeństwa AI, oraz Alexander Wang, założyciel i dyrektor generalny Scale AI. W artykule tym sugeruje się, że Stany Zjednoczone powinny powstrzymać się od podejmowania działań w stylu Projektu Manhattan mających na celu osiągnięcie przewagi w dziedzinie sztucznej inteligencji, ponieważ mogłoby to skutkować wyprzedzającymi reakcjami cybernetycznymi ze strony krajów takich jak Chiny, donosi The Register.
Autorzy artykułu twierdzą, że każde państwo, które stworzy supersztuczną inteligencję, będzie stanowić bezpośrednie zagrożenie dla innych krajów, a te, chcąc zapewnić sobie przetrwanie, będą zmuszone sabotować takie projekty sztucznej inteligencji. Każda „agresywna próba uzyskania jednostronnej dominacji w dziedzinie sztucznej inteligencji doprowadzi do wyprzedzającego sabotażu ze strony konkurentów”, który może przybrać formę szpiegostwa, cyberataków, tajnych operacji mających na celu pogorszenie jakości szkolenia modeli, a nawet bezpośredniego ataku fizycznego na centra danych sztucznej inteligencji.
Autorzy uważają, że w dziedzinie sztucznej inteligencji jesteśmy już blisko doktryny wzajemnie gwarantowanego zniszczenia (MAD) z czasów zimnej wojny. Autorzy określili obecną sytuację mianem „wzajemnie zapewnionej awarii sztucznej inteligencji” (Mutual Assured AI Malfunction, MAIM), w której projekty sztucznej inteligencji rozwijane przez państwa są ograniczane przez wzajemne groźby sabotażu.
Jednakże sztuczna inteligencja, podobnie jak swego czasu programy nuklearne, może przynieść korzyści ludzkości w wielu dziedzinach: od przełomów w rozwoju leków po automatyzację procesów produkcyjnych; wykorzystanie sztucznej inteligencji jest ważne dla wzrostu gospodarczego i postępu we współczesnym świecie. Zgodnie z artykułem państwa mogą wybrać jedną z trzech strategii.
Całkowita nieingerencja w działania twórców sztucznej inteligencji, układów scalonych i modeli.Globalne dobrowolne moratorium mające na celu powstrzymanie dalszego rozwoju sztucznej inteligencji, natychmiast lub po odkryciu pewnych zagrożeń, takich jak możliwość zhakowania sztucznej inteligencji lub jej całkowicie autonomicznego działania.Globalny monopol na rozwój poprzez utworzenie międzynarodowego konsorcjum takiego jak CERN, które będzie przewodzić globalnemu rozwojowi sztucznej inteligencji.
Komentując propozycję Komisji ds. Przeglądu Bezpieczeństwa Gospodarczego i Bezpieczeństwa USA-Chiny (USCC) dotyczącą finansowania przez rząd USA pewnego rodzaju „Projektu Manhattan”, mającego na celu stworzenie superinteligencji w jakimś odległym zakątku kraju, autorzy artykułu ostrzegli, że Chiny odpowiedzą na ten ruch w sposób, który doprowadzi jedynie do długotrwałej nierównowagi sił i ciągłej niestabilności.
