Openai zablokował użytkowników z Chin i Korei Północnej, które rzekomo wykorzystały technologie firmy do złośliwych celów, w tym nadzór i kampanię na rzecz opinii publicznej. Oświadczenie Openai mówi, że reżimy autorytarne mogą stosować sztuczną inteligencję ze szkodą dla Stanów Zjednoczonych i ich obywateli. Należy zauważyć, że w identyfikacji podejrzanej działalności zaangażowany był specjalny algorytm AI-AI.
Firma nie zgłosiła, ile kont zostało zablokowanych, a także nie określiła, jak długo przeprowadzane jest poszukiwanie kont, których właściciele są potencjalnie zaangażowani w złośliwe działania. Oświadczenie mówi, że w jednym z tych przypadków użytkownik Chatgpt wygenerował artykuły prasowe w języku hiszpańskim w celu oczerniania Stanów Zjednoczonych. Materiały te zostały następnie opublikowane przez publikacje prasowe w Ameryce Łacińskiej w imieniu chińskiej firmy.
W drugim przypadku atakujący, rzekomo związani z Koreą Północną, wykorzystali sztuczną inteligencję do stworzenia CV i profili internetowych fikcyjnych wnioskodawców w celu zatrudnienia zachodnich firm. Zidentyfikowano również grupę kont należących do użytkowników z Kambodży i związane z oszustwami finansowymi. Były one używane do tłumaczenia i publikowania komentarzy w różnych sieciach społecznościowych, w tym X i Facebook✴.
Rząd USA wyraził zaniepokojenie, że Chiny rzekomo wykorzystują sztuczną inteligencję do kontrolowania opinii publicznej w kraju, a także rozpowszechniania dezinformacji i podważania bezpieczeństwa Stanów Zjednoczonych i jej sojuszników. Przypomnij sobie, że Openai Chatgpt to najpopularniejszy bot AI z 400 milionami aktywnych użytkowników. Firma negocjuje inwestycje w wysokości do 40 miliardów dolarów przy ocenie OpenAI na 300 miliardów dolarów, co może stać się rekordem finansowania dla prywatnej firmy.
