Microsoft ogłosił odkrycie amerykańskich i zagranicznych hakerów, które ominęło ograniczenia narzędzi generatywnych opartych na sztucznej inteligencji, w tym usług Openai w chmurze platformy Azure, w celu tworzenia szkodliwych treści, w tym intymnych obrazów celebrytów i innych treści seksualnych. Według firmy hakerzy z USA, Iranu, Wielkiej Brytanii, Hongkongu i Wietnamu uczestniczyli w tej działalności.
W raporcie stwierdzono, że atakujący wyodrębnili użytkowników logowania generatywnej sztucznej inteligencji z otwartych źródeł i wykorzystali ich do własnych celów. Po otrzymaniu dostępu do usługi AI hakerzy opowiedzieli o ograniczeniach ustalonych przez programistów i sprzedali dostęp do usług AI wraz z instrukcjami tworzenia złośliwych treści.
Microsoft sugeruje, że wszyscy zidentyfikowani hakerzy są członkami Global Cybercrower Network, która nazywa się Storm-2139 w firmie. Dwa z nich znajdują się terytorialnie na Florydzie i Illinois, ale firma nie ujawnia osobowości, aby nie zaszkodzić śledztwu. Soft Giant powiedział, że przygotowuje odpowiednie wnioski o organy ścigania Stanów Zjednoczonych i wielu innych krajów.
Microsoft podejmuje te środki na tle rosnącej popularności generatywnych sieci neuronowych i obaw ludzi o fakt, że AI można wykorzystać do tworzenia fałszywych obrazów liczb publicznych i zwykłych obywateli. Firmy takie jak Microsoft i Openai zabraniają generowania takich treści i odpowiednio ograniczają swoje usługi AI. Jednak hakerzy wciąż próbują obejść te ograniczenia, co często udało im się wykonać.
„Jesteśmy bardzo poważnie pod względem bezprawnego wykorzystania sztucznej inteligencji i uznajemy poważne i długoterminowe konsekwencje nadużycia obrazów dla potencjalnych ofiar. Microsoft nadal stara się chronić użytkowników, wprowadzając niezawodne i bezpieczeństwa na platformach i chroniąc usługi przed nielegalną i szkodliwą treścią ” – powiedział Steven Masada, asystent głównego doradcy prawnego Microsoft w celu zwalczania cyberprzestępczości.
To oświadczenie nastąpiło po grudniowym roszczeniu Microsoft, które firma złożyła w wschodnim dystrykcie Wirginii przeciwko 10 nieznanym osobom, próbując zebrać więcej informacji o grupie hakerów i zatrzymać jej działania. Decyzja sądu pozwoliła Microsoftowi przejąć kontrolę nad jedną z głównych stron hakerów. To i ogłoszenie szeregu dokumentów sądowych w zeszłym miesiącu zasniały panikę w szeregach napastników, które mogłyby ustanowić osoby z niektórych uczestników grupy.
