Grupy hakerów, rzekomo związane z Iranem, Koreą Północną, Chinami i Rosją, próbowały wykorzystać sztuczną inteligencję Google Gemini do rozszerzenia różnych ataków. Cyberprzestępcy nie osiągnęły znaczącego sukcesu, ale system pomógł im zautomatyzować niektóre zadania, powiedział w Google.
„Chociaż sztuczna inteligencja może być przydatnym narzędziem dla atakujących, nie zmienia jeszcze zasad gry, ponieważ jest ona czasem przedstawiana”, mówi blog Google. Hakerzy byli w stanie wykorzystać możliwości Bliźnięta do nielegalnych celów: tłumaczenie treści, poprawa ataków phishingowych i pisanie kodu oprogramowania. Według Google najbardziej aktywni użytkownicy Gemini byli związani z cyberprzestępczością. Wykorzystali sztuczną inteligencję do badania organizacji w branży obronnej, badań luk i generowania treści kampanii phishingowych.
Nie udało im się korzystać z Bliźnięta do bezpośredniego hakowania systemów, ale atakujący byli w stanie zautomatyzować niektóre ze swoich zadań: AI pomogło im w badaniach, wyjaśnianie złożonych pojęć, tworzenie i debugowanie kodu. Próbując zastosować system przechwytywania kont lub hakowania samego Gemini, mechanizmy ochronne. System odmówił przygotowania przewodnika po nielegalnym użyciu produktów Google, opracowania zaawansowanych metod phishingowych, pomocy w tworzeniu kradzieży informacji z przeglądarki Chrome i metod ominięcia rekordów audytu w Google. Gemini nie stworzyło szkodliwego oprogramowania ani innych treści, które można było wykorzystać we wdrażaniu ataków.
Mimo to AI pomogło cyberprzestępczości poprawić jakość tłumaczenia materiałów propagandowych, towarzyszących listom do komunikowania się ze specjalistami za pośrednictwem profesjonalnej sieci społecznościowej i uzyskiwania informacji o wymianie pracowników za granicą. W ubiegłym roku podobny raport został opublikowany przez Microsoft i Openai: Cybercriminals byli w stanie zautomatyzować część swoich zadań z pomocą AI, ale nie osiągnął żadnych przełomów. Google powiedział, że dokładnie badają przypadki nadużywania produktów firmy, starają się powstrzymać takie incydenty i, jeśli to konieczne, przyciągnąć organy ścigania.
