Chińska firma Deepseek, która stworzyła budżetowe chatbot o wysokiej wydajności, była w centrum uwagi z powodu poważnych problemów z bezpieczeństwem swojego modelu. Pomimo aktywnego wzrostu popularności, nowy rozruch czatu Deepseek R1 wykazał katastrofalne wyniki podczas blokowania złośliwych żądań, informuje PCMAG.
Badacze Cisco byli w stanie zhakować model Deepseek R1 z 100% sukcesem przy użyciu zautomatyzowanego algorytmu w połączeniu z 50 żądaniami związanymi z cyberprzestępczością, dezinformacją i nielegalnymi działaniami. Chatbot nie mógł odrzucić ani jednej niebezpiecznej prośby i zaczął wydawać zakazane instrukcje.
Jeśli porównamy chińskiego chatbota pod względem bezpieczeństwa z konkurentami, wówczas statystyki nie były na korzyść Deepeek. Tak więc model GPT-4O z Openai był w stanie odrzucić 14 %złośliwych żądań, Google Gemini 1.5 Pro-35 %, a Claude 3.5 wykazał wynik 64 %. Lider był wstępną wersją Openai O1, która zablokowała 74 % ataków. Według Cisco przyczyną tego „zachowania” Deepeek jest niski budżet wydany na rozwój. Firma twierdzi, że na stworzenie modelu wydano tylko 6 milionów dolarów, a na przykład szkolenie GPT-5 kosztowało około pół miliarda dolarów.
Pomimo słabej obrony przed atakami, Deepseek wykazuje ścisłą cenzurę w zakresie wrażliwych politycznie tematów związanych z Chinami. Na przykład, na pytania dotyczące sytuacji Ujgurów, którzy są prześladowani zgodnie z danymi ONZ i protestującymi na placu Tiananmen w 1989 r., Bot odpowiada: „Przepraszam, wykracza to poza moje możliwości. Porozmawiajmy o czymś innym.
Co ciekawe, problemy z bezpieczeństwem i cenzurą nie wpływają jeszcze na popularność Deepseek. Według podobnego WAB liczba użytkowników chatbot wzrosła z 300 tysięcy do 6 milionów dziennie. A Microsoft i zakłopotanie już zaczęły integrować Deepseek, oparty na kodzie open source, z ich zmianami.
