Według badań izraelskiej Lasso Cybersecurity Company, która specjalizuje się w generatywnych zagrożeniach generatywnych sztucznej inteligencji, dane, które były w domenie publicznej w Internecie przynajmniej przez chwilę, mogą pozostać z internetowymi botami generatywnej AI, takich jak Microsoft Copilot, po tym, jak dostęp do nich został zamknięty.
Ten problem dotyczy tysięcy niegdyś otwartego github wielu największych firm, w tym Microsoft, które od tego czasu zostały zamknięte, powiedział TechCrunch Resource w Lasso.
Według współzałożyciela Lasso, Ophir Dror, firma odkryła, że treść jej własnego repozytorium Github pojawiła się w Copilot, ponieważ została indeksowana i rozmawiana przez system wyszukiwania Bing z Microsoft. To repozytorium było otwarte przez krótki czas i jest teraz prywatne. Podczas próby uzyskania dostępu do GitHub pojawia się wiadomość „Nie znaleziono strony”.
„Co dziwne, na Copilot, znaleźliśmy jeden z naszych własnych zamkniętych repozytoriów” – powiedział Droor. -I, gdybym przeglądał strony internetowe, nie widziałbym tych danych. Ale każda osoba, zadając Copilotowi właściwe pytanie, może je zdobyć. ”
W związku z tym Lasso przeprowadziła dochodzenie, podczas którego nauczyła się listy repozytoriów, które były w domenie publicznej przez pewien czas w 2024 r. I ustaliła te, które zostały usunięte lub otrzymane status prywatny. Korzystając z mechanizmu buforowania Bing, firma stwierdziła, że ponad 20 tysięcy prywatnych repozytoriów GitHub z ponad 16 tysięcy organizacji jest nadal dostępnych za pośrednictwem Copilot. W szczególności dotyczy to Amazon Web Services, Google, IBM, PayPal, Tencent i Microsoft.
Droor powiedział, że Lasso skontaktował się ze wszystkimi firmami, które „poważnie wpłynęły” na wyciek danych, i doradził im, aby zgnili lub wycofali wszystkie zagrożone klucze.
Lasso powiadomiła Microsoft o swoich wnioskach w listopadzie 2024 r., Ale gigant oprogramowania poinformował ją, że przypisała problem „niskiej powagie”, mówiąc, że takie zachowanie podczas buforowania jest „dopuszczalne”. Microsoft zauważyła, że nie zawiera już linków do Bing Kesh w wynikach wyszukiwania od grudnia 2024 r.
Niemniej jednak Lasso twierdzi, że chociaż funkcja buforowania została odłączona, Copilot nadal ma dostęp do danych, pomimo faktu, że nie zostały one odzwierciedlone w wynikach sieci.
