OpenAI ogłosiło, że rozpoczęło prace nad nowymi metodami identyfikacji treści tworzonych przez sztuczną inteligencję (AI). Należą do nich nowy klasyfikator obrazu, który wykrywa, czy obraz został wygenerowany przez sztuczną inteligencję, oraz odporny na manipulacje znak wodny, który może oznaczać zawartość audio niewykrywalnymi sygnałami.
Nowy klasyfikator obrazu jest w stanie określić z dokładnością do 98%, czy obraz został utworzony przez generator obrazu DALL-E 3 AI. Firma twierdzi, że jego klasyfikator działa nawet wtedy, gdy obraz został przycięty, skompresowany lub ma takie nasycenie został zmieniony. Jednocześnie skuteczność tego rozwoju OpenAI w rozpoznawaniu treści tworzonych przez inne modele AI, takie jak Midjourney, jest znacznie niższa – od 5 do 10%.
OpenAI wprowadziło także znaki wodne do treści audio tworzonych przy użyciu platformy zamiany tekstu na mowę Voice Engine, która jest w fazie testów przedprodukcyjnych. Te znaki wodne zawierają informacje o twórcy i metodach użytych do tworzenia treści, dzięki czemu znacznie łatwiej jest zweryfikować ich autentyczność.
OpenAI aktywnie uczestniczy w Koalicji na rzecz Pochodzenia i Autentyczności Treści (C2PA), do której należą również takie firmy jak Microsoft i Adobe. Firma dołączyła w tym miesiącu do komitetu sterującego C2PA, podkreślając swoją rolę w opracowywaniu standardów przejrzystości i autentyczności treści cyfrowych.
W tym celu OpenAI zintegrowało tak zwane dane uwierzytelniające zawartość C2PA z metadanymi obrazu. Te dane uwierzytelniające, czyli znaki wodne, zawierają informacje o właścicielu obrazu i sposobie jego utworzenia. OpenAI od lat pracuje nad wykrywaniem treści AI, jednak w 2023 roku firma musiała zaprzestać uruchamiania programu wykrywającego tekst generowany przez AI ze względu na jego niską dokładność.
Trwają prace nad klasyfikatorem obrazu i znakiem wodnym audio. OpenAI podkreśla, że uzyskanie opinii użytkowników ma kluczowe znaczenie dla oceny skuteczności tych narzędzi. Naukowcy i dziennikarze non-profit mają możliwość przetestowania klasyfikatora obrazu na platformie dostępu do badań OpenAI.