Chiński gigant technologiczny, właściciel platformy Tiktok, pokazał dziś nowy system sztucznej inteligencji Omnihuman-1, który może tworzyć fałszywe filmy, które są praktycznie nie do odróżnienia od rzeczywistości. Zdolność sztucznej inteligencji do generowania DeepFake-Video powoduje rozkosz i mistyczny horror.
Wideo stworzone przez Omnihuman-1 wygląda niesamowicie realistycznie. Wystarczy spojrzeć na poniższy film, pokazując wyniki mówcy na popularnej dorocznej konferencji na temat rozprzestrzeniania się unikalnych pomysłów TED (technologia, rozrywka, projektowanie – technologia, rozrywka, projektowanie), która nie była w rzeczywistości.
System Omnihuman-1 wystarczy, aby jedno zdjęcie i nagrywanie głosowe wygenerowały taki film. Użytkownik może skonfigurować takie elementy, jak stosunek stron i personelu. Ponadto AI jest w stanie zmienić ruchy ciała i gesty w prawdziwych materiałach wideo. Oczywiście wyniki nie zawsze są w 100 % idealne. Niektóre pozy wyglądają nieco niezwykłe. Na przykład na tym wykładzie Einsteina całkowicie wygenerował AI, twarz wygląda prawie idealnie, ale ruchy rąk są nienaturalne.
Omnihuman-1 „obserwował” 18 700 godzin danych wideo przy użyciu nowego podejścia „klimatyzacje”, które pozwala modelowi studiować kilka źródeł wejściowych, takich jak wskazówki tekstowe, audio i nadwozie jednocześnie. Naukowcy Bytedance twierdzą, że taka metoda nauczania pomaga „znacznie zmniejszyć utratę danych”.
Możliwe zastosowanie technologii DeepFake powoduje poważne obawy. Ostatnio był używany nie więcej niż raz do dezinformacji, oszustw i innych nieudanych celów. Tak więc, podczas kampanii wyborczej w Stanach Zjednoczonych w 2024 r., Zarejestrowano wiele przypadków dystrybucji nagrań audio i wideo z dipfaces dla mylących wyborców.
W ubiegłym roku oszustwa finansowe pozbawiły ludzi miliardów. Na przykład oszust, który używał sztucznej inteligencji, do podszywania się od aktora Brada Pitta, udało się oszukać kobietę, aby rozwodził się z mężem i wysłać mu 850 000 $ rzekomo na leczenie.
Obecnie setki ekspertów ds. Etyki opowiadają się za regulacją dipfaceów. Możliwe jest, że Omnihuman-1 nie powinien uzyskać do brzegiełki do ogółu społeczeństwa, ponieważ może to prowadzić do katastrofalnych konsekwencji. Chociaż dżin został już zwolniony z butelki i procesu wprowadzania sztucznej inteligencji do wszystkich sfer życia, w tym przestępczych, nie zatrzymuje się.
