Menedżer haseł LastPass został zaatakowany przez oszustów, którzy wykorzystali technologię sztucznej inteligencji do podszywania się pod dyrektora generalnego LastPass, Karima Toubbę. Napastnicy utworzyli fałszywe konto Tubba na WhatsApp i rozpoczęli korespondencję z jednym z pracowników firmy. W trakcie wysyłali wiadomości głosowe, w których naśladowali głos dyrektora Last Pass.
Zaatakowany pracownik LastPass okazał się dość doświadczony i odporny na stres, dlatego próba oszukania go za pomocą deepfake’a nie powiodła się. Pracownik był zaniepokojony, że wiadomości WhatsApp „wykraczały poza zwykłe kanały komunikacji biznesowej”. Dodatkowym powodem do wątpienia w prawdziwość wiadomości audio od menedżera była nadmierna presja ze strony oszustów – taktyka zwana „wymuszoną pilnością”, którą przestępcy często wykorzystują do manipulowania ofiarami. To ostatecznie przekonało pracownika LastPass, że cała korespondencja była fikcyjna.
LastPass poinformował, że próba oszustwa zakończyła się niepowodzeniem, a służba bezpieczeństwa firmy bada obecnie incydent. Firma zdecydowała się jednak udostępnić szczegóły tego incydentu, aby zwrócić uwagę na fakt, że deepfakes są coraz częściej wykorzystywane w oszukańczych kampaniach podszywających się pod kadrę kierowniczą.
W ostatnim czasie wiele firm, w tym giełda kryptowalut Binance, spotkało się z oszustami podającymi się za dyrektorów firm wykorzystującymi sztuczną inteligencję. Niedawno w Hongkongu pracownik finansowy międzynarodowej firmy, myśląc, że uczestniczy w jednoczesnej rozmowie wideo ze swoimi współpracownikami, pod kierunkiem „CFO brytyjskiej firmy”, przelał na wskazane mu konto 25,6 mln dolarów .
Od 8 lutego 2024 r. Stany Zjednoczone zakazały firmom komercyjnym używania botów głosowych AI podczas automatycznych „zimnych połączeń” z potencjalnymi klientami.