Microsoft potwierdził zakaz stosowania przez amerykańską policję narzędzi generatywnej sztucznej inteligencji do rozpoznawania twarzy w oparciu o technologie swojego partnera OpenAI – klienci korporacyjni mogą z nich korzystać w infrastrukturze chmurowej Azure.
Warunki świadczenia usługi platformy Azure OpenAI Service zawierają teraz sformułowania wyraźniej zabraniające jej integracji z policją w Stanach Zjednoczonych w celu rozpoznawania twarzy, w tym integracji z istniejącymi i przyszłymi modelami AI do analizy obrazu. Oddzielny akapit dokumentu wyraźnie zabrania stosowania „technologii rozpoznawania twarzy w czasie rzeczywistym” w kamerach mobilnych, w tym w kamerach osobistych i kamerach samochodowych, w celu podejmowania prób identyfikacji osobistej w „niekontrolowanych” warunkach.
Microsoft zaktualizował politykę tydzień po tym, jak firma Axon, producent sprzętu technologicznego dla wojska i organów ścigania, ogłosiła nowy system dekodowania dźwięku z kamery ciała w oparciu o model OpenAI GPT-4. Działacze na rzecz praw człowieka zwrócili uwagę, że może to się nie powieść ze względu na skłonność sztucznej inteligencji do halucynacji i uprzedzeń rasowych. Nie jest jasne, czy firma Axon uzyskiwała dostęp do GPT-4 za pośrednictwem usługi Azure OpenAI, a jeśli tak, to czy aktualizacja zasad była odpowiedzią na ten produkt.
Zakaz dostępu do usługi Azure OpenAI dotyczy wyłącznie policji amerykańskiej i nie dotyczy organów ścigania w innych krajach. Nie obejmuje również systemów rozpoznawania twarzy wykorzystujących kamery stacjonarne w środowiskach kontrolowanych, np. na terenie wydziałów. OpenAI, które wcześniej odmawiało współpracy z siłami zbrojnymi, uruchomiło dla Pentagonu szereg projektów, m.in. w obszarze cyberbezpieczeństwa – informował w styczniu Bloomberg. Jak dowiedział się The Intercept, Microsoft zaoferował także generator obrazów OpenAI DALL-E Departamentowi Obrony USA w celu opracowania oprogramowania do operacji wojskowych. Platforma Azure OpenAI Service z dodatkowymi możliwościami została udostępniona w lutym w pakiecie Microsoft Azure for Government.
