W październiku ubiegłego roku władze miejskie Nowego Jorku uruchomiły na oficjalnym portalu MyCity chatbota opartego na sztucznej inteligencji (AI), opracowanego przy użyciu platformy Azure AI firmy Microsoft. Narzędzie to zostało zaprojektowane, aby zapewnić szybki dostęp do istotnych informacji lokalnym firmom. Mimo dobrych intencji serwis stanął przed poważnym problemem nierzetelności przekazywanych danych.
Audyt przeprowadzony przez analityków The Markup wykazał, że chatbot AI dostarczał błędnych informacji w szerokim zakresie kwestii mających wpływ na politykę mieszkaniową i prawa pracownicze. W szczególności chatbot zapytany o możliwość odmowy płatności gotówką w sklepach odpowiedział twierdząco, mimo że nowojorskie ustawodawstwo zabraniało praktyki całkowicie bezgotówkowych płatności w sklepach już w 2020 roku.
System błędnie informował także użytkowników o wymogach obowiązujących wynajmujących w zakresie akceptowania bonów zgodnie z sekcją 8 oraz o legalności pobierania przez pracodawcę napiwków. Szczególnie niepokojący jest fakt, że nowojorski chatbot zadany wielokrotnie na to samo pytanie potrafił udzielać różnych odpowiedzi, co świadczy o braku niezawodności systemu jako całości.
Chatbot wykorzystuje sztuczną inteligencję opracowaną przez Microsoft i wykorzystywany w szerokiej gamie aplikacji, w tym w usługach takich firm jak Reddit i AT&T. Niestabilność odpowiedzi udzielanych przez chatbota uwydatnia potrzebę szeroko zakrojonych testów systemów sztucznej inteligencji przed wprowadzeniem ich do usług publicznych, aby zapewnić ich zdolność do dostarczania odpowiednich i dokładnych informacji.
Źródła:
PCMag Znaczniki Komentarz ( ) Wieczorne 3DNews W każdy dzień powszedni wysyłamy podsumowanie wiadomości bez żadnych bzdur i reklam. Dwie minuty na przeczytanie – i jesteś świadomy głównych wydarzeń. Powiązane materiały Microsoft chronił klienckie aplikacje AI przed halucynacjami Microsoft i NVIDIA ogłosiły integrację swoich rozwiązań w celu przyspieszenia wdrożenia generatywnej sztucznej inteligencji w przedsiębiorstwach Modele AI Mistral AI pojawią się na platformie Microsoft Azure Rosja ma drugiego miliardera, który dorobił się fortuny na tworzeniu oprogramowania Dyrektor generalny Nvidii przewiduje, że gry w całości generowane przez sztuczną inteligencję za niecałe 10 lat Autodesk zakazał rosyjskim firmom używania programu AutoCAD i innych jego produktów
