Sztuczna inteligencja do poprawy po napaściach klientów

Marka Bradesco w 2018 roku wprowadziła nową usługę - wirtualnego chatbota BIA (skrót od Bradesco Inteligência Artificial). Bot o kobiecym głosie miał pomagać w bieżącej obsłudze klientów, odpowiadając na popularne pytania, z pomocą sztucznej inteligencji.

Okazało się jednak, że wirtualna asystentka stała się celem napaści werbalnych. Tylko w ubiegłym roku bank odnotował 95 tys. wiadomości w stronę BIA o charakterze napaści seksualnej. Botowi ubliżano a nawet grożono gwałtem. Bot pozostawał wobec tak obraźliwych słów niewzruszony, odpowiadając „Postaram się zrobić to lepiej”, „Nie wiem, jak na to odpowiedzieć”.

Algorytm asystentki został przeprogramowany tak, by nie pozostawiać bez reakcji niewłaściwe zachowania. BIA odpowiada już na wulgaryzmy „nie mów tak do mnie”, w przypadku mocniejszych słów cytuje przepisy karne.