Un client al Libra Internet Bank a făcut publică o conversație cu chatbot-ul Lia, în care agentul virtual l-a numit „idiot” după ce acesta a spus că își pierde timpul cu el. Clientul a postat imaginea conversației, exprimându-și nemulțumirea și întrebând comunitatea despre reacția lor.
În conversație, clientul a spus că „îmi pierd vremea cu tine”, iar chatbot-ul Lia a răspuns cu un mesaj ofensator, afirmând că vrea să vorbească cu un om și că îl va transfera către un coleg pentru suport. Banca a precizat ulterior că agenții AI pot copia limbajul uman în anumite situații, dar a implementat măsuri suplimentare pentru a evita astfel de comportamente.
Citește și: Ritmologia Intervențională de la Spitalul Județean a realizat o premieră medicală
Reacția băncii și măsurile luate
Libra Internet Bank a transmis că, pentru a preveni astfel de incidente, au fost introduse interdicții suplimentare pentru chatbot-ul Lia, în încercarea de a controlat comportamentul agentului virtual. Banca a explicat că sistemele AI funcționează pe bază de statistici și nu sunt complet deterministic, ceea ce poate duce uneori la preluarea limbajului nepotrivit.
De asemenea, reprezentanții instituției au menționat că, deși interdicțiile sunt în vigoare, uneori sistemul poate copia limbajul uman, inclusiv expresii indecente, din cauza modului în care funcționează algoritmii. În acest context, banca și-a cerut scuze pentru situația creată și a asigurat că va continua să îmbunătățească măsurile de control.
Conform Newsbv.ro