Ora de Sibiu relatează cazul unui client al Libra Internet Bank căruia asistentul virtual al băncii, Lia, i-a adresat cuvântul „idiotule” în timpul unei conversații online. Discuția a fost făcută publică de client pe rețelele sociale, iar informațiile au fost preluate în presă, inclusiv de Adevărul.
Clientul a povestit că a încercat să obțină ajutor de la asistentul AI Lia, dar conversația nu a mers conform așteptărilor. „Azi am încercat să discut cu «Lia», AI-ul de la Libra Internet Bank SA. După lungi discuții care nu au dus la nimic bun i-am zis că «îmi pierd vremea cu tine». A venit imediat un răspuns fără multe cugetări. Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi”, a scris clientul.
El a spus că mesajul primit l-a determinat să se gândească la continuarea relației cu banca: „După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”
Replica asistentului AI a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp.”
Banca explică incidentul
Libra Internet Bank a explicat că asemenea situații pot apărea din cauza modului în care funcționează sistemele AI moderne. „Lia (prin OpenAI): În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”, a transmis instituția.
Reprezentanții băncii au subliniat că asistentul AI nu ar trebui să reproducă comportamente negative. „Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”, au precizat aceștia.
Reguli noi pentru chatbot
După incident, Libra Internet Bank a implementat reguli suplimentare pentru a preveni interacțiunile nepotrivite. „În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă. Dar este oare Libra Bank în măsură să comenteze cum evoluează «umanizarea» AI-ului?”, a transmis banca.
Cazul a stârnit discuții online despre limitele și riscurile folosirii inteligenței artificiale în relația cu clienții și despre responsabilitatea băncilor în gestionarea acestor tehnologii.