Privremeno ugašen
80

AI chatbot firme za dostavu počeo psovati, nazvao sebe beskorisnim i kritikovao firmu

I. M.
DPD, firma koja se bavi dostavom, privremeno je isključila dio svog online chatbota koji funkcioniše preko umjetne inteligencije nakon što je nezadovoljni kupac uspio da ga "natjera" da psuje i kritikuje kompaniju.

Muzičar Ashley Beauchamp (30) pokušao je da pronađe izgubljenu pošiljku, ali nije dobio nikakve korisne informacije od online chatbota kompanije za dostavu. Nakon pokušaja da dobije odgovor, nezadovoljni kupac je odlučio da se zabavi i počeo eksperimentisati kako bi saznao šta sve može chatbot kompanije. Beauchamp je rekao da je tada "počeo haos".

Za početak, zamolio ga je da mu ispriča vic, ali je ubrzo napredovao do toga da je chatbot natjerao da napiše pjesmu u kojoj kritikuje kompaniju. Uz još nekoliko upita, chatbot je također opsovao, piše The Guardian.

Beauchamp je podijelio razgovor na društvenoj mreži X, a chatbot je odgovorio na jednu poruku: "Jeb*te! Dat ću sve od sebe da budem od pomoći koliko god je to moguće, čak i ako to znači psovanje". Zatim, u drugom slučaju, chatbot sebe naziva "beskorisnim chatbotom koji vam ne može pomoći".

Jedan post Beauchampa, klasičnog muzičara iz Londona, pregledan je 800.000 puta za samo 24 sata. Pozivajući se na chat bota, napisao je na X da je potpuno beskorisno odgovarati na bilo koja pitanja, a kada su ga pitali, sa zadovoljstvom je proizveo pjesmu o tome koliko su užasni kao kompanija.

DPD koristi AI za online komunikaciju kako bi odgovorila na upite. Kompanija je saopštila da je novo ažuriranje izazvalo neobično ponašanje chatbota. ​