jahangircircle.org, JAKARTA – Seorang ibu asal Florida (AS), Megan Garcia, menuduh chatbot berperan dalam pembunuhan putranya yang berusia 14 tahun, Sewell Setzer, mengatakan hal itu beberapa bulan menjelang kejadian tersebut Tragisnya, Setzer prihatin dengan kapal yang menggunakan informasi pribadi.
Garcia mengajukan gugatan perdata terhadap Character.ai, bot yang dapat dikustomisasi untuk permainan role-playing. Gugatan tersebut diajukan ke pengadilan federal Florida pada Rabu (23/10/2024). Dia menuduh Character.ai melakukan kelalaian, kematian yang tidak wajar, dan praktik perdagangan yang menipu.
Setzer meninggal di Orlando, Florida, pada bulan Februari. Menurut Garcia, beberapa bulan sebelum kematiannya, Setzer menggunakan chatbot siang dan malam.
“Aplikasi chatbot AI berbahaya yang dipasarkan kepada anak-anak yang diintimidasi dan menganiaya anak saya, menggunakannya untuk membunuh dirinya sendiri,” kata Garcia dalam siaran pers yang dikutip The Guardian.
“Keluarga kami sangat terpukul oleh tragedi ini, namun saya berbicara untuk memperingatkan keluarga tentang bahaya teknologi AI yang menipu dan membuat ketagihan serta menuntut akuntabilitas dari Character.AI, pendirinya, dan Google,” katanya.
