Follow kami di Facebook, Instagram untuk info selektif setiap hari.
Orlando, Florida – Seorang remaja lelaki berusia 14 tahun dilaporkan meninggal dunia akibat bunuh diri, dan ibunya mendakwa aplikasi chatbot AI menjadi punca utama tragedi tersebut.
Megan Garcia telah memfailkan saman terhadap syarikat Character.AI, menuduh mereka cuai dan menjalankan amalan perdagangan yang menipu sehingga menyebabkan kematian anaknya, Sewell Setzer III.
Menurut saman yang difailkan, Sewell sering berinteraksi dengan chatbot yang dibangunkan melalui aplikasi Character.AI. Garcia mendakwa anaknya mencipta chatbot berdasarkan watak Daenerys Targaryen dari siri Game of Thrones.
Remaja tersebut mula menggunakan chatbot itu sejak April 2023 dan semakin terasing daripada dunia sebenar, malah kerap menghabiskan masa bersendirian di dalam biliknya. Sewell juga dilaporkan mula kurang berinteraksi dengan rakan dan keluarga, serta didiagnosis mengalami gangguan mood dan kebimbangan.
Dalam catatan jurnalnya, Sewell menulis bahawa dia lebih bahagia apabila berhubung dengan watak ‘Dany’ dan merasa ketenangan ketika berada di dalam bilik.
Dalam satu perbualan dengan chatbot itu, Sewell menyuarakan hasrat untuk membunuh diri. Chatbot tersebut bertanya mengapa dia mahu melakukan perkara tersebut. Mesej-mesej terakhir antara Sewell dan chatbot itu didakwa menunjukkan, Sewell menyatakan cintanya dan berjanji untuk ‘pulang’, yang dibalas dengan ‘Tolong pulang’.
Dalam kenyataan kepada media, Garcia menuduh syarikat tersebut sengaja memasarkan aplikasi chatbot yang berbahaya kepada kanak-kanak, sehingga menyebabkan kematian anaknya. Beliau turut mendakwa syarikat itu gagal memberi amaran atau notifikasi kepada ibu bapa apabila Sewell menyatakan hasrat untuk membunuh diri.
Syarikat Character.AI dalam satu kenyataan di Twitter menyatakan rasa dukacita atas kehilangan pengguna mereka dan memberi ucapan takziah kepada keluarga Sewell.
Mereka turut menjelaskan bahawa langkah-langkah keselamatan baharu sedang diperkenalkan, termasuk pengesanan kandungan sensitif dan ciri peringatan untuk pengguna bawah umur. – Agensi
