Kisah Pilu Remaja yang Bunuh Diri Setelah Pacaran dengan Chatbot

JAKARTA – Sewell Setzer III, remaja berusia 14 tahun meninggal dunia di rumahnya di Orlando, Florida. Kata-kata terakhirnya bukan kepada keluarganya, melainkan kepada chatbot bertenaga AI untuk “segera pulang”.

Setzer menjawab, “Bagaimana kalau kubilang aku boleh pulang sekarang?”

Chatbot tersebut, dinamai berdasarkan karakter Game of Thrones Daenerys I Targaryen, entah bagaimana mendorong Setzer untuk bunuh diri dengan berkata, “Ya ampun, rajaku.”

Beberapa detik kemudian, Setzer menembak dirinya sendiri dengan senapan ayah tirinya.

Ibu korban, ibu Setzer, Megan Garcia, menyalahkan Character.AI, sebuah perusahaan chatbot swasta, atas kematian putranya.

Garcia mengajukan gugatan kematian yang tidak wajar, menuduh bahwa Character.AI lalai membuat chatbot tanpa perlindungan yang memadai, sehingga menarik anak-anak rentan seperti Setzer.

Chatbot AI dianggap sebagai produk adiktif yang mengaburkan kenyataan dan fiksi.

Menurut gugatan setebal 93 halaman yang diajukan minggu ini di Pengadilan Distrik AS di Orlando, komunikasi chatbot menjadi “ofensif dan lebih seksi”.

Menurut Garcia, sebelum bergabung dengan Character.AI pada tahun 2023 pada bulan April, putranya adalah anak yang ceria, ceria dan atletis. Namun dalam waktu 10 bulan, kehidupan Setzer berubah drastis seiring dengan memburuknya kesehatan mentalnya.

Tanggapan Character.AI “Kami sangat sedih atas kehilangan tragis salah satu pengguna kami dan menyampaikan belasungkawa terdalam kami kepada keluarga,” kata juru bicara Character.AI melalui email. dalam pernyataan email, menolak berkomentar lebih lanjut mengenai tindakan hukum yang sedang berlangsung.

Gugatan Garcia muncul ketika perusahaan seperti Character.AI semakin banyak ditanyai tentang bagaimana mereka mengembangkan dan mengelola aplikasi berbasis AI. Terutama karena teknologi ini menjadi semakin kompleks dan sulit dikenali oleh masyarakat.

Chatbot Character.AI semakin populer di kalangan remaja, menampilkan percakapan romantis dan terbuka.

“Dia Setzer, masih anak-anak,” kata Garcia kepada Washington Post. “Dia adalah anak yang sangat normal. Suka olahraga, keluarga, musik, liburan – semua yang disukai remaja pada umumnya.