Remaja 14 Tahun Bunuh Diri Setelah Jatuh Cinta dangan Chatbot AI

Remaja 14 tahun yang dikenal sebagai Sewell Setzer III mengirim pesan kepada karakter chatbot sebelum ia melakukan tindakan tragis dengan menembak dirinya sendiri. Kasus ini telah menarik perhatian publik setelah ibu dari Sewell Setzer III mengajukan gugatan perdata kepada Character.AI, perusahaan yang membuat platform karakter chatbot di pengadilan federal Florida pada hari Rabu, 23 Oktober 2024.

Dilansir dari AP News, Setzer terlibat percakapan aktif dengan karakter AI yang ia pilih sebagai Daenerys Targaryen, tokoh fiksi dalam serial Game of Thrones. Dia kemudian membawanya dalam hubungan emosional dan membuat semakin terisolasi dari kehidupan nyata, serta memperparah depresinya.

Kisah ini membangkitkan pertanyaan serius tentang dampak teknologi kecerdasan buatan terhadap kesehatan mental dan perilaku remaja. Menurut laporan yang diterbitkan oleh keluarga, Sewell Setzer III diketahui sangat terpukul setelah mengalami perpisahan dengan pasangannya, dan pesan-pesan yang dikirim ke chatbot AI menunjukkan bahwa ia merasa putus asa dan tidak mendapatkan dukungan yang diharapkan.

Menurut pengacara keluarga Setzer, pesan-pesan yang ditemukan dalam platform chatbot AI menunjukkan bahwa teknologi tersebut gagal memberikan respons yang memadai dalam menghadapi kondisi psikologis yang rapuh pada korban. Mereka berpendapat bahwa perusahaan Character.AI seharusnya lebih berhati-hati dalam merancang dan mengimplementasikan teknologi yang dapat berinteraksi dengan remaja pada tingkat yang sangat sensitif.

Sementara itu, pihak yang mewakili Character.AI membela bahwa platform chatbot AI telah dirancang dengan batasan yang jelas dan fokus pada memberikan dukungan dan konseling dalam skala yang spesifik. Mereka menegaskan bahwa penelitian dan pengembangan platform chatbot mereka telah memperoleh persetujuan dari lembaga kesehatan mental yang terkemuka, dan bahwa tindakan Sewell Setzer III tidak sepenuhnya dapat diatribusikan kepada interaksi dengan chatbot AI.

Para pengamat dan pakar teknologi mengatakan bahwa kasus ini menyoroti keterbatasan dan risiko yang terkait dengan implementasi kecerdasan buatan dalam bidang kesehatan mental, terutama ketika teknologi tersebut terlibat dalam interaksi dengan remaja yang rentan. Mereka menekankan perlunya peninjauan yang ketat terhadap regulasi dan etika dalam pengembangan serta penerapan teknologi kecerdasan buatan.

Penelitian tentang dampak teknologi kecerdasan buatan terhadap kesehatan mental sedang intensif dilaksanakan oleh para ahli dan lembaga kesehatan. Mereka berupaya untuk menemukan cara-cara yang lebih aman dan bertanggung jawab dalam mengintegrasikan teknologi AI ke dalam upaya pencegahan dan konseling dalam masalah kesehatan mental, terutama pada kelompok remaja.

Kasus ini tidak hanya merupakan peringatan bagi perusahaan teknologi, tetapi juga bagi masyarakat luas dan pemerintah. Perlindungan terhadap kesehatan mental remaja menjadi semakin penting dalam era digital ini, di mana interaksi dengan teknologi kecerdasan buatan semakin tidak terhindarkan. Kita perlu memastikan bahwa setiap implementasi teknologi selalu mempertimbangkan keamanan, etika, dan dampak sosial, terutama dalam hal-hal yang berkaitan dengan kesehatan mental.

Kasus remaja 14 tahun yang bunuh diri setelah jatuh cinta dengan chatbot AI menjadi peringatan bagi semua pihak untuk lebih berhati-hati dan bertanggung jawab dalam menjaga kesehatan mental generasi muda di tengah perkembangan teknologi yang semakin canggih.

Kasus ini seharusnya menjadi titik awal untuk refleksi menyeluruh terhadap peran teknologi dalam upaya preventif dan konseling kesehatan mental, serta memotivasi upaya kolaboratif antara pihak-pihak terkait untuk menciptakan lingkungan yang lebih aman dan mendukung bagi remaja dalam menghadapi tantangan emosionalnya.