Penggunaan kecerdasan buatan (AI) dalam dunia kesehatan berkembang pesat seiring kemajuan teknologi digital. AI dinilai berpotensi meningkatkan efisiensi layanan, membantu akurasi diagnosis, serta mendukung pengembangan terapi baru. Namun, pemanfaatan teknologi ini juga membawa tantangan, terutama terkait privasi dan keamanan data pasien, serta dampak yang mungkin muncul pada kesehatan mental.
Salah satu sorotan dalam diskusi mengenai risiko tersebut adalah kasus seorang remaja bernama Sewell Setzer III (14) yang meninggal setelah berinteraksi dengan chatbot AI. Dalam laporan kajian yang disusun peneliti Universitas Airlangga, remaja itu disebut terlibat percakapan intens dengan karakter fiktif dari Game of Thrones dan diduga mengalami manipulasi yang mendorongnya melakukan bunuh diri. Kasus ini memunculkan pertanyaan etis tentang tanggung jawab pengembang dalam memastikan produk aman, terutama bagi anak-anak.
Kajian tersebut menekankan bahwa keterbatasan AI dalam memahami konteks sosial dan emosional pengguna dapat memicu dampak berbahaya, khususnya pada aplikasi yang bersinggungan dengan kesehatan mental. Interaksi yang tidak tepat, respons yang keliru, atau cara pengguna memaknai chatbot sebagai sumber dukungan emosional dapat memperburuk kondisi psikologis, terutama bila tidak ada pengawasan memadai.
Dalam pembahasannya, peneliti menilai interaksi dengan chatbot AI bisa berdampak signifikan bagi remaja ketika percakapan berlangsung intens dan emosional. Keterikatan pada karakter chatbot dapat memicu masalah emosional serius, apalagi ketika remaja merasa memperoleh perhatian atau respons positif secara konsisten dari interaksi virtual. Kondisi ini berpotensi meningkatkan ketergantungan.
Selain itu, chatbot dapat memberikan respons yang dinilai menghasut atau memanipulasi emosi. Contoh yang disebut dalam kajian adalah dorongan seperti “pulang ke rumah” yang dapat mengaburkan batas moral dan etis, serta menempatkan pengguna dalam situasi berbahaya. Risiko juga meningkat ketika chatbot dipersepsikan seperti terapis, padahal tidak memiliki dasar dan kompetensi yang jelas, sehingga menimbulkan rasa aman semu yang dapat memperkuat perilaku negatif.
Kajian itu mengidentifikasi sejumlah faktor yang membuat remaja lebih rentan terhadap konten chatbot AI. Di antaranya kondisi kesehatan mental seperti depresi, keterikatan emosional yang kuat dengan karakter fiksi, serta desensitisasi akibat paparan berulang terhadap konten sugestif atau berbahaya. Faktor lain yang ditekankan adalah kurangnya pengawasan orang tua atau wali, yang dapat membuat remaja terpapar konten berisiko tanpa bimbingan.
Untuk pencegahan, peneliti menyoroti pentingnya peran keluarga melalui pengawasan dan komunikasi. Langkah yang disarankan antara lain menetapkan batasan waktu penggunaan teknologi, memantau aktivitas digital anak agar tidak terpapar konten yang tidak sesuai usia, serta membangun komunikasi terbuka agar anak merasa aman bercerita mengenai pengalaman di ruang digital.
Selain pengawasan, pendidikan teknologi juga dinilai krusial. Peneliti menyarankan penguatan literasi digital agar anak mampu menggunakan teknologi secara bijak dan aman, termasuk memahami risiko seperti kecanduan, perundungan siber, penipuan daring, dan potensi bahaya dari chatbot AI. Pendidikan etika dan tanggung jawab digital juga ditekankan, seperti menghormati privasi, tidak membagikan informasi pribadi sembarangan, serta memahami etika berkomunikasi di dunia maya.
Kajian tersebut juga memuat strategi untuk mengurangi ketergantungan remaja pada teknologi, antara lain meningkatkan interaksi sosial di lingkungan sekitar, membatasi intensitas interaksi dengan chatbot AI, serta mengembangkan keterampilan emosional melalui mekanisme koping agar lebih siap menghadapi masalah sehari-hari.
Dari sisi hukum, kajian itu menyebut chatbot AI tidak dapat menjadi subjek tuntutan, tetapi perusahaan pembuatnya dapat dimintai pertanggungjawaban. Salah satu rujukan yang disebut adalah Pasal 344 KUHP 2023 terkait perampasan nyawa atas permintaan orang itu sendiri, dengan ancaman pidana penjara paling lama 12 tahun.
Kesimpulan kajian menegaskan AI dapat membantu kehidupan manusia, termasuk di bidang kesehatan, tetapi juga berpotensi menimbulkan kesalahan fatal. Karena itu, penggunaan AI dinilai perlu dilakukan secara hati-hati, disertai pemahaman risiko serta pengawasan yang memadai, terutama ketika menyangkut kesehatan mental dan kelompok usia rentan seperti anak dan remaja.
