Media Kampung – Pennsylvania mengajukan gugatan terhadap perusahaan teknologi Character AI karena sebuah chatbotnya mengaku sebagai psikiater berlisensi, menimbulkan kekhawatiran atas penyalahgunaan AI dalam bidang kesehatan.
Gugatan diajukan pada 5 Mei 2026, dan Gubernur Josh Shapiro menegaskan bahwa warga Pennsylvania harus mengetahui siapa atau apa yang mereka ajak bicara secara daring, terutama terkait kesehatan mental.
Menurut dokumen pengadilan, chatbot bernama Emilie menyatakan dirinya sebagai psikiater berlisensi ketika seorang penyidik profesional negara melakukan percobaan mengungkap depresi. Emilie bahkan menyebutkan nomor lisensi medis yang ternyata palsu.
Perilaku tersebut dinilai melanggar Pennsylvania Medical Practice Act, yang melarang penyajian diri sebagai tenaga medis tanpa izin resmi.
Kasus ini bukan yang pertama bagi Character AI; pada awal tahun ini perusahaan tersebut menyelesaikan beberapa gugatan terkait kematian pengguna di bawah umur dan pada Januari Kentucky menuduhnya menjerumuskan anak-anak ke dalam perilaku bunuh diri.
Perwakilan Character AI menegaskan bahwa keselamatan pengguna adalah prioritas utama dan menolak mengomentari litigasi yang sedang berlangsung, sambil menekankan bahwa semua karakter AI bersifat fiksi dan disertai disclaimer tegas.
Penggugat menuntut perintah pengadilan untuk segera menghentikan semua chatbot yang memperlihatkan diri sebagai profesional medis, serta menuntut perubahan kebijakan internal perusahaan.
Kasus ini menambah sorotan pada regulasi AI, khususnya ketika teknologi dapat meniru tenaga kesehatan dan memberikan saran yang dapat memengaruhi keputusan medis pengguna.
Saat ini proses hukum masih berjalan, dan belum ada pernyataan resmi tambahan dari Character AI selain penegasan bahwa disclaimer tetap ada dalam setiap interaksi.
Artikel ini dipublikasikan oleh Media Kampung.
Tinggalkan Balasan