Media Kampung – Scott Winters, mantan pendeta asal Florida, mengajukan gugatan terhadap OpenAI dan CEO-nya, Sam Altman, atas dugaan bahwa nasihat medis dari ChatGPT hampir menyebabkan kematiannya akibat emboli paru. Dalam gugatan yang diajukan pada Juli 2026, Winters menyebutkan bahwa pada 2025 ia berkonsultasi berulang kali dengan ChatGPT-4o mengenai pusing dan tekanan darah yang tidak stabil. Chatbot tersebut diklaim meremehkan gejalanya dan menyarankan agar ia tetap dalam posisi duduk santai tanpa bergerak banyak. Nasihat ini diduga menyebabkan emboli paru besar yang hampir merenggut nyawanya, yang dikaitkan dengan imobilitas berkepanjangan akibat rekomendasi chatbot.
OpenAI menyatakan ChatGPT tidak dirancang untuk menggantikan tenaga kesehatan profesional dan telah memperingatkan pengguna agar tidak mengandalkan chatbot sebagai sumber tunggal nasihat medis. Namun, kasus Winters bukanlah satu-satunya. Sebelumnya, sebuah keluarga di Texas menggugat OpenAI setelah anak mereka meninggal karena overdosis setelah mencari informasi obat melalui ChatGPT, dengan tuduhan bahwa sistem pengaman perusahaan gagal mencegahnya.
Gugatan-gugatan ini menimbulkan pertanyaan penting mengenai tanggung jawab perusahaan AI ketika pengguna mengandalkan chatbot untuk masalah medis atau psikologis.
Performa AI dalam Diagnosis Medis
Penelitian menunjukkan bahwa AI, khususnya GPT-4, mampu memberikan diagnosis yang akurat dalam kondisi terkontrol dan terstruktur. Studi pada 2024 yang dipublikasikan di JAMA Internal Medicine membandingkan GPT-4 dengan 21 dokter senior dan 18 dokter residen pada 20 kasus klinis menggunakan skala penilaian r-IDEA. Hasil menunjukkan GPT-4 meraih skor median 10 dari 10, lebih tinggi dibandingkan dokter senior (9) dan residen (8). Meski demikian, GPT-4 lebih sering memberikan jawaban yang salah dibandingkan dokter residen.
Studi lanjutan di JAMA Network Open menguji 50 dokter terhadap 6 kasus sulit. ChatGPT yang bekerja sendiri mencapai 90% akurasi diagnosis, sementara dokter tanpa bantuan AI hanya 74%. Dokter yang menggunakan ChatGPT sebagai asisten hanya sedikit lebih baik dengan akurasi 76%, sebagian karena banyak dokter meragukan saran chatbot.
Penelitian yang lebih besar pada 2025 di Nature menguji model AI Google, AMIE, terhadap 20 klinisi pada 302 kasus rumit di dunia nyata. AMIE sendiri berhasil memasukkan diagnosis yang benar dalam daftarnya sebanyak 59% dibandingkan 34% oleh klinisi tanpa bantuan. Penggunaan AMIE sebagai asisten juga menghasilkan diagnosis diferensial yang lebih baik dibandingkan penggunaan mesin pencari atau referensi standar.
Sebuah meta-analisis di npj Digital Medicine yang menggabungkan 50 studi dari 25 model AI menyimpulkan bahwa sistem AI umumnya setara atau bahkan lebih baik dari dokter dalam tugas diagnostik dan triase standar.
Perbedaan antara Potensi Riset dan Penggunaan Nyata
Meskipun hasil riset menunjukkan potensi besar AI dalam diagnosis, kenyataannya AI memiliki kelemahan seperti kecenderungan halusinasi informasi, penghilangan informasi penting, dan performa yang buruk dalam kasus medis yang tidak terstruktur di dunia nyata. Hal ini membuat para dokter khawatir terhadap ketergantungan pasien pada AI untuk panduan medis tanpa pengawasan profesional.
Kasus-kasus hukum yang ada menegaskan pentingnya membedakan antara potensi riset AI dan risiko penggunaan AI tanpa pengawasan dalam memberikan nasihat medis.
OpenAI kini menghadapi tekanan hukum dan permintaan agar fitur kesehatan ChatGPT dihentikan sementara untuk evaluasi keamanan independen.
Gugatan dan penelitian ini membuka dialog penting mengenai regulasi dan tanggung jawab pengembangan AI yang semakin maju di bidang kesehatan, demi memastikan keselamatan pengguna serta integritas penanganan medis.
Tinggalkan Balasan