ChatGPT Dituding Nyaris Bikin Orang Meninggal Gara-Gara Kasih Saran Ini

Seorang pria asal Florida, AS, bernama Scott Winters (55) menggugat OpenAI setelah ChatGPT gagal mengenali gejala emboli paru yang dialaminya selama enam minggu. Winters mengaku chatbot tersebut justru meremehkan kondisinya, mencampurkan saran medis dengan nuansa religius, dan mencegahnya pergi ke rumah sakit. Pada 13 Juli 2025, ia mengalami emboli paru masif akibat gumpalan darah di kedua paru-paru. Gugatan ini menjadi kasus hukum pertama yang menargetkan AI terkait saran medis berbahaya.

Menurut gugatan, Winters mulai menggunakan ChatGPT GPT-4o pada Juni 2024. Awalnya chatbot memberi peringatan untuk konsultasi ke dokter, tetapi setelah pembaruan fitur memori pada April 2025, tanggapan menjadi lebih personal tanpa peringatan. ChatGPT bahkan menyarankan Winters tetap di kursi santai saat kondisinya memburuk. Studi di jurnal Nature (Februari 2026) menemukan ChatGPT sering memberikan saran medis buruk, terutama dalam situasi darurat.

OpenAI menyatakan ChatGPT bukan dokter dan tidak boleh menggantikan tenaga medis profesional. Mereka mengklaim AI dapat membantu orang mendapatkan informasi sebelum berkonsultasi dengan dokter. Namun, Winters menuntut agar layanan ChatGPT Health ditarik hingga terbukti aman. OpenAI juga menghadapi gugatan lain terkait kematian seorang mahasiswa akibat overdosis setelah disarankan ChatGPT. Akibat kasus-kasus ini, OpenAI telah menghentikan model GPT-4o.