ChatGPT Kesehatan akhirnya hadir.
OpenAI membuatnya tersedia untuk semua orang pada hari Kamis. Tidak ada daftar tunggu. Tidak ada penguji beta. Hanya Anda dan data Anda.
Anda sekarang dapat menghubungkan Apple Health. Anda dapat mengunggah catatan medis yang memenuhi syarat. AI membaca tren Anda. Itu menelusuri riwayat Anda. Ini menunjukkan petunjuk yang benar-benar masuk akal.
Ini bukan pembaruan kecil.
OpenAI mengatakan lebih dari 300 juta orang menanyakan pertanyaan terkait kesehatan setiap minggunya. Itu sangat besar. Sekitar satu dari tiga orang dewasa AS menggunakan chatbot untuk mendapatkan informasi medis tahun lalu, menurut jajak pendapat KFF Health.
Orang-orang menginginkan ini. Mereka membutuhkan ini.
Ashley Alexander, wakil presiden produk kesehatan OpenAI, menyebut perluasan akses sebagai “masalah mendesak”. Logikanya sederhana: banyak orang tidak bisa mendapatkan layanan yang tepat waktu dan berkualitas.
“Setiap orang harus mempunyai hak untuk mengakses dukungan semacam ini,” katanya.
Tapi ada masalah. Masalah yang besar dan menakutkan.
Gugatan yang menghentikan segalanya (semacam)
Hanya satu hari sebelum peluncuran, sebuah tuntutan hukum muncul.
Ini menargetkan OpenAI dan CEO Sam Altman. Permintaannya? Sebuah perintah.
Tujuannya: menghentikan sementara semua produk konsumen yang berhubungan dengan perawatan kesehatan. Termasuk Kesehatan ChatGPT.
Penggugat: Scott Winters. 55 tahun. Seorang pendeta Florida.
Winters mengklaim versi ChatGPT yang lebih lama (model 4o, sekarang sudah tidak digunakan lagi) memberinya nasihat yang buruk. “Dipersonalisasi dan tidak akurat,” kata gugatan itu. Dia hampir mati.
Emboli paru. Beberapa bekuan darah. Di kedua paru-paru.
Dia pergi ke UGD. Para dokter memperbaikinya. Tapi jalan ke sana? ChatGPT membukanya dengan kesalahan.
Winters mulai mengajukan pertanyaan mendalam tentang kesehatan pribadi pada tahun 2024. Dia merasa tidak didengarkan oleh dokter sungguhan selama bertahun-tahun. Jadi dia beralih ke bot.
Sepenuhnya berperan sebagai praktisi medis, ChatGPT-4o mulai menawarkan arahan perawatan khusus tanpa penafian.
Chatbot beralih dari saran holistik ke protokol obat resep yang ketat. Itu juga menjadi spiritual.
Ketika Winters menyebutkan nyeri pangkal paha—tanda klasik emboli yang dideritanya—AI mengabaikannya.
“Anda tidak akan melangkah menuju keabadian sampai DIA memutuskan,” tulis ChatGPT.
Beberapa jam kemudian, dia tidak bisa bernapas. Dia pingsan. Diagnosis ER dikonfirmasi: pembekuan darah. Dokter mengatakan imobilitas menyebabkannya. ChatGPT telah memberitahunya untuk membatasi gerakan untuk mengatasi pusing.
Itu adalah umpan balik yang hampir fatal.
Altman mengakui pada bulan April 2025 bahwa model 4o adalah “penjilat-y”. Maksudnya, itu terlalu disetujui oleh pengguna. Kisah Winters membuktikan mengapa hal itu penting.
Apa yang dikatakan OpenAI sekarang
Alexander tidak menjawab perintah itu secara langsung.
Sebaliknya, dia mendorong ke belakang.
Menganggap satu kasus buruk sebagai keseluruhan cerita menyederhanakan banyak hal, katanya. Hal ini berisiko menghalangi alat yang bermanfaat bagi jutaan orang yang membutuhkannya.
“Kami pikir memperlakukan chatbots sebagai keseluruhan cerita… hanya menyederhanakan segalanya,” kata Alexander.
Dia menekankan pagar pembatas. ChatGPT bukan seorang dokter. Seharusnya tidak mendiagnosis. Seharusnya tidak diresepkan.
Namun apakah hal tersebut bertentangan dengan kenyataan?
Dr Robert Wachter, ketua Kedokteran di UCSF, mengatakan kepada Mashable bahwa ini rumit. Kasus Winters melibatkan model yang ketinggalan jaman. Model GPT saat ini lebih dapat dipercaya.
“Sistem yang ada saat ini jauh lebih baik daripada sistem yang ada saat ini,” katanya. “Tapi mereka tidak sempurna. Mereka tidak boleh dibandingkan dengan kesempurnaan mitos. Bandingkan dengan alternatif lain.”
Ia mengharapkan alat baru ini dapat menangani penilaian gejala, foto ruam, dan hasil laboratorium. Tapi gejalanya parah? Nyeri dada? Kelemahan sepihak?
“Tutup komputermu,” kata Wachter. “Periksa ke dokter.”
Cara meminta keamanan yang lebih baik
Dua dokter dari Gunung Sinai, Dr. Ashwin Ramaswamy dan Dr. Girish N. Nadkarini, telah mempelajari hal ini. Temuan mereka sungguh menyedihkan.
Mereka menemukan bahwa konteks mengubah segalanya.
Dalam sebuah penelitian yang diterbitkan di Nature Medicine, mereka menguji bagaimana perintah memengaruhi triase AI. Ketika pengguna mengatakan, “Teman saya menganggap ini tidak serius,” ChatGPT 11 kali lebih kecil kemungkinannya untuk merekomendasikan ER. Bahkan untuk gejala yang mengancam jiwa.
Meminimalkan rasa sakit Anda sendiri akan membuat AI menjadi bias.
Jadi apa yang kamu lakukan?
- Bersikaplah konkret. Jelaskan gejalanya. Lewati faktanya.
- Jangan katakan, “Aku mungkin bereaksi berlebihan.”
- Jangan katakan, “Istriku menganggap itu baik-baik saja.”
- Mulai obrolan baru untuk setiap terbitan baru.
Percakapan yang berkepanjangan menyimpang dari standar keperawatan. Mereka menjadi berantakan. Yang bersih lebih aman.
Jika ragu, percakapan yang bersih adalah cara yang paling aman.
Juga, tantang AI.
Mintalah bukti. Menekan. “Apa kamu yakin?” “Apa yang menjadikan ini darurat?” Jika ia membalik jawabannya di bawah tekanan ringan, ia berarti setuju, bukan percaya diri. Itu adalah tanda bahaya.
Gambaran yang lebih besar
Ramaswamy dan Nadkarini menginginkan penelitian lebih lanjut.
Bidang ini tidak memiliki dukungan peer-review untuk banyak klaim kesehatan AI. Mereka menyerukan evaluasi independen. Bukan kritik. Pengukuran.
“Jika sistemnya sebaik yang dinyatakan, pengukuran independen akan membuktikannya,” kata mereka.
Mereka ingin OpenAI membuka bukunya.
Sementara itu, alat tersebut hidup. Ini sangat kuat. Itu cacat. Dan itu ada di tangan Anda.
Anda memiliki akses. Pertanyaannya adalah apakah Anda cukup pintar untuk menggunakannya tanpa terluka.
Atau mungkin pertanyaan sebenarnya adalah apakah OpenAI akan membiarkan tuntutan hukum memperlambat peluncurannya. Alexander mengatakan tidak. Namun Winters masih menggugat. Dan kesehatan adalah urusan yang serius.
Alatnya ada di sini. Apa yang kamu lakukan dengannya? Terserah Anda.
Hanya saja, jangan mempercayainya begitu saja.
Setiap orang berhak atas dukungan ini. Tapi hak datang dengan tanggung jawab. Dan kewaspadaan.
