Menggunakan ChatGPT untuk diagnosa medis akhirnya sangat tidak disarankan. Sebab, akurasi ChatGPT dalam memberikan diagnosa medis hanya sekitar 49 persen, atau kurang dari setengahnya. Dengan kata lain, hampir separuh dari diagnosa yang diberikan oleh chatbot ini bisa saja salah.

Mengutip Live Science, Rabu (21/8/2024), sejumlah ilmuwan melakukan penelitian dan meminta ChatGPT yang menggunakan model GPT 3.5, untuk menganalisis 150 kasus medis yang diambil dari situs medis terkemuka, Medscape. Hasilnya ternyata mengecewakan. ChatGPT hanya mampu memberikan diagnosa yang benar pada kurang dari setengah kasus. Ini tentu saja jauh dari kata memuaskan, apalagi jika menyangkut kesehatan seseorang

Meski teknologi AI ini pernah dinyatakan lulus dalam Ujian Lisensi Medis Amerika Serikat (USMLE), tapi para peneliti memperingatkan agar tidak terlalu mengandalkan chatbot ini untuk kasus medis yang rumit.

Dr. Armit Kirpalani, seorang dokter spesialis anak, menekankan bahwa ChatGPT belum bisa menggantikan peran dokter.

“Jika orang merasa takut, bingung, atau tidak bisa mengakses perawatan, mereka mungkin akan bergantung pada alat seperti ChatGPT untuk mendapatkan nasihat medis. Ini bisa berbahaya jika mereka menganggap nasihat tersebut benar," katanya.

Kemampuan ChatGPT dalam memberikan informasi medis didasarkan pada data yang dikumpulkan dari berbagai sumber online. Namun cara kerja AI seperti ChatGPT adalah mengenali pola dari data tersebut dan memprediksi jawaban yang mungkin sesuai. 

Sayangnya, AI ini masih sering membuat kesalahan atau bahkan memberikan jawaban yang tidak berdasar, yang bahkan disebut "berhalusinasi" oleh para ahli. 

Dalam penelitian ini, ChatGPT diberi berbagai studi kasus medis yang menantang, termasuk riwayat pasien, hasil pemeriksaan fisik, dan gambar dari laboratorium. AI kemudian diminta untuk memilih satu dari empat kemungkinan jawaban dan memberikan diagnosis serta rencana perawatan. Akan tetapi hasil diagnose ChatGPT lebih sering salah dibanding benar.

Namun para peneliti juga mengakui bahwa AI seperti ChatGPT masih memiliki potensi dalam dunia medis, terutama sebagai alat bantu dalam mengajar mahasiswa kedokteran atau memberikan informasi kepada pasien. Namun penggunaannya harus disertai dengan pengawasan ketat dan pengecekan fakta yang menyeluruh. []