sehatnews.id – Perawatan kesehatan yang didukung oleh kecerdasan buatan atau artificial intelligence (AI) berpotensi mengubah pengambilan keputusan dan pengobatan medis, tetapi AI harus diuji secara menyeluruh dan terus dipantau untuk menghindari konsekuensi yang tidak diinginkan pada pasien.
Dalam JAMA Network Open Invited Commentary, Regenstrief Institute President and Chief Executive Officer and Indiana University School of Medicine Associate Dean for Informatics and Health Services Research ,Peter Embí, M.D., M.S., menyatakan pentingnya kewaspadaan algoritma untuk mengatasi bias yang melekat dalam AI perawatan kesehatan dan penyebarannya.
Algoritmovigilans, istilah yang diciptakan oleh Dr. Embí, dapat didefinisikan sebagai metode dan aktivitas ilmiah yang berkaitan dengan evaluasi, pemantauan, pemahaman, dan pencegahan efek samping AI dalam perawatan kesehatan.
“Kami tidak akan berpikir untuk merawat pasien dengan obat atau perangkat baru tanpa terlebih dahulu memastikan kemanjuran dan keamanannya,” kata Dr. Embí seperti dikutip eurekalert.org.
“Dengan cara yang sama, kita harus menyadari bahwa AI memiliki potensi keuntungan dan kerugian yang besar, oleh karena itu memerlukan studi,” lanjutnya.
Dibandingkan dengan obat atau perangkat, AI sering kali memiliki kerumitan dan variasi tambahan, seperti cara penerapannya, yang berinteraksi dengan mereka, dan alur kerja klinis tempat terjadinya interaksi dengan AI.
Komentar Dr. Embi itu sebagai tanggapan atas studi oleh ilmuwan IBM yang mengevaluasi pendekatan yang berbeda untuk AI perawatan kesehatan, yang dikembangkan untuk memprediksi depresi pascapersalinan.
Dr. Embí mengungkapkan, studi tersebut menunjukkan bahwa metode debiasing dapat membantu mengatasi perbedaan mendasar yang direpresentasikan dalam data yang digunakan untuk mengembangkan dan menerapkan pendekatan AI.
Dia juga mengatakan studi tersebut menunjukkan bahwa evaluasi dan pemantauan AI untuk efektivitas dan ekuitas diperlukan dan bahkan diperlukan secara etis.
Performa algoritmik berubah saat diterapkan dengan data yang berbeda, pengaturan yang berbeda, dan interaksi manusia-komputer yang berbeda.
“Faktor-faktor ini dapat mengubah alat yang bermanfaat menjadi alat yang menyebabkan kerusakan, jadi AI ini harus terus dievaluasi untuk menghilangkan ketidakadilan yang melekat dan sistemik yang ada dalam sistem perawatan kesehatan kami,” ungkapnya.
“Oleh karena itu, sangat penting bagi kami untuk terus mengembangkan alat dan kemampuan untuk memungkinkan pengawasan dan kewaspadaan sistematis dalam pengembangan dan penggunaan AI dalam perawatan kesehatan,” pungkas Dr. Embi. (jos)
