Kecerdasan buatan (Artificial Intelligence/AI) semakin banyak digunakan dalam pelayanan kesehatan dalam membantu diagnosis, memprediksi risiko pasien, hingga mendukung pengambilan keputusan klinis. Namun, inovasi AI yang benar-benar berhasil diterapkan dalam praktik klinis diketahui hanya sedikit. Fenomena ini dikenal sebagai AI translation gap, yaitu kesenjangan antara hasil penelitian AI dan implementasinya. Overgaard, et. al (2023) menyoroti bahwa salah satu penyebab utama kesenjangan tersebut adalah ketidaksiapan organisasi pelayanan kesehatan dalam mengelola pengembangan, implementasi, dan pemantauan teknologi AI secara sistematis. Para penulis mengusulkan penerapan Quality Management System (QMS) atau Sistem Manajemen Mutu sebagai kerangka kerja yang dapat membantu rumah sakit dan organisasi kesehatan memastikan bahwa teknologi AI yang digunakan benar-benar aman, efektif, etis, dan sesuai regulasi.
QMS merupakan sistem yang mendokumentasikan proses, prosedur, tanggung jawab, serta standar mutu yang harus dipenuhi sepanjang siklus hidup suatu produk. Dalam konteks AI kesehatan, QMS tidak hanya mengatur tahap pengembangan teknologi tetapi juga mencakup implementasi, pemeliharaan, evaluasi, hingga pemantauan setelah sistem digunakan dalam pelayanan pasien. Terdapat tiga komponen utama QMS yang penting untuk mendukung implementasi AI di layanan kesehatan, yaitu budaya dan sumber daya manusia (People & Culture), proses dan data (Process & Data), serta teknologi yang tervalidasi (Validated Technology). Ketiga komponen tersebut harus berjalan secara terpadu agar rumah sakit mampu mengintegrasikan inovasi AI dengan standar pelayanan klinis yang tinggi.
Dalam penerapannya, salah satu tantangan terbesar QMS adalah masih terpisahnya penggunaan AI dan proyek perbaikan mutu rumah sakit. Ketika teknologi AI dianggap siap digunakan untuk pelayanan pasien, tim pengembang sering mengulang beberapa tahapan karena belum memenuhi persyaratan mutu, dokumentasi, atau regulasi. Kondisi ini menyebabkan pemborosan waktu, biaya, dan sumber daya. Oleh karena itu, peneliti juga menyarankan pentingnya pembentukan budaya mutu berbasis AI yang baik sejak dini. Pembentukan budaya mutu dapat dimulai dari pengendalian desain AI, pengelolaan versi perangkat lunak, validasi sistem, audit, dan pengecekan dokumentasi yang dapat ditelusuri.
Selain aspek mutu, penerapan prinsip etika juga menjadi perhatian utama. AI di bidang kesehatan harus memenuhi prinsip efektivitas, keselamatan, keadilan, kesetaraan, akuntabilitas, transparansi, privasi, dan keamanan data. Organisasi kesehatan tetap perlu menerapkan prinsip-prinsip tersebut sebagai bagian dari tanggung jawab profesional dan perlindungan pasien ketika suatu aplikasi AI belum termasuk kategori yang diatur secara ketat oleh regulator.
Overgaard, et. al (2023) juga menyoroti pentingnya pendekatan berbasis risiko (risk-based approach). Dalam pendekatan ini, rumah sakit harus mengidentifikasi potensi risiko yang timbul dari penggunaan AI kemudian menganalisis dampaknya terhadap pasien maupun alur kerja klinis serta merancang strategi mitigasi. Risiko yang perlu diperhatikan tidak hanya terkait keselamatan pasien tetapi juga bias algoritma, ketidakadilan pelayanan, pelanggaran privasi data, hingga kegagalan sistem yang dapat mengganggu pelayanan kesehatan. Secara lebih lanjut, sistem AI tentunya juga harus terus dipantau melalui mekanisme monitoring, pelaporan insiden, analisis akar masalah, dan tindakan korektif dan pencegahan (Corrective and Preventive Action/CAPA). Melalui cara ini, organisasi dapat mendeteksi perubahan performa algoritma, mengidentifikasi masalah sejak dini, dan melakukan perbaikan sebelum berdampak pada pasien.
Pada dasarnya, keberhasilan AI tidak hanya bergantung pada kecanggihan algoritma tetapi juga kesiapan organisasi dalam mengelolanya. Dokter, perawat, dan tenaga kesehatan perlu memahami cara kerja dan keterbatasan sistem AI yang digunakan serta berpartisipasi dalam proses evaluasi dan pemantauan. Keterlibatan pengguna akhir menjadi faktor penting untuk memastikan bahwa teknologi benar-benar mendukung kebutuhan klinis dan meningkatkan mutu pelayanan. Melalui pendekatan tersebut, rumah sakit tidak hanya dapat mempercepat adopsi inovasi digital tetapi juga menjaga keselamatan pasien dan meningkatkan kepercayaan masyarakat terhadap teknologi kesehatan berbasis AI.
Disarikan oleh:
Nikita Widya Permata Sari, S.Gz., MPH
(Peneliti Divisi Manajemen Mutu PKMK FK-KMK UGM)
Selengkapnya:
- Overgaard, S.M., Graham, M.G., Brereton, T. et al. Implementing quality management systems to close the AI translation gap and facilitate safe, ethical, and effective health AI solutions. npj Digit. Med. 6, 218 (2023). https://doi.org/10.1038/s41746-023-00968-8