Dinas Kesehatan di AS Bakal Uji Coba Chatbot OpenAI dan Anthropic, tapi Aturan Mainnya Belum Jelas

Dinas Kesehatan di AS Bakal Uji Coba Chatbot OpenAI dan Anthropic, tapi Aturan Mainnya Belum Jelas

Sejumlah dinas kesehatan masyarakat di Amerika Serikat akan mulai menguji perangkat AI generatif lewat program baru yang melibatkan Coalition for Health AI (CHAI), OpenAI, Anthropic, dan Accenture.

Program bernama Public Health Use Case and Learning Scaling Engine, disingkat PULSE, ini akan mendukung uji coba di 10 wilayah kerja — mulai dari tingkat negara bagian, lokal, hingga wilayah suku (tribal) dan teritori. Hasil dari uji coba ini nantinya diramu jadi panduan implementasi bagi dinas kesehatan lain yang berminat mengadopsi hal serupa.

OpenAI dan Anthropic menyumbangkan 10 lisensi enterprise dengan kapasitas hingga 2.000 tenaga kesehatan masyarakat. Accenture kebagian tugas mengurus onboarding peserta dan menyusun playbook berdasarkan hasil uji coba tersebut.

Yang menarik, CHAI sampai sekarang belum merinci produk apa saja yang akan dipakai, versi model yang digunakan, konfigurasinya seperti apa, maupun bagaimana kedua penyedia — OpenAI dan Anthropic — akan dibagi tugas di antara wilayah-wilayah pilot tersebut.

"Setiap transformasi teknologi besar berhasil atau gagal tergantung pada kepercayaan, tata kelola, dan eksekusi," kata Dr. David Lakey, mantan komisioner kesehatan Texas. "PULSE akan mendukung dinas-dinas dalam upaya ini, dan memang dirancang khusus untuk implementasi praktis."

Lima Skenario Penggunaan yang Ditawarkan

Dewan kepemimpinan CHAI yang akan memilih wilayah mana saja yang ikut serta, sekaligus menempatkan para praktisi ke dalam lima kelompok kasus penggunaan. Kelima kasus itu adalah: biosurveillance dan prediksi gelombang penyalahgunaan obat, pemetaan determinan sosial kesehatan (SDoH), efisiensi operasional sekaligus analisis masukan komunitas, komunikasi publik lewat hub penerjemahan multibahasa, serta pengambilan data klinis otomatis lewat mesin kueri FHIR.

FHIR sendiri adalah standar HL7 yang lazim dipakai untuk bertukar data layanan kesehatan secara elektronik antarsistem yang kompatibel.

Kerangka Manajemen Risiko AI milik NIST merekomendasikan agar sistem AI dievaluasi berdasarkan tujuan penggunaannya, lingkungan operasionalnya, pihak yang terdampak, hingga potensi konsekuensinya. Sayangnya, CHAI belum merilis persyaratan evaluasi, privasi, keamanan, atau tinjauan manusia yang terpisah untuk kelima kasus penggunaan PULSE ini.

Soal mesin kueri FHIR untuk pengambilan data klinis pun begitu — pengumuman resminya tidak menjelaskan peran spesifik AI generatif dalam alur kerja tersebut. Tidak disebutkan apakah model yang akan menyusun kueri, mengambil rekam medis, meringkas informasi yang diperoleh, atau justru menggabungkan ketiga fungsi itu sekaligus. Tidak ada pula penjelasan apakah kueri yang keliru, hasil pengambilan data yang tidak lengkap, atau ringkasan yang belum terverifikasi akan diperiksa staf lebih dulu sebelum dipakai.

Data Pasien: Banyak yang Belum Dijawab

Beberapa penerapan yang diusulkan berpotensi menyentuh data demografis, geografis, klinis, hingga data kesehatan populasi. Namun CHAI belum menjelaskan apakah uji coba ini akan memakai rekam medis yang bisa diidentifikasi, data yang sudah dianonimkan, data sintetis, atau data agregat.

Departemen Kesehatan dan Layanan Manusia AS (HHS) mewajibkan organisasi yang tunduk pada HIPAA untuk melindungi informasi kesehatan elektronik tertentu. Panduan cloud computing dari HHS menyebutkan bahwa organisasi teregulasi dan penyedia layanannya wajib memenuhi ketentuan HIPAA kapan pun sistem cloud membuat, menerima, menyimpan, atau mengirimkan informasi kesehatan yang dilindungi secara elektronik.

Meski begitu, HIPAA tidak otomatis berlaku untuk semua organisasi atau alur kerja yang terlibat dalam PULSE — semuanya bergantung pada dinas yang bersangkutan, jenis data, dan fungsi yang dijalankan.

OpenAI menyatakan bahwa input dan output dari layanan bisnisnya, termasuk ChatGPT Enterprise dan API, secara default tidak dipakai untuk melatih atau meningkatkan model mereka. Anthropic pun mengklaim hal serupa: input dan output dari produk komersialnya tidak dipakai untuk pelatihan model secara default.

Namun, kebijakan kedua penyedia itu tidak serta-merta menjelaskan bagaimana konfigurasi PULSE nantinya. Belum ada kejelasan soal masa retensi data, kontrol akses, mekanisme audit, ketentuan penyimpanan data, maupun aturan pengiriman informasi kesehatan yang dilindungi ke dalam sistem.

"Kami percaya AI harus berguna, aman, dan mudah diakses oleh orang-orang yang menangani tantangan terpenting masyarakat," kata Felipe Millon, kepala go-to-market pemerintahan OpenAI. Ia menambahkan bahwa lisensi ini dimaksudkan untuk membantu organisasi kesehatan masyarakat mengevaluasi perangkat tersebut lewat proses yang terstruktur.

Tata Kelola dan Evaluasi Masih Menggantung

Uji coba dijadwalkan mulai musim gugur 2026. CHAI menargetkan playbook hasil program ini terbit pada 2027 dan bisa dipakai sebagai rujukan oleh dinas kesehatan lain.

Sejauh ini CHAI belum mempublikasikan tolok ukur yang akan dipakai untuk menilai keberhasilan uji coba, maupun apakah tiap kasus penggunaan akan dievaluasi dengan kriteria teknis, operasional, privasi, dan keamanan yang terpisah satu sama lain. Pengumuman itu juga tidak menjelaskan mekanisme peninjauan hasil kerja model — apakah staf wajib menyetujui komunikasi publik yang dihasilkan AI, memverifikasi hasil terjemahan, memvalidasi data klinis yang diambil, atau meninjau hasil biosurveillance dan prediksi gelombang penyalahgunaan obat sebelum dipakai.

Panduan NIST sendiri merekomendasikan agar organisasi mengidentifikasi fungsi AI mana saja yang butuh pengawasan manusia, sekaligus melatih pengguna memahami performa dan keterbatasan sistem. Panduan AI generatif dari lembaga itu juga mencakup pengujian, validasi, pemantauan, dokumentasi, privasi, hingga pengawasan manajemen.

"Tim kesehatan masyarakat dituntut melakukan lebih banyak dengan sumber daya yang lebih sedikit, dan AI bisa membantu — asalkan diterapkan dengan hati-hati dan pagar pengaman yang tepat," ujar Elizabeth Kelly, kepala beneficial deployments Anthropic. Menurutnya, PULSE memungkinkan para praktisi menguji perangkat ini di lingkungan kerja masing-masing dengan langkah-langkah privasi, tata kelola, dan penggunaan yang bertanggung jawab yang sudah disematkan sejak awal.

Adopsi AI di Daerah Masih Rendah

Data dari National Association of County and City Health Officials yang dikutip CHAI menunjukkan hampir 40% dinas kesehatan lokal belum memakai AI sama sekali. Koalisi ini menyebut sejumlah dinas sebenarnya berminat merombak alur kerja dan mendongkrak efisiensi operasional mereka.

PULSE menyediakan lisensi enterprise, proses onboarding, komunitas sesama praktisi, dan playbook implementasi. Kendati begitu, CHAI belum merinci syarat minimum soal staf, infrastruktur, interoperabilitas, maupun keamanan siber bagi wilayah yang ikut program ini.

Peserta yang berhak mengikuti program mencakup dinas kesehatan negara bagian dan teritori, lembaga tingkat kabupaten dan kota, otoritas suku (tribal), organisasi kesehatan Indian, hingga dinas kesehatan kota-kota besar. Rencananya, temuan dari 10 wilayah pilot akan diubah menjadi panduan untuk penerapan yang lebih luas — meski belum dijelaskan bagaimana playbook itu akan mengakomodasi perbedaan ukuran lembaga, sistem teknis, tanggung jawab hukum, jumlah staf, hingga skema pengadaan di masing-masing daerah. Sama halnya, belum ada kejelasan apakah hasil dari biosurveillance, prediksi gelombang penyalahgunaan obat, atau pengambilan data klinis hanya dipakai untuk keperluan pengujian, disodorkan ke staf untuk ditinjau, atau langsung dimasukkan ke alur kerja operasional.

Bagian dari Agenda Besar CHAI

PULSE merupakan bagian dari agenda CHAI yang lebih luas soal standar tata kelola AI di sektor kesehatan. Pada Mei lalu, organisasi ini mengumumkan rencana menyusun panduan yang mencakup delapan area tata kelola lewat lokakarya dan kelompok kerja yang melibatkan lebih dari 150 perwakilan dari industri AI kesehatan.

Sejak itu, koalisi mulai menerbitkan playbook soal kebijakan AI organisasi, struktur tata kelola, hingga sumber daya internal. Panduan tambahan disebut masih akan menyusul untuk area lain dalam manajemen AI kesehatan. Terpisah, CHAI juga bekerja sama dengan Joint Commission menyusun playbook tata kelola yang selaras dengan sertifikasi sukarela Responsible Use of AI in Healthcare — meski pengumuman PULSE sendiri tidak menyebut apakah dinas-dinas yang ikut program ini akan dinilai berdasarkan sertifikasi tersebut.

Dr. Brian Anderson, chief executive CHAI, mengingatkan bahwa dinas-dinas kesehatan masyarakat memasuki masa pandemi Covid-19 setelah bertahun-tahun minim investasi teknologi. Menurutnya, PULSE dimaksudkan untuk memberi pengalaman praktis memakai AI kepada dinas-dinas ini sebelum penerapan yang lebih luas dilakukan.

"Kita tahu AI akan mengubah cara kita menjalankan layanan kesehatan masyarakat — pertanyaannya adalah apakah kita melakukannya dengan penuh pertimbangan atau tidak," kata Dr. Ashish Jha, mantan koordinator respons Covid-19 Gedung Putih. Ia menyebut program ini akan menguji aplikasi mana yang benar-benar berhasil, lalu mendokumentasikan temuannya untuk dipakai dinas-dinas lain.