Makassar, 21 Juli 2026 – Webinar ini membedah mengapa akurasi tinggi saja tidak cukup membuat produk AI dipercaya dan diadopsi industri, sekaligus membekali peserta strategi membangun transparansi AI sejak tahap perancangan, bukan sebagai tambahan di akhir.
Webinar bertajuk Beyond the Black Box: Why Industry Needs Explainable AI (XAI)? sukses diselenggarakan melalui kolaborasi Humannext dan Telkom AI Connect Makassar pada Selasa (21/7) secara daring melalui Google Meeting. Kegiatan ini diikuti oleh 30 peserta dari berbagai daerah di Indonesia, mulai dari Tanjung Pinang, Aceh, Bali, hingga Makassar yang menunjukkan tingginya antusiasme terhadap pembahasan Explainable AI (XAI).
Persoalan yang diangkat berangkat dari fenomena black box dalam kecerdasan buatan: model yang hasilnya bisa sangat akurat, bahkan menembus 98 persen, namun cara ia sampai pada suatu keputusan tidak dapat ditelusuri. Muhammad Risal, Strategic Research Consultant & Managing Director of HumanNext, membuka sesi dengan menegaskan bahwa prinsip human-centered AI mendorong kecerdasan buatan untuk augmentation, bukan menggantikan manusia dan salah satu syaratnya adalah AI harus bisa menjelaskan dirinya sendiri.
Dalam sesi pemaparan, Fhatiah Adiba, S.Pd., M.Cs., Associate Partner of Humannext, dosen Universitas Negeri Makassar, sekaligus Ph.D. Candidate in Explainable AI, mengajak peserta menelaah tiga kasus nyata kegagalan model black box. Kasus tersebut meliputi sistem penilaian risiko residivisme COMPAS yang terbukti bias terhadap warga kulit hitam di Amerika Serikat, model radiologi yang keliru mengenali kata portable pada citra X-ray sebagai indikator pneumonia, serta BreezoMeter yang menyatakan kualitas udara aman saat kebakaran hutan California pada 2018. Menurut Fhatiah, ketiga kasus tersebut menunjukkan benang merah yang sama, yakni minimnya transparansi dalam model AI sehingga kesalahan sulit dideteksi sebelum menimbulkan dampak nyata.
Fhatiah juga membagikan riset doktoralnya sebagai contoh penerapan Explainable AI yang dirancang sejak tahap pengembangan model. Dalam penelitiannya, ia mengembangkan model hibrida yang menggabungkan spiking neural network dengan belief rule base untuk mendeteksi malnutrisi melalui citra postur tubuh, sehingga setiap hasil prediksi dapat ditelusuri dasar pengambilan keputusannya. Pendekatan tersebut berhasil menyederhanakan 2.916 aturan awal menjadi 279 aturan terstruktur tanpa mengurangi kemampuan interpretasinya.
Meski demikian, Fhatiah menegaskan bahwa tantangan Explainable AI tidak hanya terletak pada aspek teknis. Berdasarkan tinjauannya terhadap 62 studi Explainable AI pada sistem pendukung keputusan klinis, hanya 29 persen yang melibatkan klinisi sejak tahap perancangan. Menurutnya, rendahnya keterlibatan pengguna domain menjadi salah satu celah kepercayaan yang masih perlu dijembatani dalam pengembangan AI di industri.
Pembahasan tersebut mendapat respons dari Tri Mulia Darma, dosen Universitas Jabal Ghafur Sigli, Aceh, yang pernah terlibat dalam penerapan sistem informasi manajemen rumah sakit. Menurutnya, tantangan implementasi AI di sektor kesehatan justru lebih banyak berasal dari aspek sumber daya manusia dibandingkan teknologi. “Tantangan terbesarnya justru dari sisi SDM, baik tenaga kesehatan maupun dokter, karena di jam-jam sibuk mereka harus memeriksa pasien sambil menjelaskan sistem itu sendiri,” ungkapnya, menggarisbawahi bahwa kendala adopsi AI di lapangan seringkali bukan soal teknologi, melainkan soal manusia yang harus menjalankannya di tengah keterbatasan waktu.
Menanggapi hal tersebut, Fhatiah menegaskan pentingnya melibatkan pakar domain sejak tahap awal pengembangan AI, bukan hanya sebagai validator di akhir proses. “Dokter yang kuliahnya puluhan tahun, tiba-tiba kita klaim ilmu yang mereka pelajari itu bisa direkam dalam AI yang dibangun paling cepat satu tahun. Kita tidak bisa semena-mena mengklaim itu sudah setara pakar,” tegasnya, mengingatkan bahwa kepercayaan terhadap AI dibangun lewat kolaborasi dengan manusia yang punya keahlian, bukan lewat klaim algoritma semata.
Sesi tanya jawab turut memperkaya diskusi, dari pertanyaan Brion K. Sudarman soal etika kolaborasi manusia dan AI, hingga masukan Muhammad Risal di penghujung acara bahwa Explainable AI juga perlu diterjemahkan lewat conversation design yang tepat agar pesannya benar-benar sampai ke pengguna, bukan hanya benar secara teknis. Webinar ini menegaskan bahwa transparansi AI bukan sekadar isu etika, melainkan kebutuhan bisnis yang menentukan apakah sebuah produk AI benar-benar dipercaya dan dipakai. Ke depan, Telkom AI Center of Excellence Makassar dan HumanNext akan terus menghadirkan ruang diskusi serupa melalui rangkaian AI Connect Series, mendorong talenta digital di berbagai kota membangun solusi AI yang tidak hanya cerdas, tapi juga bisa dipertanggungjawabkan.
