Perisian transkripsi OpenAI berhalusinasi mengenai rekod pesakit hospital

DATA dan rekod yang tepat adalah penting bagi merawat pesakit di hospital. Satu kesilapan boleh menyebabkan kematian misalnya jika alergi pesakit tidak dinyatakan dalam rekod.

Kini muncul laporan kecerdasan buatan (AI) Whisper yang dibangunkan oleh OpenAI bagi mencatatkan rekod pesakit didapati berhalusinasi sehingga mendatangkan risiko ke atas pesakit.

Whisper digunakan dalam aplikasi yang dibangunkan oleh Nabla yang merekod sebelum menghasilkan transkripsi perbualan antara doktor dan pesakit.

Dalam laporan Associated Press, sebanyak 1% transkripsi yang dihasilkan mengandungi halusinasi menyebabkan rekod pesakit yang tidak tepat dihasilkan.

Angka 1% nampak kecil tetapi Nabla telah mereka lebih 7 juta perbualan dan ini bermakna 70,000 transkrip tidak tepat telah dihasilkan. Lebih serius penyelidik mendapati Whisper juga mencipta penyakit yang tidak wujud.

Isu menjadi semakin serius kerana selepas transkrip dihasilkan, rakaman audio telah dipadam atas sebab privasi. Maka proses untuk menyunting sebarang kesilapan yang kini menjadi rekod kekal menjadi hampir mustahil.

Whisper sebelum sudahpun menimbulkan kontroversi kepada OpenAI kerana dipercayai dilatih dengan mendengar audio video YouTube tanpa kebenaran Google atau pemilik video asal.

Dalam perkembangan yang sama Nabla berkata mereka sudahpun dimaklumkan mengenai isu ini dan sedang cuba menyelesaikannya menerusi kemas kini aplikasi. -Amanz