온타리오주의 감사원장은 최근 보고서를 통해, 온타리오 의사들이 사용하도록 설계된 인공지능(AI) 기반 의료 기록 도구가 부정확하고 불완전한 정보를 제공하거나 '환각' 증상을 보였으며, 이에 대한 평가가 미흡했다고 지적했습니다.

온타리오 감사원장의 보고서에 따르면, 이 AI 기반 노트 필기 도구는 의사들이 환자 진료 기록을 작성하는 데 도움을 주기 위해 개발되었습니다. 그러나 실제 사용 시, 이 도구는 잘못된 정보나 누락된 내용을 포함한 기록을 생성하는 '환각' 현상을 보였습니다. 이는 의료 기록의 정확성에 심각한 문제를 야기할 수 있습니다.

감사원장은 해당 AI 도구가 실제 의료 환경에 적용되기 전에 충분하고 철저한 평가 과정을 거치지 않았다고 밝혔습니다. 적절한 검증 절차 없이는 AI 시스템이 발생시킬 수 있는 오류와 그로 인한 위험을 제대로 파악하고 대비하기 어렵다는 지적입니다.

정확하지 않은 의료 기록은 환자 진단 및 치료 과정에 오류를 초래할 수 있으며, 이는 결국 환자의 안전을 위협하는 요소가 될 수 있습니다. 감사원장은 이러한 AI 도구의 오작동 가능성에 대해 더 깊은 조사와 함께, 향후 도입될 의료 기술에 대한 엄격한 평가 기준 마련이 시급하다고 강조했습니다.