캐나다 온타리오주 의사들이 사용하는 인공지능(AI) 기반 의료 받아쓰기 도구에서 부정확하거나 불완전한 정보가 생성될 수 있다는 감사원 보고서가 발표되었습니다. 이 보고서는 AI 도구의 시험 및 평가가 충분하지 않았다고 지적합니다.

온타리오주 감사원의 새로운 보고서에 따르면, 지역 의사들이 사용하는 AI 기반 의료 받아쓰기 도구가 부정확하거나 불완전한 정보를 생성하는 것으로 밝혀졌습니다. 일부 AI는 실제 존재하지 않는 정보를 만들어내는 '환각' 현상을 보이기도 했습니다. 이는 AI가 환자의 의료 기록을 잘못 이해하거나 허위 정보를 기록할 가능성을 시사합니다.

감사원 보고서는 이러한 AI 도구들이 현장에 도입되기 전 충분한 시험과 평가를 거치지 않았다고 지적했습니다. 오류 가능성이 있는 AI 도구가 의료 현장에 그대로 적용될 경우, 환자 진료 및 치료 과정에서 심각한 문제로 이어질 수 있습니다. 따라서 AI 기술의 도입은 신중한 검토와 함께 안전성 확보가 필수적입니다.

이번 감사원 보고서는 의료 분야에서 AI 기술의 발전과 함께 발생할 수 있는 위험을 명확히 보여줍니다. 온타리오주 감사원은 AI 받아쓰기 도구의 정확성과 신뢰성을 높이기 위한 추가적인 검증 및 관리 방안 마련을 강조했습니다. 앞으로 의료 분야에서 AI 기술을 도입할 때는 이러한 잠재적 위험을 충분히 인지하고, 환자의 안전을 최우선으로 고려하는 신중한 접근이 필요합니다. 의료 전문가들은 AI 도구의 사용 시 발생할 수 있는 오류에 대해 주의를 기울이고, 필요한 경우 전문가의 상담을 받는 것이 좋습니다.