행정·IT

캐나다 뉴펀들랜드 래브라도(N.L.) 주정부가 공공 보고서에서 인공지능(AI)이 생성한 것으로 추정되는 허위 정보가 잇따라 발견되자 정부 계약 조달 프로세스를 대대적으로 수정했습니다. 딜로이트 캐나다와 같은 대형 컨설팅 업체의 보고서에서도 오류가 발견되면서 공공 행정의 신뢰도에 비상이 걸렸습니다.

"존재하지 않는 보고서가 출처?"… AI 환각이 부른 촌극

이번 사태는 주정부가 의뢰한 두 건의 핵심 정책 보고서에서 시작되었습니다. 특히 세계적인 컨설팅 그룹인 딜로이트 캐나다가 작성한 보고서 내에 실제로는 존재하지 않는 법안이나 학술 자료가 인용된 사실이 내부 검토 과정에서 드러났습니다. 이는 생성형 AI가 정보를 조합하는 과정에서 사실과 다른 내용을 지어내는 이른바 '할루시네이션(환각)' 현상 때문인 것으로 분석됩니다.

주정부 관계자들은 "전문가 집단이 작성한 최종 결과물에 이런 기초적인 오류가 포함되었다는 사실에 큰 충격을 받았다"며, 이는 단순히 기술적 실수를 넘어 공공 정책의 근간을 흔들 수 있는 심각한 문제라고 지적했습니다.

조달 방식의 근본적 변화… "인간의 검증이 마지막 보루"

이에 따라 N.L. 주정부는 앞으로 모든 외부 용역 계약 시 AI 도구의 사용 여부를 사전에 승인받도록 규정을 바꿨습니다. 또한 보고서 제출 시 모든 인용구와 데이터의 출처가 실재하는지 작성자가 직접 서명하여 보증해야 하며, 주정부 차원의 독립적인 검증 팀이 무작위로 사실 여부를 대조하는 절차가 추가되었습니다.

이번 조치는 캐나다 내 다른 주정부와 공공기관들에게도 큰 시사점을 던져주고 있습니다. AI의 편리함 뒤에 숨은 위험성을 공공 부문에서 선제적으로 차단하려는 시도가 성공적으로 안착할지 귀추가 주목됩니다.