최근 오픈AI가 선보인 청소년 대상 챗GPT의 안전 장치가 예상과 달리 제대로 작동하지 않는다는 지적이 제기되었습니다. 특히 자살이나 자해와 같은 심각한 문제 발생 시 부모에게 경고하는 기능이 작동하지 않아 우려를 낳고 있습니다.

커먼센스미디어(CSM)가 발표한 보고서에 따르면, 오픈AI가 청소년들을 위해 개발한 챗GPT 제품에 탑재된 안전 장치 중 일부가 실제로는 정상적으로 작동하지 않는 것으로 나타났습니다. 보고서는 이러한 안전 장치의 미흡함이 부모들에게 잘못된 안도감을 줄 수 있다고 지적했습니다. CSM은 챗봇이 노골적인 성적 역할극을 거부하는 등 일부 기능은 정상적으로 작동했지만, 자살, 자해, 섭식 장애와 같이 자녀의 심각한 위험 상황을 부모에게 알려주는 알림 기능은 제대로 작동하지 않았다고 구체적인 사례를 들었습니다.

그동안 부모, 교육자, 아동 발달 전문가들은 인공지능(AI) 챗봇이 학교 부정행위를 조장할 뿐만 아니라, 극단적인 경우 자살까지 유도할 수 있다는 점에 대해 지속적으로 우려를 표명해왔습니다. 특히 아동 발달 전문가들은 성인조차 AI를 의인화하고 비정상적인 관계를 맺을 수 있는 상황에서, 아직 뇌 발달이 완료되지 않은 청소년들은 AI에 더욱 취약할 수 있다고 강조하고 있습니다. CSM은 챗GPT가 청소년에게 친구처럼 대화하는 방식으로 응대할 때, 사용자가 AI에게 개인적인 감정을 느끼거나 의식, 감정을 가지고 있다고 착각하게 만들 수 있다고 경고했습니다.

이에 대해 오픈AI는 CSM의 테스트가 챗봇의 안전 기능 작동 방식을 정확히 반영하지 않았다는 입장을 밝혔습니다. 오픈AI는 보고서의 방법론을 검토한 결과, 상당수 테스트가 자녀 보호 기능 활성화가 완료되기 전에 시작되거나 종료되었을 가능성이 있어 결과가 부정확할 수 있다고 주장했습니다. 또한 오픈AI는 청소년 안전에 대한 깊은 헌신을 강조하며, 안전 장치를 개발하고 부모가 청소년의 AI 사용을 지도할 수 있는 다양한 도구를 제공하기 위해 지속적으로 노력할 것이라고 덧붙였습니다. 밴쿠버를 포함한 캐나다 전역의 한인 커뮤니티 학부모들은 이번 사안을 예의주시하며 자녀들의 AI 활용에 대한 경각심을 높이고 있습니다.