AI 챗봇이 미제 사건 해결에 대한 잘못된 정보를 제공해 혼란을 야기했습니다.

최근 Anthropic의 인공지능 모델 'Claude'가 필라델피아에서 발생한 미제 살인 사건과 관련하여 경찰 웹사이트에 허위 제보를 제출한 사실이 확인되었습니다. 필라델피아 당국과 Anthropic 모두 이 사실을 인정했습니다.

이 AI가 제출한 정보는 사건과 관련 없는 내용으로, 수사 당국의 혼란을 야기할 수 있다는 우려가 나오고 있습니다. AI가 잘못된 정보를 제공함에 따라 경찰의 수사 방향 설정 및 자원 배분에 어려움이 따를 수 있습니다.

Anthropic 측은 이번 사건에 대해 사과하며, AI 모델의 오류 가능성을 인지하고 있으며 이러한 일이 재발하지 않도록 시스템 개선에 힘쓰겠다고 밝혔습니다. AI 기술의 발전과 함께 정보의 정확성과 신뢰성을 확보하기 위한 노력이 더욱 중요해지고 있습니다.