[한줄요약] 안전 점검이라는 명목하에 자행된 메타의 기만적인 AI 테스트 실태.
2026년 7월 4일자 기사 기준입니다.
메타(Meta)가 경쟁사의 AI 모델을 무너뜨리기 위해 수백 명의 계약직을 동원하여 십대를 사칭하게 했다는 충격적인 소식이 전해졌습니다. 내부적으로 '칸(Cannes)'이라 불린 이 프로젝트는 OpenAI의 ChatGPT, 구동의 Gemini, Character.AI 등을 타겟으로 삼았습니다.
보도에 따르면, 메타의 협력사인 코발렌(Covalen)은 18세 미만의 가짜 계정을 사용하여 자살, 식인, 자해 등 극도로 부적절한 프롬프트를 경쟁사 AI에 퍼부었습니다. 이들은 AI의 안전 가드레일을 무너뜨리는 것을 목표로 삼았으며, 이 과정에서 사용된 수천 개의 프롬프트 중에는 아동이나 청소년의 시각에서 작성된 충격적인 내용이 다수 포함되어 있었습니다.
메타는 이를 '업계 표준 방식인 AI 안전 벤치마킹'이라고 주장합니다. 하지만 전문가들의 시각은 냉소적입니다. 인공지능 개발 비영리 단체인 Humane Intelligence의 CEO 루만 초두리는 이것이 '안기라는 명목 아래 반경쟁적 행위를 정당화하는 회색 지대'라고 비판했습니다. 경쟁사 몰래 가짜 계정을 만들어 시스템을 공격하는 것이 과연 표준적인 평가 방식인지 의구심이 드는 대목입니다.
메타는 과거에도 콘텐츠 검수 과정에서 트라우마를 겪은 계약직들의 문제를 일으킨 바 있습니다. 이번 사건 역시 '안전'이라는 그럴듯한 명분을 내세워, 실제로는 경쟁사를 공격하고 자극적인 데이터를 수집하기 위한 기만적인 수단으로 활용된 것은 아닌지 의심해 볼 필요가 있습니다.