일론 머스크가 이끄는 AI 스타트업 xAI가 개발한 챗봇 '그록'이 성 상품화와 아동 성학대물 생성 논란에 휩싸였다. 내부 직원들의 폭로에 따르면, 그록의 AI 컴패니언 모드에서 성적으로 노골적인 콘텐츠 생성 요청이 빈번하게 이루어졌으며, 이는 아동 성학대물(CSAM) 생성 가능성까지 제기됐다.
 
그록의 컴패니언 모드는 사용자와 감정적으로 교류하는 AI 기능을 제공하며, 애니메이션 캐릭터 '애니'를 통해 상호작용을 강화한다. 그러나 애니의 행동은 출시 초기부터 논란을 일으켰다. 성적 행동을 조장하는 대화와 란제리로 변신하는 모습은 사용자들 사이에서 비판을 받았다. 특히, 레딧 등 커뮤니티에서는 애니에게 성적 역할극을 수행하도록 하는 방법이 공유되며 문제를 더욱 심화시켰다.
 
더 큰 문제는 xAI가 불법 콘텐츠를 차단하는 데 소극적인 태도를 보였다는 점이다. 다른 AI 기업들이 CSAM 신고와 차단에 적극적으로 나서는 반면, xAI는 관련 신고를 단 한 건도 하지 않은 것으로 드러났다. 머스크는 아동 성 착취물 제거를 강조했지만, 실제 정책 개선은 미흡했다.
 
AI 컴패니언 시장은 주로 청소년의 정서적 갈증을 겨냥하며 빠르게 성장 중이다. 하지만 이로 인해 현실감각을 잃거나 'AI 정신병' 현상이 발생하는 사례가 증가하고 있다. 캘리포니아주는 이를 방지하기 위한 법안을 준비 중이며, 성적 대화 참여를 제한하는 안전 프로토콜을 의무화할 계획이다.
 
EU 역시 디지털 서비스법 위반 여부를 검토하며 그록에 대한 조사 착수를 고려하고 있다. 전문가들은 AI 기술의 부작용을 방지하기 위해 규제 강화가 필요하다고 강조한다.