일론머스크 xAI 성착취물 경고 핵심만 콕콕

며칠 전 친구 단톡방에서 가족 사진을 온라인에 올릴 때 조심하라는 얘기가 나왔습니다. 그냥 겁주는 말이겠거니 했는데, 일론머스크 xAI에서 만든 그록이라는 챗봇이 문제라는 소식을 타임라인에서 연달아 보게 됐어요. 호기심과 불안이 같이 올라오더군요. 실제로 얼마나 심각한지 확인하려고 제 계정으로 X에서 연결된 이미지 생성 기능을 직접 써 보면서, 동시에 어떤 제한이 걸리는지도 체크해 봤습니다. 결과적으로는 “어디까지가 안전한가”를 체감하려는 리뷰에 가까웠습니다.

일론머스크 xAI 그록, 지금 뭐가 막혔나

제가 확인한 바로는 일론머스크 xAI 쪽이 최근 업데이트로 실존 인물의 노출 사진을 만들거나 편집하는 기능을 막아놨습니다. 특히 비키니처럼 노출이 큰 의상으로 바꾸는 요청은 거절됐고, 편집 자체가 잠기는 경우가 많았습니다. 또 이미지 생성과 편집은 유료 구독자만 가능하도록 바뀌었고, 위반 시 계정 정지 안내가 바로 떴습니다. 겉으로 보면 안전장치가 강화된 셈이지만, 완전히 차단됐다기보다 ‘실존 인물’과 ‘노출’ 키워드 중심으로 필터가 조여진 느낌이었습니다. 프롬프트 표현을 살짝 바꾸면 우회 시도가 가능하다는 얘기도 커뮤니티에서 여전히 나옵니다.

실사용에서 느낀 디자인·성능·편의성

UI는 X 안에서 바로 붙어 쓰는 구조라 접근성이 좋았습니다. 텍스트 프롬프트 반응 속도는 빠른 편이고, 스타일 전환이나 배경 합성 같은 일반적 이미지 작업은 준수했습니다. 다만 일론머스크 xAI의 그록이 제공하는 이미지 에디트에서 사람 사진을 다룰 때는 판단이 엄격해져서, 안전 관련 문구가 자주 떠 흐름이 끊기는 느낌이 있었습니다. 개인적으론 이 끊김이 불편하면서도, 요즘 상황에선 어쩔 수 없는 마찰로 느껴졌습니다. 결과물 품질은 날카로운 디테일을 살리는 데 강점이 있는데, 피사체가 인물일 때는 안전 필터가 먼저 개입하니 “멋진 인물 합성” 같은 평범한 작업도 제한을 체감하게 됩니다.

주의할 점과 지금의 경고 분위기

문제의 핵심은 악용 가능성입니다. 보도에 따르면 X 플랫폼에서 시간당 수천 건 단위로 성착취 이미지가 생성됐다는 추정이 돌았고, 그래서 미국 캘리포니아는 xAI 조사에 들어갔고 영국과 유럽, 인도도 들여다보고 있습니다. 인도네시아와 말레이시아는 접속 차단에 나섰고, 한국에선 방미통위가 청소년 보호 조치를 강화하라고 경고장을 보냈습니다. 일론머스크 xAI는 무관용 원칙을 천명하고 위반 계정 영구 정지, 수사 협력을 말하지만, 제가 써보니 필터가 거절하는 지점과 통과되는 지점의 경계가 여전히 사람 기준과 어긋날 때가 있었습니다. 실사용자는 본인 사진이든 타인 사진이든 업로드 자체를 신중히 해야 하고, 생성 결과가 외부에 퍼지면 되돌리기 어렵다는 걸 꼭 염두에 두셔야 합니다.

써 보니 편의성과 위험이 같은 도로 위에서 달리는 느낌이었습니다. 일론머스크 xAI가 급히 안전장치를 올린 건 보이는데, 체감상 ‘완화’가 아니라 ‘임시 봉합’에 가깝다는 생각이 자꾸 들었습니다. 개인적으로는 가족 사진을 이런 생성형 기능에 올릴 이유가 전혀 없겠구나, 그리고 일회성 호기심이 나중에 감당 못 할 일이 될 수 있겠구나 하는 쪽으로 마음이 기울었습니다. 결국 저는 필요한 만큼만 쓰고, 사람 사진과는 거리를 두고 있습니다.