영국, 음란 이미지 생성 AI ‘그록’ 조사 착수

온라인안전법 위반 시 매출 10% 벌금·서비스 차단 가능성

영국 규제 당국이 소셜미디어 엑스(X·옛 트위터)에 탑재된 인공지능(AI) 챗봇 ‘그록(Grok)’에 대해 공식 조사에 착수했다.

여성과 아동의 이미지를 동의 없이 성적으로 조작하는 데 사용됐다는 의혹이 제기된 데 따른 조치다.

로이터통신에 따르면 영국 방송통신 규제기관 오프콤(Ofcom)은 12일 그록이 영국 온라인안전법(Online Safety Act)을 위반했는지 여부를 조사하기 시작했다고 밝혔다.

위법 사실이 확인될 경우 엑스는 전 세계 연간 매출의 최대 10% 또는 1800만 파운드(약 355억원) 중 더 큰 금액을 벌금으로 부과받을 수 있다.

그록은 사용자가 특정 인물을 태그한 뒤 명령어를 입력하면 이미지를 변형·생성하는 기능을 제공한다.

초기에는 의상 변경 등 비교적 단순한 조작이 주를 이뤘으나, 이후 노출 수위를 높이거나 혐오·폭력적 요소를 추가하는 방식으로 악용 사례가 늘어났다는 지적이 나왔다.

특히 일부 사례에서는 여성과 아동의 사진이 성적으로 조작돼 사실상 나체에 가까운 이미지로 유포됐다는 보고도 제기됐다.

오프콤은 엑스가 이 같은 불법·유해 콘텐츠를 인지하고도 신속히 삭제하지 않았는지, 영국 이용자들이 해당 콘텐츠에 노출되지 않도록 충분한 예방 조치를 취했는지를 중점적으로 살펴볼 방침이다.

영국 정부는 이번 사안에 대해 강경한 입장을 보이고 있다. 리즈 켄달 과학·기술부 장관은 문제의 기능이 유료 이용자를 대상으로 계속 제공된 점을 문제 삼으며, 오프콤에 신속하고 단호한 대응을 요구했다.

업계에서는 이번 조사가 단순한 개별 서비스 점검을 넘어, 생성형 AI 전반에 대한 규제 강화 신호로 받아들여지고 있다.

영국 온라인안전법은 플랫폼 사업자에게 불법·유해 콘텐츠 유통 방지 책임을 명확히 부과하고 있어, 조사 결과에 따라 벌금 부과뿐 아니라 서비스 제한이나 차단 조치로까지 이어질 가능성도 거론된다.

한편 엑스와 그록을 이끄는 일론 머스크 측은 현재까지 해당 조사에 대한 공식 입장을 내놓지 않았다.