[뉴스토마토 신상민 기자] 오픈AI가 최신 생성형 인공지능(AI) 모델에 성인용 콘텐츠 생성을 허용할 가능성을 시사하면서 AI 윤리 문제에 대한 논쟁이 다시 불거지고 있습니다. AI 업계 내 경쟁이 치열해지자 규제 완화를 차별 전략으로 모색하는 분위기입니다. 전문가들은 기술의 불완전성과 윤리적 문제를 지적하며 국가 차원의 법과 가이드라인 마련이 시급하다고 경고합니다.

 

20일 IT업계에 따르면 오픈AI는 최근 공개한 최신 모델 사양 공유에서 '개발자와 사용자가 연령에 적합한 맥락에서 에로틱한 콘텐츠나 잔혹한 장면을 생성할 수 있도록 하는 방법을 모색 중'이라고 밝혔습니다. 다만 성적 딥페이크, 리벤지 포르노와 같이 사회적 문제가 될 소지가 있는 부분에 대해서는 강경한 대응 방침을 유지하겠다는 입장을 내놨습니다. 

 

 

전문가들은 이번 오픈AI의 결정에 대해 차별성을 확보하기 위한 전략인 것으로 보고 있습니다. 특히 중국 AI 기업 딥시크의 등장, 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 AI 기업 xAI의 그록3 공개 등 AI 업계 내 경쟁이 격화되자 오픈AI가 새로운 대응 전략을 내놓은 것이라는 분석입니다. 그록3는 민감한 질문을 회피하지 않겠다고 강조하며 차별성을 부각하고 있습니다. 

 

이성엽 고려대기술경영전문대학원 교수는 "딥시크라든지 다른 LLM(초거대 언어 모델)과 차별화를 통해서 소비자의 선택을 받겠다는 전략으로 보인다"며 "법적으로 금지된 콘텐츠까지 허용하는 것은 아닐 것이므로 소비자들의 선택의 폭이 넓어지는 측면에서 특별히 문제될 것은 없다"고 말했습니다. 

 

IT 관련 커뮤니티 쪽에서도 오픈AI의 결정을 반기는 분위기가 감지되고 있습니다. 한 IT업계 관계자는 "기존 AI 모델은 검열이 강해 콘텐츠 생산력이 떨어졌던 것이 사실"이라며 "결국 이용자들은 우회 방법을 찾아내기 때문에, 차라리 사용자 맞춤형 서비스를 제공하는 것이 더 나은 방향"이라고 평가했습니다.

 

 

 

그러나 AI 기술이 여전히 불완전하기 때문에 윤리적 문제가 발생할 가능성이 크다는 우려도 제기됩니다. 국내에서도 AI 챗봇 '이루다'의 성착취 논란이 있었으며, 올해 1월에는 뤼튼테크놀로지스의 AI 콘텐츠 생성 플랫폼 뤼튼에서 AI 캐릭터를 성적·폭력적 대상으로 취급하는 문제가 발생한 바 있습니다. 

 

전창배 국제인공지능윤리협회 이사장은 "리벤지 포르노, 소아 성도착증과 관련된 콘텐츠가 완벽히 필터링 된다면 문제가 없을 수 있다"며 "AI는 불완전한 기술이며 완벽한 가이드라인 없이 성인용 콘텐츠를 허용할 경우 예상치 못한 문제들이 발생할 수 있다"고 지적했습니다. 

 

이 같은 문제 해결을 위해 국가 차원의 법과 기준, 가이드라인을 조속히 마련해야 한다는 게 전 이사장의 의견입니다. 전 이사장은 "현재 AI 기본법이 마련된 만큼 후속 법안을 신속히 제정해 AI 서비스나 제품이 사전 검증을 거친 후 한국에서 서비스할 수 있도록 해야 한다"며 "현재 규제 체계에서는 해석에 따라서 빠져 나갈 구멍이 있기 때문에 제도적 공백 상태를 빨리 보완해 국내 기업뿐 아니라 해외 빅테크 기업에도 동일한 규제를 적용할 필요가 있다"고 조언했습니다. 

 

 

신상민 기자 lmez0810@etomato.com