[AI 미디어 파도] AI챗봇, 정신건강에 악영향 미친다는 우려 커지는데 돌연 성인버전 내세운 오픈AI생성형 인공지능(AI) 대표주자인 챗GPT가 성인 이용자를 상대로 성적인 대화가 가능한 서비스를 도입하기로 하면서 우려가 커지고 있다.

발단은 샘 올트먼 오픈AI 최고경영자(CEO)가 지난 14일(현지시간) 엑스(X)에 올린 글이다. 그는 성인 이용자를 대상으로 한 성적인 대화를 허용하는 챗GPT의 새 버전을 오는 12월 출시할 예정이라고 밝히며 "그동안 정신건강 문제를 신중히 다루려고 챗GPT를 제한적으로 만들었는데, 이런 점으로 인해 이용자들이 챗봇을 덜 유용하고, 덜 재미있게 느끼게 한다는 점을 알게 됐다"며 "성인 이용자는 성인답게 대하자는 원칙을 적용하기로 했다"고 밝혔다.

논란이 일자 샘 올트먼 CEO는 "오픈AI는 세계의 도덕 경찰이 아니다"라고 반발했다. 그는 다른 사람들에게 해를 끼치는 콘텐츠는 허용하지 않을 것이며 사회가 성인 콘텐츠로 허용한 범위 내에서 도입할 것이라는 취지를 밝혔다.

그러나 샘 올트먼 CEO의 해명에도 비판은 가라앉지 않고 있다. 이용자 심리에 부정적인 영향을 끼치는 등 문제가 커질 것이라는 우려 때문이다. 성인 대상 콘텐츠라 하더라도 인증을 속이는 방식으로 미성년자가 이용할 수도 있다.

더구나 AI챗봇으로 인한 미성년자의 정서적 의존이 부정적 영향을 끼치는 사례가 늘고 있는 상황이었다. 지난 8월 챗GPT와 자살 계획에 관해 상담한 뒤 자살한 16세 소년 아담 레인의 부모가 오픈AI에 소송을 제기한 일이 있다. 지난해 미국 플로리다주에선 미성년자 자녀가 자살한 배경에 AI챗봇이 있다며 플로리다연방법원에 '캐릭터.AI'(Character.AI)를 상대로 소송을 제기한 사례도 있다.

지난 17일(현지시간) 타임지에 따르면 미국 국립성착취예방센터(NCOSE)의 헤일리 맥나마라 이사는 "이러한 시스템은 성적 흥분을 유발할 수 있지만, 그 이면에는 진정한 관계가 아닌 이용자 참여를 극대화하기 위해 설계된 데이터 수집 도구가 있다"며 "이용자는 자신을 계속 연결하도록 설계된 알고리즘에 의해 원하고, 이해받고, 사랑받는다고 느낄 때, 감정적 의존, 애착, 그리고 진정한 관계에 대한 왜곡된 기대를 조장한다"고 지적했다.

AI윤리를 다루는 AI윤리레터는 지난 20일 "성적 영역 밖에서도 오픈AI는 각종 환각, 오정보, 안전에 대한 신뢰할만한 해결책을 제시하지 못하고 있다"며 "이러한 문제가 성적 영역에서 AI 분야의 성별 불평등 문제, 여성과 성소수자에 대한 혐오와 합쳐진다면 성차별과 성착취를 강화하고 혐오를 재생산하는 시스템이 만들어질 수 있다"고 지적했다.

당국도 대응에 나섰다. 지난 8월 미국의 44개 주 법무장관들은 12개 AI챗봇 기업에 아동 보호 조치를 강화하라는 입장문을 보냈다. 미국 연방거래위원회(FTC)는 지난달 7개 AI 챗봇 기업들에게 챗봇이 아동에게 미치는 영향을 분석한 자료를 제출하라고 했다.

당초 공익적 목적을 강조했던 오픈AI가 상업성에 치우치는 점에서도 우려가 커진다. 다른 서비스에서 성적 이미지와 관련한 문제가 불거졌던 지난 8월만 해도 샘 올트먼은 "챗GPT에 성적 이미지 아바타 같은 기능을 도입하지 않았다는 사실이 자랑스럽다"고 밝혔다. 챗GPT의 개발 비용을 회수하지 못하는 가운데 경쟁 서비스들이 점유율을 높여나가면서 상업적인 측면을 강화하는 것으로 보인다. 오픈AI는 2025년 상반기 78억 달러(약 10조9000억 원)의 영업손실을 기록했다.