3일 오후 소라 앱에서 상위를 차지하고 있는 4개의 영상. 왼쪽부터 밥 로스, 피치공주, 프레드 로저스, 샘 올트먼을 토대로 만들어진 인공지능(AI) 영상이다. /소라 캡처
오픈AI가 1960년대 미국 흑인 인권 운동을 이끌었던 마틴 루서 킹 주니어에 대한 인공지능(AI) 영상 생성을 중단했다. AI 영상 소셜미디어(SNS) ‘소라’에서 킹 박사를 부적절하게 묘사한 영상들이 다수 만들어졌단 지적이 제기됐기 때문이다.

17일(현지 시각) 미 경제방송 CNBC 등 외신에 따르면 오픈AI는 전날 SNS를 통해 “킹 박사를 묘사하는 영상 생성을 일시 중단했다”고 밝혔다. 마틴 루서 킹 주니어 유족과 재단의 요청에 따른 대응이라고 했다. 소라는 AI로 영상을 만들고 업로드할 수 있는 플랫폼으로 출시한 지 5일 만에 100만 다운로드를 돌파했다. 오픈AI는 “역사적 인물에 대한 표현의 자유도 중요하다”며 “그러나 공적 인물과 그 가족이 자신의 모습이 어떻게 사용되는지에 대해 통제권을 가져야 한다”고 했다. 이어 “역사적 인물에 대한 생성 기준을 강화하겠다”고도 밝혔다.

이번 조치는 사용자가 실제 인물과 역사적 인물을 활용해 사실처럼 보이는 AI 영상을 만들 수 있는 ‘소라2’가 출시된 지 몇 주 만에 이뤄졌다. 최신 버전 소라2는 지난달 말 출시된 텍스트 기반 AI 영상 생성 도구로, 사용자가 입력한 문장을 바탕으로 짧은 동영상을 자동 생성해 준다. CNN은 “이런 기술이 진짜와 가짜의 경계를 흐리며, 허위 정보와 저품질 영상이 확산되는 이른바 ‘AI 슬롭(slop)’을 부추긴다”고 지적했다.

소라의 확산은 AI 기술의 윤리적 사용에 대한 온라인 논쟁도 촉발했다. 킹 박사 등 고인의 영상이 가족들에게 아픔을 줄 수 있다는 의견도 나오고 있다. 지난주 고(故) 로빈 윌리엄스의 딸 젤다 윌리엄스는 AI로 생성된 아버지 영상들에 대해 “충격적”이라고 표현하며 유포를 자제해 달라고 호소했다. 지난해 배우 스칼릿 조핸슨은 영화 ‘그녀(Her)’에서 자신이 연기한 목소리와 매우 유사한 음성이 챗GPT에 사용되었다고 주장했으며, 이에 오픈AI는 해당 음성을 플랫폼에서 제거했다. 하지만 영상 생성을 막는 것이 ‘표현의 자유’를 훼손할 수 있다는 반대 주장도 있다.