스티븐 호킹이 레슬링을 하는 것처럼 생성한 영상. 유튜브 갈무리
휠체어에 탄 스티븐 호킹이 지게차로 들어 올려진다. 호킹을 공격하려는 다른 프로레슬러의 머리 위로 떨어지며 경기장 바닥에 나뒹군다. 또 다른 경기 영상에서는 스티븐 호킹이 휠체어를 탄 채로 아인슈타인과 싸운다. 아인슈타인이 호킹에게 ‘헤드락’(머리를 팔로 감는 기술)을 건다. 2018년에 사망한 과학자와 1955년에 사망한 과학자가 프로레슬링을, 그것도 휠체어를 타고 하는 건 불가능하다. 모두 지난 6일(현지시각) 오픈에이아이(AI)가 공개한 영상 생성 인공지능 모델 ‘소라2’로 만든 영상이다.

영상 생성 인공지능 모델은 손쉽게 창의적인 영상을 만들 수 있단 장점이 있지만, 개인에 대한 모욕이나 저작권 침해 등 문제점도 함께 가지고 있다. 인공지능 모델의 발전에 비례해 부작용 사례도 늘어나며 우려의 목소리도 커지는 모양새다.

우스갯거리가 된 역사 속 인물들
생성형 영상 소셜미디어 ‘소라’에는 세상을 떠난 역사 속 인물들이 우스꽝스러운 행동이나 말을 하는 영상을 쉽게 찾을 수 있다. 한 영상에선 미국의 인권운동가 마틴 루서 킹이 마트 계산대 앞에서 장을 본 물건을 들고 “나에겐 이 물건들을 공짜로 가져갈 수 있는 꿈이 있습니다”라고 말하더니 돈을 내지 않고 자리를 뜬다. 그의 생전 유명한 연설인 ‘나에게는 꿈이 있습니다’를 활용해 그를 좀도둑으로 만든 것이다.

이런 모욕적인 영상이 가능한 것은 오픈에이아이가 역사적인 인물의 초상권은 보호하지 않기 때문이다. 오픈에이아이는 실제 인물에 기반을 둔 인공지능 영상은 본인 동의로 제작될 것이라고 했지만, 여기서 ‘역사적인 인물’은 표현의 자유를 이유로 제외했다.


세상을 떠난 유명인의 유족들은 생성형 서비스로 만들어진 영상으로 고통받고 있다. 배우 로빈 윌리엄스의 딸 젤다 윌리엄스는 인스타그램에 “아버지의 인공지능 영상을 보내지 말라”며 “실존 인물의 유산이 끔찍한 틱톡식 엉터리 영상으로 조종되는 걸 보는 건 정말 화가 난다”고 말했다. 논란이 확산되자 오픈에이아이는 “대리인이 요청하면 해당 인물의 초상을 차단할 수 있게 하겠다”는 입장을 밝혔다.

마틴 루서 킹이 계산대에서 결하지 않으려는 영상. 틱톡 갈무리
‘카톡팝’도 생성형 인공지능 덕분
한국에서는 최근 영상 생성 인공지능 모델로 실존 인물을 다루는 콘텐츠가 화제다. 카카오톡에 15년 만에 대규모 업데이트로 ‘피드형’ 친구탭을 도입했다가 사용자의 역풍을 맞은 카카오의 홍민택 시피오(CPO, 최고제품책임자)가 주인공이다. 홍 시피오가 이번 업데이트를 주도한 것으로 알려지면서, 업데이트에 분노한 사용자들이 인공지능을 활용해 그를 풍자하거나 비꼬는 콘텐츠를 다수 생산해 공유하고 있다. ‘카톡팝’이라 불리는 영상이다.

생성형 모델로 음악이나 영상을 만들어 유명인을 풍자하는 영상은 누리꾼들 사이에서 이미 일종의 놀이가 됐다. 생성형 인공지능 서비스 풍자 대상이 되는 인물에게는 ‘악기가 됐다’는 표현을 쓰기도 한다. 해당 인물의 음성이나 영상을 놀이의 대상으로 삼기 때문에 붙는 표현이다. 널리 알려진 공인인 경우 어느정도 비판과 풍자의 대상이 될 수 있지만, 도를 넘어서는 경우엔 명예훼손 또는 모욕이 될 수 있어 논란의 여지가 있다.

AI로 찍어내는 저질 콘텐츠 ‘슬롭’
생성형 인공지능으로 저품질의 콘텐츠가 양산되는 ‘에아아이 슬롭’(AI Slop, 음식물 찌꺼기 같다는 뜻) 문제도 심각하다. 간단하게 영상을 만들어 수익을 얻기 위해 자극적이고 수준 낮은 인공지능 영상 콘텐츠가 범람하기 시작한 것이다. 고양이 얼굴을 한 애벌레가 기어다니거나, 진흙으로 된 인간을 요리 솥에 넣는 것 같은 비현실적이고 자극적인 영상들이다. 슬롭 콘텐츠의 확산을 추적 보도해온 제이슨 코블러 ‘404미디어’ 창업자는 미국의 공영방송 엔피알(NPR)과의 인터뷰에서 “인공지능은 스팸을 엄청나게 강화하고 있다”며 “(슬롭 콘텐츠의) 목적은 알고리즘을 어떤 식으로든 공략하는 데 있다”고 비판했다.

저품질 영상을 이용해 마구잡이로 만들어지는 사기 광고도 문제다. 최근 국내에서도 인공지능으로 만든 ‘가짜 의사’를 내세워 잘못된 정보를 전달하는 건강보조식품 광고가 논란이 된 바 있다. 같은 사기 광고도 예전에 대역 배우를 쓰는 비용과 노력이 필요했다면, 지금은 프롬프트 몇 줄만으로 손쉽고 빠르게 허위 영상을 만들 수 있다.

비오3으로 드래곤볼의 ‘손오공’이 인터뷰를 하는 것처럼 만든 영상. 유튜브 갈무리
무분별한 저작권 침해 우려도
인공지능 영상 활성화를 위해 영상 제작의 허용 범위를 무분별하게 확장한 글로벌 테크기업의 저작권 정책은 저작권자의 권리 침해를 사실상 방치하는 결과를 만든다. 실제 소라나 비오(구글의 영상 생성 모델)등이 출시된 뒤 각종 소셜미디어에는 ‘드래곤볼’이나 ‘포켓몬스터’ ‘슈퍼마리오’ 등 유명한 지적재산권(IP)을 활용한 인공지능 생성 콘텐츠가 쏟아지고 있다.

특히 애니메이션과 게임에서 유명한 지적재산권을 다수 보유한 일본의 피해가 크다. 시오자키 아키히사 일본 중의원 의원은 소라2 출시 이후 소셜미디어에 “일본의 애니메이션이나 게임 캐릭터를 권리자의 허가 없이 자유롭게 생성할 수 있다는 놀라운 사태가 현실로 일어나고 있다”고 비판했다. 샘 올트먼 오픈에이아이 최고경영자(CEO)는 잇단 저작권 논란에 “일부 수익을 저작권자와 나누는 모델을 곧 시범적으로 도입하겠다”고 밝혔다.