AI로 만든 '빈곤 이미지' 윤리적 논란
"AI 시대, 인권 감수성 시험대 올라"인공지능(AI) 기술이 일상 전반에 빠르게 확산하면서 이에 따른 부작용도 잇따르고 있다. AI로 만든 가짜 이미지가 인도주의 단체의 홍보 캠페인에 사용되는가 하면, 틱톡 등에서는 가짜 AI 영상이 확산해 경찰이 출동하는 일까지 벌어졌다.
AI 이미지 사용해 캠페인…'빈곤 포르노' 지적도
자선단체 플랜 인터내셔널이 아동 결혼 반대 캠페인에서 사용한 AI 이미지. 유튜브
최근 영국 일간지 가디언은 "AI가 만든 가짜 '빈곤 포르노' 이미지들이 인도주의 단체의 캠페인에 사용되고 있다"며 "여러 우려 속에서 인권 보호 원칙이 무너지고 있다"고 지적했다. 보도에 따르면 AI 이미지는 제작비가 저렴하고 초상권 동의 절차를 거치지 않아도 된다는 이유로 인도주의 단체들 사이에서 선호되고 있다. 일부 단체는 실존 인물 대신 AI가 만든 가상의 인물을 활용해 빈곤과 기아의 현실을 묘사하고 있으며, 진흙탕 속에서 웅크린 아이들이나 웨딩드레스를 입은 아프리카 소녀 등의 AI 이미지가 실제 캠페인에 등장하고 있다.
이를 두고 벨기에 앤트워프 열대의학연구소의 아르세니 알레니체프(Arsenii Alenichev) 연구원은 '빈곤 포르노'라고 규정했다. 가난을 감정 자극의 도구로 활용하고 있다는 것이다. 알레니체프는 "빈 접시를 든 아이들, 갈라진 땅 등 전형적인 '빈곤의 상징'들이 반복되고 있다"며 "이런 이미지들은 아프리카나 인도 등에 대한 최악의 고정관념을 재생산하고 있다"고 했다.
과거에도 주요 자선단체들은 AI 이미지를 활용해 홍보에 나선 바 있다. 영국 자선단체 플랜 인터내셔널(Plan International)의 네덜란드 지부는 2023년 아동 결혼 반대 캠페인 영상에서 '멍든 눈의 소녀', '나이 든 남성과 임신한 10대 소녀' 등의 AI 생성 이미지를 사용했다. 유엔(UN) 역시 지난해 유튜브를 통해 분쟁 중 성폭력 생존자들의 증언을 재연한 형태의 AI 영상을 공개했다. 그러나 영상이 사실과 허구를 구분하기 어렵게 만들어 '정보의 진실성을 훼손했다'는 논란이 일자 결국 삭제됐다.
국제 비영리단체(NGO) 커뮤니케이션 컨설턴트 케이트 카돌(Kate Kardol) 역시 "이제 윤리적 표현을 위해 싸워야 하는 무대가 '현실'에서 '가짜 세계'로 확장됐다"며 "AI 시대의 인권 감수성이 심각하게 시험대에 올랐다"고 말했다.
개인 일상 파고든 AI…가짜영상 오인해 경찰 출동도
최근 SNS에서 유행 중인 'AI 노숙자' 장난. 틱톡
AI 이미지 오남용은 개인의 일상 속으로까지 파고들었다. 누구나 AI를 통해 이미지를 손쉽게 만들어낼 수 있게 되면서 현실과 가상의 경계가 흐려졌다는 지적이다. 이에 AI가 범죄나 사회적 혼란으로 이어질 가능성이 제기되고 있다. 실제로 영국 BBC에 따르면 최근 사회관계망서비스(SNS)에서는 'AI 노숙자(AI homeless man)' 장난이 확산해 경찰이 경고에 나섰다. 이는 AI로 만든 낯선 남성이 집 안에 침입한 것처럼 꾸민 이미지 등을 가족에게 보내는 방식이다. 이미지는 구글의 생성형 인공지능 '제미나이(Gemini)' 등을 이용해 만들어졌으며, 실제 사진처럼 매우 정교하다.
이 같은 장난이 실제 신고로 이어진 사례도 있었다. 영국 남서부 도싯에서는 한 10대 소녀가 부모에게 "이 남자가 우리 집에 들어왔는데 나가길 거부하고 있다"는 메시지와 함께 AI로 생성한 이미지를 보냈다. 부모는 실제 침입으로 오인해 경찰에 신고했고, 이로 인해 긴급 출동이 이뤄졌다. 경찰은 이후 "실제 긴급 상황에 투입될 수 있었던 귀중한 자원을 사용했다"며 "가족이나 친구로부터 이런 이미지나 메시지를 받았을 경우, 999(영국 긴급전화)를 누르기 전에 먼저 장난이 아닌지 확인해야 한다"고 당부했다. 미국 워싱턴주 오크하버 고등학교에서도 학교 주변을 노숙자가 배회하고 있다는 SNS 게시물이 퍼졌지만, 조사 결과 AI 조작으로 드러났다.
상황이 이렇자 AI로 인한 사기나 조작 위험을 경고하는 목소리도 커지고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 7월 연방준비제도(Fed)에서 열린 '경제 및 사회적 AI 영향' 관련 인터뷰에서 "AI는 이미 대부분의 인증 방식을 완전히 무력화했다"며 "지금은 (AI를 악용한) 음성 통화로 사기 행위를 하는 수준이지만 곧 현실과 구별이 불가능한 영상 통화까지 등장할 것"이라고 했다.
"AI 시대, 인권 감수성 시험대 올라"인공지능(AI) 기술이 일상 전반에 빠르게 확산하면서 이에 따른 부작용도 잇따르고 있다. AI로 만든 가짜 이미지가 인도주의 단체의 홍보 캠페인에 사용되는가 하면, 틱톡 등에서는 가짜 AI 영상이 확산해 경찰이 출동하는 일까지 벌어졌다.
AI 이미지 사용해 캠페인…'빈곤 포르노' 지적도
최근 영국 일간지 가디언은 "AI가 만든 가짜 '빈곤 포르노' 이미지들이 인도주의 단체의 캠페인에 사용되고 있다"며 "여러 우려 속에서 인권 보호 원칙이 무너지고 있다"고 지적했다. 보도에 따르면 AI 이미지는 제작비가 저렴하고 초상권 동의 절차를 거치지 않아도 된다는 이유로 인도주의 단체들 사이에서 선호되고 있다. 일부 단체는 실존 인물 대신 AI가 만든 가상의 인물을 활용해 빈곤과 기아의 현실을 묘사하고 있으며, 진흙탕 속에서 웅크린 아이들이나 웨딩드레스를 입은 아프리카 소녀 등의 AI 이미지가 실제 캠페인에 등장하고 있다.
이를 두고 벨기에 앤트워프 열대의학연구소의 아르세니 알레니체프(Arsenii Alenichev) 연구원은 '빈곤 포르노'라고 규정했다. 가난을 감정 자극의 도구로 활용하고 있다는 것이다. 알레니체프는 "빈 접시를 든 아이들, 갈라진 땅 등 전형적인 '빈곤의 상징'들이 반복되고 있다"며 "이런 이미지들은 아프리카나 인도 등에 대한 최악의 고정관념을 재생산하고 있다"고 했다.
과거에도 주요 자선단체들은 AI 이미지를 활용해 홍보에 나선 바 있다. 영국 자선단체 플랜 인터내셔널(Plan International)의 네덜란드 지부는 2023년 아동 결혼 반대 캠페인 영상에서 '멍든 눈의 소녀', '나이 든 남성과 임신한 10대 소녀' 등의 AI 생성 이미지를 사용했다. 유엔(UN) 역시 지난해 유튜브를 통해 분쟁 중 성폭력 생존자들의 증언을 재연한 형태의 AI 영상을 공개했다. 그러나 영상이 사실과 허구를 구분하기 어렵게 만들어 '정보의 진실성을 훼손했다'는 논란이 일자 결국 삭제됐다.
국제 비영리단체(NGO) 커뮤니케이션 컨설턴트 케이트 카돌(Kate Kardol) 역시 "이제 윤리적 표현을 위해 싸워야 하는 무대가 '현실'에서 '가짜 세계'로 확장됐다"며 "AI 시대의 인권 감수성이 심각하게 시험대에 올랐다"고 말했다.
개인 일상 파고든 AI…가짜영상 오인해 경찰 출동도
AI 이미지 오남용은 개인의 일상 속으로까지 파고들었다. 누구나 AI를 통해 이미지를 손쉽게 만들어낼 수 있게 되면서 현실과 가상의 경계가 흐려졌다는 지적이다. 이에 AI가 범죄나 사회적 혼란으로 이어질 가능성이 제기되고 있다. 실제로 영국 BBC에 따르면 최근 사회관계망서비스(SNS)에서는 'AI 노숙자(AI homeless man)' 장난이 확산해 경찰이 경고에 나섰다. 이는 AI로 만든 낯선 남성이 집 안에 침입한 것처럼 꾸민 이미지 등을 가족에게 보내는 방식이다. 이미지는 구글의 생성형 인공지능 '제미나이(Gemini)' 등을 이용해 만들어졌으며, 실제 사진처럼 매우 정교하다.
이 같은 장난이 실제 신고로 이어진 사례도 있었다. 영국 남서부 도싯에서는 한 10대 소녀가 부모에게 "이 남자가 우리 집에 들어왔는데 나가길 거부하고 있다"는 메시지와 함께 AI로 생성한 이미지를 보냈다. 부모는 실제 침입으로 오인해 경찰에 신고했고, 이로 인해 긴급 출동이 이뤄졌다. 경찰은 이후 "실제 긴급 상황에 투입될 수 있었던 귀중한 자원을 사용했다"며 "가족이나 친구로부터 이런 이미지나 메시지를 받았을 경우, 999(영국 긴급전화)를 누르기 전에 먼저 장난이 아닌지 확인해야 한다"고 당부했다. 미국 워싱턴주 오크하버 고등학교에서도 학교 주변을 노숙자가 배회하고 있다는 SNS 게시물이 퍼졌지만, 조사 결과 AI 조작으로 드러났다.
상황이 이렇자 AI로 인한 사기나 조작 위험을 경고하는 목소리도 커지고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 7월 연방준비제도(Fed)에서 열린 '경제 및 사회적 AI 영향' 관련 인터뷰에서 "AI는 이미 대부분의 인증 방식을 완전히 무력화했다"며 "지금은 (AI를 악용한) 음성 통화로 사기 행위를 하는 수준이지만 곧 현실과 구별이 불가능한 영상 통화까지 등장할 것"이라고 했다.
댓글목록
등록된 댓글이 없습니다.