기고 | AI와 평범한 사람들AI 모의 면접하는 모습. 채용 인공지능은 합격여부에 큰 영향을 미침에도 불구하고 그 과정이 불투명해 비판을 받고 있다. 이처럼 AI로 영향을 받는 이들이 늘어나면서, ‘영향받는 자’에 대한 정의와 ‘설명받을 권리’가 법으로 규정되어 있지만, 하위법령을 통해 사실상 무시되고 있다. 연합뉴스 최근 콜센터에 전화해 본 사람은 비슷한 경험을 했을 것이다. 콜센터가 인공지능으로 바뀌고 있다. 어떤 인공지능은 잘 작동하고 어떤 인공지능은 잘 작동하지 않지만, 확실한 사실은 사람 상담원이 줄고 있다는 점이다. 고객 입장에서 사람을 만나기까지 예전보다 훨씬 오랜 시간과 단계를 거쳐야 한다. 지금 우리가 겪고 있는 상황은 평범한 사람들에게 무엇을 의미할까.

노동자들에게 인공지능은 일자리의 양과 질, 그리고 일하는 방식을 바꾸고 있다. 하지만 인공지능이 배치된다는 사실이나 그 내용에 대해 노동자와 협의하거나 심지어 안내하는 회사가 거의 없다. 어느 날 출근해보니 자신이 상담하는 내용을 인공지능이 대신하기 시작했다는 식이다. 업무에 보탬이 되는 부분도 있겠지만 결국 회사는 상담 내용을 받아쓰는 인공지능으로 상담사 자리를 대체하려 할 것이다.

인공지능이 단순 업무만 대체하면 괜찮을까? 초급 일자리부터 사회 생활을 시작하는 청년들의 갈 곳이 더 줄어들 수 있다. 최근 정부와 기업은 인공지능의 낙관적 미래를 설파하고 국가 자원을 대거 투여하고 있다. 하지만 평범한 사람들에게 인공지능은 이미 좋은 경험만이 아니다. 일터는 사람의 자리에 인공지능을 앉히기 시작했고, 여가는 인공지능이 양산한 숏폼에 둘러싸여 있다. 어느새 음모론과 증오가 팽배해진 세상이 인공지능과 무관하다고 볼 수 있을까.

하지만 이재명 정부에서 인공지능이 평범한 사람들의 삶과 노동에 미치는 영향에 대해 고민하는 공공의 역할이 보이지 않는다. 그저 높은 곳에서 ‘인공지능 올인’, ‘인공지능 골든타임’이라는 정책 용어만 훈시처럼 내리꽂고 있다. 지난 9월 과학기술정보통신부와 한국지능정보사회진흥원이 공개한 인공지능기본법 하위법령안도 그들만의 리그인 듯하다. 기업 책무는 법률상으로도 그다지 강력하지 않았고 그나마 하위법령을 통해 부담이 한층 더 약해졌다. 예컨대 법률로 생성형 콘텐츠에 표시 의무를 부과하고 난 후, 하위법령을 통해 사람의 눈에 반드시 보이지 않아도 된다고 덜어내는 식이다. 언제 이루어질지 모르는 정부의 시정명령조차 따르지 않는 사업자에게 과태료 약간 부과할 뿐인데, 하위법령안은 그조차도 유예하겠다고 한다.

진짜 가장 큰 문제는 위험한 인공지능에 대한 규제 공백이다. 법률은 인공지능이 인권에 미치는 영향에 대해 최소한으로만 규제하면서 시행령에 더 추가하도록 위임했는데, 시행령 초안은 아무것도 추가하지 않았다. 예컨대 생체인식기술을 이용한 실시간 집회 감시가 금지되긴커녕 고영향 규제 대상에도 속하지 않는 식이다. 콜센터 인공지능이 노동자와 고객의 감정을 인식하고 감시하는 일도 허용된다. 할 수만 있다면 어떤 인공지능이건 개발하고 판매하라는 암시가 가득하다.

채용 인공지능은 우리나라에서 아직도 많은 청년을 괴롭히고 있다. 불투명한 인공지능이 합격의 키를 쥐고 있기에, 무조건 웃거나 고운 말을 쓰라는 식의 정체불명의 코칭이 넘쳐난다. 인공지능이 특정 지역 사투리를 잘 인식하지 못하거나, 장애 때문에 표정이 경직된 것을 차별적으로 판단할 수도 있다. 논란이 많았던 만큼 채용 인공지능이 고영향 인공지능에 포함되어 있기는 하지만 하위법령안에는 채용회사가 아예 ‘인공지능사업자’가 아닌 것으로 분류된다. 회사는 인공지능의 ‘이용자’로 인공지능사업자가 부담해야 할 책무가 적용되지 않는다는 뜻이다. 따라서 채용회사는 채용 대상자에게 설명하거나 사람의 관리·감독을 시행할 책무가 없다.

유럽연합은 물론이고 내년 6월 시행 예정인 미국 콜로라도주처럼, 인공지능법을 입법하는 지역이라면 업무에 고영향 인공지능을 배치하는 모든 사업자에게 의무를 부과한다. 국회도 입법할 때 ‘영향받는 자’를 정의하고 기본원칙에 영향받는 자의 ‘설명받을 권리’를 규정했다. 그래서 우리 인공지능기본법도 인공지능을 배치하는 사업자가 그 영향을 받는 사람에게 설명을 제공하는 등 의무를 부과할 것으로 예상되었다. 하지만 하위법령안에 따르면 채용 인공지능의 영향을 받는 구직자는 자신을 채용한 회사에 설명을 요구할 수 없다. 국내에 있는지도 모를 인공지능 개발회사를 찾아가라는 것이다. 병원 인공지능의 영향을 받는 환자나 금융 인공지능의 영향을 받는 금융소비자도 비슷한 방식으로 방치되었다.

과학기술정보통신부가 스스로 밝힌 인공지능기본법의 핵심은 ‘인공지능 산업 발전과 안전‧신뢰 기반 구축’이라는 두 가치를 균형적으로 달성하는 데 있다. 인공지능에 대한 안전과 신뢰 기반은 인공지능이 안전과 인권에 미치는 위험으로부터 영향받는 사람을 보호하는 데서 나온다. 그러나 지금 공개된 하위법령안에 영향받는 평범한 사람들을 보호하는 내용은 거의 보이지 않는다. 사람과 사회에 미치는 영향에 대한 견제가 어디에도 보이지 않는다.

인공지능이 활용하는 데이터의 원천은 사람이다. 예측이나 결정의 대상이 되는 것도 사람이다. 그런데 평범한 사람들은 인공지능 강국을 위해 데이터가 되고 일자리도 내어주며 그 적용 대상이 되는 길밖에 없는 것일까? 이재명 정부가 기업 이익에 심하게 편중된 인공지능기본법 하위법령안을 바로잡기 바란다. 기업 인공지능의 성장을 위해 평범한 사람들의 삶과 노동이 종속된다면, 인공지능 시대에 민주주의를 기대할 수 없을 것이다.

장여경 정보인권연구소 상임이사