디지털타임스·고려대 정보보호대학원 공동주최
‘사이버보안·프라이버시 국제 콘퍼런스 2025’
“각국이 함께 움직여야 AI 부작용을 최소화 가능”
권헌영 고려대 정보보호대학원 교수가 27일 서울 성북구 고려대 SK미래관 최종현홀에서 열린 사이버보안 국제 학술대회 ‘KU-ICCSP 2025’에서 발표하고 있다. 박동욱기자 fufus@
올해 분야를 막론하고 해킹 사고가 잇따르면서 한국 사회 전반에 사이버위협에 대한 경각심이 높아진다. 더욱이 미래 혁신의 원동력으로 주목받는 인공지능(AI) 기술은 사이버공격의 지능화·고도화 등 여러 부작용도 동반하며 우려도 함께 사고 있다. 안전과 혁신의 두 마리 토끼를 잡기 위해 그 어느 때보다 칸막이와 국경을 넘는 협력과 이를 위한 체계가 필요한 시점이다.
디지털타임스와 고려대 정보보호대학원은 27일 서울 성북구 안암캠퍼스 SK미래관 최종현홀에서 ‘사이버보안·프라이버시 국제 콘퍼런스 2025’(KU-ICCSP 2025)를 개최했다. 행사에서 이 대학원 권헌영 교수는 “AI 기술로 인한 문제들을 해결·관리할 필요성은 누구나 안다. 다만, 무엇이 얼마나 문제인지, 이를 누가 정할지 모른다”며 “미래를 위해 함께 소통하며 신뢰 기반 생태계를 만들어야한다”고 강조했다.
플로렌스 지셀 미국 스탠퍼드대 교수가 27일 서울 성북구 고려대학교 SK미래관 최종현홀에서 열린 사이버보안 국제 학술대회 ‘KU-ICCSP 2025’에서 발표하고 있다. 박동욱기자 fufus@
이날 행사의 첫 세션은 고려대와 미국 스탠퍼드대 및 일본 교토대의 AI 법제 주제 공동 워크숍 세션으로 진행됐다. 먼저 프랑스 출신인 플로랑스 즈셀 스탠퍼드대 교수는 유럽연합(EU) AI법과 미국 주(州) 법제를 살펴보며 AI 분야 공급자 책임 관련 쟁점을 정리했다. AI 개발자·공급자들이 처한 규제 불확실성이 갈수록 커지면서 다양한 문제가 야기될 수 있음을 지적했다.
즈셀 교수는 EU 내 변화하는 분위기에도 주목했다. EU ‘AI 법’에 따른 내년 고위험 AI 규제의 실질적 적용이 그 방대함과 모호함으로 인해 물음표가 붙는 가운데, 지난해 일명 ‘드라기 보고서’ 이후 EU도 규제 유예나 간소화를 검토하는 점은 한국에도 시사하는 바가 크다. 반면, 본격적인 규제가 이뤄지지 않은 미국의 경우 AI개발 경쟁으로 충분한 테스트 없이 빠르게 출시하려는 경향이 나타나고 있다고 지적했다.
즈셀 교수는 “AI 규제와 안전장치는 분명 필요하다. 하지만 기업이 구체적으로 무엇을 해야 하는지는 명료해야 한다”며 “AI 전반에 적용될 수 있는 일반 책임 원칙은 여전히 불확실하다. 이에 대한 선제적 고민을 함께 해야 한다”고 말했다.
이나타니 다쓰히코 일본 교토대학교 교수가 27일 서울 성북구 고려대 SK미래관 최종현홀에서 열린 사이버보안 국제 학술대회 ‘KU-ICCSP 2025’에서 발표하고 있다. 박동욱기자 fufus@
이어 이나타니 다쓰히코 교토대 교수는 형법학자의 관점에서 AI와 전통적 과실책임 원리의 충돌을 자율주행 분야 중심으로 짚었다. 현대 형법 체계는 인간의 이성·자유의지 기반 통제를 근간으로 하며, 예견 가능한 사고는 회피할 의무가 있다고 본다. 하지만 생성형AI는 통계적·확률적으로 작동하는 구조이며, 인풋에 따른 아웃풋을 개발자도 예상하기 어렵다. 법적으로 책임 또는 무책임의 양극단에 치우칠 수 있게 된다.
이에 일본 대법원에선 결과의 완전 회피가 아니라 위험의 합리적 저감 의무로 해석을 확대했다. 또 다자 이해관계자가 안전기준을 마련하고 전문조사·판단을 거쳐 지속 갱신하는 애자일 거버넌스를 마련했다. 지난해 영국도 자동주행차법을 제정했는데 전반적 틀에서 일본과 유사한 구조를 보인다. 기소유예협정을 활용하는 영국의 이 법령을 선례 삼아 미국에서도 관련 논의를 진행하고 있다.
이나타니 교수는 “AI 개발자와 제조자는 자신이 생성하는 위험을 합리적 수준으로 줄이도록 균형 잡힌 안전조치를 취해야한다. 그 기준은 최신의 최선 관행에 연동돼야한다”며 “인간과 AI의 상호작용은 형법 영역에도 많은 변화를 불러올 것”이라고 말했다.
마지막으로 권 교수는 이런 AI 법제 관련 세계적 동향을 아울러 국제 거버넌스를 마련할 필요성을 강조했다. 한 나라의 법률과 체계를 만드는 것을 넘어 세계 각국이 교류하고 함께 움직여야 AI의 부작용을 최소할 수 있다고 주장했다. 급속도로 발전하는 AI 기술을 제어·관리하며 특정 집단의 이익이 아니라 공동의 번영에 쓰이도록 하려면 협력이 전제돼야 한다는 것이다.
권 교수는 “우리는 이미 자동차, 환경, 식품, 의약품 등 분야에서 이런 공감대를 형성하고 함께 움직인 경험이 있다. AI에 대한 관리도 마찬가지로 접근할 수 있다”며 “국가와 분야에 상관없이 모두가 이런 책임의 당사자란 인식을 갖고 공조를 이뤄야 한다”고 짚었다.
세션의 좌장을 맡은 임종인 고려대 명예교수(전 대통령사이버특보)는 “30년 전 GDP가 비슷했던 EU와 미국은 인터넷을 두고 규제와 혁신이라는 다른 접근을 취했고, 그 결과가 지금의 경제적 격차로도 이어졌다”며 “AI의 발전은 그보다도 훨씬 빠를 것이다. 규제와 혁신 사이에서 균형을 찾는 논의에 모두가 동참할 때”라고 덧붙였다.
‘사이버보안·프라이버시 국제 콘퍼런스 2025’
“각국이 함께 움직여야 AI 부작용을 최소화 가능”
올해 분야를 막론하고 해킹 사고가 잇따르면서 한국 사회 전반에 사이버위협에 대한 경각심이 높아진다. 더욱이 미래 혁신의 원동력으로 주목받는 인공지능(AI) 기술은 사이버공격의 지능화·고도화 등 여러 부작용도 동반하며 우려도 함께 사고 있다. 안전과 혁신의 두 마리 토끼를 잡기 위해 그 어느 때보다 칸막이와 국경을 넘는 협력과 이를 위한 체계가 필요한 시점이다.
디지털타임스와 고려대 정보보호대학원은 27일 서울 성북구 안암캠퍼스 SK미래관 최종현홀에서 ‘사이버보안·프라이버시 국제 콘퍼런스 2025’(KU-ICCSP 2025)를 개최했다. 행사에서 이 대학원 권헌영 교수는 “AI 기술로 인한 문제들을 해결·관리할 필요성은 누구나 안다. 다만, 무엇이 얼마나 문제인지, 이를 누가 정할지 모른다”며 “미래를 위해 함께 소통하며 신뢰 기반 생태계를 만들어야한다”고 강조했다.
이날 행사의 첫 세션은 고려대와 미국 스탠퍼드대 및 일본 교토대의 AI 법제 주제 공동 워크숍 세션으로 진행됐다. 먼저 프랑스 출신인 플로랑스 즈셀 스탠퍼드대 교수는 유럽연합(EU) AI법과 미국 주(州) 법제를 살펴보며 AI 분야 공급자 책임 관련 쟁점을 정리했다. AI 개발자·공급자들이 처한 규제 불확실성이 갈수록 커지면서 다양한 문제가 야기될 수 있음을 지적했다.
즈셀 교수는 EU 내 변화하는 분위기에도 주목했다. EU ‘AI 법’에 따른 내년 고위험 AI 규제의 실질적 적용이 그 방대함과 모호함으로 인해 물음표가 붙는 가운데, 지난해 일명 ‘드라기 보고서’ 이후 EU도 규제 유예나 간소화를 검토하는 점은 한국에도 시사하는 바가 크다. 반면, 본격적인 규제가 이뤄지지 않은 미국의 경우 AI개발 경쟁으로 충분한 테스트 없이 빠르게 출시하려는 경향이 나타나고 있다고 지적했다.
즈셀 교수는 “AI 규제와 안전장치는 분명 필요하다. 하지만 기업이 구체적으로 무엇을 해야 하는지는 명료해야 한다”며 “AI 전반에 적용될 수 있는 일반 책임 원칙은 여전히 불확실하다. 이에 대한 선제적 고민을 함께 해야 한다”고 말했다.
이어 이나타니 다쓰히코 교토대 교수는 형법학자의 관점에서 AI와 전통적 과실책임 원리의 충돌을 자율주행 분야 중심으로 짚었다. 현대 형법 체계는 인간의 이성·자유의지 기반 통제를 근간으로 하며, 예견 가능한 사고는 회피할 의무가 있다고 본다. 하지만 생성형AI는 통계적·확률적으로 작동하는 구조이며, 인풋에 따른 아웃풋을 개발자도 예상하기 어렵다. 법적으로 책임 또는 무책임의 양극단에 치우칠 수 있게 된다.
이에 일본 대법원에선 결과의 완전 회피가 아니라 위험의 합리적 저감 의무로 해석을 확대했다. 또 다자 이해관계자가 안전기준을 마련하고 전문조사·판단을 거쳐 지속 갱신하는 애자일 거버넌스를 마련했다. 지난해 영국도 자동주행차법을 제정했는데 전반적 틀에서 일본과 유사한 구조를 보인다. 기소유예협정을 활용하는 영국의 이 법령을 선례 삼아 미국에서도 관련 논의를 진행하고 있다.
이나타니 교수는 “AI 개발자와 제조자는 자신이 생성하는 위험을 합리적 수준으로 줄이도록 균형 잡힌 안전조치를 취해야한다. 그 기준은 최신의 최선 관행에 연동돼야한다”며 “인간과 AI의 상호작용은 형법 영역에도 많은 변화를 불러올 것”이라고 말했다.
마지막으로 권 교수는 이런 AI 법제 관련 세계적 동향을 아울러 국제 거버넌스를 마련할 필요성을 강조했다. 한 나라의 법률과 체계를 만드는 것을 넘어 세계 각국이 교류하고 함께 움직여야 AI의 부작용을 최소할 수 있다고 주장했다. 급속도로 발전하는 AI 기술을 제어·관리하며 특정 집단의 이익이 아니라 공동의 번영에 쓰이도록 하려면 협력이 전제돼야 한다는 것이다.
권 교수는 “우리는 이미 자동차, 환경, 식품, 의약품 등 분야에서 이런 공감대를 형성하고 함께 움직인 경험이 있다. AI에 대한 관리도 마찬가지로 접근할 수 있다”며 “국가와 분야에 상관없이 모두가 이런 책임의 당사자란 인식을 갖고 공조를 이뤄야 한다”고 짚었다.
세션의 좌장을 맡은 임종인 고려대 명예교수(전 대통령사이버특보)는 “30년 전 GDP가 비슷했던 EU와 미국은 인터넷을 두고 규제와 혁신이라는 다른 접근을 취했고, 그 결과가 지금의 경제적 격차로도 이어졌다”며 “AI의 발전은 그보다도 훨씬 빠를 것이다. 규제와 혁신 사이에서 균형을 찾는 논의에 모두가 동참할 때”라고 덧붙였다.
댓글목록
등록된 댓글이 없습니다.