이번 연구결과가 게재된 국제학술지 ‘CAMC’ 11월 표지.[KAIST 제공]

[헤럴드경제=구본혁 기자] 운영체제 등 전 세계 핵심 소프트웨어의 기반인 C 언어가 보안 한계에 직면했다.

국내 연구진이 이를 대체할 러스트(Rust)로의 정확한 자동 변환을 위한 핵심 원천 기술 연구를 선도적으로 이끌고 있다. 기존 인공지능(LLM) 방식의 한계였던 ‘변환의 수학적 정확성’을 증명하고, C 언어의 보안 문제를 러스트로 자동 변환하여 해결, 향후 소프트웨어 보안 연구의 새로운 방향과 비전을 제시했다.

KAIST는 전산학부 류석영 교수 연구팀의 논문이 세계 최대 컴퓨터학회인 ACM이 발행하는 학술지 ‘CACM’ 11월호 표지 논문으로 선정되었다고 9일 밝혔다.

이번 논문은 류석영 교수 연구팀이 개발한 C 언어를 러스트(Rust)로 자동 변환하는 기술을 종합하여 다루었으며 향후 이 연구가 나아가야 할 기술적 비전과 학문적 방향을 제시했다는 점에서 국제 연구 커뮤니티의 높은 평가를 받았다.

C 언어는 70년대부터 산업계에서 폭넓게 사용되어 왔으나, 구조적 한계로 인해 심각한 버그와 보안 취약점을 지속적으로 유발해 왔다.

반면 러스트는 2015년부터 개발된 안전한 프로그래밍 언어로, 운영체제 및 웹 브라우저 개발 등에 사용되며, 프로그램 실행 전에 버그를 탐지하고 방지할 수 있는 특성을 지닌다.

미국 백악관은 2024년 2월 발표한 기술 보고서에서 C 언어 사용 중단을 권고, 미국 국방고등연구계획국(DARPA) 또한 C 코드를 러스트로 자동 변환하는 기술 개발 과제를 추진하며 C 언어의 보안 문제 해결에 러스트가 핵심 대안임을 명시했다.

류 교수 연구팀은 이러한 움직임이 본격화되기 이전부터 C 언어의 안전성 문제와 자동 변환의 중요성을 선제적으로 제기하고, 관련 핵심 기술을 지속적으로 개발해 왔다.

연구팀은 2023년 5월 프로그램 동기화에 필요한 뮤텍스(Mutex) 변환 기술을소프트웨어 공학 분야 최고 권위 학회인 ICSE에서 발표했으며, 2024년 6월에는 결과 전달에 사용되는 출력 파라미터(Output Parameter) 변환 기술을 프로그래밍 언어 분야 최고 학회인 PLDI에서, 같은 해 10월에는 다양한 데이터를 함께 저장하는 유니언(Union) 변환 기술을 소프트웨어 자동화 분야 대표 학회인 ASE에서 각각 발표했다.

류석영(왼쪽) KAIST 교수와 홍재민 박사.[KAIST 제공]

이들 세 연구는 모두 세계 최고 수준의 국제 학술대회에서 ‘세계 최초’로 발표된 성과로, 각 기능별 자동 변환 기술을 완성도 높게 구현해 왔다.

연구팀은 2023년 이후 매년 CACM에 논문을 게재하며 세계적으로 중요하고 도전적인 문제를 꾸준히 해결해 온 글로벌 선도 연구진으로 자리매김했다.

논문 제1저자인 홍재민 박사는 “우리가 개발한 변환 기술은 프로그래밍 언어 이론에 기반한 원천 기술로, 변환의 ‘정확성’을 논증할 수 있는 것이 큰 강점”이라며 “대부분의 연구가 대규모 언어모델(LLM)에 의존하는 반면, 우리 기술은 변환의 올바름을 수학적으로 보장할 수 있다”고 밝혔다.