사용자가 모르는 사이 쌓이는 기록들…기억형 AI 확산
데이터는 누구의 것인가…삭제권·머신 언러닝 논쟁 본격화
인공지능(AI)
(EPA=연합뉴스)
(서울=연합뉴스) 심재훈 기자 = "F1 더 무비였어요. 브래드 피트가 출연했죠. 볼만하셨나요?"
직장인 A씨가 퇴근길 지하철에서 스마트폰 속 인공지능(AI) 비서에게 "지난번에 추천받았던 영화 제목이 뭐였지?"라고 묻자 AI는 마치 오랜 친구처럼 자연스럽게 대답했다.
하지만 이 친근한 대화 뒤에는 기존에 사용자가 했던 말, 입력한 기록, 묻지 않은 취향까지 '기억 장치'처럼 모두 쌓이고 있었다.
AI는 이제 매번 동의를 구하지 않고도 사용자의 모든 것을 기억하는 존재가 된 것이다.
챗GPT뿐만 아니라 네이버, 카카오톡의 AI까지 자신의 대화 한 줄, 취향, 고민이 실시간으로 저장되고 연결되는 '기억하는 AI'의 시대가 도래했다.
이러한 편리함의 대가는 바로 '내가 한 말은 누구의 기억이 되는가?'라는 새로운 질문으로 이어지고 있다.
'기억하는 AI'의 시대…챗GPT가 불러온 '메모리' 기능 AI가 인간의 대화를 기억하는 시대는 오픈AI가 올해 초 챗GPT에 대화를 기억하는 '메모리' 기능을 순차 적용하면서 본격적으로 열렸다.
이 기능의 목적은 사용자의 취향이나 프로젝트 정보를 기억해 다음 대화에서 활용하는 것이다.
예를 들어 사용자가 "나는 싱거운 음식 좋아해"라고 입력하면 다음에 요리 추천받을 때 "짜거나 맵지 않은 스타일"을 먼저 제안하는 방식이다.
생성형 인공지능 활용 어디까지(CG)
[연합뉴스TV 제공]
물론 사용자에게 '통제권'이 있다.
사용자는 설정에서 메모리 기능을 아예 끄거나 '임시 채팅'을 통해 대화 내용 저장 없이 이용할 수 있다.
대화 중에 "이건 잊어줘"와 같은 구체적인 지시로 삭제도 가능하다. 챗GPT는 저장된 메모리 외에 최근 대화 전체를 참고해 맞춤화하지만 이 기능들 전부 사용자가 직접 관리, 삭제, 비활성화할 수 있고 언제든 자신의 데이터를 열람, 수정, 삭제할 수 있도록 하고 있다. 또한 데이터 관리 메뉴에서는 세부 항목별로 정보 제어가 가능하다.
그러나 이용자가 모르는 사이 누적되는 대화의 '비식별 분석 결과'가 시스템 학습에 쓰일 수 있다는 우려는 여전히 해소되지 않고 있다.
국내 AI 비서도 기억 기능 탑재…'네이버·카카오'는 우리나라에서도 AI 비서가 인간의 대화를 기억하기 시작했다.
다만 데이터를 처리하고 통제하는 방식은 서비스마다 다르게 적용되고 있다.
네이버 클로바 X는 대화 내역을 '비식별화'한 후 연구, 서비스 개선, 신서비스 개발 목적으로 최대 5년간 보관하는 정책을 취하고 있다.
다만, 이용자 동의 시에만 1년간 대화 목록이 유지되며 이용자는 언제든 삭제를 요청할 수 있고 즉시 파기가 가능하다. AI 학습 데이터는 엄격하게 분리해 활용된다는 것이 네이버 측의 설명이다.
네이버, K-거대언어모델 '하이퍼클로바X' 공개
(서울=연합뉴스) 국내 최대 포털인 네이버가 24일 향후 플래그십이자 신수종 사업으로서 자사의 명운을 건 한국형 거대언어모델(LLM) 인공지능(AI) '하이퍼클로바X'를 공개했다.
하이퍼클로바X는 네이버가 2021년 공개한 '하이퍼클로바'의 업그레이드 버전으로, 한국어에 최적화한 LLM이다. 사진은 하이퍼클로바X 서비스. 2023.8.24 [네이버 제공. 재판매 및 DB 금지]
photo@yna.co.kr
카카오 AI 메이트 '나나' 역시 사용자의 대화 맥락에 기반해 스케줄, 요약, 제안 등 개인화 서비스를 제공하며, 개인정보 처리 방침에 따라 데이터가 저장되고 활용된다. 현재 베타 서비스 단계지만 대화 기억을 전제로 한 설계 구조를 갖추고 있다.
말 그대로 이용자는 이제 AI에 '기억될 사람'이 될 것인지 스스로 선택하고 통제해야 하는 시대에 놓인 것이다.
정부 최초 AI 개인정보 가이드 등장 AI가 방대한 개인정보를 기억하고 활용하는 문제에 대응하기 위해 지난 8월 개인정보보호위원회(PIPC)는 '생성형 AI 개발·활용을 위한 개인정보 처리 안내서'를 내놨다.
이 가이드라인은 AI 개발 및 활용 전 과정에 개인정보 보호법이 적용된다고 강력하게 권고하며 AI의 데이터 학습, 운영 단계별 법적 근거, 동의, 민감정보 보호, 프라이버시 중심 설계 등을 상세화했다.
'이제는 생성형 AI의 시대'
(서울=연합뉴스) 김성민 기자 = 17일 서울 강남구 코엑스에서 열린 2024 월드 IT쇼에서 관람객들이 LG전자 부스에 전시된 LG 그램 생성형 이미지 AI 전시를 둘러보고 있다. 2024.4.17
ksm7976@yna.co.kr
특히, 이용자가 데이터 삭제권을 행사할 경우 AI 모델 자체에서 학습 데이터를 제거하는 '머신 언러닝'까지 요구하는 내용에 들어있다.
실제 서비스 제공자는 데이터 보관 및 활용 목적을 명시하고 투명하게 통제 기능을 제공해야 하며, 이용자의 권리를 중심으로 한 설계가 필수적이라는 점을 강조하고 있다.
이는 앞으로 AI 비서를 만드는 쪽은 단순히 편리한 기술을 제공하는 것만이 아니라 데이터를 처리하고 기억을 설계하는 기술도 감수해야 할 책임이 있음을 명확히 한 것으로 보인다.
AI는 기억하지만 우리는 통제할 수 있는가 AI는 더는 단순히 '대답하는 기계'가 아니다.
이제 AI는 '듣고, 저장하고, 다시 말하는 존재'로 진화했다.
문제는 그 기억이 내가 기능을 껐다고 완전히 사라지는지, 삭제를 요청했을 때 AI 모델에서 근본적으로 제거되는지에 대한 의문이다.
AI 업무 활용 (PG)
[강민지 제작] 일러스트
인간은 망각을 통해 정신적으로 보호받지만 AI는 기억을 통해 발전한다. 이 때문에 '기억의 주체'와 '객체' 사이에 새로운 윤리적, 기술적 논쟁이 생겨나고 있다.
당신의 다음 선택은 무엇인가. AI에 기억되길 원하는가 아니면 기억되지 않길 원하는가.
AI의 편리함이 커질수록 그 편리함 뒤에 놓인 기억 장치를 이해하고 통제할 수 있는 능력이 디지털 시대의 화두가 되고 있다.
president21@yna.co.kr
데이터는 누구의 것인가…삭제권·머신 언러닝 논쟁 본격화
(EPA=연합뉴스)
(서울=연합뉴스) 심재훈 기자 = "F1 더 무비였어요. 브래드 피트가 출연했죠. 볼만하셨나요?"
직장인 A씨가 퇴근길 지하철에서 스마트폰 속 인공지능(AI) 비서에게 "지난번에 추천받았던 영화 제목이 뭐였지?"라고 묻자 AI는 마치 오랜 친구처럼 자연스럽게 대답했다.
하지만 이 친근한 대화 뒤에는 기존에 사용자가 했던 말, 입력한 기록, 묻지 않은 취향까지 '기억 장치'처럼 모두 쌓이고 있었다.
AI는 이제 매번 동의를 구하지 않고도 사용자의 모든 것을 기억하는 존재가 된 것이다.
챗GPT뿐만 아니라 네이버, 카카오톡의 AI까지 자신의 대화 한 줄, 취향, 고민이 실시간으로 저장되고 연결되는 '기억하는 AI'의 시대가 도래했다.
이러한 편리함의 대가는 바로 '내가 한 말은 누구의 기억이 되는가?'라는 새로운 질문으로 이어지고 있다.
'기억하는 AI'의 시대…챗GPT가 불러온 '메모리' 기능 AI가 인간의 대화를 기억하는 시대는 오픈AI가 올해 초 챗GPT에 대화를 기억하는 '메모리' 기능을 순차 적용하면서 본격적으로 열렸다.
이 기능의 목적은 사용자의 취향이나 프로젝트 정보를 기억해 다음 대화에서 활용하는 것이다.
예를 들어 사용자가 "나는 싱거운 음식 좋아해"라고 입력하면 다음에 요리 추천받을 때 "짜거나 맵지 않은 스타일"을 먼저 제안하는 방식이다.
[연합뉴스TV 제공]
물론 사용자에게 '통제권'이 있다.
사용자는 설정에서 메모리 기능을 아예 끄거나 '임시 채팅'을 통해 대화 내용 저장 없이 이용할 수 있다.
대화 중에 "이건 잊어줘"와 같은 구체적인 지시로 삭제도 가능하다. 챗GPT는 저장된 메모리 외에 최근 대화 전체를 참고해 맞춤화하지만 이 기능들 전부 사용자가 직접 관리, 삭제, 비활성화할 수 있고 언제든 자신의 데이터를 열람, 수정, 삭제할 수 있도록 하고 있다. 또한 데이터 관리 메뉴에서는 세부 항목별로 정보 제어가 가능하다.
그러나 이용자가 모르는 사이 누적되는 대화의 '비식별 분석 결과'가 시스템 학습에 쓰일 수 있다는 우려는 여전히 해소되지 않고 있다.
국내 AI 비서도 기억 기능 탑재…'네이버·카카오'는 우리나라에서도 AI 비서가 인간의 대화를 기억하기 시작했다.
다만 데이터를 처리하고 통제하는 방식은 서비스마다 다르게 적용되고 있다.
네이버 클로바 X는 대화 내역을 '비식별화'한 후 연구, 서비스 개선, 신서비스 개발 목적으로 최대 5년간 보관하는 정책을 취하고 있다.
다만, 이용자 동의 시에만 1년간 대화 목록이 유지되며 이용자는 언제든 삭제를 요청할 수 있고 즉시 파기가 가능하다. AI 학습 데이터는 엄격하게 분리해 활용된다는 것이 네이버 측의 설명이다.
(서울=연합뉴스) 국내 최대 포털인 네이버가 24일 향후 플래그십이자 신수종 사업으로서 자사의 명운을 건 한국형 거대언어모델(LLM) 인공지능(AI) '하이퍼클로바X'를 공개했다.
하이퍼클로바X는 네이버가 2021년 공개한 '하이퍼클로바'의 업그레이드 버전으로, 한국어에 최적화한 LLM이다. 사진은 하이퍼클로바X 서비스. 2023.8.24 [네이버 제공. 재판매 및 DB 금지]
photo@yna.co.kr
카카오 AI 메이트 '나나' 역시 사용자의 대화 맥락에 기반해 스케줄, 요약, 제안 등 개인화 서비스를 제공하며, 개인정보 처리 방침에 따라 데이터가 저장되고 활용된다. 현재 베타 서비스 단계지만 대화 기억을 전제로 한 설계 구조를 갖추고 있다.
말 그대로 이용자는 이제 AI에 '기억될 사람'이 될 것인지 스스로 선택하고 통제해야 하는 시대에 놓인 것이다.
정부 최초 AI 개인정보 가이드 등장 AI가 방대한 개인정보를 기억하고 활용하는 문제에 대응하기 위해 지난 8월 개인정보보호위원회(PIPC)는 '생성형 AI 개발·활용을 위한 개인정보 처리 안내서'를 내놨다.
이 가이드라인은 AI 개발 및 활용 전 과정에 개인정보 보호법이 적용된다고 강력하게 권고하며 AI의 데이터 학습, 운영 단계별 법적 근거, 동의, 민감정보 보호, 프라이버시 중심 설계 등을 상세화했다.
(서울=연합뉴스) 김성민 기자 = 17일 서울 강남구 코엑스에서 열린 2024 월드 IT쇼에서 관람객들이 LG전자 부스에 전시된 LG 그램 생성형 이미지 AI 전시를 둘러보고 있다. 2024.4.17
ksm7976@yna.co.kr
특히, 이용자가 데이터 삭제권을 행사할 경우 AI 모델 자체에서 학습 데이터를 제거하는 '머신 언러닝'까지 요구하는 내용에 들어있다.
실제 서비스 제공자는 데이터 보관 및 활용 목적을 명시하고 투명하게 통제 기능을 제공해야 하며, 이용자의 권리를 중심으로 한 설계가 필수적이라는 점을 강조하고 있다.
이는 앞으로 AI 비서를 만드는 쪽은 단순히 편리한 기술을 제공하는 것만이 아니라 데이터를 처리하고 기억을 설계하는 기술도 감수해야 할 책임이 있음을 명확히 한 것으로 보인다.
AI는 기억하지만 우리는 통제할 수 있는가 AI는 더는 단순히 '대답하는 기계'가 아니다.
이제 AI는 '듣고, 저장하고, 다시 말하는 존재'로 진화했다.
문제는 그 기억이 내가 기능을 껐다고 완전히 사라지는지, 삭제를 요청했을 때 AI 모델에서 근본적으로 제거되는지에 대한 의문이다.
[강민지 제작] 일러스트
인간은 망각을 통해 정신적으로 보호받지만 AI는 기억을 통해 발전한다. 이 때문에 '기억의 주체'와 '객체' 사이에 새로운 윤리적, 기술적 논쟁이 생겨나고 있다.
당신의 다음 선택은 무엇인가. AI에 기억되길 원하는가 아니면 기억되지 않길 원하는가.
AI의 편리함이 커질수록 그 편리함 뒤에 놓인 기억 장치를 이해하고 통제할 수 있는 능력이 디지털 시대의 화두가 되고 있다.
president21@yna.co.kr
댓글목록
등록된 댓글이 없습니다.