최신 AI...사람 죽이는데 먼저 쓰였다

국민들의 관심이 온통 6.3 지방선거에 쏠려 있던 지난 5월 14일 국회정무위원회에서 개인정보를 정보주체 동의 없이 “인공지능 기술 개발을 위하여” 이용할 수 있도록 개악하는 개인정보보호법 개정안이 통과 되었습니다. <디지털정의 네트워크>를 비롯한 시민단체들은 이번 개정안을 ‘AI 학습용 개인정보 약탈 법안’이라고 부르고 있는데요. 오늘은 미국-이란 전쟁에 사용된 AI기술과 내 개인정보를 내 동의 없이 인공지능 기술 개발에 사용할 수 있도록 하는 우리나라의 개인정보법 개정에 대하여 함께 생각해보겠습니다. 

전 세계가 인공지능, AI '기술 패권' 경쟁 시대로 빠르게 변화하고 있습니다. 미국-이란 전쟁이 승자도 패자도 없이 끝나가고 있는데요. 어린이와 여성 등 민간인이 포함된 이란 국민 4000여명이 사망하였고, 2만 여명이 부상을 당했으며, 복구에 수년이 걸릴 만큼 많은 집과 건물과 기반 시설이 파괴되었습니다. 

 

문제는 이런 살상과 파괴에 핵심 역할은 한 것은 바로 AI였다는 것입니다. 전 세계가 ‘새로운 산업혁명’이라고 열광하고, 글로벌 AI 리더들은 인류에게 전혀 다른 풍요로운 삶이 이루어질 것처럼 장밋빛 전망을 내놓고 있지만, 정작 AI 기술은 사람을 효과적으로 공격하는데 먼저 활용되었습니다. 

 

 

 

최첨단 AI기술...사람 죽이는데 먼저 쓰였다

미국은 지난 2월 28일, ‘장대한 분노’ 작전을 실행시키면서 이란을 공격하였는데요. 첫 24시간 동안 1000여 개의 표적을 타격했고, 순식간에 최고지도자인 ‘하메네이’를 제거하였습니다. 미국 작전은 미국 AI 기업 팔란티어테크놀로지스의 AI 플랫폼은이 일등공신이었다고 합니다. 

 

드론 정찰 데이터를 비롯한 각종 데이터를 통합 분석해 표적을 신속히 식별하고 우선순위를 매겼을 뿐만 아니라 이란 지도부의 은신처 위치와 군사시설의 취약점도 다 찾아냈습니다. 아울러 미국 AI스타트업 앤트로픽의 ‘클로드’ 역시 미국과 이스라엘이 오랫동안 축적해온 이란 관련 데이터를 학습·분석해 수만 가지 공격 시나리오를 순식간에 시뮬레이션 한 뒤 군 지휘부가 공격 결정을 할 수 있도록 하였습니다. 

미국이 AI를 군사작전에 본격 도입한 것은 2017년 무렵부터라고 하는데요. 이후 AI 기술이 빠르게 적용되면서 사람이 수주에 걸쳐서 세우던 작전계획을 사실상 실시간으로 수립하게 되었다는 것입니다. 즉 이번 전쟁은 정보수집부터 정밀타격에 이르는 전 과정을 AI가 주도하였고, 인간은 이를 검토하고 최종 승인하는 역할에 머물렀습니다. 

 

전쟁 중에 AI기업 엔트로픽은 “대규모 국내 감시나 완전 자율형 살상무기에는 사용할 수 없다”는 조건을 내걸었고, 미국방부는 엔트로픽을 퇴출시켰지만, 결과적으로는 “대규모 감시와 완전자율형 살상무기”에 AI 기술 적용이 가능하다는 새로운 위험이 확인된 것입니다. 예컨대 인간이 개발한 가장 첨단 도구인 AI가 인류의 생존을 위협하는 가장 위험한 무기가 될 것이라는 겁니다. 

AI 기반 국민 감시와 완전 자율형 살상무기

그런데, 인공지능의 위협은 이런 군사 분야에서만 벌어지고 있는 일이 아닙니다. 누가 뭐래도 AI 기술 최대 강국은 미국이고, 다음은 중국입니다. 이른바 선진국이라 불리는 모든 나라들은 세계 3대 AI 강국 자리를 노리고 있고, 우리나라도 마찬가지입니다. 

 

문제는 세계 여러 나라가 AI 주도권을 쥐기 위한 무한경쟁을 시작하였고, 인류가 오랫동안 세워 온 인권을 비롯한 여러 가지 규범을 무너뜨리기 시작하였다는 것입니다. 모든 국민에 대한 대규모 감시와 완전 자율형 살상 무기뿐만 아니라 인공지능 기술 개발에 개인정보를 마구잡이로 사용하려는 것은 모두 기존 규범을 무너뜨려는 시도에 해당됩니다. 

앞서 말씀드린, 국회 정무위의 개인정보보호법 개정안, 즉 ‘AI 학습용 개인정보 약탈 법안’은, 정보 주체인 우리가 알지 못해도, 동의하지도 않아도, AI 기업이 우리의 개인정보를 원본 그대로 활용할 수 있도록 허용하는 법안입니다. 이 법안은 “인공지능기술 개발을 위하여”라는 매우 모호한 기준으로, 얼굴, 음성, 지문 같은 민감 정보를 AI에 학습시키겠다는 것인데요. 요. 익명이나 가명처리도 하지 않고 활용하게 되면 다음과 같은 일이 벌어질 수 있습니다. 

첫째, 아파트 현관이나 공공장소 CCTV에 찍힌 내 얼굴, 걸음걸이, 목소리가 내 동의 없이 ‘AI 안면인식 기술 개발’이라는 명목으로 통째로 AI 학습에 사용될 수 있습니다.

 

둘째, AI 챗봇 ‘이루다’ 사건을 기억하시나요? 당시 수십만 명이 연애 상담을 위해 보낸 카톡 메시지가 본인 동의 없이 회사의 AI 학습에 쓰여 큰 논란이 됐습니다. 이 법안이 통과되면 그런 약탈적 방식의 학습 데이터 사냥이 합법이 됩니다.

셋째, 쇼핑몰에서 구매한 내역, SNS에 올린 게시물과 댓글처럼 내가 서비스를 이용하기 위해 제공한 개인정보들이 전혀 다른 목적의 AI 발에 마음대로 사용될 수 있습니다.

정보 주체인 모든 국민은 헌법상 기본권으로 개인정보 자기결정권을 보장받습니다. 따라서 개인정보는 정보 주체의 동의를 받아 처음 수집된 목적으로만 사용되어야 합니다. 그런데 이 법안은 그런 원칙을 깨고, AI 기업이 우리 개인정보를 인공지능 개발에 마음대로 사용할 수 있도록 허용하려는 것입니다. 

 

AI 기술경쟁이...개인정보 마구잡이 탈취

 

이런 일은 우리나라 뿐만 아니라 인권 선진국들이 모인 유럽연합에서도 벌어지고 있는데요. EU는 올해 8월부터 적용하려던 AI 기술 규제를 2027년 12월로 연기하고, 기업의 AI 모델 훈련에 개인정보 접근 재량권을 부여하기로 했다고 하는데요. AI 경쟁에서 뒤쳐진 나라들의 조급함 때문에 민감한 개인정보까지 AI기술 개발에 활용하는 무리한 시도를 하는 것이라고 생각됩니다. 

시민단체들은 인공지능 기술에만 예외를 적용해서는 안 된다고 주장합니다. 그런데 이 법안은 AI 기업의 이익을 위하여 국민의 기본권을 희생시키는 것입니다. 특정 산업을 키우기 위해 개인정보보호 원칙을 훼손하면 어느 곳에서도 개인정보보호 원칙은 지켜지지 않을 것입니다. 법 개정을 주도하는 의원들은 안전장치가 있다고 주장하는데요.

 

예컨대, 개인정보보호위원회의 검토를 거쳐 사용하겠다는 것인데, 세부 조건들이 지나치게 넓고 추상적이어서, ‘사회적 이익 증진’만 내세우면 사실상 모든 AI 개발에 적용될 수 있습니다. 아울러 대통령령으로 간소화시킬 수 있는 우회 통로까지 열려 있고, AI 기업이 이러한 요건과 절차들을 위반하였을 때, 처벌하는 규정이 전혀 없기 때문에 사실상 개인정보가 무제한으로 개방될 수 있는 상황으로 가고 있는 것입니다. 

 

저는 AI가 제 동의없이 제 개인정보를 학습하는데 반대합니다. 아울러 제 개인정보를 지키기 위해 국회의 개인정보보호법 개악에 반대할 것입니다.