AI 거버넌스와 정보인권. (1부)

플로피디스크로 시작된 국가 감시 시대  

Q. 국내에서는 디지털 정의와 정보 인권을 중심으로 활동하는 단체가 그리 많지 않다. 특히 요즘처럼 ‘AI 기본사회’를 표방하고 있는 시점에 정보인권연구소의 활동이 중요해 보인다. 연구소의 설립 계기와 주요 활동에 대한 소개 부탁드린다. 

한국의 정보 인권운동이 태동한 것은 민주화 과정과 깊이 관련있다. 국가 감시가 강했던 권위주의 정부였기에 1990년대 등장하기 시작한 IT 시스템 역시 정부 권력에 활용되었다. 1990년 보안사의 윤석양 이병이 군의 민간인 사찰 사건을 폭로할 때 플로피 디스크를 가지고 나왔는데, 디지털 기술이 민간인 사찰에 쓰인다는 사실로 인한 국민적 충격이 컸다. 그 사건이 한국 최초의 개인정보 권리 소송이었다. 주거 침입이나 신체적 상해 없이도 감시와 사찰에 개인정보를 이용한 국가에 대해 손해배상을 청구한 첫 소송이었던 것이다. 그 결과 1998년 대법원에서는 시민의 개인 정보 권리를 인정하게 된다. 그 무렵부터 한국에서도 개인정보 보호 문제를 포함해 기술발전이 민주주의에 도전하는 사회적 문제가 확대된다.

이에 90년대에 젊은 활동가들이 모였다. 목표는 두 가지였다. 하나는 IT 기술 활용도를 높여 한국 시민사회의 국제적 교류를 증진하고 사회적 연대를 강화하자는 것. 다른 하나는 기술 활용에 대한 비판적 감시가 필요하다는 것이었다. 이를 위해 당시 활동가들이 기술과 개인정보 이슈를 다루는 상설 단체를 만들었는데 그것이 98년도에 발족한 진보네트워크센터이다. 센터는 시민사회에 네트워크 서비스를 제공하고, 디지털 기술에 대한 개인정보 및 데이터 권리 보호와 같은 권리 개념을 정책에 도입하기 위한 활동을 했다. 이러한 활동을 통해 2005년 헌법재판소의 개인정보 자기결정권 선언, 2011년 개인정보보호법 입법 등의 성과가 나타났다.  

한편, 기존 활동이 이슈파이팅 중심으로 전개되는 반면 국가적 수준에서 전문화되는 디지털정책 속도를 한국 시민사회가 감당하기 버겁다는 공감대가 형성되었다. 이에 대응하기 위해 2015년에 정보네트워크센터의 출자 등을 통해 정보인권연구소가 세워지게 되었다. 연구소는 주로 연구와 정책 생산 그리고 대중 강좌를 통한  교육 사업을 위주로 활동하고 있다. 

속전속결 AI 입법, 뒤늦게 제기된 시민사회의 우려

Q. 지난 3월 말에 인공지능 정책에 대응하기 위한 시민사회 연대체가 구축된 것으로 알고 있다. 어떤 계기로 구성하게 되었는가? 

오늘날 인공지능 기술이 정보 인권에 미치는 영향을 우려하는 시민사회에서는 인권 기반의 원칙과 교육의 필요성을 주장하고 있다. 그 일환으로 정보인권연구소에서는 인공지능에 대한 ‘인권 기반 접근’ 개념을 소개하거나 각 분야에서 발생하는 정보 인권 침해 사건에 대한 연대 활동 등을 해 왔다. 예를 들어, 딥페이크와 같이 젠더 기반 폭력이 인공지능을 통해 확대된다든지, 기존에 존재하는 사회문제가 인공지능으로 인해 악화되는 사례가 늘어나면서 관련 문의도 다방면으로 증가했다. 동시에 인공지능 문제에 대해 어디서부터 어떻게 대응해야 할지 시민사회의 방향성이 모호한 상황에서 산업계와 국가, 글로벌 주도의 발전과 확산 속도를 목도하며 이에 대한 위기의식이 대두했다. 따라서 시민사회 단체들이 한자리에 모여 지혜를 모으자라는 취지로 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(이하, AI시민행동)’를 발족했다. 이 안에는 환경단체, 여성단체, 디지털 권리운동 단체 등 다양한 분야를 아우르고 있다. 

Q. 연대체에서 가장 초점을 둔 의제는 무엇인가?  

이 연대체에서 현재 가장 초점을 둔 의제는 한국의 인공지능 기본법이다. 한국도 유럽연합과 마찬가지로 인공지능법을 추진해 2026년 1월 22일에 시행되었다. 그러나 과학기술정보통신부 주도로 법이 구축되는 과정에서 시민 참여가 배제되었을 뿐만 아니라, 인권과 안전의 관점에서 결함이 많다. 무엇보다 산업계 지원에 초점을 두고 있다는 점에서 개선이 필요하다. 해당 법에는 기본권에 미치는 영향 평가가 명시되어 있지만, 이 부분에 대해 국가인권위원회 의견이 전혀 반영되지 않았다. 자문 협의도 없었다. 기본권에 미치는 영향을 과학기술정보통신부와 산하 공공기관이 단독으로 폐쇄적으로 검토하고 있는 것이다.  

이와 관련한 큰 우려는 인공지능 정책의 전반적인 거버넌스 문제이다. 국회에서 데이터센터 특별법이 통과된 과정을 보면, 데이터센터 구축에 따른 환경과 지역 주민에게 미치는 영향이 매우 큰 상황에서 상임위 차원에서는 환경 관련 상임위와 협의 없이 과학기술정보방송통신위원회 논의만 거쳐 통과된 것이다. 이 때문에 AI시민행동은 법이 통과된 후에야 이 사실을 알게 되었다. 이에 시민사회에서는 상임위원회에 부랴부랴 의견을 냈는데, 입법 과정에서 가장 중요한 심사 소위가 이미 끝나버리면서, 며칠만에 본회의에서 통과되어 입법 절차가 종료되었다. 이 속전속결 과정에서 국회 내의 환경 관련 상임위의 의견 청취가 누락된 것. 결국에는 거버넌스 문제를 지적하지 않을 수 없게 된 것이다. 

AI 정책은 산업정책이 아니라 사회정책이어야

Q.정부와 산업계가 AI 도입의 효율성과 경제성을 중심으로 담론을 주도하는 가운데, 시민사회의 비판과 감시 역할이 오히려 ‘발목 잡기’로 규정될 우려도 있다.  

한국에서는 AI 국가 산업 경쟁력을 향상해 세계 AI 3대 강국을 목표로 하고 있다. 이에 대한 시민사회의 가장 큰 문제의식은 ‘AI 정책은 산업정책이 아닌 사회정책이어야 된다’는 것이다. 

올해 ‘대한민국 인공지능 행동계획(이하, AI행동계획)’이 발표되었다. 내용 중, 한국의 저출생 고령화, 노령인구 돌봄 문제에 대한 대책으로 AI를 통한 돌봄 해결이 제시되었다. 이를테면 재가 요양 서비스를 받던 노인이 더 이상 재가 서비스가 불가능한 시점이 오면 요양 시설로 입소한다. 요양시설에는 국가 재정이 많이 들어가는데 이 비용을 줄이기 위해서 재가 서비스 기간을 연장할 필요가 있었던 것이다. 이에 재가 서비스를 제공하는 AI로봇을 집집마다 보급해 로봇 산업을 육성하겠다는 계획이 제시되었다. 

여기에는 가장 중요한 질문이 빠져있다. 이런 방식이 돌봄 서비스의 수용자들에게 과연 이로운가. 국가의 올바른 돌봄 정책 방향으로 적합한가? 이러한 논의 단계가 누락된 이유는 사회부처인 보건복지부 의견이 반영되지 않았기 때문이다. 이 영역이 로봇 산업의 영역으로 분류되었기 때문이다. 

AI 행동계획을 만든 AI 전략위원회 구성에 있어서도 시민과 노동자의 입장을 대변할 단체의 참여가 상당히 제한적이다. 남성 비율이 80%인 점도 지적될 수 있다. 더 큰 문제는 정부 부처 구성에 있어서도 성평등가족부, 공정거래위원회 등과 같은 사회정책 부처들이 대거 배제되어 있다.  실제 국가 인공지능 전략위원회를 운영하는 공무원 단위는 전적으로 기술산업 부처인 과학기술정보통신부 중심으로 구성되어 있다. 이 상태에서 국가 인공지능 정책이 사회 정책이 되기는 구조상 어려울 것이다. 

따라서 우리는 입법부와 행정부 내에서 AI 정책을 추진하고 집행하는 거버넌스가 변화해야 된다고 지적하고 있다. 변화하지 않으면 앞으로도 인공지능과 디지털 기술 관련해서는, 사회 정책이 소외되고 산업 정책 위주로 진행될 수 밖에 없다. 

속도를 명분으로 민주주의를 간과해서는 안돼

Q. 말씀을 들어보니 AI로봇이 도입되는 현장의 노동자나 단체, 당사자들의 의견 수렴 등 민주적 논의와 참여 없이 정책이 빠르게 추진되는 것은 우려하지 않을 수 없다.  

‘AI 행동계획’에 보건복지부가 의견을 내긴 했을 것이다. 마치 데이터센터 특별법이 통과될 때 환경부가 국회에 의견을 내긴 했던 것처럼. 하지만 반영이 되기 힘든 구조이다. AI 정책의 리더십을 산업 부처가 갖고 있기 때문에 형식상 의견을 받는 정도이다. 

정책 결정 그룹에 사회 정책 부처들이 배제된다는 지적을 했지만 시민사회 배제도 큰 문제 중 하나이다. 시민사회는 인공지능으로부터 영향을 받는 일반 시민과 노동자의 이해관계를 대표한다는 점에서 중요하다. 

AI 일자리 정책을 세울 때에도 노동조합과 노동단체들 의견을 제대로 반영하지 않았다. 예를 들어 올해 초 현대자동차 그룹이 아틀라스라는 휴머노이드 로봇을 제조업 현장에 도입할 계획을 발표했는데, 현대자동차 노동자들의 입장 표명에 대해서 대통령이 직접 나서서 노동조합을 비판하는 발언을 해서 언론보도가 된 바 있다. 산업 추진이 시급하다는 이유로 시민사회를 참여시키면 속도가 늦어진다는 전제, 이 가속주의가 큰 문제라고 본다. 

Q. 이번 정권에서는 코스피 성장세가 최대 관심사가 되었다. AI와 반도체 산업 육성이 국가 경쟁력과 주식시장 성장의 논리로 강하게 정당화되고 있다. 이에 대해 어떻게 진단하시나. 

코스피 뿐만 아니라, 세계적 가치관 변화에 한국 사회도 영향을 받고 있다고 생각한다. 최근 글로벌 정세가 한국에 거의 실시간으로 영향을 미치고 있고 타국의 정책 기조와 민주주의 후퇴는 한국에도 영향을 미친다. 그렇기에 한국 시민사회가 분발해 민주주의를 진전시킬 필요가 있는 것이다. 

현 정부가 인공지능 정책을 산업계 일방으로 추진하는 상황은 마치, 과거 7-80년대 경제발전 시기의 한국이 선진국으로부터 기술을 이전받고 글로벌 산업 체제 하에서 하청업체를 자임하면서 인권을 홀대한 채로 경제발전을 추진했던 시절의 세련된 버전이라고 생각한다. 

우리가 민주주의를 진전시키면서 배운 교훈이 있다면 사회적 대화와 기업의 인권 책임의 중요성인데, 현재는 이런 부분이 소홀하게 취급되고 있다는 것. 시민사회가 현재 마주하고 있는 과제이다. 

2부에서 계속