AI 거버넌스와 정보인권. (2부. 정의로운 디지털 전환)

기후정의 운동과 닮아 있는 디지털 정의 운동 

Q. 정보인권운동은 기후운동과 유사점이 있는 것 같다. 앞서 강조하신 이해관계자 배제, 산업계 이해만 일방적으로 반영하는 구도와 같이 거버넌스의 문제는 기후정책 수립 과정에서도 동일하게 지적된 바 있기 때문이다. 하지만 기후운동과 달리  AI·정보인권 영역은 아직 시민사회와 대중이 본격적인 사회운동의 형태로 결집하지 못하고 있는 것 같다. 

기후정의 운동과 디지털 정의 운동은 닮아 있다.

첫째는 첨단 기술로부터 사회적 가치와 시민의 삶을 지키려는 운동이라는 점, 둘째는 거대산업과 국가 주도 질서에 시민들이 어렵게 참여를 요구하고 있다는 것. 셋째는 ‘정의로운 전환’이라는 대안에 관한 것이다. 디지털 정의 운동 단위에서도 인공지능 도입으로 인한 일자리 영향을 이야기하면서 정의로운 전환을 요구하기 시작했다. 

다만, 기후운동보다 대중운동으로서 아직은 성숙되지 못한 이유는 두 가지 측면이 있다고 생각한다. 인공지능 3대 강국과 같이 인공지능 기술 발전이 우리나라의 중요한 경제적 기반이자 먹거리라는 이데올로기, 그리고 기술 결정론과 기술 중립주의다. 기술은 합리적으로 발전하고 있는데 인간이 인위적으로 개입하면 인공지능의 잠재적 가능성을 훼손한다는 관점이다. 

Q. 물론 기후 의제는 가시적인 피해 경험이 축적되면서 사회적 공론장이 형성이 촉진된 측면도 없지 않다.  AI 문제 또한 일상과 밀접함에도 아직 그런 전환점이 오지 않은 것 같다는 생각도 든다.  

기후위기처럼 피해 사례가 현재까지는 구체적으로 가시화되고 있지 않는 점도 물론 있다. 이에 대해 OECD에서는 AI 부작용 사례 모음집 같은걸 만들고 있다. 우리도 한국 상황에서의 사례를 수집중이다. 시민들 입장에서는 생성형 AI의 경험적 혁신에 비해 구체적 피해를 체감하지 못할 수 있다. 

그것은 인공지능의 유형과도 관계가 있다. 거칠게 AI를 유형화 해 보면, 생성형 인공지능과 판단형 인공지능으로 나뉜다. 생성형 인공지능은 우리가 자주 접하는 콘텐츠 생성에 관한 기술이고, 판단형 인공지능은 다방면에서 대상을 평가하는 기술이다. 예를 들면 자격증 발부나 은행 대출 여부를 결정하거나 범죄를 예측하거나, 학교에서 학생 평가 등에 쓰이는 것들이다. 이 판단형 인공지능 상당 부분이 사회 주요 영역에서는 고위험에 해당한다. 그러나 일반 시민의 삶에는 생성형 인공지능으로 인해 경험하는 혁신에 비해 판단형 인공지능의 영향은 아직 크게 체감되지 않은채 그 위험이 잠재되어 있다. 

시민사회가 계속 견제를 하면서 이러한 고위험 고영향 인공지능의 운영에 개입해야 할 필요가 있고, 시민들은 이것이 인권과 안전에 미치는 영향을 더욱 인식하게 될 것으로 본다. 우리는 AI 채용 문제에 주목 해왔다. 인공지능 채용 도구가 많은 사람들을 불투명하게 탈락시킨다. 기업에서 조차 이 사람의 호감도가 2등급이라서 떨어뜨렸는데 왜 2등급인지 모른다는 거다. AI 채용 도구의 판단에 따라 채용 여부를 결정한다. 공공기관도 마찬가지다. 우리는 이러한 채용 피해 당사자들과 문제 제기를 하고자 한다.  

Q. 시민사회가 사회정책으로서 디지털 기술이 바람직하게 활용되게끔 감시하는 일이 중요하면서도 현실적 제약이 만만치 않은 것 같다. 시민사회의 개입으로 인한 성공 사례는 없나?

시민사회가 개입을 해서 최악을 막은 일들도 있다. 대표적인게 출입국 AI 심사이다. 법무부에서 공항 출입국 구역에 인공지능 기계를 설치해 탑승객들의 얼굴과 동작을 실시간으로 인식하여 사람들의 돌발 행동 시, 이를 식별 추적하는 시스템 도입을 추진했었다. 우리는 이를 인권 침해로 보고 문제제기를 통해 사업을 중단시켰다. 하지만, 이미 그 과정에서 관련 개발 기업들이 1억 7천만 건의 출입국자 데이터를 학습시켰다. 외국인은 1억 2천만 내국인은 5천만이다. 내국인은 2005년부터, 외국인은 2010년부터 수집을 시작하여, 사업이 중단된 2021년까지 출입국한 사람들의 얼굴과 국적 정보 등 개인 정보 등에 해당한다. 국가 조달 시스템 상 경쟁 방식이기 때문에 복수의 기업들이 이미 그 데이터를 학습한 것이다. 개발 과정을 보면 한 사람의 국적과 얼굴 인식 수준을 오류율 테스트를 하면서 개발한다. 

우리는 이에 대해 헌법소원을 시도했다. 개인정보보호위원회에 민원도 넣고, 개인정보 분쟁 조정도 신청하고 감시원에서도 공익감사 청구까지 할 수 있는 건 다 했다. 하지만 청구인 자격으로 피해 여부를 확인하는 과정에서 개인정보 열람 청구를 거부당하는 등 제약이 많았다. 헌법 소원 결과도 올해 초 나왔는데, 시민사회 문제제기로 인해 결론적으로 사업이 중단되었기 때문에 기본권 침해가 없다는 이유로 각하되었다. 정작 해당 기업은 지적재산권도 취득했을 뿐만 아니라, 기술을 미국에 수출했다는 성과로 발표하고 있는데 말이다. 사법부 역시 기술주의에 포획돼 있다고 볼 수 있는 대목이다.

정보 인권 구제의 높은 장벽 

Q. 결국 개별 사건이 발생할 때마다 사후적으로 대응하는 방식만으로는 한계가 있어 보인다. 국가 행정이나 사법 시스템 전반에서 정보 인권을 사수하기가 쉽지 않은 구조인 것 같다. 

거대한 기술 체제 하에서 개인 권리 주체가 문제 제기를 하고 구제 받기가 굉장히 어렵다. 특히, 법적인 권리 구제에서는 원고가 피해를 입증해야 된다. 앞선 사례에서도 출입국 데이터에 대한 개인정보권리 침해를 주장했던 헌법소원이 대표적이다. 그 경우 원고 적격을 입증해야 하는데, 국가가 청구인의 개인정보가 인공지능 학습에 사용되었는지 여부를 확인해 주지 않았다. 원고 입증 방식의 기본적인 사법 체제에서도 원고가 자기 피해를 입증하기가 어려운 것이다. 

이처럼 외부에서 정보 접근이 어려운 만큼 해외에서도 내부 고발자를 굉장히 소중하게 여긴다. 빅테크 관련 미국과 유럽에서 불거진 많은 문제들이 내부 고발자들의 힘으로 알려진 것들이 많은 이유가 여기에 있다. 한편, 페이스북의 경우에 연구자들이 이들의 광고 알고리즘 편향을 파헤치기 위해 광고주로 직접 비용을 지출하고 모의 실험 같은 것을 한 적이 있다. 이 때 영업 방해로 법적 대응을 하겠다는 경고를 받기도 하였다. 이처럼 법적 보호 없이는 연구자들도 빅테크의 기술 문제에 접근하기가 어렵다. 

유럽 AI 규제와 한국의 속도전 

Q. 유럽의 AI 규제 논의에 대한 생각이 궁금하다. 유럽연합의 인공지능법(AI Act)는 아시아보다 한 발 앞서 시행된 것으로 알고 있다. 

유럽연합의 인공지능법은 유럽이라는 지역을 넘어서 세계적인 중요성을 가지고 있었다. 최초의 포괄적인 규제 입법이었기 때문이다. 그 전까지 산업계 주도의 자율적인 인공지능 규범들이 지배적인 상황에서 유럽연합이 포괄적이고 실제적인 효력을 갖는 규제 입법을 추진했다는 점에서 중요하다고 보고 우리도 초안이 나왔을 때부터 그 발의안을 상세히 살폈다. 유럽연합의 인공지능법 관련 문헌 중에 우리의 시선을 끌었던 게 인권 기반 접근을 요구하는 시민사회의 요구와 UN에서 나온 문서 중 인공지능 인권 기반 접근에 대한 여러 문헌들이었다.

한국의 많은 기술자들과 산업계에서 인공지능은 규제할 수 없다거나 딥러닝은 우리가 설명할 수 없다는 논리에 포획되어 있었다. 이에 대응하여 우리는 ‘인권 기반 접근(Human Rights-Based Approach to AI)’을 국내에 소개하기 위해 노력했다. 당시 국가인권위원회와 함께 진행한 작업 중에 ‘인공지능에 대한 인권 가이드라인’을 마련하는 것도 있었다. 연구도 하고 국가인권위원회가 정책 권고를 할 때도 참여적으로 기여하고자 했다. 2022년 국가인권위원회의 인권 가이드라인이 발표될 때 유럽연합 인공지능법의 추진 상황도 고려할 수 있었다. 

일련의 노력의 결과 한국의 인공지능 기본법에 아주 부분적으로 반영된 부분이 있다. 예를 들어 ‘영향받는 자(affected person)’, 즉 인공지능에 영향받는 사람에게 설명받을 수 있는 권리가 있다는 조항이 생겼다. 그리고 고영향 인공지능 사업자는 기본권에 미치는 영향을 평가해야 된다는 등의 조항들이 생겼다. 이는 초안에는 없던 내용이 인권 기반 접근에 의해 반영된 사례다. 그러나, 앞서 강조했다시피 그것을 산업기술 부처가 정책을 주도하면서 영향받는 사람이 어떤 절차로 실질적 설명을 들을 수 있는지에 대한 구체적 사항은 공백으로 남아있다. 여전히 법률에는 결함이 많은 상태다.  

Q. 한편, 한국은 ‘AI 기본사회’ 같은 담론 속에서 기술 도입과 투자가 훨씬 빠르게 진행되고 있는데, 오히려 국제적 원칙이나 규범이 한국의 속도와 현실을 따라가지 못하는 상황이 올 수도 있겠다는 우려도 든다. 이런 한국 특유의 속도감이나 국가 주도 AI 전환 흐름을 어떻게 바라보고 계신지 궁금하다.

사실 글로벌 상황이 좋지 않다. 전반적인 규제 완화 기조가 나타나고 있고, 기존의 개인정보보호법 역시 후퇴할 가능성이 있다. 예를 들어, GDPR(General Data Protection Regulation)과 관련해서도 기업부담 완화와 데이터 활용 확대를 명분으로 규제 완화 논의가 이루어지고 있고, AI Act 역시 초기 기대 수준보다 후퇴하고 있다는 비판도 제기된다. AI 리터러시 관련 의무 조항 역시 완화하거나 축소하려는 논의가 유럽연합에서 일어나고 있다.  

문제는 한국의 규제 완화 상황이 유럽보다 빠른 속도로 추진되고 있다는 점이다. 인공지능 기본법 자체도 애초에 유럽연합의 AI Act에 비해 훨씬 파편적이고 제한적인 수준에 머물러 있다. AI가 인권, 노동, 민주주의, 사회 구조 전반에 미치는 영향을 포괄적으로 다루기 보단 산업 진흥 중심으로 설계된 상황에서 각종 규제완화 입법까지 빠르게 추진되고 있는 것이다. 

대표적으로 개인정보보호법도 AI개발과 활용을 이유로 그 활용 범위를 대폭 확대하는 방향으로 법 개정이 추진되고 있다. 개인정보는 원칙적으로 정보 주체의 동의를 받거나 법적 근거가 있어야지 적법하게 처리할 수 있다. 그런데 개인정보보호위원회의 심의 의결을 거쳐 인공지능 개발 활용 목적으로는 동의 없이 쓸 수 있다는 완화 논의가 진행중인 것이다. 엄밀히 보면 개인정보보호법의 해체 수준으로 볼 수도 있다. 자율주행차를 개발할 때 쓰려면 개인정보 동의 없이 쓸 수 있다는 법은 이미 국회를 통과한 상태이다. 결국 현재의 흐름은 개인정보 자기결정권과 같은 기본 원칙이 산업 육성과 기술 경쟁주의에 밀려나고 있다.  

3부에서 계속 : AI 거버넌스와 정보 인권 (3부) 

1부 다시 읽기: AI 거버넌스와 정보 인권 (1부)