인공지능을 둘러싼 담론에는 ‘누구의 삶이 어떻게 영향을 받는가’ 그리고 ‘이러한 영향에 대응한 정책 결정에 누가 참여하는가’에 관한 인권과 민주주의의 질문이 수반된다. 이는 노동, 동봄, 복지, 안전, 기후와 같은 사회 전반의 구조와 권력 관계 속에서 작동하는 인공지능 정책 역시 시민의 권리와 사회 정의의 문제, 즉 ‘산업 정책’ 이전에 ‘사회정책’으로 다뤄져야 한다는 장여경 이사의 문제의식을 관통한다. 시민사회의 디지털 정의 운동은 기술 효율과 비판적 원칙 사이의 딜레마를 마주하며, 사회적 토론을 거치며 숙성해 가는 과정에 있다. 앞으로 인공지능은 시민의 삶 속에 구체적 문제로 가시화될 것이다. 이 과정에서 필요한 일은 기술 낙관이나 공포가 아닌 시민이 이러한 기술 발전에 개입할 수 있는 권리와 참여적이고 민주적인 구조를 만드는 일일 것이다.
AI 시대 시민사회의 '이중 과제'
Q. 말씀을 들으니 상황의 심각성을 인식하게 된다. 시민사회에서도 AI를 비판하고 감시하는 것만이 아니라 실제 활동과 교육, 조직 운영에 적극 활용해야 한다는 요구가 커지고 있는 것 같다. 한편으로는 기술 의존이나 무비판적 활용에 대한 우려도 공존한다. 현장에서 활동가들을 만나실 때, 시민사회가 AI를 얼마나 균형 있게 활용하고 있다고 느끼는가?
정말 핵심적인 고민이다. 시민사회 여러 단체와 개인에게서 상반된 질문을 동시에 받는다. 한쪽에서는 생성형 인공지능을 어떻게 잘 활용할 수 있는지, 다른 한쪽에서는 일자리에 미치는 영향에 어떻게 대처하면 좋을지와 같은 질문이다. 여성단체에서는 딥페이크와 젠더기반 폭력을 AI가 확산시키는 문제를 우려하면서도 한편으로는 AI를 활용해 폭력 피해자들의 상담 효율과 효과성을 높일 방법을 고민하고 있다.
수용과 비판의 균형이 중요하다. 그런데, 우리가 이전에 IT기술이 초기 단계일 때도 비슷한 딜레마를 마주한 바 있다. 디지털 기술이 확산되면서 사람의 모든 세부 정보가 기록되기 시작을 했을 때였다. 말하자면 감시 권력이 증가하는 상황이었지만, 한편으로는 네트워크 기반으로 디지털 기술에 의해 시민 역량도 증가한 게 사실이다. 그래서 이 두 가지 서로 다른 목표 속에서 때론 갈등하고 때론 조화를 시도 하면서 발전을 해 온 것이다. 그런 점에서 개인정보 자기결정권이라는 개념도 나오게 된 것이다. 개인 정보 자기결정권은 일방적인 보호가 아니다. 내가 결정하겠다는 것이다. 스스로 결정하겠다는 권리가 디지털 권리의 핵심이다. 따라서 우리가 이 기술을 바라볼 때 무조건 사용자의 수용을 강요하거나 아니면 기술에 대한 거부를 강요하는 것 모두 약간의 기술 결정론적 함의가 있다고 생각한다. 우리가 강조하는 것은 시민사회가 더 참여적이고 개입적으로 접근해야 된다는 것이다. 그런 차원에서 우리는 시민사회 활동가들 대상으로 ‘생성형 인공지능 가이드라인’ 같은 출판물을 만들어 배포하기도 했다.
Q. 말씀을 들으며 시민사회와 인권 활동가들이 AI 시대에 일종의 ‘이중 과제’를 안고 있다는 생각이 들었다. 한편으로는 기술과 플랫폼이 자본과 권력에 의해 어떻게 활용되고 있는지 비판적으로 감시해야 하지만, 동시에 다른 한편으로는 시민사회 역시 그 기술을 충분히 이해하고 활용하지 못하면 공론장과 영향력 경쟁에서 뒤쳐질 수 있다는 압박도 존재하는 것 같다.
유엔 인권 특별보호관 필립 올스턴(Philip Alston)이 빈곤특보보고서에서 사회복지 AI를 분석하면서 빅테크들을 비판한적이 있다. 빅테크들은 인권 프리존(almost human rights free zone)에 있다는 것. 그러니까 속도전으로 달려가고 있는 걸 공공이 전혀 규제를 못하고 있다고 비판한 것이다.
인권 공백 상태에 있던 빅테크 기술에 대하여 문제의식이 사회화된 것은 최근의 일이다. 몇몇 선거에 SNS 유저 데이터가 이용이 됐다는 게 밝혀지면서 정치 권력의 문제로 밝혀지면서 비로소 심각함에 대한 인식이 확대되었다. 그러나 이런 사항에 대응할만한 적절한 법적 도구는 여전히 부재하다. 선거 개입 사태까지 가서야 개인정보 보호 당국도 개입하고 페이스북 광고와 내부 메커니즘이 조금씩 드러나고 있지만 늦은 측면이 있다.
인공지능 기술의 유용성과 위험성 앞에서 시민사회가 무력한 상태로 대응을 못하고 있는만큼 독립적인 연구자와 언론의 중요성이 매우 크다고 생각한다. 시민사회는 주로 규범 연구를 통해 그에 기반한 제안을 한다면, 실태는 연구자들과 탐사 언론들에서 밝힐 수밖에 없다. 그러나 빅테크 플랫폼 위주의 뉴스 미디어 질서에 언론사들도 이미 포획되어 있는 상태에서 탐사 보도의 여건도 녹록치 않다. 기술권력을 감시하고 실태를 지적해야 할 언론사들 마저 플랫폼에서 광고 선택을 받아야 하기 때문에, 이에 맞는 기사를 빨리빨리 생성해야하는 속도 경쟁을 하는 상황인 것이다.
연구자 역시 녹록치 않다. 빅테크 플랫폼의 외부에서 정보에 접근하기도 어렵고 연구 지원 역시 이러한 비판적 연구에 대한 지원보다 산업 진흥 지원이 훨씬 크다는 점도 구조적 어려움이다. 한국 논문 검색 서비스를 보더라도 개인정보보호법이 기업 활동에 방해된다는 취지의 논문이 훨씬 많다. 일반 시민의 권리를 위한 비판적 취지의 논문은 거의 찾아볼 수 없는 형국이다.
결국 지금의 문제는 단지 특정 기술의 위험성에 대한 우려를 넘어, 기술 권력이 민주주의적 통제와 인권 규범의 바깥에서 성장해왔다는 데 있다. 시민사회와 연구자들이 어렵게 경고를 이어가고 있지만, 현재 환경에서는 거대한 플랫폼 권력을 감시하고 견제하기에 역부족인 측면이 분명히 있다. 따라서 지금 필요한 것은 기술 발전의 속도를 무작정 따라가는 것이 아니라, 기술이 사회에 미치는 영향을 공적으로 검증하고 시민의 권리를 중심에 두는 새로운 민주적 거버넌스를 구축하는 일일 것이다.