지난해 11월 오픈AI의 챗GPT(ChatGPT) 등장을 계기로 인공지능(AI)에 대한 관심이 폭발했다. 챗GPT와 같은 생성형 AI가 다양하게 나타나며 이를 추가 수입 수단으로 활용하는 N잡러마저 늘어나는 추세다.
그러나 모든 기술이 그러하듯 AI 기술 역시 발전을 거듭할수록 부작용과 역기능도 함께 나타나고 있어 이를 방지하기 위한 통제 수단 마련이 필요하다는 목소리가 높아지고 있다. 오픈AI 대표 샘 알트만과 빌 게이츠 등은 AI로 인한 멸종 위험을 줄이는 것을 전염병과 핵전쟁과 같은 사회적 위험과 동일하게 전 세계의 우선 과제로 삼아야 한다는 주장을 내놓기도 했다.
국회입법조사처는 ‘인공지능의 FATE를 위한 입법 논의 동향과 시사점’ 보고서를 발간했다. 보고서는 스탠포드대학 인간중심 인공지능 연구소(HAI)의 보고서를 인용, 인공지능 사고 및 논쟁 수는 2012년 10건에서 2021년 260건으로 10여년 만에 26배 증가했다고 밝혔다.
지난해 보고된 AI 관련 주요 사례로는 화상회의 서비스에 인공지능을 활용해 학생 감정을 모니터링하는 시스템을 개발한 사건, 런던 경찰청이 범죄조직의 잠재적 위험도를 평가하기 위해 사용하는 AI도구에서 특정 민족과 인종을 차별하는 경향이 발견된 사건 등이 있다.
AI 위험에 대한 우려가 급속하게 증가함에 따라 구체적인 규제 논의가 이뤄지고 있다. 주요국에서는 AI의 FATE를 일부 법제화 하는 움직임도 보이고 있다. FATE는 공정성(Fairness), 책임성(Accountability), 투명성(Transparency), 윤리의식(Ethics) 등을 통칭하는 말이다.
유럽연합(EU)은 지난 2021년 ‘인공지능에 관한 통일규범의 제정 및 일부 연합 제정법들의 개정을 위한 법안’(이하 EU 인공지능법안)을 발의한 이후 논의를 진행했다. 지난달 14일 EU 의회 본회의는 EU 인공지능법안을 가결, 현재 EU 의회와 EU 집행위원회 및 이사회 등 3자 협상이 진행되고 있다.
EU 인공지능법안은 인간 중심의 접근을 위해 ▲인간에 의한 감독 ▲기술적 견고성과 안전성 ▲프라이버시 및 데이터 거버넌스 ▲투명성 ▲다양성·비차별성·공정성 ▲사회 및 환경복지 등을 AI가 준수해야 할 일반원칙으로 제시한다.
사람의 안전, 생계, 권리에 명백한 위험으로 간주되는 AI 시스템은 금지하고 고위험에 해당하는 AI에는 위험관리 시스템 운영, 위험과 차별 결과를 최소화하는 데이터 마련, 결과의 추적성을 보장하기 위한 자동 로그 생성, 위험에 대한 정보 제공, 기본권 영향평가 등의 의무를 부여해 FATE을 구체화하고 있다.
미국에서도 최근 AI에 대한 일부 규제가 필요하다는 주장이 제기되고 있다. 2019년과 2022년 미국 상·하원에 각각 ‘알고리즘 책임법안’이 발의됐다. 이 법안은 알고리즘을 개발, 배포하는 일정 기준 이상의 기업이 자동화된 의사결정 시스템과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 해 투명성과 책임성을 부과하고 있다.
우리나라 과학기술정보통신부는 지난 2020년 ‘인공지능 윤리기준’, 2021년 ‘신뢰할 수 있는 인공지능 실현전략(안)’을 발표한 데 이어 올해부터는 AI 제품·서비스별 평가체계를 마련하는 등 관련 조치를 취하고 있다. 개인정보보호위원회와 방송통신위원회, 금융위원회는 2021년 관련 자율점검표·가이드라인을, 국가인권위원회는 지난해 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 만들었다.
국회에서는 지난 2월 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 과학기술정보방송통신위원회 법안심사소위원회를 통과하기도 했다.
보고서는 “AI의 FATE에 대한 규제가 어느 정도 필요하다는 점에 대해서는 사회적 합의가 도출되고 있는 것으로 보인다”며 “AI기술이 어디까지 발전할지 예상하기 어려운 만큼 규제를 한 번에 마련하기보다 지속적으로 논의하며 단계적으로 도입할 필요가 있다”고 제언했다.
