[국회=글로벌뉴스통신]최민희 의원실(국회 과방위원장)과 시민기술네트워크가 주최한 '시민참여 AI 기본법 추진 위한 쟁점 토론회'가 12일(목) 의원회관 제1소회의실에서 열렸다.
토론회에서는 인공지능(AI) 기본법의 필요성이 강조되면서 AI 사업자·운영자에 대한 명확한 정의와 규제와 기술개발 간에 균형 잡힌 법체계 마련이 필요하다하는 주장이 나와 주목을 받았다.
AI 기본법의 경우 국회 과방위에서 21대 국회인 지난 2022년까지 발의됐던 7건의 AI 관련 법률안을 병합해 심의했으나 국회 회기가 종료되면서 폐기되었다. 이번 22대 국회 개원을 계기로 현재까지 9건의 법안이 재 발의되어 국회 입법 논의과정의 일환으로 토론회를 개최한 것이다.
최민희 위원장은 환영사에서 "AI 기술의 급격한 발전으로 인해 부작용이 발생하고 있는 것도 사실"이라며 "국회는 AI 기술의 체계적인 육성과 함께 올바른 사용으로 국민의 권익을 보호하기 위한 제도적 기반을 마련해야 할 책임이 있다"고 말했다. "딥페이크 영상, 저작권 침해 등 부작용과 관련해 국회가 올바른 방향으로 AI 기술을 활용하기 위한 제도적 기반 마련에 앞장서야 한다."고 덧붙였다.
특히 "시민참여 AI 기본법은 온라인 플랫폼을 활용해 시민과 각계각층의 다양한 의견을 수렴해 법안에 반영하는 크라우드 소싱 기법을 활용할 계획"이라며 "이번 토론회를 통해 AI 기본법에 관해 많은 국민들께서 관심을 가져주시길 바란다."고 강조했다.이어 "'시민참여 AI 기본법'은 온라인 플랫폼을 통해 시민과 전문가 등 각계각층의 다양한 의견을 수렴해 법안에 반영하는 크라우드소싱 기법을 활용할 계획"이라고 밝혔다.
이어진 토론회는 먼저 박지환 법무법인 혁신 변호사가 'AI 기본법 국회입법안 해설'을 주제로 1차 발제한데 이어 사회혁신연구소 '스프레드아이'의 김정원 대표가 유럽연합(EU)과 글로벌 정상회의를 중심으로 'AI 기본법 제정 글로벌 현황'에 대해 발제했다.
첫 번째로 발제한 박지환 법무법인 혁신 변호사는 22대 법안에서 시급하게 다뤄야 할 내용으로 국가인공지능센터 인공지능 집적단지 설치 등을 언급했다. 이 경우 센터와 집적단지는 인력과 예산을 들여야 하는 부분이라며 입법 필요성을 제기했다. 법안 추진에 있어 쟁점이 되는 부분은 '우선허용· 사후규제'라는 대원칙을 설명했다.
두 번째 발제자인 김정원 영국 사회혁신연구소 스프레드아이 대표는 "런던에서 AI 서울 정상회의에 다녀오신 분들과 논의했다. 딥마인드 관계자 등도 있었는데 산업적으로 최선을 다해 테스트 시나리오를 돌려도 위험을 감지하고 예방은 어렵다는 이야기가 나왔다"며 "시민사회와 함께 일하는 프로세스가 정상회의 등을 통해서 골격을 잡는 작업이 있었으면 좋겠다는 의견이 나왔다"고 소개했다.
즉 ‘개발자도 예측 어려운 AI 부작용 대책은 예방보다 빠른 대응체계가 중요한데, 고위험군 AI 시장 출시 전 준수해야 할 EU의 프로세스’에 대해 강조했다. ‘프로세스 단계는 고위험군 AI 개발 의무사항에 적시 내용 이행 및 준수성 평가 실시 EU 데이터베이스 등록 준수성 평가 실시 후 CE 마크 부착, 시스템 시장 출시’ 단계를 설명했다.
특히 "공급자는 CE 마크 부착된 것만 시중에 유통할 수 있는데 만약 사고가 나면 다시 AI 오피스에 보호하는 형식"이라며 "유럽연합(EU)의 법안은 앞으로 어떤 위험이 있는지 자신할 수 없기 때문에 빠르게 피드백을 돌릴 수 있는 절차에 공을 들인 것이 핵심"이라며 "AI 사용으로 인한 피해를 아는 사람들은 (기술 전문가가 아니라) 피해자기 때문에 시민단체 등의 피드백이 중요하다"고 강조했다.
토론은 이원태 아주대 교수를 좌장으로 하정우 네이버클라우드 AI 이노베이션 센터장, 오병일 진보네트워크센터 대표, 홍윤희 사단법인 무의 이사장, 홍지연 한국교원대 교수, 남철기 과학기술정보통신부 인공지능기반정책과장 등 전문가들 참석하에 진행되었다.
이어진 토론에서 하정우 네이버 클라우드 AI 이노베이션 센터장은 "기본적으로 AI를 통한 성장 혁신 그리고 이에 대한 기회가 누구도 소외되지 않도록 하는 것을 기본 방향성으로 해야 한다"며 "규제는 이런 기본 방향을 실현할 수 있는 방법에 따른 규제여야 한다"고 주장했다. 사우디아라비아에서 원격 연결로 참여한 하정우 센터장은 "모델을 개발하는 수준에서는 어떤 문제가 발생할지 모든 걸 예측하기가 사실상 어렵다"며 "샌드박스 방식으로 시민사회와 활용해 보며 발생하는 문제를 즉각적으로 대응하는 형태가 돼야 한다."고 주장했다.
이어 그는 "일단 사용해 봐야 문제점과 개선점을 도출할 수 있다. 일어나지 않을 일을 상상으로 규제하는 건 바람직하지 않다"고 덧붙였다. "따라서 샌드박스 내에서 시민사회들과 함께 활용을 해보며 발생하는 문제들을 즉각적으로 대응할 수 있는 형태가 돼야 한다"고 말했다. 샌드박스 방식은 신기술을 특정 기간, 장소, 일정 규모 등 제한을 두고 우선 출시하며 규제 영향, 필요성을 평가하고 문제점을 개선해 나가는 방식이다.
남철기 과기정통부 인공지능기반정책과장은 "AI를 두고 진흥을 강조하는 측이 있고 AI 위험성을 대비한 인권을 강조하는 측이 있다. 저희는 안전과 신뢰가 지켜져야만 AI 혁신이 일어난다고 보고 있다"며 "많은 내용을 담은 완벽한 법안을 만드는 것이 현실적으로 어려워 최소한 골격을 만들고 필요한 내용을 보완 입법해 완결성을 가져가는 것이 필요하다"고 말했다. 우선 기본법으로 골격을 만들고 지속해서 입법을 보완하는 방향을 제안했다.
오병일 진보네트워크센터 대표는 AI 사업자에 대한 엄밀한 정의가 없었다는 것을 지적했다. 오병일 대표는 "현재 인공지능 사업자와 운영자를 구분하지 않고 인공지능 산업과 관련된 경제활동을 영위하는 자 등으로 통칭하여 진행되고 있다"며 "정의 개념부터 국회에서 치열하게 검토가 돼야 된다고 생각하는데 21대 국회 회의록에서는 이런 부분에 대한 검토가 전혀 없었다."고 밝혔다. 이어 "이는 인공지능 규제정책의 국제적인 호환성을 위해서도 중요하다"고 강조했다.
