[뉴스에프엔 김맹근 기자] 유럽평의회가 인공지능(AI) 기술이 인권, 민주주의, 법치에 미치는 영향을 통제하고 대응하기 위한 첫 국제조약을 마련하며 글로벌 규범 정립에 나섰다. 지난 2024년 채택된 ‘AI와 인권, 민주주의 및 법치에 관한 기본협약’은 AI 기술의 책임 있는 사용을 위한 국제 협력의 새로운 이정표로 평가받는다.

규제의 출발점: AI, 혜택과 위험 동시에 내포

AI는 의료, 경제, 법률, 공공정책 등 다양한 분야에서 혜택을 제공하지만 동시에 개인의 권리 침해, 차별, 감시 강화 등의 잠재적 위험을 동반한다.

유럽평의회 인공지능위원회(CAI)의 마리오 에르난데스 라모스 의장은 “규제는 AI 기술 자체가 아니라 그 사용이 인권과 법치에 미치는 영향을 중심으로 이루어져야 한다”고 강조했다.

AI 기본협약: 기술 중립성·국제 협력 강조

2024년 5월 유럽평의회 각료위원회에서 채택된 기본협약은 인공지능 시스템이 인간 존엄성과 자율성, 평등, 투명성, 책임성 등 핵심 가치를 존중해야 한다는 원칙을 명시했다.

해당 협약은 기술을 직접 규제하지 않으며, 공공 및 민간 부문 모두에 적용 가능한 ‘기술적으로 중립적인’ 프레임워크다.
2024년 9월, 리투아니아 빌뉴스에서 공식 서명식이 열렸으며, 미국, 일본, 유럽연합 등 13개국이 참여했다.

HUDERIA: 위험 평가를 위한 실질적 도구

협약의 실행을 뒷받침하기 위해 개발된 HUDERIA(Human Rights, Democracy and Rule of Law Impact Assessment) 방법론은 AI 시스템이 인권에 미치는 영향을 체계적으로 분석한다.

총 4단계로 구성된 이 가이드는 ▲컨텍스트 기반 위험 분석(COBRA) ▲이해관계자 참여(SEP) ▲영향 평가(RIA) ▲완화 계획(Mitigation Plan)을 통해 AI 사용의 잠재적 위험을 식별하고 대응 전략을 수립한다.

법적 기반, 사회적 신뢰 형성을 위한 열쇠

유럽평의회는 법률과 윤리적 기준이 없는 상황에서의 AI 남용 가능성을 경계하며, 법적 확실성을 통해 시민과 기업 모두가 신뢰할 수 있는 환경 조성의 필요성을 강조했다. 당사국총회를 통해 이행 상황을 모니터링하고, 이해관계자들과의 협력을 지속할 예정이다.

라모스 의장은 “이 조약과 방법론은 AI 기술이 인간의 기본 권리를 위협하는 도구가 아닌, 인류 복지를 향상시키는 도구로 활용되도록 만드는 초석이 될 것”이라며, “전 세계가 함께 공유할 수 있는 기준으로 자리 잡길 기대한다”고 말했다.

0 0