[뉴스에프엔 한종갑 기자] 유럽연합(EU)이 지원하는 새로운 연구 프로젝트 SHASAI가 인공지능(AI) 시스템을 사이버 보안 위협으로부터 보호하기 위한 전 주기적 접근에 나선다.

SHASAI는 AI 설계·개발 단계부터 배포, 실제 운영에 이르기까지 발생할 수 있는 사이버보안 위험을 체계적으로 다루는 것을 목표로 한다.

이 프로젝트는 Horizon Europe 프로그램의 지원을 받아 추진되며, AI 기반 시스템이 점점 더 복잡하고 상호 연결되는 환경에서 보안·회복력·신뢰성을 동시에 강화하는 데 초점을 맞추고 있다.

© 셔터스톡/멍크후드 스튜디오

“AI 사이버보안을 수명 주기 과제로 접근”

SHASAI 프로젝트 코디네이터이자 IKERLAN 소속 사이버보안 연구원인 레티시아 몬탈빌로 멘디자발은 “단편적인 보안 솔루션을 넘어, AI 사이버보안을 하나의 수명 주기 과제로 다루는 것이 SHASAI의 핵심”이라고 밝혔다.

그는 “안전한 하드웨어와 소프트웨어, 위험 기반 엔지니어링, 실제 환경에서의 검증을 결합함으로써 혁신성과 함께 회복력·신뢰성·EU 규제 준수를 모두 갖춘 AI 시스템 배포를 지원할 것”이라고 설명했다.

실제 산업 환경에서 검증되는 세 가지 시나리오

SHASAI는 이론적 연구에 그치지 않고, 사이버보안 위협에 노출될 가능성이 높은 세 가지 실제 시나리오를 통해 기술과 방법론을 실증할 계획이다.

-농식품 부문: AI 기반 자동 절단기

-헬스케어 분야: 보조 의료 기술에 적용되는 눈 추적(Eye-tracking) 시스템

-모빌리티 분야: 원격 조작 방식의 라스트 마일 배송 차량

이들 사례는 서로 다른 산업 환경에서 AI 시스템이 직면하는 보안 위협을 분석하고, 개발된 보안 아키텍처와 대응 전략을 다른 AI 응용 분야로 확장하기 위한 시험대 역할을 하게 된다.

EU AI·사이버보안 규제와의 정합성 강화

SHASAI는 기술 개발과 함께 EU의 주요 정책 프레임워크와의 정합성 확보에도 중점을 둔다. 프로젝트는 EU AI Act, Cyber Resilience Act, NIS2 Directive, EU 사이버보안 전략 등과의 연계를 통해, 규제 환경 변화에 대응 가능한 AI 보안 모델을 제시한다는 계획이다.

이를 통해 고위험 환경에서 운용되는 AI 시스템이 추적 가능하고, 규제 요구사항을 충족하며, 사이버 공격에 탄력적으로 대응할 수 있는 기반을 마련한다는 목표다.

2029년까지 연구 수행… 신뢰할 수 있는 AI 기반 구축 목표

SHASAI 컨소시엄에는 연구기관과 대학, 산업계, 기술 제공업체가 참여해 학술·산업적 전문성을 결합한다. 프로젝트는 2025년 11월 1일 시작돼 2029년 4월 말까지 진행될 예정이다.

EU는 SHASAI를 통해 AI 보안과 신뢰성 문제를 기술적·제도적으로 동시에 다루며, 향후 AI가 핵심 인프라와 산업 전반에 확산되는 과정에서 발생할 수 있는 사이버 리스크를 선제적으로 관리하겠다는 방침이다.