[뉴스에프엔 조남준 기자] 펜실베이니아대학교(Penn Engineering) 연구팀이 AI를 빛의 속도로 훈련할 수 있는 세계 최초의 프로그래머블 포토닉 칩을 개발했다. 이 칩은 AI 시스템에서 필수적인 비선형 수학 연산을 전기 없이 오직 빛만으로 구현할 수 있는 최초의 사례로, 향후 초저전력 AI 컴퓨팅과 광 기반 컴퓨터 시대를 여는 돌파구로 주목받고 있다.

광자 기반 비선형 연산, 딥러닝의 핵심을 빛으로 재현

기존 포토닉 AI 칩은 선형 계산만 가능했지만, 신경망 훈련에 필수적인 비선형 활성화 함수는 구현할 수 없어 완전한 AI 훈련이 불가능했다. 펜실베이니아대 연구진은 특수 반도체 소재에 신호광과 제어광을 교차 투과시키는 방식을 통해 광 자체로 다양한 비선형 수학 함수를 재구성하는 데 성공했다.

펌프 빔(제어광)의 세기와 패턴을 조절하면 신호광의 흡수·증폭·투과 특성을 바꿔, 칩은 실시간으로 다양한 함수 연산을 수행할 수 있다. 물리적 구조를 바꾸지 않고 빛으로 칩의 연산 로직을 '프로그래밍' 하는 새로운 방식이다.

전자 없이 AI 학습…효율성과 속도 동시 달성

테스트 결과, 해당 칩은 붓꽃 데이터셋 분류 등 머신러닝 벤치마크 과제에서 96~97%의 정확도를 달성했으며, 소모 에너지와 자원은 전자식 대비 현저히 낮았다. 단 4개의 비선형 광학 유닛으로 기존 20개의 전자 유닛과 유사한 성능을 낸 것은 광 기반 연산의 가능성을 명확히 보여준다.

"포토닉 ENIAC의 시작"

논문 수석저자이자 재료공학·시스템공학 교수인 량 펑(Liang Feng)은 “이 칩은 현장 프로그래밍 가능한 포토닉 컴퓨터의 개념 증명이며, ‘빛의 속도’로 AI를 훈련시킬 수 있는 미래의 전조”라고 밝혔다.

연구팀은 앞으로 지수, 역함수 등 더 복잡한 연산으로의 확장을 통해 대규모 언어 모델 훈련 등에도 도전할 계획이다. 또한 고에너지 소모가 큰 전자 기반 AI 데이터센터를 광 기반 시스템으로 대체할 수 있는 친환경·저전력 AI 인프라의 실현 가능성도 제시했다.

펜실베이니아대학교는 세계 최초의 디지털 컴퓨터 에니악(ENIAC)이 탄생한 곳이다. 이번 성과는 광 기반 컴퓨팅 시대의 ‘포토닉 에니악’을 향한 첫 걸음이 될 것으로 기대를 모은다.