[충청뉴스 이성현 기자] 국내 연구진이 모바일 기기의 소형 인공지능이 고성능 서버로부터 전달받은 해결 방식을 기기 내부 저장소에 요약 축적하고 재사용하는 협업 기술을 개발했다.
한국과학기술원(KAIST)은 전산학부 이재길 교수 연구팀이 모바일 기기의 소형 인공지능과 외부 고성능 서버 모델을 효율적으로 연동하는 ‘누적 지식 재사용’(CURE) 기술을 구축했다고 21일 밝혔다.
이 기술은 소형 모델이 판독하기 어려운 입력을 만났을 때 서버에 요청해 얻은 지식을 일회성으로 소비하지 않고 기기 내에 기록해 다음 유사 판단에 재활용하도록 설계됐다.
기존 기기-서버 협업 추론 방식은 기기에서 처리하기 힘든 난제를 서버에 위임한 뒤 얻은 결과를 단발성으로 처리했기 때문에 유사한 사물이나 데이터가 들어와도 매번 서버를 재호출해야 하는 한계가 존재했다.
이에 따라 데이터 통신량이 늘어나고 응답 지연 및 서버 운용 비용이 증가하는 문제가 나타났다.
반면 CURE는 ‘기기 내부 소형 AI 판단-기기 저장 지식 조회-외부 서버 요청’의 3단계 선택적 위임 구조를 적용해 불필요한 통신 구간을 차단했다.
연구팀은 기기용 소형 모델 모바일클립2와 매개변수 180억 개 규모의 서버용 대형 모델 EVA-클립을 연계해 성능을 검증했다.
실험 결과 모든 데이터를 서버로 보내 처리하는 수준의 정확도를 유지하면서도 기존 협업 방식 대비 서버 호출 횟수를 평균 55.61% 절감했다.
처리 속도는 기존 기기-서버 협업 추론보다 최대 2.80배, 모든 입력을 서버로 전송하는 방식보다 최대 3.67배 향상됐다.
CURE의 핵심 기전은 이미지 원본을 그대로 저장하지 않고 사물 종류별 특징의 평균과 공분산을 확률분포 형태로 요약해 ‘분포 기반 지식 저장소’에 보관하는 방식에 있다.
이러한 통계적 축적 구조 덕분에 저장 공간을 최소화하면서도 이전에 접하지 않은 새로운 유사 이미지까지 정확하게 분류할 수 있다.
특히 이 기술은 기존 AI 모델의 가중치를 추가로 재학습시키지 않고 독립적인 지식 저장소를 추가 연결하는 방식으로 동작한다.
모델 구조를 변경하거나 별도의 학습 비용을 들이지 않고도 다양한 인공지능 서비스 및 기기 환경에 즉시 적용 가능한 파이프라인을 제공한다.
이재길 교수는 “CURE는 기기 내 소형 AI가 한 번 얻은 지식을 기억해 동일한 서버 호출을 반복하지 않도록 만든 기술”이라며 “스마트폰, 로봇, 웨어러블 기기 등 제한된 자원을 가진 모바일 단말에서 고성능 인공지능을 효율적으로 운용하는 핵심 기반이 될 것”이라고 설명했다.
전문가들은 이번 연구가 모바일 사진 검색, 개인형 AI 비서, 네트워크 연결이 불안정한 자율주행 및 로보틱스 현장에서 데이터 보안성을 높이고 서비스 안정성을 확보하는 데 기여할 것으로 전망하고 있다.
