개인 데이터 외부 전송 없이 스마트폰서 AI 추가 학습

스마트폰서 검증한 최적화 기술 서버 GPU로 확대 적용

LG유플러스가 ‘토큰 최적화’ 기술로 국제 AI 학회에서 연구 성과를 인정받았다. 사진은 이번 논문 집필에 참여한 LG유플러스 구성원들. [LG유플러스 제공]
LG유플러스가 ‘토큰 최적화’ 기술로 국제 AI 학회에서 연구 성과를 인정받았다. 사진은 이번 논문 집필에 참여한 LG유플러스 구성원들. [LG유플러스 제공]

[헤럴드경제=이준영 기자] LG유플러스가 인공지능(AI) 처리 속도를 약 4.5배 높이고 배터리 소모를 77% 줄이는 AI 토큰 최적화 기술을 개발했다. 해당 연구 성과를 담은 논문 2편이 세계 3대 AI 학회 중 하나인 ‘뉴립스(NeurIPS) 2026’ 워크숍에 채택되면서 경쟁력을 인정받았다.

29일 LG유플러스는 AI 토큰 최적화 연구 관련 논문 2편이 국제 AI 학회 뉴립스 2026의 ‘온디바이스 인텔리전스’ 워크숍에 채택됐다고 밝혔다.

뉴립스는 ICML(국제머신러닝학회), ICLR(국제표현학습학회)과 함께 세계 3대 AI 학회로 꼽힌다. 구글, 메타 등 글로벌 빅테크 기업과 글로벌 주요 대학 연구진이 참여해 최신 AI 연구 성과를 발표한다. 올해 행사는 오는 12월 6일부터 12일까지 호주 시드니에서 열린다.

최근 기업 간 AI 서비스 경쟁에서 단순 모델 성능을 넘어 ‘토큰 효율성’의 중요성이 커지는 흐름이다. 토큰은 AI가 질문을 이해하고 답변을 생성할 때 사용하는 데이터 단위다. 토큰 처리 효율을 높이면 응답 속도를 개선하고 전력과 자원 사용을 줄일 수 있다.

LG유플러스는 토큰 최적화 기술을 스마트폰 환경에 적용해 제한된 메모리와 전력으로도 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했다고 설명했다.

우선 통화 서비스에 활용할 소형언어모델(sLM)을 개발하고, 모델 경량화와 추론 가속 기술을 적용해 스마트폰 환경에 최적화했다. 그 결과 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다.

또 개인 데이터를 외부로 보내지 않고 스마트폰 안에서 AI를 학습하는 기술까지 연구했다. AI 학습에 필요한 연산과 메모리 사용을 최적화해 스마트폰 내부에서 추가 학습이 가능하게 했다. 이 회사가 실제 스마트폰 환경에서 검증한 결과, 개인 데이터를 외부로 전송하지 않고도 서버에서 학습한 것과 동일한 수준의 정확도를 확보했다.

LG유플러스는 이번 연구의 성과를 향후 자사의 AI 서비스에 활용하는 방안을 검토하고 있다. 아울러 스마트폰에서 확보한 최적화 역량을 서버 그래픽처리장치(GPU) 환경으로까지 확대할 계획이다.

이상엽 LG유플러스 최고기술책임자는 “이번 뉴립스 논문 채택은 제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것”이라며 “고객이 AI 서비스를 보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고, 향후 서버 환경까지 연구 범위를 확대해 나가겠다”고 말했다.


young2@heraldcorp.com