스마트폰 등 환경 최적화, 유사 크기 모델 성능 수준

자체 토크나이저, 효율 30%↑, 상업 가능 라이센스 적용

카카오 직원이 경기도 성남시 카카오 판교 아지트에 출근하는 모습. 임세준 기자
카카오 직원이 경기도 성남시 카카오 판교 아지트에 출근하는 모습. 임세준 기자

[헤럴드경제=고재우 기자] 카카오가 자체 개발 인공지능(AI) 모델 카나나 경량 언어모델(SLM) 4종을 공개했다. 스마트폰 등 환경에 최적화된 SLM 4종은 유사한 크기의 글로벌 모델과도 유사한 성능인 것으로 알려졌다.

카카오는 28일 허깅페이스에 카나나(Kanana)-2 SLM 시리즈 4종을 공개했다고 밝혔다. ▷카나나-2-1.3B-base ▷카나나-2-1.3B-instruct ▷카나나-2-3B-base ▷카나나-2-3B-instruct 등이다.

카카오가 공개한 모델 역시 다양한 모델 개발 과정에서 축적한 기술과 경험을 바탕으로 개발됐다. 현재 ‘카나나 인 카카오톡’ ‘카카오톡 대화요약 및 통화요약’ ‘AI 국민비서’ 등에서 카카오의 SLM들이 활용되고 있다.

특히 작은 크기에도 불구하고 한국어와 영어 모두에서 글로벌 수준의 성능을 구현했다. 유사 크기의 최신(SOTA) 오픈소스 모델 대비 한국어, 영어, 지식, 수학, 코드 등 대부분의 대표 벤치마크에서 우수한 성능을 기록했다.

오픈소스로 공개한 카나나-2-1.3B-instruct와 함께 더 작은 사이즈의 카나나-2-0.9B-instruct도 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 역량에서도 큐웬, 젬마 등 동급 글로벌 모델과 경쟁력 있는 성능을 보였다.

또 카카오가 자체 개발한 한국어 특화 토크나이저가 적용돼, 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 토크나이저란 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 사용할수록 같은 문장을 더 적은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용도 줄어든다.

스마트폰과 같이 메모리와 연산 자원이 제한적인 온디바이스 환경에 최적화해 설계됐다는 점도 주목할 만하다. 이를 통해 최대 32K(3만2000토큰, 약 2만4000단어) 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다.

아울러 카카오는 해당 모델을 상업적 활용까지 허용하는 ‘카나나 오픈 라이센스‘로 배포한다. 개발자, 스타트업, 연구기관 등 누구나 별도의 제약 없이 기술을 활용할 수 있다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다.


ko@heraldcorp.com