[더파워 류동우 기자] 카카오가 이용자의 질문에 담긴 의미를 분석해 필요한 정보를 찾아주는 인공지능(AI) 검색 기술을 고도화했다. 정확한 단어나 명칭을 기억하지 못해도 관련 정보를 검색할 수 있는 기술로, 개인화 AI 에이전트 개발에 활용될 전망이다.
카카오는 29일 개인화 AI 에이전트의 기반 기술인 임베딩 모델 'Kanana-2-embedding' 2종을 글로벌 AI 플랫폼 허깅페이스에 오픈소스로 공개했다고 밝혔다. 이번에 공개한 모델은 30억 파라미터 규모의 'Kanana-2-3b-embedding'과 13억 파라미터 규모의 'Kanana-2-1.3b-embedding'으로, 지난 7월 소형 언어모델(SLM) 4종을 공개한 데 이은 추가 성과다.
임베딩 모델은 텍스트의 의미를 수치로 변환해 질문과 관련된 정보를 검색하는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성한다면 임베딩 모델은 답변에 필요한 정보를 찾아주는 역할을 한다. 예를 들어 이용자가 과거에 이야기했던 식당 이름을 기억하지 못하더라도 '조용하게 대화하기 좋은 곳'이라는 의미를 바탕으로 관련 정보를 찾는 데 활용할 수 있다.
카카오는 자체 평가에서 이번 모델들이 유사한 규모의 글로벌 공개 모델인 'llama-nemotron-embed-1b-v2', 'Qwen3-Embedding-4B'와 비교해 가장 높은 한국어 검색 성능을 기록했다고 설명했다. 영어 성능은 유사한 수준을 보였으며, Qwen3-Embedding 대비 추론 효율도 높게 나타났다. 기존 카나나 임베딩 모델과 비교해서는 검색 성능을 개선하면서 메모리 사용량과 추론 속도 측면에서 수십 배 이상의 효율 향상을 확인했다.
이번 모델은 자체 소형 언어모델 'Kanana-2-SLM'의 언어 이해 능력을 정보 검색에 활용하도록 개발됐다. 카카오는 먼저 30억 파라미터 모델을 구축한 뒤 대형 모델의 학습 정보를 소형 모델에 전달하는 지식 증류 기법을 적용해 13억 파라미터 모델을 만들었다.
서비스 환경에 따라 검색 성능과 운영 비용을 조절할 수 있는 기술도 적용했다. 임베딩 벡터의 크기를 조정하는 'MRL(Matryoshka Representation Learning)' 기법을 활용해 개발자가 저장 공간과 처리 속도 등을 고려해 적절한 설정을 선택할 수 있도록 했다.
두 모델에는 라이선스 조건에 따라 상업적 활용도 가능한 '카나나 오픈 라이선스'가 적용됐다. 국내외 연구자와 기업은 공개된 모델을 직접 검증하고 개인화 AI 에이전트와 의미 기반 검색 서비스 개발에 활용할 수 있다.
카카오는 앞으로 더 큰 언어모델을 활용한 임베딩 학습과 지식 증류 연구를 이어가며 검색 성능과 운영 효율을 개선할 계획이다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께, 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "연구자와 개발자들이 한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 돕고, 검색 성능과 효율을 함께 높이는 연구를 이어갈 것"이라고 말했다.
류동우 더파워 기자 rdw2026@thepowernews.co.kr
이미지 확대보기
