[더파워 류동우 기자] 크래프톤이 전체 300억개 파라미터 가운데 필요한 40억개만 활성화하는 자체 거대언어모델(LLM)을 공개했다. 전문가 혼합(MoE) 구조와 자체 개발한 선형 어텐션 기술을 결합해 성능과 추론 효율을 함께 높이는 데 초점을 맞췄다.
크래프톤은 자체 개발한 30B급 LLM ‘라온-1 미니(Raon-1 mini)’의 프리뷰 버전을 21일 공개했다고 밝혔다. 정식 출시에 앞서 선보이는 모델로, 허깅페이스에 아파치 2.0 라이선스로 공개해 연구뿐 아니라 상업적 서비스와 제품 개발에도 활용할 수 있도록 했다.
라온-1 미니 프리뷰는 크래프톤이 모델 설계부터 프롬 스크래치 학습까지 전 과정을 직접 수행한 영어·한국어 지원 모델이다. 전체 30B 파라미터를 모두 사용하는 대신 필요한 4B 파라미터만 활성화하는 MoE 구조에 자체 개발한 선형 어텐션 기술을 결합했다.
크래프톤은 이를 통해 빠른 응답 속도와 낮은 추론 비용을 구현하는 데 초점을 맞췄다고 설명했다. 단순히 모델 규모와 벤치마크 성능을 높이는 것보다 실제 서비스 환경에서 필요한 비용 대비 성능을 확보하는 방향으로 모델을 설계했다는 설명이다.
회사 측에 따르면 라온-1 미니 프리뷰는 해외 동급 규모 모델과 비교해 경쟁력 있는 성능을 확보했으며 일부 지표에서는 국내 대형 모델에 근접한 결과를 보였다. 특히 자연스러운 한국어 대화와 형식 지정, 페르소나 설정 등 사용자의 지시를 수행하는 능력, 빠른 응답 속도에 중점을 뒀다.
지시 이행 능력은 여러 단계의 작업을 처리하는 AI 에이전트 활용과도 연결된다. 크래프톤은 한국어 대화와 에이전트 수행 역량을 강화하면서 실제 산업 현장에서 활용할 때 필요한 추론 비용까지 낮추는 것을 라온-1 미니의 개발 방향으로 잡았다.
크래프톤은 향후 라온-1 미니의 성능을 지속적으로 개선한 뒤 정식 버전을 공개할 예정이다. 정식 출시 때는 모델 학습 과정과 최종 성능을 담은 테크니컬 리포트도 함께 내놓을 계획이다.
크래프톤은 지난 4월 AI 모델 브랜드 ‘라온’을 출범한 뒤 음성 언어 모델 ‘Raon-Speech’, 실시간 음성 대화 모델 ‘Raon-SpeechChat’, 텍스트-음성 변환 모델 ‘Raon-OpenTTS’, 비전 인코더 ‘Raon-VisionEncoder’ 등을 오픈소스로 공개했다. 이번 라온-1 미니는 향후 크래프톤이 개발할 AI 모델의 기반 LLM으로 활용될 예정이다.
이강욱 크래프톤 CAIO는 "라온-1 미니 공개는 크래프톤이 5년 넘게 축적해 온 AI 연구개발 역량을 통해 경쟁력 있는 언어 모델을 독립적으로 개발한 성과"라며 "성능은 높이고 비용 부담은 낮춘 LLM으로 다양한 산업 현장에서 AI 활용의 폭을 넓혀 나가겠다"고 말했다.
류동우 더파워 기자 rdw2026@thepowernews.co.kr
이미지 확대보기
