카카오 AI 가드레일, kt cloud 플랫폼에 적용된다

‘카나나 세이프가드’ 등 AI Safety Tools 적용…통합 관리 플랫폼 공동 개발 추진

[더파워 류동우 기자] 카카오가 kt cloud와 AI 서비스 안전성 강화를 위한 기술 협력에 나선다. 카카오가 자체 개발한 AI 가드레일 기술을 kt cloud의 AI 인프라 플랫폼에 적용하고, 향후 통합 관리 플랫폼 개발까지 협력 범위를 넓히는 내용이다.

카카오는 kt cloud와 안전한 AI 기술 및 서비스 환경 구축을 위한 양해각서를 체결했다고 26일 밝혔다. 협약식은 지난 25일 진행됐으며, 카카오 김세웅 AI 시너지 성과리더와 kt cloud 공용준 Cloud본부장이 참석했다.

이번 협약에 따라 양사는 카카오의 AI Safety 기술과 kt cloud의 AI 인프라 플랫폼 역량을 결합한다. 협력은 AI 안전 기술의 개발, 검증, 확장 등 3단계로 추진된다.

우선 카카오는 자체 개발한 AI 가드레일 모델 ‘카나나 세이프가드’를 포함한 AI Safety Tools를 kt cloud의 AI 플랫폼에 적용한다. 적용 대상에는 모델 안전성 평가 시스템과 레드티밍 시스템도 포함된다.

카나나 세이프가드는 AI 서비스의 안전성과 신뢰성을 검증하기 위한 카카오의 자체 개발 모델이다. 현재 카카오 주요 AI 서비스에 적용돼 있으며, 한국어와 한국 문화를 반영한 자체 데이터셋을 활용한 것이 특징이다.

양사는 이후 실제 고객 사용 사례를 바탕으로 해당 기술의 효용성을 검증하고, 기술 고도화를 진행할 계획이다. 마지막 단계에서는 AI Safety Tools를 통합·관리하는 플랫폼을 공동 개발해 활용 범위를 넓힌다는 방침이다.

카카오 김세웅 AI 시너지 성과리더는 “카카오의 AI Safety 기술과 kt cloud의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다”며 “이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다”고 말했다.

류동우 더파워 기자 rdw2026@thepowernews.co.kr