카카오, 에이전트 특화 기술 오픈 소스로 공개

카카오가 이용자의 질문과 과거 대화의 맥락을 연결하는 인공지능(AI) 기술을 공개했다. 정확한 단어를 입력하지 않아도 질문의 의미를 파악해 관련 정보를 찾아주는 기술이어서 개인화 AI 에이전트 개발에 활용될 전망이다.

카카오는 개인화 AI 에이전트 기반 기술인 ‘카나나-2-임베딩’ 2종을 글로벌 AI 플랫폼 허깅페이스에 공개했다고 29일 밝혔다. 이번에 공개한 모델은 30억개 파라미터 규모의 ‘카나나-2-3b-임베딩’과 13억개 규모 ‘카나나-2-1.3b-임베딩’이다. 7월 카나나 소형 언어모델(SLM) 4종을 공개한 데 이은 추가 공개다.

임베딩은 텍스트의 의미를 수치로 변환해 관련 정보를 검색하는 기술이다. 일반 언어모델이 질문에 대한 답변을 생성한다면 임베딩 모델은 답변에 필요한 정보를 찾아주는 역할을 한다. 이용자가 정확한 단어나 명칭을 기억하지 못해도 유사한 의미의 정보를 검색할 수 있다. 예를들어, 이용자가 “전에 이야기했던 조용한 식당”을 찾아달라고 요청하면 식당 이름을 입력하지 않아도 과거 대화에서 언급한 ‘대화하기 좋은 곳’과 관련된 정보를 찾아낼 수 있다. 흩어진 정보를 연결해 이용자의 상황과 맥락에 맞는 답변을 제공하는 방식이다.

이번 모델 2종은 비슷한 규모의 메타 라마나 알리바바 큐웬 임베딩 모델과 비교에서도 가장 높은 한국어 성능을 보였다. 영어 성능은 유사한 수준을 보였다고 카카오 측은 전했다. 메모리 사용량과 추론 속도에서는 전 모델 대비 수십 배 이상의 효율성 향상을 확인했다고 회사 측은 설명했다.

카카오는 향후 더 큰 언어모델을 기반으로 임베딩 학습과 지식 증류 연구를 확대할 계획이다. 검색 정확도를 높이는 동시에 실제 서비스 운영에 필요한 효율성도 개선한다는 방침이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다”며 “한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 지원하겠다”고 말했다.

기사 속 종목 이야기

Powered by

perplexity

카카오

035720 KOSPI

29,300 ▼ 1.68%

카카오가 이용자 맥락을 연결하는 카나나-2-임베딩 기술을 허깅페이스에 공개했습니다.
질문의 의미를 파악해 관련 정보를 찾는 개인화 AI 에이전트 기반 기술입니다.
한국어 검색 성능과 추론 효율 개선이 향후 서비스 활용 확대의 관건입니다.

주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다.

신고하기

신고 사유 선택

• 잘못된 정보 또는 사실과 다른 내용
• 오해의 소지가 있거나 과장된 분석
• 기사와 종목이 일치하지 않거나 연관성 부족
• 분석 정보가 오래되어 현재 상황과 맞지 않음

• Q. 개인화 AI 에이전트 확산의 핵심 배경은?
• Q. 한국어 임베딩 기술 발전이 국내 AI 산업에 미칠 영향은?

• K게임 부스마다 구름인파 … 수상 불발에도 '화려한 조연'
• 총리 입방정에 된서리맞은 日핵심산업…중국 큰형님들 모두 한국행