카카오, 인공지능안전연구소와 AI 안전성 평가 체계 만든다

나만의 AI 비서

테크·과학 > 테크

모델·에이전트 평가부터
공동 평가도구 개발까지
단계적인 협력 추진 예정

카카오는 지난 28일 인공지능안전연구소와 인공지능(AI) 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약(MOU)을 체결했다고 29일 밝혔다.

협약에 따라 카카오는 AI 안전성 평가 대상이 되는 자사 AI 모델과 AI 에이전트를 제공하고, 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원한다. 인공지능안전연구소는 평가 수행과 방법론 고도화를 담당하며, 양사는 평가 결과를 공동 검토하고 공개 범위를 협의하며 AI 안전성 평가도구 개발에도 협력할 예정이다.

양사의 협력은 총 3단계로 추진된다. 먼저 언어모델을 대상으로 배포 전·후 안전성 평가를 수행하고, 이후 멀티모달 언어모델과 AI 에이전트까지 평가 범위를 확대한다. 마지막으로 AI 모델과 에이전트의 안전성을 보다 효율적으로 검증할 수 있는 평가도구를 공동 개발할 계획이다.

이번 협약은 AI 모델의 위험을 선제적으로 식별하고 검증할 수 있는 체계를 구축하는 동시에, AI 안전성 평가 역량을 지속적으로 고도화한다는 점에서 의미가 있다는게 회사측 설명이다.

특히 국내 AI 안전성 전문 연구기관과의 협력을 통해 글로벌 수준의 AI 안전성 확보와 신뢰할 수 있는 AI 생태계 조성에도 기여할 것으로 기대된다.

김세웅 카카오 AI 시너지 성과리더는 “이번 협력을 통해 카카오 AI 모델이 더욱 객관적이고 엄격한 안전성 검증 체계를 갖추게 됐다”며 “앞으로도 기술 혁신과 함께 안전성과 신뢰를 최우선으로 하는 AI 모델과 서비스를 제공하기 위해 지속적으로 노력하겠다”고 말했다.

카카오는 AI 안전성 강화를 위한 노력을 다방면으로 이어가고 있다. kt 클라우드와 안전한 AI 생태계 구축을 위한 업무협약을 체결하고, 외부 전문가로 구성된 ‘AI&기술윤리소위원회’ 자문단을 운영하며 글로벌 수준의 신뢰할 수 있는 AI 생태계 조성에 힘쓰고 있다.

카카오

035720 KOSPI

33,900 ▼ 0.73%

카카오가 인공지능안전연구소와 손잡고 AI 안전성 평가 체계 구축에 나섭니다.
자사 AI 모델과 에이전트를 제공하고 인프라를 지원해 안전성 검증 역량을 고도화하고 있습니다.
업계에서는 전문 기관과의 공조가 글로벌 수준의 신뢰 확보와 생태계 조성에 기여할 것으로 보고 있습니다.

주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다.

신고하기

신고 사유 선택

• 잘못된 정보 또는 사실과 다른 내용
• 오해의 소지가 있거나 과장된 분석
• 기사와 종목이 일치하지 않거나 연관성 부족
• 분석 정보가 오래되어 현재 상황과 맞지 않음

추천질문

Powered by

perplexity

• Q. AI 안전성 평가 확산 배경은?
• Q. 협력형 검증체계의 의미는?

에디터 픽 추천기사

• 반도체로 더 걷힌 세금 50조…“국민연금에 미리 넣자”

• 줘야 할 보험금 2.6억 덜 줬다…DB손보 ‘부지급 1위’

• 토지주 동의 없이 세운 전봇대 … 한전, 4년간 156억 반환

• “전기버스 보조금 문턱 높였더니” … 국산 비중 역대 최고

• 노봉법 지원위 …회의 5번에 수당만 1700만원 챙겼다

핵심요약 쏙

AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다.
전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다

카카오는 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 전략적 업무협약을 체결했다고 밝혔다.

협약에 따라 카카오는 AI 모델과 에이전트를 제공하고, 평가 수행 및 도구 개발을 지원하며, 양사는 평가 결과를 공동 검토하고 AI 안전성 평가도구 개발에 협력할 예정이다.

이번 협약은 AI 모델의 위험을 선제적으로 식별하고 검증할 수 있는 체계를 구축하는 동시에, 신뢰할 수 있는 AI 생태계 조성에 기여할 것으로 기대된다.