에임인텔리전스, 피지컬 AI 안전 연구 컨소시엄 ‘PASC’ 출범

나만의 AI 비서

테크·과학 > 인공지능

구글·MS·오라클 등 빅테크 전문가도 참여
피지컬 AI 안전 평가 논의 위해 머리 맞대

로봇·자율 시스템 등 피지컬 인공지능(AI)의 안전 기준을 함께 마련하기 위한 글로벌 연구 협의체가 출범했다.

AI 보안 스타트업 에임인텔리전스는 피지컬 AI 안전 연구를 위한 글로벌 컨소시엄 ‘PASC(파스크·Physical AI Safety Consortium)’를 출범했다고 17일 밝혔다.

PASC는 피지컬 AI 안전의 공통 정의와 평가 방법론, 벤치마크, 향후 표준화에 필요한 연구 기반을 함께 마련하는 오픈 컨소시엄이다. 에임인텔리전스가 소집해 비영리 방식으로 운영하며, 개인과 기관은 연구·모델·하드웨어·컴퓨팅·데이터 등 다양한 형태로 참여할 수 있다.

에임인텔리전스 관계자는 “피지컬 AI는 답변만 내놓는 언어 모델과 달리 물리적 행동이 뒤따르는 만큼 안전 범위도 유해한 출력을 막는 데서 실제 행동이 초래할 위험을 미리 식별·평가·통제하는 영역으로 넓어지고 있다”며 피지컬 AI 안전 연구의 필요성을 설명했다.

PASC에는 구글, 마이크로소프트, 오라클, LG전자 소속 전문가와 국내외 대학·AI 안전 연구기관 연구진 등 30여 명이 참여한다. 구글 소속 제니 니, 마이크로소프트 소속 아드리안 데 윈터, 오라클 소속 히테쉬 파텔과 아밋 아가왈, 장지용 LG전자 상무, 김명주 한국인공지능안전연구소장, 시쿤 가오 UC샌디에이고 교수, 쉐론 리 위스콘신대 교수, 야키 시에 일리노이대 교수 등이 이름을 올렸다.

PASC는 첫 공동 과제로 피지컬 AI 안전의 정의와 평가 방향을 담은 자료를 준비하고 있다. 이후 공동 평가 체계와 벤치마크 설계, 운영 환경에서의 적대적 테스트, 시뮬레이션과 실제 로봇 환경을 아우르는 검증 연구로 활동을 넓힐 계획이다.

컨소시엄은 안전을 지속적으로 관찰하고 갱신하며 개입해야 하는 상태로 보고, 이에 따라 위험을 충분히 정의할 수 있는지, 위험 징후를 개입 가능한 시점에 포착할 수 있는지, 환경이나 로봇 형태가 달라져도 평가 결과가 유지되는지, 적응형 공격에도 안전 체계가 견디는지 등을 주요 연구 과제로 제시했다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 “PASC가 학계와 산업계의 전문성을 연결해 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되도록 하겠다”고 말했다.

마이크로소프트

MSFT

Microsoft Corporation NASDAQ

마이크로소프트 소속 전문가가 피지컬AI안전 공동 연구를 위한 글로벌 컨소시엄 PASC에 참여했습니다.
로봇과 자율 시스템의 실제 행동 위험을 평가하고 통제하는 기준 마련이 핵심 연구 과제입니다.
공동 평가 체계와 벤치마크 설계가 초기 단계여서 연구 결과의 표준화 범위는 지켜볼 필요가 있습니다.

오라클

ORCL

Oracle Corporation NYSE

오라클 소속 전문가가 PASC에 이름을 올리며 피지컬 AI 안전 연구에 참여했습니다.
PASC는 모델·하드웨어·컴퓨팅·데이터를 모아 공통 정의와 평가 방법론을 마련하는 비영리 협의체로 운영됩니다.
향후 적대적 테스트와 실제 로봇 검증이 병행되면서 안전 기준의 적용 범위를 두고 업계 시선이 엇갈립니다.

LG전자

066570 KOSPI

199,400 ▼ 0.30%

LG전자가 피지컬AI안전 연구를 위한 글로벌 컨소시엄 PASC 참여 명단에 이름을 올렸습니다.
피지컬 AI 안전의 공통 정의와 평가 방법론을 마련하기 위해 다국적 기업과 연구진이 협력하고 있습니다.
업계에서는 컨소시엄 활동이 향후 로봇과 자율 시스템의 표준화에 미치는 영향을 주시하고 있습니다.

알파벳

GOOGL

Alphabet Inc. NASDAQ

구글 소속 전문가가 참여하는 피지컬 AI 안전 연구 컨소시엄 PASC가 출범했습니다.
구글을 핵심 자회사로 둔 알파벳은 글로벌 연구 협의체를 통해 피지컬 AI 안전의 공통 정의와 평가 방법론 마련에 힘을 보태고 있습니다.
연구 기반 조성이 초기 단계인 만큼 향후 실제 표준 채택과 적용 범위는 지켜봐야 할 전망입니다.

주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다.

신고하기

신고 사유 선택

• 잘못된 정보 또는 사실과 다른 내용
• 오해의 소지가 있거나 과장된 분석
• 기사와 종목이 일치하지 않거나 연관성 부족
• 분석 정보가 오래되어 현재 상황과 맞지 않음

추천질문

Powered by

perplexity

• Q. 피지컬 AI 안전기준 마련의 배경은?
• Q. 로봇 안전검증 확산의 영향은?

에디터 픽 추천기사

• 올해 추석 차례상비 평균 35만원 … 전통시장 8만원 저렴

• 감사원 "대왕고래, 실제 성공확률 0.0002%"

• 영장 없이 계좌 들여다 본다…개보위, 부동산감독원에 면죄부

• 홈플러스, 자금난에 다시 발목…임금 연체∙희망퇴직 검토도

• 월 631만원 벌고 순자산 4.2억 … ‘진짜 중산층’ 4가구 중 1가구

핵심요약 쏙

AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다.
전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다

피지컬 인공지능(AI)의 안전 기준을 마련하기 위한 글로벌 컨소시엄 ‘PASC(파스크)’가 출범했다.

이 컨소시엄은 AI 안전에 대한 공통 정의와 평가 방법론을 개발하고, 구글, 마이크로소프트, LG전자 등 다양한 기관의 전문가들이 참여하고 있다.