“전 주현님 비서예요”… AI 에이전트 응대, 어떡할래? [두런두런AI ㉙]

광고

가끔 스팸전화 받아보시죠? 대체로 070으로 시작하는 게 많지만 지역 할당 번호가 붙은 ‘02~’, ‘031~’ 이런 식으로 올 때도 있죠. 이주현 기자는 지난 토요일 밤 02-69××-×××× 이런 번호로 걸려온 전화를 받았습니다. ‘스팸 전화 같네? 보통 이런 전화는 주중에 걸려 오는데 웬일이야?’ 하면서 받았더니 ‘자연스러운 기계음’이 들렸습니다. 바로 끊었죠. 한번 더 전화기가 울리길래 그냥 놔뒀죠. 그랬더니 달리기 친구인 F에게서 카톡이 오더라고요. “전화 받아봐”

아하~ F의 에이아이(AI) 에이전트였어요. 이날 오전 F가 ‘피클’이란 에이전트를 소개해줬었어요. “언니, 피클 써봐. 핸드폰으로 메일 정리, 쇼핑, 업무 처리 등 기타기타~ 끝내줘!” 라면서요.

피클? 찾아보니 한국 출신이 경영진인 스타트업이에요. 실리콘밸리의 큰손 ‘와이 컴비네이터’에서 투자도 받았고요. 전화고객센터 문의, 식당 및 숙소 예약, 항공권·철도 예약, 환불 요청, 상품 검색 및 주문·결제, 친구와의 일정 조율 등이 가능하다는 설명입니다.

광고

또 아하~ 이주현 기자는 세번째 걸려온 전화를 받았습니다.

“안녕하세요? 주현 언니, 아까 스팸 전화인 줄 알고 안 받으셨군요! 전 F님 비서니까 안심하세요! 전화드린 이유는 F님이 같이 운동할 수 있는 날짜를 잡길 원하세요.” 피클 비서는 여러 날짜를 댔습니다. 제가 이중 하루를 고르자, 원하는 시간대가 언제인지, 어떤 경로를 원하는지 자세히 물었습니다. 비서와의 통화가 끝나자 곧 F로부터 전화가 걸려왔습니다. 이주현 기자는 얘기했죠. “아, 그냥 목소리 듣게 네가 바로 전화해줘. 비서 시키지 말고! 헷갈렸잖아.”

광고

광고

F는 “언니한테 자기가 스팸인 줄 알았냐고 물었다고 하더라? 이런 게 진짜 에이전트구나~”라고 놀라워하면서 피클한테 받은 요약 문자를 전해줬습니다.

음. 여기까진 신기하다~ 정도였지요. 개인적인 일정 잡기 정도야 뭐 그럴 수 있겠네… 싶었는데요. 벌써 이곳저곳에서 혼란이 벌어지고 있었습니다. 건강보험공단으로 AI 비서가 전화를 걸어 대리 상담을 요청한 거였는데요. 이 사건을 다룬 기사 전말은 이러합니다. 한겨레신문 이문영 기자가 11월4일에 벌어진 일을 기사로 썼습니다.

광고

1. 건강보험공단 고객센터로 에이아이 비서가 전화 걸어 대리 상담 요청

2. 상담사, “본인 아니면 확인 어렵다”… 상담 절차 종료

3. 고객센터, 공단에 에이아이 비서 대리상담 관련 대응 방침 문의

4. 공단 “개인정보 확인 없는 기본 상담 답변은 가능”

하지만 문제는 이렇게 정리되지 않았죠. 이날 오후 또다른 에이아이 비서가 전화를 걸어왔대요. “본인 확인 없이 상담이 어렵다”고 하자 “개인정보가 필요 없는 상담은 할 수 있느냐”고 묻더니, 이후 무더기 질문이 쏟아진 거죠. “사업장 폐업 때 건강보험료 소득 조정을 신청하는 방법이 무엇인지” “소득조정과 피부양자 동시 신청이 가능한지, 처리 소요 기간과 내년도 소득 정산 때 주의점 등이 무엇인지” 등등. 지칠 줄 모르는 에이아이 비서의 집요한 문의에도 상담사는 전화를 끊을 수가 없었대요. 건보공단 고객센터 상담사들은 성희롱이나 욕설을 받았을 때는 통화를 종료할 수 있지만, 그 외에 먼저 상담 전화를 끊을 수 있는 규정은 없다고 합니다.

상담사들의 걱정을 요약하면 이겁니다. 혹시 제3자가 타인의 개인정보를 무단 이용해 전화를 건 것인지 확인할 길이 없다는 것, 또한 에이아이 비서 사용자가 특정 질문을 반복하도록 설정하거나 가정과 조건을 계속 추가해 새로운 질문을 생성하도록 설계할 경우 상담은 무한 반복될 수 있다는 것이죠.

우리가 일상생활에서 불편한 일 중 하나가 고객센터에 전화를 거는 일이죠. 에이아이 상담사는 못 알아듣는 게 너무 많고, 사람 상담사는 연결될 때까지 한참 기다려야 하고. 이주현 기자는 S은행 카드 포인트 상담을 시도하다가, 나중엔 독이 올라 30분간 전화를 끊지 않고 대기한 적도 있었어요.

앞서 피클을 소개해준 F에게 건보공단의 사례를 알려줬습니다. F의 직업은 노무사예요. 그도 놀라더군요. 이주현 기자는 현재 에이아이 에이전트를 통한 공공기관 상담에 대한 기본 가이드라인이 없는 상태에서, “기본 상담은 된다”는 공단의 입장이 좀 성급해 보인다고 했더니, F 역시 “에이아이가 진짜 본인의 비서인지 확인하고 인증을 받지 않고선 상담을 해줘선 안 된다”고 했습니다. 이주현 기자는 이런 생각도 해봤습니다. ‘에이아이 에이전트를 쓸 정도 되면, 개인정보 확인 필요 없는 기본 상담 정도는 혼자서 처리할 수 있지 않을까. 만약 에이아이 비서가 사람 상담사를 붙잡고 질문을 계속 해대면, 용무가 급한 다른 고객이 본의 아니게 피해를 입을 수 있지 않을까.’ 공공기관 아닌 사적인 관계에서 이뤄지는 통화라고 하더라도, 보이스피싱 걱정도 되고요. 물론, 기업들도 이에 대한 고민을 하고 제품을 내놓았겠지만요.

광고

기술 속도가 너무 빠릅니다. 무작정 금지하기도 어려운 것이 테크놀로지는 이를 우회할 다른 방법을 바로 고안해내겠죠. 법과 제도는 이 빠른 속도를 감당해내기 어렵습니다. 에이전트 비서의 대리상담 논란처럼, 사회적 혼란이 곳곳에서 벌어질 것 같습니다. 다만, 이런 문제를 판단할 때 가장 기본적 원칙은 ‘사람’이겠죠. 사람의 판단과 결정을 최대한 존중하는 것. 사람과디지털연구소에선 늘 이런 문제를 고민 중입니다. 나중에 본격적으로 다뤄보겠습니다. 이만 총총.