AI코딩 극찬하던 골드만삭스가 돌연 AI 빗장 건 이유는

10월 들어 골드만삭스 트레이더들 대부분이 업무에서 AI 코딩 도구를 쓸 수 없게 됐습니다. 고객 거래 흐름을 지켜보고, 시장 움직임과 포지션을 모델링하고, 보고용 문서를 만들 때 쓰던 도구입니다. 블룸버그에 따르면 골드만삭스는 생산성과 위험 요인을 검토한 끝에 10월 내부 지침을 고쳐 앤스로픽 ‘클로드 코드’와 마이크로소프트 ‘깃허브’를 엔지니어만 쓰도록 했습니다.

골드만삭스는 불과 넉 달 전만 해도 직원들에게 AI 코딩을 권했습니다. 마코 아르젠티 골드만삭스 최고정보책임자(CIO)는 지난 7월 비개발 직원들의 바이브 코딩 활용에 찬사를 보내기도 했습니다. 트레이더와 뱅커가 AI로 도구를 만들어 넘기면 엔지니어가 다듬는 식으로 문제를 가장 가까이서 겪는 사람이 개발팀 일정을 기다리지 않고 도구를 만들어 사용한다는 것이었습니다.

문제는 보안이었습니다. 엔지니어가 만든 코드는 검토와 테스트를 거쳐야 실제 업무 시스템에 적용되지만, 트레이더가 고객 거래를 지켜보려고 만든 코드는 그런 절차 없이 매일 쓰일 수 있습니다. 개발 교육을 받지 않은 직원 수천 명이 고객 정보를 다루는 PC에서 코드를 짜고 실행했던 겁니다. 골드만삭스의 사내 AI 플랫폼은 이런 통제를 전제로 설계됐지만, 트레이더가 에이전트로 만든 도구는 그렇지 않았습니다.

공교롭게도 골드만삭스는 이달 나스닥 상장을 앞둔 앤스로픽 상장의 대표 주관사입니다. 뱅커 대부분이 앞으로 몇 주 동안 자신은 쓸 수 없는 코딩 에이전트를 만든 회사의 주식을 팔러 다니게 된 셈입니다.

업계에선 골드만삭스만의 고민이 아니라는 반응이 나옵니다. 코딩 에이전트 기업 리플릿의 암자드 마사드 최고경영자(CEO)는 최근 자신의 SNS에 “직원 PC에서 돌아가는 AI 에이전트가 기업과 정부에 시스템 차원의 보안 위험이 되고 있다”며 “골드만삭스처럼 클로드 코드 같은 도구를 제한하는 곳도 나온다”고 썼습니다.

국내 투자 업계도 같은 고민을 안고 있습니다. 투자 검토에 AI를 쓰는 심사역이 늘면서 투자 계약서와 투자심의위원회 회의록까지 읽는 AI가 나오기도 했지요. 수요는 분명합니다. 심사역 한 명이 수십 곳의 피투자사를 관리하면서 여러 딜을 동시에 검토하는 만큼 방대한 자료를 정리하고, 이미 투자한 회사의 위험 신호를 미리 잡아내는 데 AI는 그 쓸모를 인정받고 있습니다.

하지만 특화 AI라 해도 보안 문제에서 완전히 자유롭지는 않습니다. 최근 만난 한 VC 대표는 “느리다는 불만이 나오지만 내부적으로 업무상 개인 AI 사용은 못 하게 하고 있다”며 “기업용 AI 계약을 맺어 지원하고 있지만, 어느 정도 정보가 새는 것은 막을 수 없다고 본다”고 했습니다.

투자 업계에는 소규모 운용사가 많습니다. 별도 보안 인력과 체계를 갖추기 어려운 곳이 대부분입니다. 엔지니어만 1만2000명을 둔 골드만삭스도 넉 달 만에 지침을 다시 써야 했으니, 작은 운용사에는 더 큰 부담으로 다가올 수 있습니다. 하지만 골드만삭스가 지침을 고치며 따진 건 ‘누가 AI를 쓰는지, 어떤 데이터를 어떤 계약 아래 넘기는지’였습니다. 작은 운용사도 충분히 답할 수 있는 원론적인 질문입니다.