생성AI는 더 이상 일부 첨단 기업만의 도구가 아니다.

사원증을 목에 건 평범한 직장인이 매일 아침 업무를 시작하며 ChatGPT, Claude, Gemini를 켠다. 고객 이름을 입력하고, 계약서 문구를 붙여 넣는다. 이런 모습은 이제 일본 곳곳의 사무실에서 낯설지 않은 풍경이 됐다.

하지만 그 당연한 일상의 이면에는 보이지 않는 위험이 쌓이고 있었다.

사이버시큐리티클라우드, CSC의 조사에 따르면 업무에서 AI를 이용하는 회사원 약 4명 중 1명이 재무 데이터, 고객명, 계약서 같은 기밀정보를 유출 위험을 의식하지 않은 채 AI에 입력하고 있었다.

생성AI의 업무 이용률이 60%를 넘은 지금, 단순히 규칙을 철저히 지키라고 말하는 것만으로는 막기 어려운 시대가 오고 있다.

6월 9일, CSC는 100% 자회사인 DataSign과 협력해 기업의 AI 이용을 관리하는 통제 서비스 ‘AI MONBAN’을 제공하기 시작했다.

도쿄 메구로에서 열린 기자 설명회에는 CSC 대표이사이자 최고기술책임자인 와타나베 요지, 제품본부장 야마다 케이, DataSign 대표 오타 유이치가 참석했다. 이들은 빠르게 커지는 AI 이용 위험의 실태와 그 대응책을 제시했다.

금지해도 계속 쓴다, 관리 사각지대의 AI 이용

기업이 아무리 AI 사용 금지를 선언해도 현장은 흔들리지 않는다.

CSC 조사에서 근무지에서 AI 사용을 금지하면 다른 방법을 써 계속 사용하겠다거나, 금지된다면 이직을 고려하겠다고 답한 직원이 37%에 달했다.

AI는 이미 많은 비즈니스맨에게 필수 인프라로 자리잡았다.

반면 AI 사용 규칙을 갖춘 기업은 33%에 불과하고, 45%는 가이드라인조차 없는 상태였다.

사용자는 AI에 의존하는데, 이를 관리해야 할 조직의 절반 이상은 체계조차 마련하지 못한 것이다.

야마다 본부장은 이 불균형이 오늘날 기업이 직면한 본질적인 과제라고 지적했다.

“생성AI를 갑자기 사용할 수 없게 되면 업무에 큰 영향이 있다고 답한 사람이 65%였다. 이제 전기나 수도와 같은 기반시설이다. 금지로 해결하려는 것 자체가 현실과 동떨어져 있다.”

기업이 파악하지 못한 AI 이용이 조직 안에서 퍼지고, 관리·통제 체계가 빈껍데기가 된다. 이것이 이른바 쉐도우 AI, 즉 회사가 공식적으로 관리하지 못하는 AI 이용 문제의 실태다.

자율형 AI 업무 도구 시대, MCP가 연 새 문

문제는 더 복잡해지고 있다.

생성AI에 Gmail, Slack, 사내 데이터베이스를 연결하고, AI가 스스로 업무를 처리하는 자율형 AI 업무 도구, 즉 AI 에이전트 도입이 빠르게 진행되고 있기 때문이다.

이런 연결을 가능하게 하는 것이 MCP다. MCP는 Model Context Protocol의 약자로, AI와 외부 서비스를 공통 규격으로 연결하는 표준 방식이다.

예를 들어 AI에 “지난주 중요한 메일을 요약해줘”라고 지시하면, AI는 MCP를 통해 Gmail에 접근해 내용을 가져오고 정리해 답한다.

여기에 “회의 일정을 A에게 답장해줘”라고 요청하면 메일 발송까지 실행할 수 있다. 사람이 하나하나 조작하지 않아도 AI가 대신 움직이는 환경이다. 이것이 AI 에이전트가 만드는 업무 방식이다.

편의성은 크게 높아진다. 이미 쓰는 사람이라면 그 변화를 체감하고 있을 것이다.

하지만 동시에 새로운 위험의 입구도 열린다.

와타나베 최고기술책임자는 설명회에서 실제 사고 사례를 소개했다. 회의록 작성을 위해 도입한 AI 에이전트가 일정표와 메일에 연결된 결과, 3주 뒤 아무도 지시하지 않은 정기 보고서를 외부 거래처에 계속 보내고 있었다는 사례다.

와타나베 최고기술책임자는 이렇게 경고했다.

“사람이라면 하지 않을 일이라는 것을 알아도, AI에 같은 권한을 넘기면 필요 이상으로 활동해버릴 수 있다. 신뢰 설계가 근본부터 질문받고 있다.”

AI가 스스로 움직이는 시대에 정보 유출 위험은 더 이상 사람이 실수로 붙여 넣는 문제에 그치지 않는다.

AI 에이전트가 의도치 않게, 또는 악의적인 명령에 따라 기밀정보를 외부로 흘릴 수 있다. 이 위험은 기존 보안 대책의 예상을 훨씬 뛰어넘는다.

‘AI 문지기’가 하는 일

이런 과제에 대응하기 위해 개발된 것이 AI MONBAN이다.

AI MONBAN은 사내 시스템과 각종 AI 모델 사이에 설치되는 관문 역할을 한다. 기존 업무 시스템을 바꾸지 않고도 누가, 언제, 어떤 AI에, 무엇을 보냈는지 한곳에서 파악하고 통제할 수 있다.

핵심 기능 중 하나는 기밀정보 가림 처리다.

AI에 입력되는 데이터 안에 포함된 개인정보나 기밀정보를 자동으로 감지하고, 실시간으로 가려준다. 직원이 의식하지 않아도 기밀정보가 외부 AI로 넘어가는 일을 기술적으로 막는 구조다.

MCP 대응도 이 서비스의 큰 특징이다.

AI MONBAN은 사내 핵심 시스템이나 외부 서비스와 AI 모델을 안전하게 연결하는 MCP 관문으로 작동한다.

Gmail을 누가 어떤 권한으로 조회하고 보낼 수 있는지도 세밀하게 제어할 수 있다. AI 에이전트가 필요 이상으로 움직이는 위험을 연결 입구에서 억제하는 방식이다.

AI 이용 이력을 모두 자동 기록하는 AI 접속 기록·보고서 기능도 갖췄다.

규제 당국 보고나 내부 감사에 대응할 수 있는 근거 기록을 추가 운영 부담 없이 쌓을 수 있다.

법규 준수 대응에 고민하는 정보시스템 담당자에게는 바로 활용할 수 있는 기능이다.

또 OpenAI, Anthropic, Google, Azure OpenAI 등 주요 AI 모델을 API 키 설정만으로 바꿔 쓸 수 있는 여러 거대언어모델 전환 기능도 탑재했다.

특정 업체 서비스에 묶이는 일을 피하면서, 업무 내용에 맞는 AI 모델을 유연하게 선택할 수 있다.

오타 대표는 시연을 곁들여 서비스의 전체 구조를 설명했다.

“ChatGPT도 Claude도 직원이 익숙한 사용 화면은 그대로 쓸 수 있다. 다만 그 뒤에서 AI MONBAN이 조용히 움직인다. 직원에게 불필요한 부담을 주지 않으면서, 관리·통제 기능만 확실히 작동하도록 설계했다.”

금지도 방치도 아닌 제3의 길

AI MONBAN이 보여주는 것은 금지냐 방치냐라는 이분법을 넘어선 제3의 길이다.

CSC와 DataSign이 함께 내건 방향은 “AI 에이전트 활용을 안전하게, 대담하게”라는 문장에 담겨 있다.

오타 대표는 서비스의 배경이 되는 생각을 이렇게 말했다.

“AI 에이전트에 의한 업무 효율화, 자율적인 의사결정, 개인용 AI를 통한 생활 지원 등 AI는 사람과 조직, 사회의 의사결정에 깊이 관여하는 존재가 되고 있습니다. 그렇기 때문에 데이터와 의사결정에 대한 통제권을 유지한 상태로 활용하는 것이 필수입니다.”

CSC는 AI MONBAN을 AI 관리·통제 기반의 첫걸음으로 보고 있다.

앞으로는 용도별로 최적의 AI 에이전트를 안전하게 이용할 수 있는 AI 서비스 장터 구현을 목표로 한다.

또 MCP에 대응하지 않는 기존 서비스형 소프트웨어나 사내 데이터베이스로도 지원 범위를 넓혀갈 예정이다.

AI의 진화는 멈추지 않는다.

AI 에이전트는 더 자율적으로 움직이고, 더 많은 권한을 갖게 되며, 기업의 의사결정에도 더 깊이 관여하게 될 것이다.

그 흐름에 올라타지 못한 기업은 경쟁력을 잃고, 너무 무방비하게 올라탄 기업은 위험을 통제하지 못하게 된다.

문지기라는 말은 낡고 수수하게 들릴지도 모른다. 그러나 성의 안전을 지키는 것은 어느 시대나 문을 지키는 자였다.

AI MONBAN이 지키려는 것은 데이터라는 성의 새로운 문이다.