생성형 AI 투자가 빠르게 늘고 있다. 그러나 많은 일본 기업은 여전히 PoC, 즉 개념검증 단계에서 벗어나지 못하고 있다.
막대한 투자를 하고도 실제 성과로 이어지지 않는 이유는 AI 모델의 성능이나 예산 부족이 아니라 데이터 관리 방식에 있다는 지적이 나온다.
NetApp은 30년 이상의 역사를 가진 데이터 관리·스토리지 전문 기업이다. 온프레미스(기업이 자체 서버나 데이터센터에 시스템을 직접 구축해 운영하는 방식)부터 멀티 클라우드까지 기업의 데이터 기반을 통합 관리하는 플랫폼을 제공하며, AI 시대의 보이지 않는 인프라로 존재감을 키우고 있다.
이번 인터뷰에서는 NetApp 일본법인 대표 사이토 치하루에게 일본 기업이 안고 있는 데이터 활용 과제, 하이브리드 클라우드의 현실, 그리고 앤트로픽 서비스 중단 사태가 드러낸 디지털 주권 문제에 대해 물었다.
■ DX의 가장 큰 착각, 데이터는 보관 대상이 아니다
DX라는 말은 여전히 기업 전략 자료에서 자주 등장한다. 그러나 실제 현장을 보면 시스템을 바꿨다거나 클라우드로 옮겼다는 수준에 머무는 경우가 적지 않다.
사이토 대표는 이를 첫 단추를 잘못 끼운 상태라고 표현했다.
그녀는 “많은 기업은 DX를 시스템 도입에서 시작하려 한다. 하지만 본래 중요한 것은 데이터를 어떻게 활용하고, 어떤 가치를 만들어낼 것인가다. 실제로는 데이터가 흩어져 있어 활용하지 못하는 기업이 많다”고 말했다.
그 배경에는 데이터를 보관하는 것으로 보는 인식이 있다.
데이터는 활용될 때 비로소 경쟁력이 되는 자산이지만, 많은 조직에서는 여전히 비용을 발생시키는 대상으로 취급된다. 이런 인식 차이가 DX 투자를 단순한 정리 작업에 그치게 만든다는 것이다.
사이토 대표가 NetApp 일본법인 대표에 취임한 지는 1년이 됐다.
그녀는 전 직장인 일본 오라클에서 클라우드 시스템 사업을 총괄했고, 그 이전에는 일본 휴렛팩커드에서 22년간 근무했다. 스토리지 부문 총괄로 데이터 인프라의 최전선에서 일해온 경험이 지금의 문제의식으로 이어졌다.
사이토 대표는 “데이터를 어떻게 활용할 것인가의 중요성은 많은 사람이 이미 인식하고 있다. 그러나 구체적으로 어떻게 추진할 것인가라는 실행 단계까지는 좀처럼 들어가지 못하고 있다. 우리는 먼저 흩어진 데이터를 통합하는 것에서 고객 제안을 시작한다”고 설명했다.
■ 클라우드냐 온프레미스냐는 질문 자체가 틀렸다
모든 시스템을 클라우드로 옮기던 흐름은 조용히 전환점을 맞고 있다. 비용, 보안, 국제적인 지정학 리스크가 겹치면서 기업의 IT 인프라를 바라보는 시각도 바뀌고 있다.
사이토 대표는 온프레미스 회귀라는 표현을 쓰면서도, 이를 단순한 되돌림으로 보지는 않았다.
그녀는 “클라우드냐 온프레미스냐라는 양자택일 논의 자체가 이제는 의미 없다고 느낀다. 고객이 생각해야 할 것은 IT 투자가 얼마나 비즈니스 가치로 이어지고 있는지를 계속 가시화할 수 있느냐다”라고 말했다.
사이토 대표가 중요하게 보는 기준은 비용 투명성, 투자 효율성, 매출 기여도다. 클라우드는 유연성이 높지만 관리가 부족하면 비용이 블랙박스화될 수 있다.
온프레미스는 제대로 활용하지 못하면 과잉 투자로 이어진다. 어느 한쪽에 치우치면 본래 보여야 할 비용 구조가 보이지 않게 된다.
그녀는 “중요한 것은 개별 환경이 아니라 전체 최적화 관점에서 비용과 가치를 연결해 파악하는 것이다. 하이브리드 클라우드 환경에서 이런 평가 기준을 갖추면 IT 비용의 블랙박스화를 막고, 더 전략적인 투자 판단이 가능해진다”고 설명했다.
평가 기준은 기업마다 다르다. 5년에 한 번 시스템을 교체하는 방식이 정말 맞는지, 운영비와 설비투자의 균형을 어떻게 잡을지에도 정답은 하나가 아니다.
그래서 단순한 공급사가 아니라 함께 방향을 잡는 파트너의 역할이 필요하다는 것이 사이토 대표의 생각이다.
■ PoC에서 멈추는 기업과 성과를 내는 기업의 차이
기업 활동에서 생성형 AI는 점점 필수 도구가 되고 있다. 그러나 도입을 검토하더라도 실제 운영 단계까지 가는 기업은 여전히 많지 않다. 현장에서는 PoC 단계에서 멈춰버린다는 목소리가 반복해서 나온다.
사이토 대표는 그 이유를 분명하게 짚었다.
그녀는 “PoC에서 멈추는 기업과 성과를 내는 기업의 큰 차이는 AI의 정확도가 아니라 데이터를 어떻게 다루느냐에 있다. PoC에서는 제한적이고 정리된 데이터를 사용해 결과를 낸다. 하지만 실제 업무에서는 데이터가 흩어져 있고 형식도 제각각이라 그대로는 쓰기 어렵다”고 말했다.
PoC와 실제 현장 사이의 이 간극이 AI 구현을 어렵게 만든다. 반면 성과를 내는 기업은 처음부터 실제 데이터를 지속적으로 쓸 수 있는 상태로 정비하는 데 투자한다.
이른바 AI 레디 기반을 먼저 구축해 데이터 양이 늘고 형식이 다양해져도 무너지지 않는 구조를 만드는 것이다.
일본 기업의 특성상 조직 간 칸막이와 전례 중심 문화가 변화를 가로막는 경우도 많다. 이런 구조 속에서 사이토 대표가 제안하는 방식은 작게 시작하는 접근이다.
그녀는 “큰 변화를 한 번에 요구하는 것은 일본 기업에 매우 어렵다. 먼저 작게 시작해 성과를 내고, 이를 다른 부서로 넓혀가는 방식이 필요하다. 실제 성과가 보여야 투자를 확대하자는 의사결정으로 바뀐다. 이런 성공 경험을 쌓아가며 인식 변화가 생긴다는 것이 우리의 전략”이라고 말했다.
해외 기업이 톱다운으로 데이터 정비를 밀어붙일 수 있는 것과 달리, 일본에서는 왜 그렇게 됐는지에 대한 과정과 맥락을 존중하는 태도가 변화 속도에 큰 영향을 미친다.
이를 부정하기보다 경영 성과와 연결해 보여주는 방식으로 벽을 넘는 것이 NetApp의 강점이라는 설명이다.
■ 잠자는 데이터를 자산으로 바꾸는 조건
IDC와 여러 조사기관은 기업이 보유한 데이터의 대부분, 일반적으로 80~90%가 문서, 이미지, 영상 같은 비정형 데이터라고 지적한다. 구조화되지 않았기 때문에 검색에도 잘 걸리지 않고, 활용되지 않은 채 비용으로만 쌓여 있는 경우가 많다.
사이토 대표는 이를 폐기물에 가까운 형태라고 표현했다. 다만 이 말에는 비관보다 전략적 관점이 담겨 있다.
그녀는 “중요한 것은 비정형 데이터를 쌓아두는 것으로 보는 게 아니라 처음부터 가치를 만드는 자산으로 다루는 것이다. 이를 위해 필요한 것을 간단히 말하면 찾을 수 있고, 쓸 수 있고, 지킬 수 있는 상태로 만드는 것”이라고 말했다.
어디에 무엇이 있는지 파악하고, 필요할 때 꺼낼 수 있어야 한다. 부서를 넘어 활용할 수 있어야 하며, 동시에 안전하게 관리돼야 한다. 이 세 조건이 갖춰져야 데이터는 경쟁력이 된다.
사이토 대표가 특히 강조한 것은 접근 권한의 연속성이다.
데이터를 클라우드로 옮길 때 기존 접근 권한이 초기화되고, 이를 수작업으로 다시 설정해야 하는 일이 많은 기업에서 발생한다.
NetApp 스토리지에 있는 데이터는 클라우드로 옮기거나 다시 온프레미스로 가져와도 접근 권한이 그대로 이어진다.
이를 통해 AI에 보여줘서는 안 되는 데이터를 적절히 분리하면서도, 권한 관리를 유지한 채 데이터를 활용할 수 있다. 데이터 양이 많고 관계자가 많은 대기업일수록 이런 설계의 의미는 커진다.
사이토 대표는 “앞으로 AI를 더 많이 쓰고 싶지만, 이 데이터는 AI에 보여줘서는 안 된다는 것을 어떻게 관리할지가 중요하다. 그 부분이 고객이 데이터에 대해 느끼는 신뢰감에 큰 영향을 준다”고 말했다.
■ 앤트로픽 중단 사태가 던진 데이터 소유권 문제
이번 취재 직전, 반드시 짚어야 할 사건이 발생했다. 2026년 6월 12일 미국 정부가 AI 기업 앤트로픽의 최신 모델인 Fable 5와 Mythos 5에 대해 국가안보상 권한을 근거로 수출관리 지시를 내린 것이다.
외국 국적자의 접근을 전면 중단하라는 이 지시는 앤트로픽 CEO에게 보낸 서한 형태로 전달됐고, 같은 날 밤 전 세계에서 접근이 차단됐다.
미국계 클라우드에 의존한 기업의 데이터 기반은 이런 문제와 어떻게 마주해야 할까. 이에 대해 사이토 대표는 NetApp이 데이터 플랫폼과 스토리지 계층을 제공하는 기업이라는 점을 강조했다.
그녀는 “고객의 데이터가 온프레미스에 있든 클라우드에 있든, 어디에 있든 우리 스토리지를 사용하고 있다면 투명하게 통합 관리할 수 있다. 어디에 있더라도 고객에게 가장 적합한 선택지를 제공할 수 있다는 것이 우리의 가장 큰 가치”라고 말했다.
데이터 주권과 디지털 주권의 개념에 대해서도 그녀는 유럽연합의 움직임을 예로 들었다.
사이토 대표는 “특히 유럽연합은 규제가 엄격하고, 데이터 계층 관리라는 사고방식이 일본보다 5년 이상 앞서 있다. 기밀성이 높은 데이터는 안정된 장소에 두고, 클라우드는 더 유연하게 활용하는 식의 계층적 사고가 진전돼 있다”고 말했다.
AI 거버넌스 차원에서 의도적 리스크에 어떻게 대비하느냐는 질문에는 보안 인증과 데이터 보전성을 언급했다.
그녀는 “우리는 스토리지 기업 중에서도 4가지 주요 보안 인증을 갖고 있다. 랜섬웨어 공격으로부터 보호하고, 얼마나 빨리 탐지해 배제할 수 있는지가 중요하다. 데이터 보전성을 담보할 수 있느냐는 클라우드든 온프레미스든 중요한 관점이 될 것”이라고 말했다.
결국 핵심은 데이터 소유권이다. 사이토 대표는 “앞으로 더 깊이 생각해야 할 것은 데이터의 오너십이다.
데이터 주권이 어디에 있는지가 여러 관점에서 문제가 될 것이다. 클라우드에 있는 데이터가 특정 국가와의 관계 때문에 접근할 수 없는 상태가 된다면, 결국 데이터에 접근하지 못하게 된다”고 말했다.
앤트로픽의 서비스 중단은 바로 그 가능성이 현실이 된 순간이었다. 기술 문제는 어느새 지정학 문제로 바뀌고 있다.
이런 환경 변화 속에서는 데이터가 어디에 있든 특정 환경에 종속되지 않고 관리할 수 있는 구조의 중요성이 더 커질 수밖에 없다.
