AI 붐의 그림자, 일본 반도체의 위기와 기회는?

AI를

●이 기사 포인트
AI 칩 제조에 필수적인 반도체 계측 장비인 CD-SEM으로 세계 시장의 약 70%를 점유한 히타치 하이테크. 0.1나노미터 수준의 측정 정밀도가 AI 대량생산을 뒷받침하는 방식과, 중국의 국산화 가속 및 수출 규제 강화가 불러올 지정학적 위험, 그리고 노광 장비 경쟁에서 니콘이 밀려난 사례가 시사하는 ‘승리의 함정’을 다각도로 분석한다.

19세기 캘리포니아 골드러시에서 가장 큰 이득을 본 것은 금을 캔 광부가 아니라 삽과 청바지를 판 상인들이었다고 한다. 오늘날 AI 붐의 비유로 치면 엔비디아의 GPU나 TSMC의 최첨단 파운드리가 화려한 전면에 설 때, 그 성공을 가능하게 하는 ‘자’를 만드는 회사들은 주목을 덜 받는다.

그 ‘자’의 대표 격이 히타치 하이테크다. 이 회사는 '관찰·측정·분석'을 핵심 역량으로 반도체 제조장비와 과학기기를 축으로 글로벌 사업을 운영하며, 2025년 3월 결산 기준 매출 수익은 7,565억 엔(약 6,876,585,000,000원)을 기록했다. 특히 주력 제품인 CD-SEM(Critical Dimension Scanning Electron Microscope, 치수 측정 주사전자현미경)은 AI 칩의 양산을 지탱하는 인프라로서 반도체 업계 안팎의 주목을 받고 있다.

●목차

보이지 않으면 만들 수 없다—0.1나노미터의 싸움

반도체 회로의 선폭은 최첨단에서 현재 2~3나노미터(nm) 수준에 도달하려 하고 있다. 1나노미터는 10억분의 1미터로, 실리콘 원자 몇 개에 해당하는 극미의 세계다. 이 정도로 미세화되면 광학현미경은 무용지물이 된다. 측정 대상보다 빛의 파장이 더 크기 때문이다.

이때 필요한 장비가 전자선을 사용하는 CD-SEM이다. CD-SEM은 주사형 전자현미경 기술을 응용해 웨이퍼 위의 미세 패턴 치수를 고정밀로 측정하도록 특화된 장비다. 반도체 최종 제품의 우수성은 이 치수 측정 SEM의 성능에 크게 좌우된다.

요구되는 정밀도는 상상을 초월한다. 제조 편차 허용 범위가 1~2nm라면 측정 장비의 오차는 그 10분의 1 수준인 0.1nm까지 억제해야 한다. 여러 장비 간에 이 수준의 오차 관리를 유지하는 것이 필수다.

지구 둘레(약 4만km)와 비교해 0.001mm의 어긋남을 감지하는 것과 같은 정밀도라고 설명하면 그 난이도를 가늠할 수 있을 것이다. 그런데 양산 라인에서는 이런 요구가 ‘당연한’ 조건으로 부과된다.

전직 반도체 기업 연구원이자 경제 컨설턴트인 이와이 유스케는 이렇게 말한다.

“계측 장비는 제조 공정의 전제 조건입니다. 수율(양품률)을 1% 끌어올리려면 먼저 무슨 일이 일어나고 있는지 정확히 파악해야 합니다. 측정할 수 없는 문제는 해결할 수 없습니다. 계측 장비는 단순한 품질관리 도구가 아니라 제조 인프라 그 자체입니다.”

조율의 극치가 낳은 70% 점유율

치수 측정 SEM 세계 시장에서 히타치 하이테크는 약 70%의 점유율로 독보적 지위를 차지하고 있다. 1984년 첫 제품 출시 이후 고화질 영상과 높은 계측 성능이 평가돼 이 점유율을 유지했고, 누적 출하 대수는 6,000대를 넘어섰다.

왜 일본 기업이 이 분야에서 이렇게 압도적 우위를 점했을까?

우선 전자광학계 제어 기술이다. 전자선을 원자 수준에서 제어해 시료 손상을 줄이고 안정적인 측정값을 지속적으로 얻으려면 진공 기술, 진동 제어, 전자총 설계 등이 높은 수준으로 맞물려야 한다. 이런 지식은 디지털로 쉽게 기술·전수하기 어려운 암묵지의 집합이며, 오랜 축적이 강력한 진입장벽을 만든다.

노광 장비 분야에서 네덜란드의 ASML이 군림하는 것과 달리, 계측 장비 분야에서 일본 기업이 강점을 보인 배경을 제조 기술 연구자는 이렇게 설명한다.

“노광 장비는 시스템 통합형 아키텍처여서 공개 표준화로 이득을 본 ASML이 승리했습니다. 반면 계측 장비는 개별 제조 환경에 대한 ‘현장 적응’이 핵심입니다. 고객과 밀착한 개선 사이클을 가진 일본식 제조업이 경쟁 우위를 갖기 쉽습니다.”

또 하나는 데이터의 축적이다. 6,000대 이상의 설치 실적은 단순한 판매 수치가 아니다. 전 세계 최첨단 팹(제조 거점)에서 쌓인 계측 데이터의 집적이며, 그 자체가 경쟁사가 쉽게 따라잡을 수 없는 지적 자산이 되었다.

‘자’를 만드는 회사에서 공정 컨설턴트로

주목할 점은 계측 제조사의 역할 변화다. 미세화가 고도화되며 ‘정답을 알 수 없는’ 영역으로 진입하자, 파운드리 기업들은 계측 데이터의 해석과 피드백에 제조사 의존도가 높아지고 있다.

히타치 하이테크는 2027년을 목표로 홋카이도 치토세에 서비스 거점을 마련할 계획이다. 이곳에서 선단 반도체 양산을 시작하는 라피다스의 사업 전개를 후방에서 지원한다는 구상이다. 이는 단순한 장비 수리·유지보수를 넘어, 제조 공정 초기부터 계측 데이터를 통해 품질을 안정화하는 ‘수율 컨설턴트’ 역할을 수행하겠다는 의미다.

제조 현장의 빅데이터를 보유한 계측 업체는 하드웨어 기업인 동시에 공정 노하우를 축적한 데이터 사이언스 기업이기도 하다. AI가 반도체 설계와 제조 공정 최적화에 활용되는 시대에 이 계측 데이터의 가치는 더욱 커질 것이다.

승리의 함정—영광이 품은 취약성

하지만 현재의 우위가 미래의 안전을 보장하지는 않는다.

지정학적 리스크가 빠르게 커지고 있다. 2025년 세계 반도체 제조장비 상위 20개사에 중국 기업이 3개 포함되었고, 이는 2022년 대비 3배 증가한 수치다. 중국의 장비 국산화 비율이 20~30% 수준으로 상승했다는 관측도 있다. 한편 중국은 일본 정부에 대해 자국 기업에 대한 장비 판매나 관련 서비스 제한이 확대되면 강력한 경제적 보복을 시사하기도 했다.

수출 규제가 강화되는 상황에서도 중국 시장은 일본 장비업체의 중요한 수익원이다. 규제 범위와 강도에 따라 단기 수요 변동이 실적에 직접적인 영향을 미칠 위험이 있다.

더 근본적인 문제는 기술적 우위의 지속 가능성이다. 과거 니콘과 캐논은 노광 장비 분야에서 선두를 달렸지만, ASML이 EUV(극자외선) 노광 기술로 전환에 성공한 동안 두 회사는 그 흐름을 따라잡지 못했다. 결과적으로 EUV 시장은 ASML이 사실상 독점했고, 니콘과 캐논은 주변 영역으로 후퇴했다.

혁신 연구자들이 말하는 ‘파괴적 혁신’의 논리는 계측 장비 영역에도 적용될 수 있다. 전자선 기반 CD-SEM을 대체할 X선 스캐터로메트리나 AI 기반 비접촉 계측 기술이 등장하면, 축적된 노하우의 우위가 약화될 수 있다. 또한 표준 플랫폼이 형성되면 특정 기업의 기술적 차별화가 희석될 가능성도 있다.