한눈에 보는 AI반도체 산업

제목을 보고 AI반도체에 국한된 내용일 거라고 생각하기 쉽지만, AI 전체에 대한 거의 모든 걸 다루고 있다. 그럼에도 불구하고, 일반인들이 이해하기 쉽게 그림과 글을 적었다는 점이다.

하루도 빠짐없이 나오는 AI 관련한 뉴스와 서적 등등. 얘기는 많이 들었는데, 막상 자세한 깊은 내용은 몰랐다. 점차 고도화되는 AI 때문에 걱정을 하기는 하지만 딱히 뭘 할 수도 없는 상황.

책을 읽고나서 '딱히 뭔가를 할 수 없는 상황' 이라는 점은 바뀌지 않았지만, 지금까지의 상황이 이러저러했고, 앞으로의 상황이 대략 이러저러하겠구나 하고 예상할 수 있는 시각이 생겼다.

몇가지 놀랐던 점들이 있었는데,

• 생각보다 AI산업 생태계가 크다는 것(반도체 몇몇 회사들이 아닌)
• 기술의 우위보다는 안정성을 기반으로한 신뢰가 더 중요하다는 것

이 대표적이다. AI산업을 바라보는 두가지 시선(긍정론과 부정론)이 존재하는 데, 특히 2000년대 초의 닷컴버블과 많이 비교하며 조만간 비슷한 충격이 발생할 것이라는 부정적인 예측을 한다.
그때 당시에는 인터넷에 연결되기만 하면 모든 문제가 해결되고 매출이 증가할 거라는 기대가 있었다. 지금도 AI가 모든 것을 해결할 수 있다는 기대가 깔려있다.

어떤 기술이든 영원히 호황일 수는 없고, 상승과 하락이 교대하는 사이클이 만들어 질 수 밖에 없다. 문제는 변동폭을 얼마나 줄일 수 있느냐에 있다.
나는 닷컴버블 이후의 상황을 주목한다. 해당 IT기업들이 대부분 사라졌고, 소수의 몇몇 기업들만 살아남아 성장해서 지금은 누구나 아는 거대기업이 되었다.

닷컴버블 이후, 이제 인터넷에 연결하고 안하고는 더이상의 논란거리가 아니다. 당연한 것이 되어버렸다. AI 역시 마찬가지일 것이다. 이제 AI 를 도입하고 안하고는 더이상의 논란거리가 되지 않을 것이다.

많은 기업들이 각자의 위치에서 주도권을 잡기위해 여러방식으로 노력하고 있지만, 분명한 것은 이를 통해 AI산업의 영향력은 점점 더 커질 것이라는 점이다.

1) 2.5D 패키징 시장 주요 기업
 
CoWos 기술을 보유한 글로벌 1위 TSMC, I-Cube 를 보유한 삼성전자, EMIB 기반 2.5D 패키징 기술을 보유한 인텔이 있습니다. 현재 AI 패키징 수요의 90%는 2.5D CoWos 에서 발생하며 TSMC 가 독점적 위치에 있습니다.
 
2) 3D 패키징 시장 주요 기업
 
앞서 언급한 것처럼 아직 상용화는 안 되었지만 가능성으로 보면 1위 인텔, 2위 TSMC, 3위 삼성전자가 있습니다. 
 
3) 범용 패키징 시장과 OSAT 후공정 주요기업
 
세계 1위 OSAT 인 대만의 ASE 와 테슬라, 애플, 퀄컴의 공급망인 미국의 엠코 테크놀로지(Amkor) 그리고 중국 최대 OSAT 기업인 JCET 가 있습니다. 범용 패키징 분야는 난도 측면에서 AI 패키징만큼은 높지 않으나 스마트폰, 가전, 일반 반도체 칩을 모두 아우르기 때문에 시장 규모 자체는 매우 큰 분야입니다. 이 시장은 대만, 미국, 중국 중심으로 형성되어 있습니다. 

1) 팹리스 시장 주요 기업
 
GPU 시장에서 압도적인 1위를 차지하고 있는 엔비디아, CPU 와 GPU 를 동시에 설계하는 AMD, 모바일 AP 를 설계하는 퀄컴, 스마트폰 AP 를 설계하는 미디어텍 그리고 자체 AP를 설계하는 애플이 있습니다. 또한 네트워크/통신용 SoC 를 설계하는 브로드컴과 네트워크 및 데이터센터 SoC 를 설계하는 마벨도 대표적인 팹리스 기업들입니다.
 
2) ASIC 팹리스 시장 주요 기업
 
ASIC 시장은 빅테크 기업과 전문 ASIC 업체가 함께 존재하는 독특한 생태계를 갖고 있습니다. 빅테크 기업으로는 TPU 를 설계한 구글, Inferentia 을 개발한 아마존, Llama AI 추천 엔진용 칩을 개발 중인 메타, Neural Engine 을 설계한 애플, 자율주행용 FSD 칩을 만드는 테슬라가 대표적입니다. 한편 ASIC 설계를 전문으로 하는 기업으로는 브로드컴을 비롯해, ASIC IP 와 EDA 분야에 특화된 케이던스와 시놉시스가 있습니다. 
 
3) 파운드리 시장 주요 기업
 
초미세 공정을 선도하며 업계 1위를 유지하고 있는 TSMC, 3nm GAA 공정을 세계 최초로 양산한 삼성전자 그리고 18A 등 차세대 2nm 급 공정에 도전하고 있는 인텔이 있습니다.

1) 노광 장비 시장 주요 기업
 
세계유일의 EUV 장비 공급 기업인 네덜란드의 ASML 과 EUV 는 실패했지만 DUV 장비 일부를 공급하고 있는 일본의 캐논, 니콘이 있습니다.
 
2) 식각 장비 시장 주요 기업
 
초 미세 건식 식각 1위인 미국의 램 리서치, 습식 식각에 강점을 갖고 있는 일본의 도쿄 일렉트론이 있습니다. 
 
3) 증착 장비 시장 주요 기업
 
CVD, PVD 분야 글로벌 1위이자 전공정 장비 전반을 아우르는 미국의 어플라이드 머티리얼즈와 ALD 분야 기술 1위 기업인 네덜란드 의 ASM, ALD와 CVD 장비 일부를 공급하고 있는 랩 리서치가 있습니다.
 
4) CMP 장비 시장 주요 기업
점유율 1위 어플라이드 머티리얼즈와 메모리 공정 중심으로 강세를 보이고 있는 일본의 에바라가 있습니다.
 
5) 검사/측정 장비 시장 주요 기업
시장 점유율 50% 이상을 차지하고 있는 미국의 KLA와 그 뒤를 따르는 어플라이드 머티리얼즈가 있습니다.
 
6) 이온 주입 장비 시장 주요 기업
시장 1위 미국의 엑셀리스와 2위 어플라이드 며티리얼즈가 있습니다.

1) 연산장비 시장 주요 기업
엔비디아, AMD, 인텔이 중심에 서 있습니다. 엔비디아는 GPU와 소프트웨어 생태계(CUDA. NCCL)를 모두 쥐고 있고, AMD는 MI 시리즈 가속기로 엔비디아를 추격 중이며. 인텔은 CPU 시장의 절대 강자이자 자체 GPU, 가속기도 함께 키워가고 있습니다.
 
2) 네트워크 시장 주요 기업
데이터센터 내부와 외부를 잇는 통신 인프라에서는 아리스타, 시스코, 브로드컴, 주니퍼 같은 기업들이 주도하고 있습니다. 특히 AI 특화 네트워크에서는 멜라녹스를 인수한 엔비디아가 인피니밴드와 NVLink 조합으로 사실상의 표준을 만들어가고 있습니다.
 
3) 전력/냉각 인프라 시장 주요 기업
전력 인프라에서는 슈나이더 일렉트릭, 이튼, 버티브가, 냉각 인프라에서는 버티브 등이 대표적인 플레이어입니다.
 
4) 운영 소프트웨어 핵심 기술
구글이 주도해 만든 쿠버네티스, 연구 기관에서 시작된 슬림 그리고 컨테이너 실행 환경을 만든 도커 같은 오픈소스 기술이 사실상 공용 인프라 역할을 하고 있습니다. 여기에 엔비디아의 NCCL, 각클라우드 업체의 자체 스케줄러와 관리 소프트웨어가 더해지면서 하드웨어 위에서 돌아가는 '보이지않는 운영체제' 가 완성됩니다.

1) laaS 주요 기업 및 서비스
글로벌 시장의 대부분을 아마존, 마이크로소프트, 구글, 오라클 네 개 기업이 차지하고 있습니다. 아마존 웹 서비스(AWS)는 EC2와 S3 같은 핵심 서비스를 기반으로 사실상 laas의 표준을 만들었고, 마이크로소프트 애저 Mcrosoft Azure는 기업용 IT 시장에서 강점을 발휘하며 빠르게 성장하고 있습니다. 구글 클라우드(GCP)는 AI 데이터 분석 기반의 Compute Engine
이 강점이며, 오라클 클라우드 인프라(OCI)는 대규모 데이터베이스 기업을 중심으로 시장을 넓히고 있습니다. 이 네 기업이 오늘날 글로벌 laas 생태계를 대표하는 핵심 사업자입니다.
 
2) Paas 주요 기업 및 서비스
AWS의 Elastic Beanstalk, 구글의 구글의 App App Engine, 마이크로소프트 애저의 ApP Service는 개발자가 코드를 업로드하기만 하면 애플리케이션이 곧바로 실행되도록 지원하는 대표적인 서비스들입니다. 한때 스타트업 생태계를 주도했던 세일즈포스salestore의 Paas 플랫폼 헤로쿠eroku 역시 상징적인 서비스였습니다.
 
3) SaaS 주요 기업 및 서비스
 
협업 메신저를 제공하는 슬랙. 문서와 데이터베이스를 결합한 노션, 글로벌 회의 플랫폼인 줍, 클라우드 저장소 서비스 드롭박스 같은 기업이 모두Sas 모델로 운영됩니다. 또한 구글의 워크스페이스Google wodkspace, 마이크로소프트의 Microsoft 365 그리고 어도비Adobe의 Creative Cloud 처럼 기존 설치형 소프트웨어를 클라우드 구독형으로 전환한 기업들도 SaaS 시장의 중요한 축을 형성하고 있습니다.
 
4) 서버리스 주요 기업 및 서비스
AwS Lambda, 마이크로소프트 Azure Functions, 구글 Cloud Functions가 대표적인 서비스입니다. 서버를 직접 관리하지 않아도 된다는 장집 덕분에 A API 호출이나 실시간 이벤트 처리 같은 최신 서비스 구조에서 빼르게 확산되고 있습니다. 특히 A 시대에 맞취 서버리스는 클라우드 인프라의 성장 속노를 가장 빠르제 이끌고 있는 계층으로 평가받고 있습니다.

지금까지 시를 모델, 프레임워크, 미들웨어, API, 에이전트 같은 기술, 서비스, 구성 요소로 나누어 살퍼봤습니다. 하지만 이리한 요소들이 하나의 흐름으로 결합되기 시작하면 시는 개별 도구의 집합을 넘어 특정 목표를 스스로 달성하는 운영체제(OS)와 같은 형태로 진화하게 됩니다.
윈도우나 iOS 같은 기존 운영체제는 '사용자가 입을 실행할 수 있는 환경'을 제공하는 역할을 수행해왔습니다. 사용자는 워드, 엑셀, 브라우저처럼 필요한 앱을 직접 선택해 실행하고 각각의 작업을 스스로 조함해야 했습니다.
반면 AI 운영체제는 한 단계 더 나아갑니다. 사용자가 목표만 제시하면 필요한 앱과 도구를 AI 스스로 선택하고 조합하여 결과물을 만들어냅니다.
즉, 기존 운영체제가 '앱 실행 환경'을 제공했다면, AI 운영체제는 목표 달성 환경'을 제공하는 운영제제라 할 수 있습니다.
이를 예시로 비교해보겠습니다. 우리가 여행 계획을 세우려 할 때 기존 운영체제에서는 네이버 지도를 열고, 일정표를 엑셀로 만들고, 맛집을 검색하고, 숙소와 교통편을 직점 비교해야 함니다. 작업의 주체가 사용자이며 운영체제는 단지 앱을 실행할 수 있는 환경을 제공할 뿐이있습니다. 반면 A1 운영체제에서는 사용자가 "3박 4일 제주도 여행 일정을 예산 100만 원 안
에서 짜줘"라고 지시하는 순간 시는 '여행 일정 생성'이라는 목표를 중심으로필요한 기능과 도구를 스스로 선택합니다. 일정 구성, 맛집 검색, 교통편 조회, 예산 계산을 에이전트가 자동으로 수행하고 최종 결과를 통합된 일정표로 제시합니다.
AI 운영체제는 이처럼 '지능(LLM) + 도구(API) + 실행(Agent)'이 결합된 상위 레이어로, 기업이나 조직의 디지털 업무 전체를 지휘하는 새로운 운영체계라고 볼수 있습니다. 이미 팔란티어 AIP, Microsoft Copilot Stack, Google Workspace A1 그리고 최근 발표된 OpenAI의 GPT-Ops 등 여러 기술들이 이 시 OS 분아의 정쟁에 본격적으로 뛰어든 상황입니다.

시 소프트웨어 기업은 수백 개가 님지만 모투 같은 구조에서 경쟁하는 것은 아닙니다. AI 산업이 OS 구조(LLM -> API -> Agent -> 도메인 솔루션)로 재편되면서 각 기업이 답당하는 역할도 명확하게 구분되기 시작했습니다. 이 생태계를 한눈에 이해하기 위해 AI 소프트웨어 기업을 다음 네 가지 계층으로 나누어 살펴보겠습니다.
 
1) LLM계층
AI 생태계의 가장 아래, 즉 '중앙 두뇌'를 담당하는 계층입니다. 이들은 가장 거대한 모텔을 만들고, 학습시키머, AI 시대의 핵심 기반 지능을 공급합니다. 대표 기업과 모델로는 오픈AI(GPT), 구글(Gemini), 메타(Lama), 앤스로픽(Claude), XAI(Grok), 코히어cohere, 미스트랄 등이 있습니다.
 
2) API 도구 계층
LIM이 생각을 한다편 API 도구는 LM이 실제로 외부 세계와 상호작용하도록 만들어주는 기능입니다. 검색, 브라우저, 문서 읽기, 데이터베이스 조작 등 LM이 직접 수행할 수 없는 기능들을 제공합니다. 대표 기업과 기술로는 Microsoft Bing Search API, Google Search & Tools, Perplexity API, Zapier AI Actions, LangChain 등이 있습니다.
 
3) Agent/OS 계층
현재 AI 산업에서 가장 빠르게 성장하는 계층입니다. 단순히 답변을 생성하는 수준을 넘어 계획을 세우고, 도구를 호출하고, 결과를 검토하고, 목표 달성을 하는 실행 주체를 만드는 기업들입니다. 대표 기업으로는 한국투자자들이 매우 잘 알고 있는 팔란티어 AIP, Microsoft Copilot Stack, Google Workspace AI, OpenAI GPT-Ops / Actions, Salesforce Einstein 1 등이 있습니다.
 
4) 도메인특화형 AI 계층
AI가 산업 현장에 적용되기 위해서는 도메인(산업) 전문성과 데이터가 절대적으로 필요합니다. 따라서 산업별로 특화된 A1 기업들이 빠르게 성장하고 있습니다. 아래는 각 산업별 부문에 해당하는 대표 기업들입니다.
  * 헬스케어 부문: Tempus AI, Flatiron Health, DeepMind AlphaFold
  * 금융 부문: BloombergGPT 기반 분석 시스템, Databricks/Snowflake
  * 법률 부문: Harvey, CaseText CoCounsel
  * 제조/물류 부문 : Siemens Industrial AI, Nvidia Omniverse
  * 영업/CRM 부문: Salesforce Einstein 1, HubSpot AI

이지점에서 또 하나의 질문이 자언스럽게 등장합니다. 브로드김, 마벨, 퀄컴과 같은 기업은 AI 연산침 시장에서 어디에 위지해 있는가라는 질문입니다. 이들 기업 역시 시와 관련된 침을 만들고 있고. 데이터센터와 네트워크 시장에서 중요한 역할을 하고 있기 때문에 종종 GPU 대제 후보처럼 언급되기도 합니다. 하지만 이들을 GPU나 TPU와 같은 범용 학습 칩과 동일한
선상에 놓고 이해하는 것은 오히려 혼선을 키율 수 있습니다. 이 기업들의 역할은 연산칩 그 자체라기보다는 맞춤형 ASIC과 인프라 구성 요소를 설계하는 쪽에 더 가깝습니다. 브로드컴과 마벨은 특히 데이터센터 내부에서 사용되는 네트워크 칩, 스위치 그리고 특정 고객을 위한 주문형 ASIC 설계에 강점을 가지고있습니다. 이들이 만드는 침은 AI 모텔을 직접 학습시키는
역할보다는 이미 정해진 연산과 데이터 흐름을 효율적으로 처리하는 테 초점이 맞춰져 있습니다.
이 역할을 가장 잘 보여주는 사례가 바로 구글의 TPU입니다. 구글은 TPU 를 구글이 모든 것을 직접 만든 집처럼 이야기하지만, 실제로는 브로드컴과 같은 전문 ASIC 설계 기업의 역량이 깊게 관여되어 있습니다. 브로드컴은 오랜 기간 구글과 협력해 주문형 ASIC 설계와 네트워크 인프라 구축에참여해왔고 TPU 역시 이러한 협업 구조 속에서 발전해왔습니다. 다시 말해 브로드컴은 TPU라는 완제품을 만드는 주체라기보다는 구글이 원하는 방항의 침을 현실적으로 구현할 수 있게 해주는 설계 파트너에 가깝습니다.
이 흐름은 구글에만 국한되지 않습니다. 메타, 아마존, 마이크로소프트 역시 자체칩 개발에 적극적으로 나서고 있으며 이를 두고 CUDA 로부터의 독립 가능성이 열리고 있다는 해석도 나옵니다. 하지만 이들의 전략을 자세히 들여다보면 공통점이 하나 있습니다. 자체칩은 GPU를 완전히 대체하기 위한 수단이 아니라 의존도를 낮추기 위한 수단이라는 점입니다. 특정 워크로드에서는 자체칩을 활용해 비용을 절감하고 나머지 영역에서는 여전히 GPU를 사용하는 방식입니다.
이는 독립 선언이라기보다는 협상력을 확보하고 리스크를 분산하기 위한 전략에 가깝습니다. 엔비디아 중심 구조에서 완전히 벗어나는 대신 선택지를 늘려 주도권을 조급씩 가져오려는 움직임이라고 볼 수 있습니다. 이렇게 보면 브로드컴, 마벨, 컬컴의 성장은 GPU 왕좌를 직접적으로 위협하는 신호라기보다는 AI 인프라가 점점 더 세분화되고 있다는 신호에 가깝습니다.
GPU가 대규모 학습의 중심을 말고 그 주변에서 맞춤형 ASIC과 네트워크 칩들이 이를 보조하는 구조가 점점 더 분명해지고 있는 것입니다.

세대별 스페만 놓고 보면 3사의 HBM 성능은 거의 비슷합니다. 핀 속도, 대역폭, 용량만 보면 "왜 점유율이 이렇게 벌어졌지?"라는 의문이 드는 게 정상입니다. 차이는 성능 숫자 바깥에 있습니다. 아래를 보시면 답이 선명해집니다.
 
1) HBM은 '잘 만드는 메모리'가 아니라 '문제 안 생기는 메모리'입니다
DRAM은 불량이 생겨도 비교적 대처가 가능합니다. 하지만 HBM은 GPU 위에 직접 적층되고, TSV로 수직 연결되어 패키징(CoWos)까지 한 번에 묶입니다. 이 구조에서는 메모리 하나의 문제가 GPU 전체 불량과 서버 전체 중단으로 이어집니다. 즉, 성능이 조금 더 좋은 메모리보다 절대 사고 안나는 메모리가 훨씬 중요해진 시장이었습니다.
 
2)점유율을 갈라놓은 건 '최초 양산 시점'과 반복 경험'
HBM은 한 세대 먼저 만들었다고 끝이 아님니다. 얼마나 오래, 얼마나 많이. 일마나 반복해서 공급했는가가 해심이었습니다. 열 문세 발생 패틴, TSV 불량 유형, 칙층 수율 관리 노하우. 엔비디아 설제 변정 대응 경험 등 이러한 SK하이닉스의 경쟁력은 타사가 설계도로 따라갈 수 있는 영역이 아니었습니다. 이로 인해 삼성과 마이크론은 같은 성능의 제품을 만들 수는 있었지만 같은 '경험의 시간'을 단기간에 압축할 수는 없었습니다.
 
3) CoWoS 병목이 '성능 차이'를 '공급 차이'로 바꿨습니다
TSMC CoWoS는 무한하지 않았고, TSMC의 선택 기준은 매우 단순했습니다. 불량 적은 메모리, 일정 예측 가능한 메모리, 재작업 확률 낮은 메모리가 기준이었습니다. 여기서 SK하이닉스가 가장 유리했습니다. 그래서 실제 현장에서는 이렇게 바뀌었습니다.
 
성능이 비슷한 HBM -> CoWoS에 먼저 올라가는 BM -> 먼저 출하되는 GPU -> 시장 점유율
 
4) 삼성과 마이크론이 밀린 이유는 기술 부족 문제가 아닙니다
앞서 수차레 언급한 대로 두 회사 모두 못 만들어서 밀린 게 아니라 HBM 을 바라보는 관점이 달랐기 때문에 밀린 것입니다. 삼성전자는 HBM을 '고부가 DRAM'으로 관리했고, SK하이닉스는 HBM 을 '회사 운명을 건 단일축'으로 집중했습니다. 결국 이 차이가 수율, 투자, 고객 대응 속도에서 그대로 벌어진 것입니다.

1) 수요보다 먼저 움직이는 공급
 
메모리 산업의 가장 큰 특징은 수요가 늘어난 뒤에 공장을 짓는 것이 아니라 미래 수요를 예상해 선제적으로 대규모 투자가 이루어진다는 점입니다.
DRAM이나 NAND 공장은 한번 짓기 시작하면 수조 원 단위의 자본이 투입되고 완공까지도 수년이 걸립니다. 이 때문에 기업들은 항상 다음 수요를 보고 움직일 수밖에 없습니다.
 
2) 공급이 한 번 늘어나면 줄이기 어렵다
 
문제는 공급이 늘어난 이후임니다. 메모리는 자동차나 가전처럼 생산량을 유연하게 조절하기 어렵고 라인을 멈추는 순간 손실이 급격히 커집니다. 결과적으로 수요 에측이 조금만 빗나가도 시장은 빠르게 공급 과잉 상태로 진입하게 됩니다.
 
3) 가격이 곧바로 무너지는 구조
메모리는 규격화된 제품입니다. 같은 세대, 같은 용량의 DRAM은 브랜드보다 가격이 우선시됩니다. 공급이 수요를 초과하는 순간, 가격은 급격히 하락하고 기업의 수익성은 순식간에 무너집니다. 이 구조가 바로 메모리 산 업을 대표적인 사이클 산업으로 만들어 왔습니다.

지금까지의 메모리 사이클은 대부분 PC, 스마트폰, 서버 수요를 중심으로
반복되어 왔습니다. 그러나 A 시대에 들어서며 이 공식은 점점 작동하지
않기시작합니다.
 
1)범용 수요에서 구조적 수요로
 
과거의 메모리 수요는 경기와 밀접하게 연동되었습니다. PC가 많이 팔리면 DRAM이 필요했고, 스마트폰 교체 주기가 빨라지면 NAND 수요가 늘어났습니다. 즉, 수요 자체가 경기 사이클에 종속된 구조였습니다. 반면 AI 메모리 수요는 다릅니다. 시 학습과 추론은 일회성 소비가 아니라 모델 규모가 커질수록 메모리 사용량이 구조적으로 증가하는 특성을 가집니다. 이는 경기가 좋아서 늘어나는 수요가 아니라 기술 구조상 반드시 필요한 수요에 가깝습니다.
 
2) HBM은 대체가 어렵다
AI 연산에서 HBM은 더 이상 선택지가 아닙니다. HBM을 쓰지 않으면 GPU 성능 자체가 제대로 발휘되지 않기 때문입니다. 이는 과거 DRAM 이나 NAND 처럼 가격이 오르면 다른 제품으로 대체되는 구조가 아니라는 뜻입니다.

1) 성능 격차보다 공급 격차
앞선 장에서 살퍼본 것처럼 HBM 세대벌 성능 자체는 세 회사 간에 극적인 차이가 나지 않습니다. 그럼에도 불구하고 시장 점유율이 크게 벌어진 이유는 성능이 아니라 공급 가능 물량과 신뢰성의 차이였습니다.
 
2) 공급이 곧 진입장벽이 된 시장
HBM은 단순히 설계만으로 해결되지 않습니다. 수율, 패키징, 고객 맞춤설계, 장기공급, 안정성까지 모든 요소가 동시에 맛물려야 합니다. 이로 인해 HBM 시장은 한번 격차가 벌어지년 쉽게 좁혀지지 않는 구조를 가지게 되었습니다.
 
3) 지금 구조의 완결
지금의 메모리 시장은 기술 경쟁 -> 성능 수램 -> 공급 집중 -> 점유율 고착이라는 흐름의 마지막 단계에 들어와 있습니다. 이 국면에서는 단기 가격 변동보다 누가 다음 사이클의 출발선에 서 있는지가 휠씬 더 중요해집니다

삼성전자가 패키징 경쟁에서 완전히 뒤처진 기업으로반 보이는 것은 사실과 다릅니다. 특히 메모리 영역에서 H3M4를 준비하고 있는 것처림 패기징에서도 삼성은 중장기적으로 의미 있는 기술직 선택지들을 동시에 준비하고 있습니다. 대표적인 것이 바로 x-Cube와 H-Cube 전략입니다.
 
1) X-Cube: 로직-온-로직 3D 적총에 대한 준비
x-Cube는 삼성전자의 순수 3D 패기징 전략임니다. 연산칩 위에 또 다른 로직 칩이나 메모리를 수직으로 쌓는 구조로 TSV 기반의 수직 연결을 극단적으로 활용하는 방식입니다. 이는 신호 이동 거리가 거의 사라지면서 전력 효율을 극대화할 수 있다는 강점이 있습니다. 특히 HBM4 이후 메모리 대역폭과 전력 효율이 동시에 중요해지는 시점에서는 2.5D 구조만으로는 한계가 온다는 점에서 x-Cube는 '미래를 대비한 선택지'로서 의미를 가집니다. 다만 아직까지는 발열 문제와 수율 안정성, 대량 양산 경험 부족이라는 현실적인 벽을 넘지 못한 상태입니다.
 
2) H-Cube: GPU-HBM 통합 관점에서의 패키징 전략
삼성은 1-Cube 이후 보다 진화된 형태로 H-Cube라는 개념을 제시합니다. 이는 GPU와 1BM을 하나의 패키지 단위로 최적화하려는 접근으로 AI 패키징의 방향성 자체는 TSMC의 CoWos와 크게 다르지 않습니다. 특히 삼성의 강점은 HBM 설계와 적층 경험 그리고 TSV 경험을 내재화하고 있다는 점입니다. 이론직으로는 연산집과 베모리를 동시에 고려한 공동 설계에 가장 유리한 구조를 가진 기업이기도 합니다. 문제는 기술이 아니라 이 구조를 실제 고객이 선백할 만큼의 신뢰로 만들었느냐의 숙제가 남아 있습니다.
 
3) HBM4와 패키징의 결합 가능성
HBM4는 단순한 메모리 세대 변화가 아닙니다. 전력, 신호 무걸성, 패키징 구조까지 함께 바뀌는 전환점입니다. 이 지점에서 삼성전자는 HBM4 메모리 설계, TSV 고도화, 차세대 패키징(X-Cube, H-Cube)을 하나의 묶음으로 제안할 수 있는 거의 유일한 기업임니다. 이론적으로 보면 '메모리 + 패키징을 동시에 최적화할 수 있는 잠재력'은 삼성전자 쪽이 더 큽니다.

1)삼성전자의 치명적인 약점: 수율
 
AI용 첨단 패키징에서 수율은 단순한 비용 문제가 아님니다. GPU 하니에 HBM 여러 개가 붙는 구조에서는 패키징 수울 하나가 전체 시스템 수율을 결정합니다. 측 GPU 다이 수율, HBM 다이 수용, 인터포저 수율, 적층/본딩 수율의 모든 것이 곱해지는 구조입니다. 이 중 하나라도 혼들리편 패키지 전체가 불량이 됩니다.
삼성전자 패키징 경쟁력을 이야기할 때 빠지지 않는 지적이 바로 이 수율 문제입니다. 삼성전자는 패키징 기술 이해도가 낮은 기업이 결코 아닙니다. 오히려 TSV, HBM 적층, 3D 구조에 대한 기술적 이해와 실험 경험은 세계 최고 수준입니다. 그럼에도 불구하고 삼성전자의 수율 문제가 자주 불거진 이유는 삼성이 항상 더 어려운 기술을 먼저 선택해왔기 때문이기도 합니다. 더 높은 적층 수, 더 공격적인 TSV 구조, 더 빠른 세대 전환으로 기술적으로는 앞서 있었지만 이 선택은 수율 안정화에 필요한 시간을 희생시키는 결과를 낳았습니다.
반면 TSMC는 기술 난도를 단계적으로 끌어올리고, 수율이 확보된 구조만 양산에 투입하며, 확실히 구현되는 기술을 기준으로 시장을 장악했습니다. 이 차이는 시간이 지날수록 격차로 누적되었습니다. 수율은 단기간에 개선할 수 있는 지표가 아닙니다. 특히 첨단 패키징에서의 실제 데이터화 공정편차는 시간을 두고 축적해야만 안정화됩니다. TSMC는 CoWos를 통해 수년간 같은 구조를 반복 생산하면서 암도직인 공정 데이티를 축적했습니다. 삼성전자는 기술적으로는 더 넓은 영역을 실험했지만 하나의 구조를 장기간 반복 생산하는 경험은 상대적으로 부족했습니다.
다만 중요한 것은 이 수율 문제가 영구적인 한계는 아니라는 점입니다. HBM4 세대와 함께 삼성은 앞서 언급한 대로 메모리 적층경험과 TSV 고도화 그리고 차세대 패키징(X-Cube, H-Cube)을 동시에 묶어 다시 한번 구조적 반전을 시도 하고 있습니다. 다만 시장은 '이미 수울이 검증된 구조'를 먼저 선택한다는 점에서 삼성전자가 풀이야 할 숙제는 여전히 남아있습니다.
 
2) 메모리 중심 사고에서 벗어나지 못한 구조
 
삼성전자는 메모리 기업으로 성장해왔습니다. 이 과정에서 패키징 역시 메모리의 부속 공정으로 관리되어 왔습니다. 하지만 AI 패키징의 본질은 메모리가 아니라 GPU 시스템입니다. GPU 를 중심으로 HBM 을 어떻게 배치하고, 어떻게 연결하며, 어떻게 식히느냐가 핵심이 됩니다. TSMC가 GPU 관점에서 패키징을 설계했다면, 삼성은 상대적으로 메모리 관점에서 접근했습니다. 이관점 차이도 패키징 시장에서는 큰 영향을 주었습니다.
 
3) 파운드리와 패키징의분리 전략
 
TSMC는 공정과 패기징을 하나의 연속된 공정으로 다뤘습니다. 반면 삼성전자는 피운드리와 패키징이 전략적으로 분리되어 움직여왔습니다. 이 구조에서는 고객의 칩 설계 변화에 빠르게 대응하기 어려웠고, 패키징을 시스템 설계 단계부터 끌어들이기 힘들었습니다. 무엇보다도 수율과 일정관리에서 불리해질 수밖에 없는 점이 삼성전자의 발목을 붙잡았습니다.
 
TSMC는 점점 격차를 벌리면서 동시에 엔비디아, AMD, 빅테크 고객들과 CoWoS를 중심으로 반복적인 공동 개발을 수행하며 강력한 라인을 형성했습니다. 반면 삼성전자는 대형 GPU 고객 확보에 지속적으로 어려움을 겪으면서 패키징 역시 대량 생산 및 지속적인 피드백 루프를 만들기 어려웠습니다.

종합적으로 보면 3D 패키징에서는 아직 어느 기업도 '양산 기준의 절대적 우위'를 확보하지 못한 상태입니다. 기술경쟁은 빠르게 진행되고 있지만 승부를 가를 핵심 변수는 여전히 누가 가장 먼저 수율을 80% 이상으로 안정화시킬 수 있는가에 있습니다.
정리하면 2D 패키징에서는 운영완성도가, 2.5D 패키징에서는 수율이 숫자로 검증된 기업이, 3D 패키징에서는 기술 잠재력과 양산 안정성의 균형을 먼저 맞추는 기업이 시장 주도권을 가져가게 됩니다. 패키징 경쟁의 본질은 가장 앞선 구조를 제시하는 것이 아니라 그 구조를 가장 먼저 '안정적인 숫자'로 증명하는데 있습니다. 

이 표를 보면 세 집단은 보두 '칩을 설계한다는 공통점이 있지만 파운드리를 대하는 방식은 완전히 다릅니다. 범용 GPU 팸리스는 선단공정과 패키징 캐파를 확보하는 것이 생존이고, ASIC 팸리스는 특정 고객 일정에 맞준 안정 양산이 생존이며, 빅테크 자체침은 공급망 자체를 장기 계약과 규모로 통제하는 것이 전략이 됩니다. 결국 파운드리의 퀸력은 기술만이 아니라 누가 어떤 방식으로 생산리스크를 감당하느나에 의해 재편됩니다.

AI 시대의 팸리스 생태계는 단일한 송자 구조로 흘러가지 않을 가능성이 큽니다. 범용 펩리스와 ASIC 팹리스는 경쟁 관계라기보다는 서로 다른 문제를 해결하는 병렬 구조로 진화하고 있기 때문입니다. 범용 팹리스는 여전히 새로운 모델과 알고리즘이 등장하는 영역에서 가장 빠르게 대응할 수 있는 해법을 제공합니다. 학습과 추론 방식이 끊임없이 바뀌는 환경에서는 유
연성과 생태계를 갖춘 범용 GPU의 역할이 쉽게 사라지지 않습니다.
반면 ASIC 팸리스는 변화가 비교적 느리고, 반복되는 대규모 워크로드가 존재하는 영역에서 힘을 발휘합니다. 대규모 추론 서비스, 검색, 추천, 광고, 데이터 처리와 같은 영역에서는 특정 연산 패턴이 반복되며, 이 경우 전용 칩이 제공하는 비용 절감 효과는 매우 큽니다. 결국 ASIC은 범용 GPU 를 완전히 대체하기보다는 GPU가 가장 비싼 구간부터 하나씩 대체해 나가
는 방식으로 확산될 가능성이 높습니다.
중요한 점은 이 두 집단 모두 파운드리와의 관계에서 자유롭지 않다는 사실입니다. 범용 팸리스든 ASIC 팸리스든 설계가 아무리 뛰어나더라도 이를 구현할 수 있는 공정과 수율이 뒷받침되지 않으면 시장에 나올 수 없습니다. 특히 ASIC은 특정 기업의 서비스에 깊이 연결되어 있어 한 번의 설계 실패나 양산 실패가 곧바로 사업 리스크로 이어질 수 있습니다. 이 때문에 ASIC 펠리스일수록 파운드리 선택과 공정 안정성에 더욱 민감할 수밖에 없습니다.
결국 AI 시대의 팰리스 생태계는 이렇게 정리할 수 있습니다. 범용 펩리스는 산업 전체의 포준과 방항을 만들어가는 역할을 맡고, ASIC 팹리스는 그 표준 위에서 비용과 효율의 한계를 밀어붙이는 역할을 맡습니다. 이 둘은 서로를 대체하지 않으며, 오히려 함께 존재할수록 파운드리와 패키징을 포함한 반도체 공급망 전체를 더 빠르게 진화시키는 촉매가 됩니다.

TSMC의 지배력은 특정 시점의 기술 우위나 한두 번의 전략적 성공으로 설명되지 않습니다. 이미 살퍼본 역사적 흐름이 말해주듯 TSMC가 쌓아온 경쟁력은 개별 사건이 아니라 구조적 선택의 누적 결과입니다. 여기서는 왜 이 모델이 지금도 깨지지 않는지를 세 가지 공식으로 정리합니다.
 
1) 첫 번째 승리 공식: 성공을 예측하지 않는 구조
TSMC는 어떤 침이 이길지, 어떤 기업이 시장을 지배할지를 예측하지 않았습니다. 엔비디아의 GPU가 AI 시대의 표준이 되든, AMD가 구조적 반격에 성공하든, 혹은 구글의 TPU와 같은 전용- ASIC이 새로운 흐름을 만들든 그 결과 자체는 TSMC에게 중요하지 않았습니다. 중요한 것은 그 칩들이 실제로 만들어지는 공정의 자리를 누가 차지하느냐였습니다. 엔비디아가 이기면 엔비디아의 GPu를 만들고, AMD가 집유울을 가져가면 AMD 의 칩을 만들며, 구글이 TPU로 자체 생태계를 키우면 그 칩 역시 TSMC의 공정을 통과합니다. 어느 쪽이 이기는 TSMC는 승자 편에 자동으로 서게되는 구조임니다. 이 선택은 파운드리 사업을 제품 경쟁에서 완선히 분리시쳤습니다.
이 구조의 진짜 강점은 특정 제품의 흥망이나 특정 고객의 성패와 무관하게 제조 경험이 끊임없이 누적된다는 점에 있습니다. 서로 다른 아키텍처. 서로 다른 설계 철학, 서로 다른 공정 요구사항이 모두 같은 제조 라인을 통과하면서 TSMC의 공정 데이터와 수율 노하우는 경쟁사가 따라올 수 없는 속도로 축적되었습니다. 파운드리는 더 이상 '어떤 제품을 잘 찍느냐'의 문제
가 아니라 얼마나 '많은 실패와 성공을 동시에 겪어봤느냐'의 문제가 되었습니다.
결과적으로 TSMC는 가장 혁신적인 회사를 고르지 않았습니다. 대신 가장 많은 혁신이 동과하는 통로가 되는 길을 택했습니다. 이 선택은 단기적으로는 느리고 답답해 보였지만 시간이 갈수록 효과가 증폭되었습니다. 특정 히트 상품에 베팅한 기업들이 한 세대의 실패로 흔들릴 때 TSMC는 그 실패마저 경험으로 흡수하며 다음 세대로 나아갈 수 있었기 때문입니다. 이렇게
해서 파운드리는 히트 상품 산업이 아니라 경험 축적 산업으로 성격이 바뀌게 되었고 TSMC는 경쟁자가 쉽게 접근할 수 없는 깊이를 만들어내기 시작했습니다.
 
2) 두 번째 승리 공식: 미세 공정 경쟁력 지속적 확보
 
파운드리 경쟁에서 미세 공정은 단일 기술 문제가 아닙니다. 이는 실패를 감당할 수 있는 체력 그리고 실패 이후에도 다음 세대로 님어갈 수 있는 구조의 문제입니다. 앞에서 살퍼본 것처럼 한 세대의 공정 실패는 곧바로 고객이탈과투자 여력 감소로 이어집니다.
TSMC의 강점은 매 세대 앞섰다는 점이 아니라 매 세대 탈락하지 않았다는 점에 있습니다. 이 지속성은 공정 하나의 성공으로 만들어지지 않습니다. 안정적인 고객 기반. 반복 양산 경험 그리고 이를 다시 다음 공정으로 연결하는 재투자 구조가 맞물려야만 가능합니다. 이 누적 효과는 시간이 갈수록 가속됩니다. 뒤늦게 따라오는 기업은 단순히 기술 격차를 좁히는 것이 아니
라 이미 형성된 누적 곡선을 따라잡아야 하는 상황에 놓이게 됩니다. 이 지점에서 공정 경쟁은 기술전이 아니라 구조전으로 바뀌게 됩니다.
 
3) 세 번째 승리 공식: 고객을 경쟁자로 두지 않는 구조
 
TSMC 비즈니스 모텔의 마지막 공식은 기술보다 강력한 요소, 바로 신뢰의 구조입니다. TSMC는 고객의 시장을 침법하지 않습니다. 이는 도덕적 선언이 아니라 사업 구조 자체가 그렇게 설계되어 있기 패문입니다. 첨단 공정으로 갈수록 고객은 더 많은 설계 정보와 전략적 의사결정을 제조사와 공유해야 합니다. 이때 제조사가 잡재적 경쟁자라면 협업의 깊이는 필연적으로
제한될 수밖에 없습니다. TSMC는 이 불신의 가능성을 구조적으로 제거했습니다. 그 결과 고객은 더 공격적인 설계를 시도할 수 있었고 TSMC는 그 설계를 기준으로 공정을 최적화할 수 있었습니다. 이 상호 신뢰는 단순한 거래 관계를 넘어 파운드리를 산업 인프라로 끌어올리는 결정적 요인이 되었습니다.

파운드리 경쟁에서 수율은 단순한 기술 지표가 아닙니다. 수율은 곧 원가, 공급량 그리고 고객의 선택을 동시에 결정하는 변수입니다. 이 관계를 이해하면 왜 고객들이 이미 김중된 공정을 원하는지 자연스럽게 보이기 시작합니다. 계산 예시는 구조를 이해하기 위해 단순화했습니다.
 
1) 웨이퍼 단가 x 수율 =실질 칩 단가
 
파운드리는 웨이퍼 단위로 비용을 청구합니다. 그러나 고객이 실제로 구매하는 것은 웨이퍼가 아니라 정상 동작하는 칩입니다. 따라서 고객 입장에서 중요한 공식은 단순합니다.
 
예를 들어 한 장의 웨이퍼 가격이 2만 달러이고 그 웨이퍼에서 이론적으로 100개의 집을 만들 수 있다고 가정해보겠습니다. 이때 수율이 80% 라면 정상 칩은 80개가 나오고. 칩 하나당 실질 비용은 약 250달러(20000/80)가 됩니다. 반면 수율이 50% 라면 정상 칩은 50개로 줄어들고, 칩 하나당 비용 400달러(20000/50)로 급등합니다.
 
이처럼 웨이퍼 가격은 같지만 수율 차이 하나로 칩 단가는 60% 이상 벌어지는 셈입니다. 이 차이는 단순한 마진 문제가 아닙니다. AI GPU처럼 칩 크기가 크고 가격이 높은 제품일수록 수율 하락은 곧바로 사업성 붕괴로 이어질 수 있습니다. 이 때문에 고객은 이미 높은 수율로 반복 생산된 공정을 선택 할 수밖에 없습니다. 결국 파운드리에서 수율은 기술 완성도의 문제가 아니라 고객이 감당할 수 있는 비용의 상한신을 결정하는 변수로 작동합니다.
 
2) 파운드리 수율과 패키징 수율 차이 이해
 
같은 '수율'이라는 단어를 쓰지만 파운드리 수율과 패기징 수율은 완전히 다른 성격의 숫자라는 점입니다. 파운드리 수율은 기본적으로 단일 다이 기준입니다. 웨이피 위에서 개별 침이 정상적으로 동작하는 비율을 의미하며, 공정 반복과 시간이 쌓일수록 점진적으로 안정화됩니다.
예를 들어 7nm나 5nm 공정에서 80~90% 수준의 수율이 확보되면 해당공정은 양산 가능한 공정'으로 인식됩니다. 반면 패기징 수율은 시스템 수율입니다. AI 패키징에서는 GPU 다이 하나에 여러 개의 HBM 다이, 인터포저,. 본딩 공정이 동시에 결합됩니다. 이때 전체 패키지 수율은 단순 평균이 아니라 곱셈 구조로 계산됩니다.
예를 들어, GPU 다이 수율(90%) XHBM 다이 수율(95%) < 인터포저 수율(98%) < 본딩/적층 수율(97%) 이 네 가지가 결합되면 최종 패키지 수율은대략 81% 수준으로 떨어짐니다. 이 중 하나라도 흔들리면 전체 패키지는 불량이 됩니다. 즉 파운드리 수율이 안정적이더라도 패키징 단계에서 수율이 낮아지면 공급량은 급격히 줄어들고 단가는 폭등합니다.
 
이 차이 때문에 AI 고객은 파운드리 선택과 패키징 선택을 분리해서 보지 않습니다. '칩을 잘 만드는 회사가 아닌 '집을 시스템으로 끝까지 완성해본 경험이 많은 회사를 선택하게 됩니다. 그리고 이 경험은 단기간에 따라잡을 수 있는 영역이 아닙니다. 결국 수율이라는 숫자는 단순한 품질 지표가 아니라 파운드리에서는 공정 생존 여부를, 패키징에서는 AI 공급 능력의 상
한선을 결정하는 기준으로 작동합니다. 이 차이를 이해하는 순간 왜 고객의 선택이 특정 기업으로 쏠렸는지도 자연스럽게 보이기 시작합니다.

5장에서 봤듯이 연산칩 시장과 클라우드 시장음 더 이상 분리된 산업이 아닙니다. 하이퍼스케일러가 일마나 빠르게 리전과 존을 화장하고, 얼마나 많은 GPU를 안정적으로 받아낼 수 있는지를 두고 경쟁하는 순간부터, 클라우드는 A 반도체 수요의 결과를 받아들이는 곳이 아니라 그 수요의 방향과 속도를 먼저 결정하는 위치로 이동하게 되었습니다.
이 변화는 주가에도 그대로 반영됩니다. 이제 A 반도체 산업을 바라보는 시장의 시선은 개별 칩 기업의 분기 실적보다 그 침을 가장 많이 사용하는 하이퍼스케일러들의 실적 발포로 먼저 향합니다. 왜냐하면 이들의 실적에는 앞으로 AI 인프라에 얼마나 더 투자할 수 있는 상태인가가 가장 선명하게 드러나기 때문입니다.
시장은 하이퍼스케일러 실적에서 당장의 매출 숫자보다도 데이터센터와 AI 인프라에 투입되는 CAPEX가 유지되거나 확대되고 있는지, 전력/냉각/리전 확장에 대한 계획이 계속 언급되는지를 먼저 읽어냅니다. 이는 곧 GPU 와 AI 칩 수요가 단기 이벤트가 아니라 중기 사이클로 이어질 수 있는지를 가능하는 기준이 되기 때문입니다. 동시에 AI 관련 워크로드와 서비스가 실
제로 매출 성장으로 연결되고 있다는 언급은 지금의 AI 투자가 실험 단계에 머무르지 않고 지속 가능한 수익 구조로 자리 잡고 있는지를 판단하는 신호가 됩니다.
반대로 '효율화' 투자 최적화' '속도 조절' 같은 표현이 늘어나거나 CAPEX 증가율이 둔화되는 흐름은 당장 공급이 줄지 않더라도 다음 사이클에서 주문 강도가 약해질 수 있음을 암시하는 경고로 해석됩니다. 그래서 오늘날 하이퍼스케일러의 실적 발표는 더 이상 클라우드 기업만의 이벤트가 아닙니다. 이는 AI 반도체 산업 전체, 특히 엔비디아를 비롯한 칩 공급사들에게 현재 실적보다 미래 수요의 방항을 먼저 보여주는 나침반에 가깝습니다.
하지만 동시에 이 나침반은 또 하나의 번화를 에고합니다. GPU 수요가 커질수록 그리고 인프라 투자가 장기회될수록, 클라우드 입장에서는 계속해서 외부 침에만 의존하는 구조가 부담으로 작용하기 시작합니다. 비용은 커지고, 공급망 리스크는 늘어나머, 모는 시 워크로드에 최고 사양의 GPL를 투입하는 방식이 과연 효율적인가에 대한 질문이 자연스럽게 뒤따르기 때문입니다.
바로 이 지점에서 클라우드는 더 이상 'GPU를 얼마나 많이 확보할 것인가' 만을 고민하지 않게 됩니다. 대신 어떤 연산은 직접 설계한 침으로 처리하고, 어떤 AI 기능은 서비스 형태로 묶어 제공할 것인가라는 다음 단계의 선택으로 이동합니다. 그래서 이제 클라우드의 경쟁은 공급망을 학보하는 단계에서 AI 사용 방식 자체를 재설계하는 단계로 넘어갑니다.