AI 산업의 층 구조: 반도체부터 응용 서비스까지

AI 관련 뉴스는 개별 사건으로 쏟아집니다. 어느 회사가 새 모델을 냈고, 어디가 투자를 받았고, 어떤 칩이 부족하다는 소식이 맥락 없이 나열됩니다. 각각을 따라가다 보면 정보는 많아지는데 전체 그림은 오히려 흐려집니다.

산업을 층(layer)으로 나눠 보면 이 문제가 상당히 해소됩니다. 각 소식이 어느 층의 일인지, 그것이 위아래 층에 어떤 영향을 주는지 판단할 수 있기 때문입니다.

이 글에서는 AI 산업을 다섯 층으로 나눠 각 층이 무엇을 하고 어떻게 의존하는지 정리합니다. 특정 기업의 순위나 시장 규모 수치는 다루지 않습니다. 확인하기 어렵고 빠르게 바뀌는 수치이기 때문입니다. 여기서 다루는 것은 구조입니다.

다섯 개의 층

위층은 아래층 없이 존재할 수 없습니다. 응용 서비스는 모델에, 모델은 계산 자원에, 계산 자원은 칩에 의존합니다. 그래서 아래층의 변화는 위층 전체에 영향을 주지만, 위층의 변화는 아래층에 잘 전달되지 않습니다.

1층: 가속기 하드웨어

모델 학습과 추론에 쓰이는 칩과 그 주변 부품입니다. 산업 전체의 물리적 토대입니다.

이 층의 특징은 진입 장벽이 압도적으로 높다는 것입니다. 칩 설계, 제조 공정, 고대역폭 메모리, 그리고 이 모두를 묶는 소프트웨어 생태계까지 필요합니다. 특히 소프트웨어가 중요합니다. 하드웨어 성능이 비슷해도 개발자들이 쓰는 프레임워크가 특정 플랫폼 위에서 잘 돌아간다면 전환 비용이 큽니다.

제조 역시 소수의 첨단 공정 업체에 집중되어 있고, 고대역폭 메모리 공급도 제한적입니다. 이 구조 때문에 한 지점의 병목이 산업 전체의 공급에 영향을 줍니다.

최근 흐름으로 볼 만한 것들:

• 클라우드 사업자들이 자체 칩을 만들어 의존도를 낮추려는 움직임
• 학습용과 추론용 칩의 요구사항이 갈라지는 현상 — 추론 수요가 커지면서 전용 칩 시장이 형성되는 중
• 전력과 냉각이 실질적 제약으로 부상

2층: 클라우드 인프라

칩을 모아 데이터센터를 짓고 계산 능력을 서비스로 파는 층입니다. 대형 클라우드 사업자와 AI 전용 인프라 업체들이 있습니다.

핵심 제약은 칩이 아니라 전력과 부지로 옮겨 가고 있습니다. 대규모 데이터센터는 상당한 전력을 안정적으로 공급받아야 하고, 이는 지역 전력망과 발전 설비의 문제입니다. 부지 선정에서 전력 확보 가능성이 결정적 요인이 되고 있습니다.

이 층에서 주목할 구조는 투자와 매출의 순환입니다. 클라우드 사업자가 모델 개발사에 투자하고, 모델 개발사가 그 자금으로 같은 사업자의 인프라를 사용하는 형태의 거래가 이루어집니다. 생태계를 빠르게 키우는 방식이지만 상호 의존이 깊어진다는 지적도 함께 나옵니다.

3층: 기반 모델

대규모 학습을 거친 모델을 만드는 층입니다. 산업의 관심이 가장 집중되는 곳입니다.

참여자는 크게 나뉩니다. 전문 연구소는 모델 개발 자체를 사업으로 하고 API로 수익을 냅니다. 빅테크는 자체 모델을 만들어 자사 제품과 클라우드에 통합합니다. 공개 가중치 진영은 모델 파일을 공개해 생태계를 넓히고, 다른 방식으로 수익을 얻습니다. 여기에 각 언어권·국가 단위로 자국어와 자국 맥락에 맞춘 모델을 만드는 흐름도 있습니다.

이 층에서 관찰되는 변화 두 가지가 있습니다.

모델 간 차이가 줄어드는 경향. 상위권 모델들의 성능 차이가 좁아지면서, 모델 자체보다 가격·속도·통합 편의성이 선택 기준이 되는 경우가 늘고 있습니다. 이런 상황에서 모델은 성능 경쟁 제품보다 대체 가능한 부품에 가까워집니다.

공개 가중치의 추격. 공개 모델과 상용 모델의 격차가 좁혀지면서, 데이터를 외부로 보낼 수 없거나 비용을 통제해야 하는 곳에서 선택지가 늘었습니다. 다만 "오픈"의 의미와 라이선스 조건은 모델마다 다르므로 개별 확인이 필요합니다. 주요 LLM 계열에서 이 구분을 다룹니다.

4층: 개발 도구

모델을 실제 제품에 연결하는 데 필요한 도구들입니다. 프레임워크, 벡터 데이터베이스, 프롬프트 관리, 평가와 모니터링, 에이전트 실행 환경 같은 것들이 여기 속합니다.

이 층은 가장 유동적입니다. 모델 제공사가 기능을 직접 흡수하는 일이 잦기 때문입니다. 별도 도구로 제공되던 기능이 API에 기본 포함되면 그 도구의 존재 이유가 사라집니다. 구조화 출력, 함수 호출, 프롬프트 캐싱처럼 한때 별도 계층이던 것들이 API 기능이 된 사례가 있습니다.

그래서 이 층의 도구를 도입할 때는 "이 기능이 모델 API에 들어가면 어떻게 되는가" 를 함께 생각해 두는 편이 좋습니다. 반대로 여러 제공사를 아우르거나 운영·거버넌스를 다루는 영역은 상대적으로 오래 남는 경향이 있습니다.

5층: 응용 서비스

최종 사용자가 만나는 제품입니다. 대화형 서비스, 코딩 도구, 문서 처리, 고객 응대, 그리고 의료·법률·금융 같은 산업별 솔루션이 여기 있습니다.

참여자가 가장 많고 진입 장벽이 가장 낮은 층입니다. API 호출만으로 제품을 만들 수 있기 때문입니다. 동시에 그래서 차별화가 가장 어렵습니다. 같은 모델을 쓰는 경쟁자가 같은 기능을 금방 따라 만들 수 있습니다.

이 층에서 지속되는 우위는 대체로 모델 바깥에서 나옵니다.

• 도메인 데이터 — 경쟁자가 갖지 못한 자료
• 워크플로 통합 — 사용자가 이미 쓰는 도구 안에 들어가 있는 것
• 신뢰와 규제 대응 — 인증, 감사 추적, 책임 구조
• 검증 장치 — 출력 검증과 사람 검토 절차의 설계 품질

마지막 항목이 특히 중요합니다. 모델은 누구나 쓸 수 있지만, 환각을 실제 업무에서 관리 가능한 수준으로 낮추는 설계는 그렇지 않습니다. 이것이 응용 층의 실질적 경쟁력이 되는 경우가 많습니다.

층을 알면 뉴스가 읽힙니다

이 구조를 기억해 두면 개별 소식의 의미를 스스로 해석할 수 있습니다.

아래층의 변화일수록 파급 범위가 넓습니다. 칩 공급이나 전력 제약은 산업 전체에 영향을 주지만, 응용 서비스 하나의 등장은 그 시장에만 영향을 줍니다.

흔한 오해

"AI 산업 = 모델 개발사." 모델은 다섯 층 중 하나입니다. 수익과 고용의 상당 부분은 응용 층에서 나오고, 자본 투자의 상당 부분은 1~2층으로 갑니다.

"모델이 좋아지면 응용 서비스도 좋아진다." 자동으로 그렇지는 않습니다. 응용 서비스의 품질은 데이터, 워크플로 설계, 검증 장치에 크게 좌우됩니다. 모델을 바꿔도 이 부분이 부실하면 결과는 비슷합니다.

"오픈 가중치 모델은 무료다." 가중치가 공개되어도 실행에는 인프라와 운영 인력이 필요합니다. 사용량이 적다면 API가 더 저렴한 경우가 많습니다.

정리

• AI 산업은 가속기, 클라우드 인프라, 기반 모델, 개발 도구, 응용 서비스의 다섯 층으로 나눠 볼 수 있습니다.
• 아래층일수록 진입 장벽이 높고 파급력이 크며, 위층일수록 참여자가 많고 차별화가 어렵습니다.
• 1층은 제조와 소프트웨어 생태계, 2층은 전력과 부지가 실질적 제약입니다.
• 3층은 모델 간 차이가 줄고 공개 가중치가 추격하면서 선택 기준이 성능에서 비용·통합으로 이동하고 있습니다.
• 4층은 모델 API가 기능을 흡수하면서 가장 유동적입니다.
• 5층의 지속적 우위는 모델이 아니라 도메인 데이터, 워크플로 통합, 검증 설계에서 나옵니다.

참고 자료

• Stanford HAI — AI Index Report — 산업 전반의 연례 분석
• Epoch AI — 학습 계산량과 모델 추세에 관한 공개 데이터
• OECD AI Policy Observatory — 국가별 정책과 산업 동향