프로그래머블 데이터센터: GPU 컴퓨트 시장과 물리적 결제

URL: https://www.youtube.com/watch?v=EAtLq9_vrE0 날짜: 2026-10-21 채널: latentspacepod

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

GPU 용량 시장은 어떻게 실제로 사용할 수 있는 컴퓨트를 안정적으로 인도하면서, 서로 다른 클러스터와 GPU 조건을 거래 가능한 상품으로 만들 수 있을까? ==금융 상품을 먼저 표준화하기보다 클라우드 운영과 물리적 결제를 먼저 구현해야 신뢰할 수 있는 선도시장과 유동성이 생긴다.==

• 구매자가 받는 것은 지수에 연동한 현금 차액이 아니라 실제로 쓸 수 있는 GPU 컴퓨트다.
• 중단 허용 여부, 복구 가능한 스토리지, 네트워크, GPU 세대와 펌웨어 같은 물리적 조건이 주문과 가격을 결정한다.
• 중립적인 시장 운영자는 하드웨어 소유자나 대형 컴퓨트 판매자와 이해관계가 달라야 한다.
• 거래소 수준의 시장은 데이터센터를 추상화하고, 고객이 네트워크 패브릭까지 프로그램으로 제어할 수 있게 만든다.

SF Compute는 클러스터 재임대에서 출발해 실제 컴퓨트를 제공하는 클라우드 운영 역량을 구축했다. 모든 컴퓨트를 하나의 단위로 뭉개기보다 주문마다 조건을 붙여 현재의 이질성을 흡수하고, 실제 인도와 재판매가 가능한 공급망을 시장에 연결한다. 시장 유동성의 목표도 거래량 자체가 아니라 고객이 사둔 용량을 다시 팔아 얼마를 회수하는지로 측정한다.

1. 재임대 사업에서 컴퓨트 시장 운영자로

SF Compute는 클러스터를 단순히 중개하는 회사에서 컴퓨트의 운영·정산까지 책임지는 시장 인프라로 성장했다.

1.1. 호텔 객실 판매가 호텔 운영으로 확장된 과정

1. Junark의 클러스터 재임대에서 시작했다

   1. 초기 사업: 회사는 Junark라는 이름으로 출발해 보유 클러스터를 다른 고객에게 재임대하려 했다.
   2. 고객 요구의 연쇄: 객실만 팔면 청소가 필요해지고, 이어 룸서비스와 주방, 보안이 필요해진다는 호텔 비유처럼 컴퓨트 공급에도 운영 서비스가 계속 붙었다.
   3. 사업 범위의 변화: 각각의 요구에 대응하려면 청소 도구, 주방, 보안실을 갖춰야 했고, 결국 객실 중개가 아니라 호텔 전체를 운영하는 상황에 이르렀다.

2. 클라우드의 운영 역량을 직접 구축했다

   1. 공급자 재정의: 안정적인 상품을 내놓으려면 공급자는 단순한 펀드나 데이터센터 접근권자가 아니라 운영 역량을 가진 클라우드에 가까워야 했다.
   2. 수년간의 투자: SF Compute는 거래 대상인 컴퓨트를 신뢰성 있게 실제 인도하기 위해 클라우드의 운영 능력을 상당 부분 만들었다.
   3. 시장과 운영의 결합: 주문서만 만들고 공급자가 알아서 이행하기를 기다리는 대신, 계약의 제약과 클러스터 운영을 함께 설계했다.

1.2. 금융 계약의 물리적 결제

1. 물리적 결제는 실물 컴퓨트 인도를 뜻한다

   1. 선물시장의 용어: 석유나 대두의 물리적 결제에서는 계약을 맺은 실물을 실제로 전달한다.
   2. 전달망의 필요성: 석유에는 파이프라인, 전력에는 전력망이 있어야 인도가 가능하듯 GPU 계약에도 구매자가 접근할 수 있는 클러스터와 작동하는 운영 스택이 필요하다.
   3. 컴퓨트의 실물 조건: 작업을 중단해도 되는지, 중단 후 스토리지에서 얼마나 빨리 복구되는지, 어떤 GPU·네트워크·소프트웨어 구성이 필요한지가 인도 가능성을 좌우한다.

2. 실물 인도에는 가격을 뒤집는 제약도 포함된다

   1. 2020년 유가의 마이너스 사례: 저장 공간과 인도 경로가 부족해 일부 원유 보유자가 돈을 주고서라도 물량을 넘기려 했다. 실물 인도 의무가 단순한 가격 지수만으로 설명되지 않는 이유다.
   2. 전력시장의 운전 제약: 발전소 보일러를 끄고 다시 켜는 데 시간이 걸리므로 전력 주문에는 설비의 운전 가능 상태와 전환 시간이 반영된다.
   3. 컴퓨트 주문서의 원칙: SF Compute는 실제 클러스터 제약을 시장에서 다루도록 실물 결제와 주문서를 동시에 설계했다.

2. 표준화 전 단계의 주문서와 유동성

컴퓨트가 아직 동질적인 상품이 아니므로, SF Compute는 단일 표준 계약을 강제하기보다 여러 조건을 주문과 매칭 엔진에 노출한다.

2.1. 시장 성숙도와 고객 중심 유동성

1. 시장은 초기 단계이며 공급과 플랫폼 구축이 우선이었다

   1. 현재 성숙도: 에번 콘래드는 시장이 아직 성숙하거나 깊거나 유동적이라고 보기 어렵다고 답했다.
   2. 먼저 해결할 일: 거래를 만들기 전에 실제 공급을 온라인으로 끌어오고, 이를 거래 가능한 형태로 다루는 플랫폼을 구축해야 했다.
   3. 주문서 편입: 플랫폼이 작동하기 시작한 뒤 전체 용량 일부를 주문서로 옮기고, 편입되는 공급을 계속 늘리고 있다.

2. 시장 깊이보다 고객이 회수하는 가치가 중요하다

   1. 용량 비중: 당시 전체 용량의 약 5%가 주문서에 올라와 있었다.
   2. 집중된 유동성: 주문서에 올라온 전체 거래량은 작지만 그 제한된 용량 안에서는 유동성이 높다고 설명했다.
   3. 고객 가치 지표: 고객이 컴퓨트 용량을 사는 데 100달러를 썼을 때 평균 약 25달러를 다른 구매자에게 되팔아 회수하는지를 추적한다.
   4. 측정 기준의 차이: 시장조성자 수 같은 추상 지표보다 실제 상업 참여자의 문제가 해결되는지를 유동성의 기준으로 삼는다.

2.2. 표준 계약 대신 여러 제약 조건을 매칭

1. 컴퓨트의 운영 차이가 계약 표준화를 어렵게 한다

   1. 표준화는 아직 멀다: 지난 수년간의 교훈은 운영 전체를 통일하지 않으면 계약 조건도 표준화할 수 없다는 점이었다.
   2. 가상머신 성능 차이: 같은 운영자 안에서도 가상머신 종류에 따라 GPU 커널 실행 시작 시간이 달라지고, 사례에 따라 성능이 약 40% 저하될 수 있다.
   3. 최종 성능에 미치는 영향: 커널 실행 지연은 학습·추론에서 반복적으로 발생하며, 최종적으로 GPU 사용 효율(MFU)을 떨어뜨린다.
   4. 원자재 등급과의 비유: 원유의 경질·중질 등급이나 옥수수 등급처럼 GPU 용량도 세부 품질과 운영 조건이 달라 같은 상품으로 취급하기 어렵다.

2. 다차원 조건의 주문서가 기술 변화를 흡수한다

   1. 주문 조건: 구매자는 특정 시간 구간과 여러 속성을 지정하고, 매칭 엔진은 그 조건을 가진 매도 주문과 연결한다.
   2. 표준화 지연의 장점: 기술 변화가 빠른 동안 미리 합의된 단일 표준을 기다리지 않고도 서로 다른 컴퓨트를 거래할 수 있다.
   3. 유동성의 대가: 조건이 여러 갈래로 나뉘어 매수·매도 가격 차이가 커지고, 같은 상품에 유동성이 집중되지 않는다.
   4. 차익거래 기회: 다양한 종류의 컴퓨트를 활용할 수 있는 제품은 가격 차이를 이용해 더 낮은 가격으로 용량을 조달하고 수익을 얻을 수 있다.

2.3. 거래 가능한 용량의 조건과 하드웨어 코호트

1. 현재 사용 중인 용량과 미래 용량은 다르게 거래된다

   1. 현재 용량: 지금 쓰는 작업을 중단해야 다른 고객에게 팔 수 있으므로 중단을 허용할지 먼저 판단해야 한다.
   2. 미래 용량: 한 달 뒤 시작하는 용량은 당장 실행 중인 작업을 끊지 않고 사고팔 수 있어 더 쉽게 유동성을 만들 수 있다.
   3. 중단과 복구의 조건: Weka 또는 VAST 같은 스토리지의 종류·규모는 작업이 선점되거나 클러스터에서 제거된 뒤 얼마나 빨리 복구되는지를 바꾼다.

2. 클러스터 간 이동에는 스토리지와 전용 네트워크가 필요하다

   1. 이동 시나리오: 한 클러스터에서 중단된 작업을 다른 클러스터에서 빠르게 다시 띄울 수 있다면 여러 공급자의 용량을 하나처럼 활용할 수 있다.
   2. WAN 연결: 데이터 이동에는 클러스터 사이의 빠른 광역 네트워크(WAN), 즉 사설 인터넷처럼 동작하는 연결망이 필요하다.
   3. GPU 데이터센터의 입지: CPU 클러스터는 고객과의 지연시간을 고려해 고객 가까이에 놓이곤 하지만 GPU 클러스터는 전력을 확보할 수 있는 곳을 우선해 입지가 달라진다.
   4. 연결망 공백: 새 GPU 클러스터 중에는 기존 데이터센터 간 네트워크에 연결되지 않은 곳도 있어 지역 간 용량 대체가 제한된다.

3. 제조·설치 시기에 따른 품질 차이가 상품 속성이 된다

   1. 초기 하드웨어 문제: 초기 H100과 GB200 장비 중에는 장애가 있었고, 구매자는 특정 시점 이후 배치된 장비를 더 선호할 수 있다.
   2. 번인과 RMA: 좋은 클라우드는 고객에게 전달하기 전에 GPU를 강하게 구동해 고장 장비를 걸러내고, 불량 노드에 대해 반품·교체(RMA)를 요청한다.
   3. 펌웨어 결함: 초기 H100에서 언급된 문제는 GPU 자체가 아니라 Supermicro 장비 펌웨어 결함일 수도 있으며, 수정된 펌웨어를 설치하거나 새 장비를 받아야 해결된다.
   4. 현장 사례: 대화에서는 B300 장비에서도 비슷한 유형의 문제가 있었고, 내부 엔지니어가 Devin을 사용해 수정했다고 언급했다.
   5. 시장에 필요한 세분화: 고객은 GPU 모델명뿐 아니라 설치 시기, 펌웨어, 번인 상태에 따라 가격을 달리 지불할 수 있다.

3. 만기·중단 가능성·GPU 세대의 가격

GPU 용량 가격은 단순한 FLOPS 수량이 아니라 언제 쓸 수 있는지, 얼마 전에 통보해야 작업을 멈출 수 있는지, 어떤 칩과 네트워크를 쓰는지에 따라 달라진다.

3.1. 3~5년 계약과 여러 만기의 주문

1. 클러스터 금융과 시장 계약의 시간축

   1. 클러스터 투자 기간: 클러스터는 통상 3~5년에 걸쳐 금융이 이뤄진다.
   2. 선불 블록: 주문서에서 용량 블록을 사는 경우 현재는 해당 블록의 금액을 전액 선불로 요청한다.
   3. 장기 임대 계약: 더 긴 기간의 임대 계약에는 같은 방식으로 전액 선불을 요구하지 않는다.
   4. 현금흐름 설계: 계약 현금흐름과 금융 구조는 별도 설명과 설계가 필요한 문제로 남아 있다.

2. 한 시간 뒤부터 3년 뒤까지 주문할 수 있다

   1. 시간 범위: 고객은 바로 다음 시간 용량부터 최대 3년 뒤 용량까지, 그 사이 어느 시점이든 주문할 수 있다.
   2. 선도 곡선의 목표: SF Compute는 먼 미래 용량의 주문서에도 유동성을 확보해 컴퓨트 선도 곡선을 만들고 싶어 한다.
   3. 긴 만기의 중요성: 실시간 중단 거래와 미래 임대는 비슷한 시장에서 연결되지만 가격과 운영 조건이 서로 다르다.

3.2. 배치 추론과 실시간 추론의 중단 가격

1. 작업 특성에 따라 필요한 통보 시간이 달라진다

   1. 배치 추론: 중단 가능한 배치 작업은 한 시간 전에 통지하면 충분할 수 있으며, 경우에 따라 1~2분의 통보도 감당할 수 있다.
   2. 실시간 추론: 사용자 요청을 계속 처리해야 하는 실시간 서비스는 즉시 중단할 수 없다.
   3. 서비스 전환 기간: 실시간 추론 공급자는 대체 용량을 마련할 시간이 필요하므로 한 달, 두 달 또는 세 달 전에 중단 통보를 받아야 할 수 있다.

2. 중단권과 미래 용량은 별개의 가격을 만든다

   1. 임대 해지 시장: 지금 실행 중인 작업을 언제 끊을 수 있는지에 대한 주문은 사실상 임대 중단·해지 권리를 사고파는 시장이다.
   2. SLA 위험: 실시간 추론 고객은 서비스를 중단하면 최종 고객에게 약속한 서비스 수준 협약(SLA)을 위반할 수 있어 배치 작업보다 중단 비용이 크다.
   3. 전력시장 비유: 전력에는 하루 전 시장과 실시간 시장이 있듯 컴퓨트에도 앞으로 들어올 용량과 현재 사용 중인 용량에 서로 다른 가격 역학이 있다.

3.3. 만기별 가격 곡선과 B300 차익거래

1. 컴퓨트 선도 가격은 봉우리 형태를 보일 수 있다

   1. 임박한 재고 할인: 이미 시장에 나왔지만 아직 팔리지 않은 용량은 과거로 넘길 수 없으므로, 시간이 가까워질수록 가격을 낮춰 소진해야 한다.
   2. 우유의 유통기한 비유: 곧 만료되는 우유의 가격을 낮추듯 사용 시점이 다가온 미판매 컴퓨트도 할인될 수 있다.
   3. 곡선의 모양: 가까운 미판매 구간에서 가격이 떨어진 뒤 회복하고, 더 먼 미래에는 고객이 지금 쓸 수 있는 용량을 선호해 가격이 다시 낮아지는 봉우리 형태가 관찰된다.
   4. 출시 주기와 구분: 인터뷰 진행자는 NVIDIA 신제품 출시 주기 때문인지 물었고, 콘래드는 주로 만기가 다가온 미판매 용량을 소진하는 원리라고 설명했다.

2. B300의 추론 수익과 조달 가격 사이에 큰 차이가 있다

   1. 추론 매출: B300을 100% 가동해 추론 서비스에 쓰면 시간당 약 40달러를 벌 수 있다는 추정이 나왔다.
   2. 낮은 가동률의 경우: 가동률이 50%라면 시간당 약 25달러 수준으로 낮아진다.
   3. 용량 조달 가격: 같은 B300 컴퓨트는 현물시장에서 시간당 약 5~6달러에 살 수 있다고 언급됐다.
   4. 차익의 의미: 이 차이는 큰 차익 기회이며, 여러 제약을 가진 GPU 용량을 유연하게 활용하는 사업자는 수익을 얻을 수 있다.
   5. 미래 가격 기대: 공급이 앞으로 부족해질 것으로 보는 구매자는 현재의 낮은 가격으로 미래 용량을 미리 잠그기 위해 더 높은 금액을 낼 수도 있다.

3.4. GPU 세대와 고객 정의 SKU

1. GPU 세대는 서로 대체 가능한 단순 FLOPS가 아니다

   1. 세대별 수요: 고객은 B300 같은 GPU 세대, VRAM 용량, 더 큰 NVLink 도메인을 고려하므로 세대 차이를 실제로 중요하게 여긴다.
   2. 정제유 비유: 원유도 정제 과정을 거쳐야 여러 최종 제품이 되듯 GPU 용량은 이질성이 커 하나의 추상적인 컴퓨트 단위로 완전히 뭉개기 어렵다.
   3. 차원의 축소: 거래소의 역할은 조건을 줄여 비교를 쉽게 만드는 것이지만, 모든 차이를 없애는 것은 아니다.

2. 고객이 직접 주문 상품의 경계를 정할 수 있다

   1. 사용자 정의 SKU: SF Compute는 SKU를 고정 상품 목록이 아니라 고객이 직접 정의할 수 있는 개념으로 만들려 한다.
   2. 유연한 Blackwell 주문: 예를 들어 고객이 시간당 6달러 이하의 Blackwell을 원한다고 지정하면 조건에 맞는 GB300 또는 B300과 매칭할 수 있다.
   3. 세부 조건의 선택: 일부 고객은 Blackwell이면 충분하지만 다른 고객은 VRAM·상호연결·정확한 모델까지 지정하고 그만큼 더 높은 가격을 지불한다.
   4. API 기반 매칭: 고객은 API를 통해 원하는 조건을 프로그램으로 정의하고, 매칭 엔진은 여러 판매자 용량의 조합으로 주문을 이행할 수 있다.
   5. 신규 기능의 범위: 이름을 붙인 질의(named query)는 새로 도입 중인 기능이며, 조건 질의라는 개념 자체는 기존 주문서에 이미 반영돼 있다.

4. 중립 시장, 운영 스택, 프로그래머블 데이터센터

물리적 결제는 컴퓨트 거래의 신뢰 기반이며, 독립적인 운영자는 하드웨어와 클라우드의 이해상충을 피하면서 실제 공급을 조립해야 한다.

4.1. 현금 결제보다 실물 결제를 먼저 세워야 하는 이유

1. 실물 기반이 약하면 금융화가 기초 자산과 분리된다

   1. 세 해의 학습: SF Compute는 실물 결제가 왜 필요한지 알아내는 데 약 3년을 보냈다고 했다.
   2. 대체 가능성의 과대평가: GPU 컴퓨트는 생각보다 서로 대체 가능하지 않으며, 업계의 과제는 점차 대체 가능성을 높이는 것이다.
   3. 베이시스 위험: 현금 지수의 가격이 실제로 새 컴퓨트 용량을 구매할 수 있는 가격과 상관없어질 수 있다.
   4. 조작 가능성: 실제 거래가 적은 데이터에 기반한 지수는 조작되기 쉽고, 지수와 실물 가격의 차이가 커질 수 있다.

2. 파생상품은 실물 거래를 바탕으로 만들어야 한다

   1. 시장 규모의 괴리: 진행자는 CDS 시장이 보험 대상 채권 규모의 약 12배에 달할 수 있고, 주택담보대출 재보험 등에서도 기초 실물보다 큰 시장이 형성될 수 있다고 금융시장의 사례를 들었다.
   2. 빅 쇼트의 사이드 베팅: 현금 결제 파생상품은 기초 자산을 실제로 인도하지 않는 사이드 베팅이 될 수 있고, 기초 자산 가격과 무관하게 커질 위험이 있다.
   3. 미래의 현금 결제: SF Compute는 현금 결제 선물 자체를 부정하지 않으며, 실물 결제를 기반으로 파생되는 순서가 바람직하다고 본다.
   4. 존재하지 않는 자산의 거래: 아직 실제 주식이 아닌 OpenAI 주식의 가상 매매처럼, 실물이 생기기 전에 파생상품만 판매하면 기초와의 연결이 약해질 수 있다.
   5. LIBOR 조작 교훈: 소수 은행의 고정값에 의존하는 LIBOR는 조작된 전례가 있다. 컴퓨트 지수 역시 적은 데이터와 실제 신규 용량 가격의 낮은 상관성에 의존하면 같은 취약성을 가질 수 있다.

4.2. 시장 생태계와 이해상충

1. 시장 역할은 하나의 회사가 독점할 필요가 없다

   1. 현금 결제 사업자: Silicon Data와 Compute Exchange는 현금 결제 방식으로 접근하며, SF Compute는 물리적 결제에 집중한다.
   2. 공존 가능성: 두 방식은 서로 보완적으로 존재할 수 있고, 실물시장과 현금시장 양쪽이 모두 필요하다는 관점이다.
   3. 표준과 보험: SemiAnalysis 같은 분석 조직은 더 나은 표준을 만들 수 있으며, GPU 잔존가치 보험을 제공하려는 회사도 나타나고 있다.
   4. 금융 병목 해소: 클라우드의 신용위험을 대신 부담하거나 예치금·대출을 제공하는 사업자도 생기며, 시장에는 구매자·판매자·분석가·보험·대출이 필요하다.

2. 중립성은 거래 신뢰와 자금조달의 조건이다

   1. 하드웨어 소유 회피: SF Compute는 시장에서 거래되는 하드웨어를 소유하지 않는다. 직접 소유하면 선도시장의 가격을 조작할 수 있는 이해관계가 생긴다.
   2. 스위스식 중립성: 독립 거래소는 매수·매도 어느 한쪽을 크게 보유하지 않는 중립적인 위치를 유지해야 한다.
   3. NVIDIA의 이해관계: NVIDIA는 시장이 존재하면 큰 혜택을 얻지만, 직접 거래소를 운영하면 독립성을 인정받기 어려워 거래자가 유동성을 제공하지 않을 수 있다.
   4. 클라우드·추론 사업자: Crusoe, CoreWeave, Lambda 같은 클라우드와 Base10, Fireworks, Modal 같은 추론 사업자는 수요 측 사업을 이미 크게 보유하고 있어 중립 시장 운영과 충돌한다.
   5. 유동성과 금융비용: 신뢰할 만한 선도시장은 대출기관이 미래 컴퓨트 계약을 담보·기초로 삼게 해 업계의 금융비용을 낮출 수 있다.
   6. 사업 포기의 구조적 비용: 주요 사업자의 클라우드 계약과 추론 매출이 거래소 운영의 중립성을 해치므로, 완전한 시장 운영자가 되려면 수익성 높은 핵심 사업을 사실상 포기해야 한다.

4.3. 데이터센터를 실제 컴퓨트로 바꾸는 운영 스택

1. SF Compute는 클라우드 운영을 하되 장비를 소유하지 않는다

   1. 현장 실사: 데이터센터를 직접 방문해 조건을 확인한다.
   2. 부품과 공급망: 자재명세서(BOM)를 설계하고 여러 OEM과 협력해 장비가 제때 납품되도록 공급망 컨설팅을 한다.
   3. 클러스터 아키텍처: 구매자의 요구에 맞춰 GPU 클러스터의 구조를 설계한다.
   4. 랙 구축: 파트너와 랙을 설치하거나 파트너의 작업을 감독한다.
   5. 백플레인 관리: 전력분배장치(PDU), 스위치, DPU, UFM, BMC 등 베어메탈 주변의 장치를 운영해 노드가 작동하도록 만든다.
   6. 고객 가치의 역전: 전통적으로 데이터센터가 추상화해 주던 주변 운영을 SF Compute가 직접 맡아야 실물 결제와 SLA가 가능하다.

2. 전력·부지 보유자와 파트너십으로 클라우드를 만든다

   1. 기존 데이터센터 전환: 사업자는 특정 지역의 메가와트 용량이나 기존 데이터센터를 GPU 클러스터로 바꾸고 싶어 할 수 있다.
   2. 선택지 비교: 자산 보유자는 GPU 클러스터를 직접 팔거나, 데이터센터를 매각하거나, 스스로 클라우드 사업자가 될 수 있다.
   3. 역할 분담: SF Compute는 파트너를 클라우드로 전환시키고 자신은 슈퍼컴퓨팅 운영을 맡아 용량을 판매한다.
   4. 전력 부지 개발: 데이터센터가 아닌 전력 부지만 있는 경우 파트너와 프로젝트를 관리해 부지를 데이터센터로 만들고, 이후 슈퍼컴퓨팅 층을 운영한다.
   5. 건설 범위: 내부에 데이터센터 전문성을 두지만 건설 자체를 직접 수행하지 않고 전문 파트너와 협력한다.
   6. 새로운 현장별 과제: 장소마다 조건이 달라 반복 가능한 클라우드 제품과 현장별 프로젝트 관리가 결합되며, 이를 두고 '컴퓨트의 Palantir'라는 비유가 나왔다.

4.4. 주권 컴퓨트와 프로그래머블 패브릭

1. 지역별 클라우드 역량을 세운다

   1. 글로벌 운영: 미국 중심으로 운영하지만 다른 지역에도 클러스터를 배치한다.
   2. 주권 컴퓨트: 각국의 사업자가 자국에서 클라우드가 되도록 돕고, SF Compute가 클러스터 구성과 미국 시장의 오프테이크·전문성을 제공한다.
   3. 파트너 공개 시점: 대화 당시 구체적으로 공개할 수 있는 대형 파트너는 없었고, 1~2주 안에 발표할 수 있을 것으로 예상되는 협력이 언급됐다.

2. 인피니밴드 네트워크를 고객이 직접 재구성할 수 있다

   1. 기존 클라우드의 절차: 일부 클라우드는 고객에게 인피니밴드 패브릭 하나를 제공하지만, 구성을 다시 나누려면 운영자에게 연락해 작업을 요청해야 한다.
   2. 온더플라이 분할: SF Compute는 고객이 요청을 기다리지 않고 인피니밴드 패브릭을 즉시 세분화할 수 있도록 기능을 출시했다.
   3. 시장과의 연결: 고객이 클러스터를 키우거나 줄일 때 네트워크도 직접 다시 나눌 수 있어 주문서의 변동 용량과 맞물린다.
   4. 프로그래머블 데이터센터: 하드웨어를 직접 소유해야 가능했던 제어권을 가상화하고, 데이터센터 자체를 프로그램 가능한 자원으로 만든다.

4.5. 실적과 고객 제안

1. 시장 인프라의 초기 성과

   1. 거래량: SF Compute는 수억 달러 규모의 거래를 마쳤다고 밝혔다.
   2. 신규 공급: 상당한 수의 신규 클러스터가 추가될 예정이라고 했다.
   3. 플랫폼 확장: 플랫폼형 서비스(PaaS) 회사들이 사용하기 쉽게 여러 기능을 출시했고, 온더플라이 인피니밴드 분할이 구체적 사례다.

2. GPU 클러스터 보유자는 잔존가치와 SLA를 얻는다

   1. 고객 대상: GPU 클러스터를 소유하고 그 잔존가치를 포트폴리오에 남기고 싶은 사업자는 SF Compute와 협력할 수 있다.
   2. 운영 책임: 자산 소유자는 클러스터를 보유하고 SF Compute는 슈퍼컴퓨팅 운영과 서비스수준협약(SLA)을 책임진다.
   3. 출구 유동성: 클러스터가 나쁜 투자로 판명되거나 자산 보유자가 빠져나가야 하면 SF Compute가 다른 구매자에게 즉시 재판매해 대차대조표 부담을 줄이는 방안을 제안한다.

주요 발언 모음

“I will pay you to take my oil.” — 실물 인도망이 막히면 원유 가격이 마이너스가 될 수 있다는 설명.

“We have to be Switzerland.” — 시장 운영자가 매수자·매도자 어느 쪽에도 치우치지 않아야 한다는 원칙.

“We care more about longer outs because we’re trying to build a forwards curve that has a lot of liquidity on it.” — 장기 선도 용량의 유동성을 구축하려는 우선순위.

“You have to kill your business in order to make this.” — 대형 클라우드·추론 사업자는 중립 거래소를 운영하려면 핵심 사업의 이해관계를 포기해야 한다는 주장.

“We’re virtualizing the data center and making it programmable.” — 고객이 데이터센터 수준의 제어권을 소프트웨어로 얻는다는 목표.

핵심 데이터 & 수치

• 전체 용량의 약 5%: 당시 주문서에 올라와 거래되는 용량 비율.
• 100달러 중 평균 25달러 회수: 고객이 산 용량을 재판매해 회수하는 평균 금액으로, 고객 관점의 유동성 지표.
• 최대 약 40% 성능 저하: 가상머신의 GPU 커널 실행 지연으로 생길 수 있는 성능 차이 사례.
• 3~5년: 클러스터 금융이 진행되는 일반적인 기간.
• 1시간~3년: 주문 가능한 컴퓨트 용량의 시간 범위.
• 1~2분 또는 약 1시간: 배치 작업을 중단할 때 필요한 짧은 통보 사례.
• 1~3개월: 실시간 추론 작업이 대체 용량을 준비하기 위해 요구할 수 있는 중단 통보 기간.
• B300 시간당 약 40달러 / 25달러: 100% 또는 약 50% 가동률에서 추론으로 얻을 수 있는 시간당 매출 추정.
• B300 시간당 약 5~6달러: 언급된 현물 컴퓨트 조달 가격.
• 수억 달러: SF Compute가 마감한 거래 규모.
• 약 3년: 실물 결제가 필요한 이유를 학습하고 운영 역량을 갖추는 데 쓴 기간.

결론 및 시사점

1. GPU 컴퓨트의 금융시장은 가격 지수보다 실제로 작동하고 인도 가능한 공급부터 구축해야 한다.
2. 중단 허용, 저장장치, WAN, 펌웨어, GPU 세대 등 운영 조건을 계약과 주문서에서 숨기지 말고 거래 가능한 속성으로 표현해야 한다.
3. 상품의 비표준성은 당장은 스프레드와 유동성 분산을 낳지만, 조건이 다른 용량을 조합할 수 있는 구매자에게 차익거래 기회가 된다.
4. 현금 결제 파생상품은 실물 컴퓨트의 가격과 공급을 충분히 측정한 뒤 그 기반 위에 쌓아야 지수 조작과 베이시스 위험을 줄일 수 있다.
5. 중립 시장 운영자가 클라우드 운영과 실물 정산을 맡고, 하드웨어·데이터센터 소유자는 자산과 부지를 제공하는 역할 분담이 가능하다.
6. 데이터센터의 네트워크와 백플레인을 소프트웨어로 분할·재구성할 수 있게 되면 고정된 클러스터가 프로그램 가능한 시장 자원으로 바뀐다.

핵심 요약

GPU 컴퓨트 시장의 신뢰는 현금 지수보다 실제 클러스터에서 작동하는 용량을 인도하는 물리적 결제에서 시작된다.

SF Compute는 클러스터 재임대 사업에서 출발해 컴퓨트를 안정적으로 공급하는 클라우드 운영 역량까지 구축했다.

호텔 객실 판매가 청소·룸서비스·보안까지 맡는 호텔 운영으로 확장된 비유는 이 사업의 진화를 보여준다.

전력망이나 석유 파이프라인처럼 GPU 거래에도 실제 용량을 전달하고 복구할 수 있는 인프라가 필요하다.

2020년 유가가 마이너스가 된 사례는 실물 인도와 저장 제약이 금융 계약의 가격을 뒤집을 수 있음을 보여준다.

SF Compute는 전체 용량의 약 5%를 주문서에 올렸고 제한된 용량 안의 집중된 유동성부터 키우고 있다.

고객이 100달러에 산 용량을 평균 25달러에 되팔 수 있는지가 고객 중심 유동성의 지표다.

가상머신의 GPU 커널 실행 지연은 같은 클라우드 안에서도 성능을 최대 40%까지 낮출 수 있다.

기술 표준을 먼저 강제하는 대신 시간·하드웨어·운영 조건을 주문에 붙여 서로 다른 용량을 매칭한다.

조건별 매칭은 시장을 빠르게 열지만 유동성을 나누고 매수·매도 가격 차이를 키운다.

스토리지와 클러스터 간 WAN이 충분해야 선점된 배치 작업을 다른 위치에서 빠르게 복구할 수 있다.

초기 H100·GB200의 고장과 펌웨어 결함은 GPU의 모델명뿐 아니라 설치 시기도 가격에 영향을 주게 한다.

클러스터는 보통 3~5년간 금융되며 고객은 한 시간 뒤부터 최대 3년 뒤 용량까지 주문할 수 있다.

중단 가능한 배치 추론은 짧은 통보를 감당하지만 실시간 추론은 SLA 때문에 수개월의 전환 기간이 필요하다.

미판매 용량은 만기가 가까워지면 가격이 낮아지고 더 먼 미래의 용량과 함께 봉우리형 가격 곡선을 만들 수 있다.

B300 추론은 시간당 약 40달러를 벌 수 있는 반면 컴퓨트 조달은 시간당 약 5~6달러로 큰 차익이 생긴다.

GPU 세대와 VRAM·NVLink 차이는 고객마다 다르므로 사용자가 API로 원하는 SKU 조건을 정의할 수 있어야 한다.

실물 거래가 빈약한 현금 지수는 조작과 베이시스 위험에 노출되므로 파생상품은 물리적 결제 위에 세워야 한다.

하드웨어를 소유하지 않는 중립 거래소는 클라우드·추론 사업자의 이해상충을 피하고 선도시장 금융비용을 낮춘다.

SF Compute는 인피니밴드 패브릭을 온더플라이로 나누고 데이터센터를 고객이 프로그램으로 제어하는 자원으로 만들고 있다.