비디오 제목 : AI 토큰의 슈퍼 및 수요 | Dylan Patel Interview
비디오 로 Invest Like The 가장 좋은
Peggy Block Beats의 사진

편집자 압박: AI 모형 수용량에 있는 지속적인 도약의 배경에 대하여, Claude 부호와 Cursor와 같은 공구의 다량 접근 기업에, 기업 토론은 “강력한 모형”에서 “좋은 모형이 생산으로 가는 방법”로 교대합니다. 그러나 AI 프로그래밍, 자동화 된 분석 및 데이터 모델링이 새로운 합의로 떠오르는 경우, 하단 업 질문은 출현을 시작합니다. 구현 비용이 급속하게 밀어 낼 때, 인력, 자본 또는 국경 모델 및 토큰에 액세스 할 수 있습니까

패트릭 O'Shaughtnessy, Dylan Patel에 대한 권리

이 게시물은 Dylan Patel와의 대화에서 Patrick O'Shaughtnessy에 의해 조직되었다, SemiAnalysis의 설립자. Dylan은 AI 인프라, 반도체 공급 체인 및 모델 경제, AI가 기업 조직, 정보 서비스, 토큰 수요, 컴퓨팅 공급망 및 소셜 전송을 변경하는 방법을 논의하는 대화에 중점을두고 있습니다. 자체 회사 인 Claude Code ' s soaring 지출부터 시작합니다。

이 대화에 대한 가장 흥미로운 것은 모델이 다시 업데이트되고있다, 벤치 마크, 그러나 그것은 AI 경제를 이해하는 방법을 제공 - 구현 능력, 조직 효율성 및 산업 이익을 실현하는 생산 시스템으로 AI를 볼 수, 소프트웨어 도구의 업그레이드。

이 대화는 5개의 각에서 대략 이해될 수 있습니다。

첫째, 구현 비용은 부서집니다。과거에, 아이디어는 무서워하지 않았다, 그리고 실제로 어려운 것은 제품, 시스템 및 배달에 전환했다. 지금, 비 기술적인 직원이 코드를 쓰고, 그(것)들을 적용하고, 자료 분석을 할 수 있는 클로드 부호는, 몇몇 사용 모형으로 시작하는 장기 정비 팀이, 요구될 것입니다. Semianallysis에 있는 Claude 부호의 연례 expenditures는 7백만 달러를 도달했습니다, 그것의 급료 expenditure의 분기 보다는 더 많은 것, AI는 효율성의 공구가 아니라 기업을 위한 새로운 생산 자본으로 돌립니다。

둘째, 정보 서비스 산업은 첫 번째 rewritten이었다。Dylan의 사업은 본질적으로 AI에 의해 가장 쉽게 통용되는 지역인 분석, 자문 및 자료 세트의 판매입니다. 칩 역 분석, 에너지 그리드 모델링, macroeconomic 지표, 이는 과거에 장기적인 팀 입력을 필요로 할 수 있습니다, 지금 몇 주에 사용할 수있는 제품을 구축하기 위해 몇 가지에 의해 사용될 수 있습니다. 이것은 ISP에 AI의 압력이 "이 대체 될 것인가?" 그것은 "왜 더 빨리 다시 engage 할 수 있습니다." AI를 사용하지 않는 기업은 더 빠른 통일 될 것이며, AI를 사용하는 사람들은 다음보다 효율적인 경쟁사에 의해 대체되는 것을 방지하기 위해 지속적으로 기준을 제기해야합니다。

더 깊은 수준에서 토큰은 새로운 생산 자원이됩니다。과거에, 기업은 소프트웨어 가입을 구입했다, 그리고 중앙 문제는 도구가 잘 작동 여부이었다; 지금, front-line 모델에 액세스 권한, 제한, 기업 계약 및 토큰 예산은 직접 생산 능력을 결정하기 위해 시작되었다. Stronger 모델은 반드시 더 높은 비용을 의미하지 않습니다. smarter 토큰은 더 높은 가치 작업을 수행하는 데 몇 단계가 걸릴 수 있습니다. 실제 경쟁은 "who uses AI"에서 "who get the strongest model and uses the most expensive token in the high value 시나리오."로 이동합니다。

이 수요는 또한 공급 사슬을 통하여 수로를 계속할 것입니다。토큰 사용은 급진하고 결국 GPU, CPU, 메모리, FPGA, PCB, 구리, 반도체 장비 및 둥근 선반에 자본 지출에 일정한 압력이되었습니다. 이것은 "cow whip effect": 다운스트림에 대한 참조 뒤에 논리입니다, 그것은 단지 호출에 대한 수요가 증가 한 모델이지만, 주문으로 전송 된 업스트림, 제품 확장 및 가격 증가 멀티플린. AI '산업의 이익 분배는 따라서 모델 회사와 NVIDIA에 제한되지 않고 반도체 및 데이터 센터 공급망을 따라 유출을 계속합니다。

그리고 마지막으로, AI의 사회적 반란은 일찍 올 수 있었다。AI가 작업 흐름을 입력함에 따라 데이터 센터 및 전력의 농도가 동시에 상승 할 수 있습니다. Dylan은 3 개월 이내에 AI에 대한 거대한 protest를 예측했습니다. 모델 회사에서는 "AI가 세상을 바꿀 것"이 반드시 불안을 완화하지 못하지만, 오히려 통제를 잃는 일반 사람들의 상상력을 강화 할 수있다. AI 산업은 그 기술 능력뿐만 아니라 콘크리트를 만들고 현재의 공공 가치를 인식하는 방법을 증명해야합니다。

오늘 AI의 핵심 문제는 "what model can do"에서 "who can access model, 어떻게 사용할 수 있으며, 누가 모델에 의해 생성 된 값을 캡처 할 수 있습니다." 이 의미에서이 토론의 주제는 Claude Code, Anthropic 또는 AI 회사뿐만 아니라 생산성, 자본 지출, 조직 효율성 및 사회적 수용에 대한 구조적 주문이 아닙니다。

다음은 원본 텍스트입니다 (읽기 및 이해를 촉진하기 위해, 원본 텍스트는 통합되었습니다):

TL; DR

• AI의 핵심 변수는 "CAN 또는 NOT"에서 "VALUE는 할 가치가 없습니다"로 이동하고 구현 비용의 실제 무서운은 모델로 확장 할 수있는 높은 가치 아이디어입니다。

Claude Code는 25 %의 급여 비용을 지출하여 AI는 소프트웨어 도구에서 새로운 기업 생산 자본으로 이동합니다。

• 정면 선 모형을 위한 경쟁은 수용량을 위한 경쟁이 더 길지 않습니다, 그러나 토큰권을 위한 경쟁; 새로운 사업 장벽은 가장 강한 모형을 더 꾸준히 얻을 수 있는 그들에 의해 창조될지도 모릅니다。

• 정보 서비스 산업은 데이터, 분석 및 연구에 대한 생산 비용으로 AI에 의해 첫 번째 재평가 될 것입니다 신속하고 느린 회사는 더 빨리 요약 될 것입니다。

• 토큰 수요는 이전 모델의 가격 감소 때문에 느려지지 않습니다. 각 강력한 모델은 새로운 높은 가치 예제를 출시하고 사용자가 더 비싼 전달 모델로 밀어줍니다。

• AI에 대해 가져가는 가장 큰 변화는 사람들이 덜 일할 수 없지만 여러 번 동일한 사람들을 허용 할 수 있습니다. 토큰의 가치를 생성하고 캡처 할 수없는 사람들은 "퍼맨트 바닥"에 잠글 것입니다。

계산기 부족은 GPU, CPU, 메모리에서 PCB, 구리 밀 및 장비 제조업체에 이르기까지 반도체 공급망 전반에 걸쳐 확산되고 AI 수요는 전체 산업 체인의 가격 푸시가되었습니다。

실제 문제는 모델 회사의 수익이 얼마나 많은 돈이 아니라 "ghost GDP"는 토큰의 결정, 효율성 및 체인 효과에 의해 생성됩니다。

다른 Organiser

Claude Code는 새로운 노동력이 되었습니다

패트릭 O'Shaughtnessy (모더레이터):
올해는 팀의 엄청난 변화를 가져 왔습니다. 당신은 그것을 반복 할 수 있습니까? 이 세상에서 무슨 일이 일어나는지 이해할 수 있습니까

Dylan Patel (SemiAnalysis 설립자) :
작년, 우리는 우리가 AI 무거운 사용자이었다 생각. ChatGPT를 사용하는 모든 사람, Claude를 사용하는 모든 사람, 나는 그들이 원하는 팀의 모든 구독을 제공하고있다. 그 시간에, 회사는 수천 달러의 약 10을 보냈습니다。

그러나 올해, expenditures는 soar로 시작. 실제 시작점은 아마 지난 12 월, Opus의 외관. 이에는 Doug, CEO Douglas Lawler가 포함되어 있습니다. 그는 기본적으로 AI로 코드를 작성하기 위해 비 기술자를 밀어주는 리드를 가지고 있습니다. 그는 작은 비트에 전체 회사를 가져. 물론, 엔지니어는 사용 중이었지만 올해 1 월에서 우리의 지출은 명확하게 올라가고, 그 후 빠른 타격。

우리는 나중에 Anthropic과 엔터프라이즈 계약을 체결했습니다. 지난 시간 나는 당신에게 이야기했다, 우리의 연례 지출은 약이었다 $5 백만; 그것은 지금이다 $7 백만。

패트릭 O'Shaughtnessy:
그리고 그 마지막 주 그림입니다。

Dylan 파텔:
그래, 그 중 많은 사용 자체. 정말 흥미로운 점은 Claude Code를 사용 하기 전에 코드를 작성 하지 않은 사람들이, 어떤 사람들은 하루 수천 달러를 소비. 그러나 법인 용어에서, 우리는 Claude 코드에 연간 $ 7 백만을 지출하고, 우리의 급여는 약 $ 25 백만입니다. 즉, Claude Code는 급여 지출의 25 퍼센트 이상을 보냈다。

이 추세가 계속되면 연간 총 급여의 100 %를 초과 할 수 있습니다. 그것은 조금 무서워. 다행히, 나는 "사람"과 "AI" 사이에 선택 할 필요가 없습니다, 회사는 빠르게 성장하기 때문에. 더 좋아: 나는 사람들을 고용할 필요가 없습니다 그래서 빨리, 그러나 나는 AI에 더 많은 돈을 쓸 수 있고, 일하고, 회사는 빨리 성장할 수 있습니다。

그러나 나는 더 빨리 또는 다른 회사가 문제를 직면하기 시작할 것이라고 생각합니다 : 한 사람이 5, 10, 또는 Claude 코드와 15 작업을 수행 할 수 있다면, 다음 일이 발생합니까? 첫째, 실제로 downsizing에 대한 필요가있을 수 있습니다. 그리고 둘째, 지금은 매우 넓은 범위의 이러한 용도가 있습니다。

예를 들어, 우리는 오레곤에서 역 엔지니어링 실험실을 가지고 있으며, 1 년 반 동안 건설되었습니다. 현미경, 스캐닝 전자 현미경과 같은 상한 장치의 많음이 있습니다. 실험실의 핵심 용도는 역 분석 칩, 칩 구조의 추출 및 제조에 사용되는 재료 분석입니다. 이들은 또한 우리가 판매 한 데이터 중 하나입니다。

그러나 이러한 데이터의 분석은 과거에 매우 느린 과정이었습니다. 지금, Claude 토큰에서 수천 달러를 차지하는 우리 팀의 한 남자가 있으며 그 응용 프로그램입니다. 이 응용 프로그램은 GPU를 가속화하고 CoreWeave의 서버에서 실행할 수 있습니다. 우리가 할 일은 이미지에 각 물자의 위치를 자동적으로 지적하는 칩 그림을 보냅니다: 여기 구리, 여기 탄탈륨, 여기 백금, 여기 코발트입니다. 그런 다음 전체 칩 스택 구조의 제한된 메타 분석을 매우 빠르게 수행 할 수 있으며 전체 그래픽 인터페이스 및 대시보드와 함께 시각화됩니다。

인텔에서 일한이 남자는, 과거에 그것은 완전한 팀이되고 유지되었다고 말했다. 회사에서 그처럼 무언가를 넣는 것은 믿을 수 없습니다。

특히 흥미로운 또 다른 예는 Malcolm입니다. 그는 큰 은행에서 경제학자였다. 그 은행의 경제 부서는 100 ~ 200 명입니다. 그는 지금 놀랄만한 무언가를 만들고 있습니다。

그는 다른 API에서 FRED 데이터, 고용 보고서 및 기타 데이터 세트를 포함한 데이터를 가져 왔습니다. 우리는 또한 일부 데이터 제공 업체와 계약을 체결하고 API 액세스를 얻었습니다. 그는 그런 다음 모든 데이터를 끌어 놓았고 다시 실행하고 경제의 인플레이션 또는 방어에 다른 경제 변화의 영향을 분석했습니다。

미국 노동 통계국은 약 2,000개의 과제를 가진 직무 분류의 집합이 있습니다. Malcolm은 AI를 사용하여 작업이 AI에 의해 수행 될 수 있음을 평가합니다. 결과는 AI가 수행 할 수있는 작업의 3 %에 대해 보여줍니다。

그래서 그는 AI에 의해 수행 할 수있는 방법을 측정하는 지표를 만들었습니다. 산출은 상승할지도 모릅니다, 그러나 비용이 너무 많기 때문에, 이론적인 GDP에서 계약할지도 모릅니다. 그는 "Phantom GDP"라고합니다。

그는이 개념을 기반으로 한 분석의 전체 세트를 만들고 완전히 새로운 언어 모델, 벤치 마크를 만들었습니다. 약 2,000 evals가 포함되어 있습니다。

패트릭 O'Shaughtnessy:
그는 자신에 의해 모든 것을 했습니까

Dylan 파텔:
그래, 그는 자신에 의해 모든 것을했다. 그는 나에게 말했다, "Brother, 그것은 생태의 200 명 팀이 1 년을 수행했다." 그는 Claude에서 완전히, 모든 것을 변경합니다。

패트릭 O'Shaughtnessy:
비즈니스 운영자로서, 어떻게이 이해합니까? 당신은 거의 아무것도 지출에서 사라졌다, 이제 그것은 급여 지출의 25 %에 가까운, 그리고 여전히 상승이다. 어떤 시점에서, "왜, 나는 브레이크에 단계해야합니까? 비용을 제어해야 합니까? 어쩌면 우리는 항상 Opus 4.7와 같은 오늘 밖으로 온 front-line 모델을 사용해야하지만, 대신 우리는 더 싼 모델로 전환 할 수 있습니까

Dylan 파텔:
모든 후, 정보 사업에 있습니다. 우리는 분석, 우리는 상담, 우리는 데이터 세트를 만듭니다. 나는 왜 이러한 것들이 매우 빠른 속도로 완전히 상용되지 않는 이유를 볼 수 없습니다。

내가 계속하지 않는 경우, 내가 먼저 판매 한 첫 번째 데이터 제품, 더 많은 사람들이 지금 비슷한 일을하고 있습니다. 우리는 아직도 그것을 더 좋게 하기 때문에 그것을 판매해서 좋습니다. 그러나 우리가 2023 년에 그것을 했는 방법, 정말 같은 방법 사람들이 지금하고 있지 않습니다. 나는 기준을 올리지 않는 경우, 나는 통일됩니다. 나는 충분히 빨리 이동하지 않는 경우에, 나는 나의 이점을 잃을 것입니다。

그래서 문제는, 예, AI는 상업화 소프트웨어처럼 많은 것을 상업화합니다. 그러나 고객 관계를 마스터하기 위해 충분히 빠르게 움직이는 사람들은 우수한 서비스를 제공하기 위해 계속하고 지속적으로 그들의 서비스를 개선하는 것은 수축하지 않을 것입니다, 그러나 빨리 성장할 것입니다. 불완전한 사람들은 아무것도 잃게됩니다。

그래서 그것은 생존 문제 같은 종류의: 나는 AI를 사용하지 않는 경우, 다른 사람은, 그리고 그들은 나를 이길 것이다。

또 다른 간단한 예는 에너지 분야입니다. 우리는 에너지 모델을 구축하려고 지난해 몇 가지 에너지 분석가가가 있었다. 모델은 매우 복잡하며 에너지 데이터 서비스 시장은 크기로 약 900 만 달러이므로 입력하고 싶습니다. 그러나 우리 팀의 일부가 1 년 동안 일하고 있다는 사실에도 불구하고, 우리는 에너지 데이터 서비스 사업에서 정말 아니에요。

그런 다음 Claude Code의 정신. 우리는 데이터 센터, Jeremy에 에너지 및 산업을 담당하는 사람이 있습니다. Claude Code를 사용하기 시작한 후 갑자기 바뀌었습니다. 3 주 동안, 그는 많은 돈을 보냈다, 약 $600,000 하루, 그리고 그것은 진짜 배설이다. 그러나, 그는 미국의 모든 발전소를 캡처, 특정 전압 수준 위의 모든 전송 라인, 다양한 개방 데이터 소스에서 전체 미국 그리드의지도를 생성, 수많은 수요 측 데이터 액세스。

우리는 우리가 볼 수 있는 대쉬보드로 만들고 분석 힘 부족 및 미국의 각종 microregions에 있는 surpluses, 뿐 아니라 많은 세부사항을 분석하. 몇 주 안에 있습니다。

우리는 이미 에너지 상인을 포함하여 우리의 dataset를, 구매한 많은 고객에 그것을 보여주었습니다. 그것을 읽은 후, 그들은 말했다, "Wow, 얼마나 오래가는거야?" 그것은 좋은, 회사보다 더 나은." 그리고 우리는 그 회사에서 100 명이 10 년 동안 이것을하고 있었다는 것을 알고있다。

물론, 우리의 제품은 완전하고 견고하지 않습니다, 그러나 그들이 더 나은 일부 존경에. 그래서 이제 나는이 에너지 데이터 서비스를 약속합니다. 그러나 차례로, 내가 빨리 실행하지 않는 경우, 누가 나를 상업화하려고

그래서, 사업 관점에서, 질문은 아닙니다, "나는 많은 돈을 소비?" 그래, 나는 많은 돈을 소비했다. 그러나 질문은, 어떻게이 돈에서 얻을? 더 많은 수입을 얻었습니까? 대답이 예라면 돈이 가치가 있습니다。

패트릭 O'Shaughtnessy:

당신은 그, 끝에서, 자본을 통제하고 투자에 책임있는 사람들, 당신이 무슨 일 때문에 고용, "우리가 자신을 분석하고, 스마트합니다. 왜 우리는 단지 우리자신을하지? 그렇게 쉽게되면, 어떤 시점에서 투자 기관에 다시 모든 흐름? 결국, 그들은이 데이터와 통찰력에서 최대 레버리지를 얻을 가능성이 높습니다。

Dylan 파텔:
첫째로, 어떤 정보 서비스 사업은 근본적으로 동일하: 나는 메시지에서 가치를 얻고, 명백하게 클라이언트는 그 정보에서 가치를 얻었습니다。

나는 달러에 대한 정보를 판매하는 경우, 당신이 그것을 알고 있기 때문에 그것을 지출하는 것은 당신이 달러보다 더 많은 것을 얻을 수있는 결정을 내릴 수 있습니다. 즉, 당신은 arbitrage를 얻을. 이 정보를 판매하는 것보다 더 많은 돈을 벌었습니다。

투자 자금은 확실히 자신의 정보 서비스 용량을 가지고. 특히 Jane Street 및 Citadel과 같은 대행사를 위해 데이터 측면에서 매우 세부적이고 깊이 있습니다. 그러나 그들은 여전히 우리의 데이터를 구입하고, 그들은 우리가 성장하고있는 협력을 계속합니다。

나는 "그것은 요소"의 일부 종류가 있다고 생각합니다. 우리는 더 빠른 이동, 더 유연한, 더 작은 팀, 그리고 매우 특정 지역에 초점: AI 인프라, 그리고 엄청난 변화는 AI를 포함하여, 토큰 경제 및 관련된 것들의 세트를 가져옵니다. 우리는 이전 방향을 볼 수 있으며 더 빠르게 일을 구축 할 수 있습니다。

그래서, 물론, 투자 전문가는 자신을 위해 무언가를하려고합니다. 그러나 더 자주, 그들은 우리의 데이터를 직접 구입, 그리고 그 위에 구축. 그(것)들을 위해, 우리의 자료는 찰상에서 그것을 건축하기 보다는 보통 더 싼입니다. 그리고, 물론, 결국 누군가가 스스로하려고합니다。

토큰은 새로운 생산 자원이되었습니다

패트릭 O'Shaughtnessy:
나는 당신에게 이야기 할 때마다 생각, 나는 같은 질문을 끝 : 토큰의 공급 및 수요. 그게 내가 가장 많이 관심을 가지고 있습니다. 당신의 자신의 경험은 당신에게 수요 측의 새로운 이해를 줍니다? 토큰의 필요에 대한 판단을 변경 했습니까

Dylan 파텔:
우리가 다시 단계면,보기의 매크로 포인트에서, Anthropic의 ARR은 $ 9 억에서 약 $ 35 억, $ 40 억 성장할 수 있습니다. 이 쇼에 의해 대기, 그것은에 도달 할 수 있습니다 40 억 받는 사람 45 억 달러。

그러나 그들은 같은 정도로 자랐다. 당신이 계산하고, 그들이 R & D 알고리즘을 감소하지 않은 가정 - 명백하게, 그들은 Metis와 같은 새로운 모델을 게시하기 때문에, Opus 4, Opus 4.7 - 그 다음 것들: 그들의 추가 계산, 그들 모두 이유에 갈 경우, 그들의 마오리 비율보다 약 72 퍼센트。

현실에서 추가 계산의 일부는 R & D에있을 가능성이 있으므로 실제 Māori 비율은 72 퍼센트보다 높을 수 있습니다. 당신이 알고, 올해의 시작에, 누군가는 자신의 금융 문서에 정보를 유출, 그리고 약 30 %。

사업이 짧은 시간에 Māori율을 올릴 수 있습니까? 원칙적으로 수요가 너무 높기 때문입니다. 그들은 사용 수준, 속도 제한 및 제한을 강화할 수 있습니다. 실제로 중요한 것은 당신이 Anthropic 고객 관리자, 기업 계약, 그리고 당신이 필요로 하는 촉진을 얻는다는 것입니다. 그렇지 않으면, 토큰은 결국 매우 공격적입니다。

누가 그것을 얻을 수 있습니다. Anthropic은 같은 문제를 직면하고 있습니다. — 물론, 그것은 문제가 아니지만 자본주의가 어떻게 작동하는지 현실입니다. 예, 고객은 토큰에 대해 연간 40 억 달러를 지불 할 수 있지만이 토큰은 고객에 의해 생성 된 가치에 40 억 달러가 넘습니다。

다른 기업에 의해 창조된 각 토큰의 가치는 다릅니다. 그러나 모델은 더 지능적, 실제로 중요 한 것은 누가 가장 지능적인 토큰에 얻고 가장 귀중한 것들에 대 한 그들을 사용。

이 토큰을 사용하여 비즈니스를 성장하고 가치를 창출하는 방법을 결정해야 합니다. 많은 사람들이 토큰을 원하고 토큰을 소비 할 것입니다. 하지만 일반 SaaS start-ups는 Claude와 샌프란시스코에서 소프트웨어를 생산하는 것은 정말 많은 돈을 벌 수 없습니다. 그래서 더 빨리 또는 나중에, 그들은 토큰 가격에서 짜낼 것입니다。

패트릭 O'Shaughtnessy:
그건 내가 오늘 만났는거야. 게시되면 Opus 4.7, 나는 4.7을 사용하고 즉시 사용하고 싶어. 그리고 그 후 나는 잘라. 그것을 사용할 수 없습니다. 나는 계속 4.6를 사용하도록 상상할 수 없습니다, 나는 과거 몇 주 동안 4.6에 만족했지만, 그것은 이미 강한。

사람들이 가장 비싸고 앞으로 모델을 사용하도록 결정되었습니까

Dylan 파텔:
이름 * 지난 달에 있었던 가장 재미있는 기억 중 하나이며 반은 내 친구 레오폴드와 무릎에 있었고, Anthropic의 공동 창업자 앞에서 거의 우리 Metis 액세스를 제공하도록 요청했습니다。

우리는 그것이 존재한다는 것을 알고, 그래서 우리는 말했다, "우리가 그것을 사용하자." 그때 그는 말했다, "나는 당신이 말하는 것을 모른다."

패트릭 O'Shaughtnessy:
그 가격표 또는 eval 카드가 나올 때 어떻게 반응 했습니까

Dylan 파텔:
베이 존 앞에 소문이 있었고, 우리는 아마 아주 강한 것을 알고있다. 벤치 마크를 보면 코스 벤치 마크가 변경되지만 Mephisto / Metis는 지난 2 년 동안 모델 용량에서 가장 큰 도약입니다。

나는 그것이 매우 중요하다고 생각합니다 : Anthropic이 완전하게 출판 할 필요가 없다는 것을 충분히 강합니다. 그들은 이미 일부 클라이언트에 가격을 게시했지만, 그들은 또한 선택적으로 게시되었습니다, 예를 들어, 보안 관련 설정을 위해. 그것은 아마 5 또는 10 배 토큰의 비용이지만, 그들은 여전히 실제 세계에 미치는 영향에 대해 걱정하기 때문에 완전히 출시 될 필요가 없습니다。

그래서 우리는 지금 Opus 4.7의 더 악하고 약한 버전입니다. 그들은 우리가 실제로 사이버 보안 기능의 더 나쁜 사전 최적화를 만드는 Kari 모델에 분명했다. 나는 당신이 그 부분을 읽으면 모른다。

그래서 내가 말하는 것은, 누구든지 당신이 충분한 자본을 가지고 있기 때문에, 당신은 인류 사업 가입을 사고해야한다, 토큰을 누르고 일반 구독을 사용하는 대신 지불. 그 이후로 쉽게 자신감이 없습니다。

그리고 당신은 상위 가치 임무에 이러한 토큰을 사용하는 방법에 대해 생각하고 그들로부터 돈을 벌. 기본적으로, 1 년 또는 2에서, 많은 사업은 근본적으로 토큰 arbitrage입니다. 토큰은 강하지만, 포인트는 그 자리에 있습니다。

다음 3 또는 4 년 동안 모델 자체는 토큰이 어떻게 사용해야하는지 알 수 있으며 가치를 극대화하는 방법을 알 수 있습니다。

벤치 마크를 다시 보면, 과거의 특정 수준에 도달하는 비용이 X이고, 이제는 단지 1 %, 심지어 1 천일 수 있습니다. 예를 들어 DeepSeek가 GPT-4 레벨 용량에 도달하면 GPT-4의 약 1 %의 비용이 발생합니다. 그 이후로 GPT-4 모델의 비용은 계속 감소했습니다。

물론, 아무도 정말 GPT-4 모델에 대해 걱정. 당신이 원하는 것은 프론트 라인 모델입니다, 그것은 진정으로 경제 무언가를 만듭니다. 그러나 GPT-4 모델은 여전히 일부 장면에 사용할 수 있지만 일반적으로 더 작습니다。

그래서 정말 운전 수요는 오래된 능력이 더 저렴하지 않다, 하지만 새로운 예는 신흥. 이제 Opus 4.6 또는 Opus 4.7 레벨 모델을 사용하고 있습니다. 1 년 후, 오늘 모델링 용량의 동일한 품질을 취득하는 경우, 나는 $70,000, 어쩌면 100 배 덜 지출 할 수 있습니다。

그러나 그것은 중요하지 않습니다. 그런 다음 더 큰 모델을 사용할 수 있습니다。

Anthropic의 Metis는 모델 자체로 더 비싸지 만 동일한 일을 끝내기 위해 훨씬 적은 토큰을 소비합니다. 그래서 대부분의 임무에서, 그것은 실제로 Opus 4.6보다 저렴합니다。

Dylan 파텔:
훨씬 더 효율적입니다. 모든 토큰 자체가 더 많은 "스마트"그리고 더 비싼 경우에도 작업을 수행하는 데 몇 가지 토큰이 필요합니다。

패트릭 O'Shaughtnessy:
내가 본 마지막 시간, Metis는 그냥 출시 될 수있다, 또는 모델 카드는 그냥 나왔다. 당신은 조금 스카프에 충분히 강한 말했다. 당신은 무엇을 의미합니까

Dylan 파텔:
2025 년 Anthropic의 목표는 2024 년 말까지 모델의 L4 레벨 소프트웨어 엔지니어가 2025 년 말까지 있습니다. 전반적인, 그들은 기본적으로 Opus 4.6와 함께했다。

그러나 그들은 당신이 벤치 마크에 비해 Metis에서 보면 말하지 않았다, 그것은 L6 엔지니어와 더 많은했다. L4는 아마 상대적으로 주니어 소프트웨어 엔지니어이고, L6는 이미 경험있는 엔지니어입니다。

나는 Anthropic이이 모델이 2 월 이후 내부에서 사용할 수 있다고 말 기억한다. 그래서 2 개월, 그들은 L4에서 L6로 점프. 그럼 다음 일이 있었습니까

그리고 당신이 모델의 진화에 대해 생각할 때, 당신은 실제로 가속. Anthropic의 릴리스 리듬은 압축되고, OpenAI의 릴리스 리듬은 압축됩니다. 왜? 일반적으로, 더 나은 모델을 만들기 위해, 당신은 몇 가지가 필요합니다。

우선, 당신은 강한 인물이 필요합니다. 계산은 매우 비싸고 자신의 시간표가 있습니다. 우리는 실제로 성장하고 있는 이 일을 추적할 것입니다, 그러나 단기에서 크게 설치됩니다. 수학에 서명했습니다. 그것은 꽤 많이 정착. 물론, 중간에 지연 및 조정이있을 것입니다, 그리고 더 많은 수 있습니다, 하지만 전체 고정。

둘째로, 당신은 아주 좋은 연구원을 필요로 합니다. 회사는 지금 이 사람들을 위해 수백만 달러의 10을 지불 할 것입니다。

마지막으로, 수용량은 달성됩니다. 역사적으로, 이것은 매우 어렵다. 나는 아이디어를 가지고 있다면, 나는 그것이 일어나고, 그것은 어렵다. 그러나 이제는 아이디어가 어디에 있습니까, 그것은 매우 쉽게 달성됩니다. 그것은 비싸지 만 매우 쉽습니다。

그래서 질문은: 사람이 달성하는 아이디어를 결정하는 방법? 결과적으로 너무 쉽게되면 더 많은 아이디어를 달성하고이 러닝 머신에서 더 빨리 실행할 수 있습니다。

이것은 AI 모형 학문에서 일어날 수 있습니다, 그래서 모형 방출의 빈도는 6 달에서 2 달에 감소되었습니다. 다른 지역에서도 발생할 수 있습니다. 예를 들어, 나는 미국의 모든 발전소를 모델링하고 싶습니다, 모든 전송 라인, 다시 실행, MICROREGIONS의 공급 주문 관계를 분석 - 나는 지금 할 수 있습니다。

아이디어 자체는 저렴합니다. 이 점은, 어떤 아이디어는 감각을 만든다? 어떤 아이디어는 토큰을 구입하고 그것을 얻을 수있는 자본 가치가 있습니까? 달성 할 수있는 능력이 이미 있습니다. 이것은 가장 중요한 변화입니다。

비용이 계속 감소하는 경우 — 그리고 그것은 — 우리는 심지어 정말 Metis를 얻지 않았다. Opus 4.7은 불과 몇 시간 전에 출시되었지만 우리는 팀 내부에 매우 흥분했습니다。

이 세상에 무슨 일이? 나는 경제가 작동하는 방법을 재주문 할 것이라고 생각합니다。

과거에, 구현은 어렵기 때문에 매우 중요합니다. 아이디어는 싸웠습니다. 지금, 아이디어는 싸지 않습니다, 그들은 충분합니다, 그러나 실시는 또한 아주 쉽습니다. 그래서, 정말 가치가있는 것은 좋은 아이디어가 있다는 것입니다 ... 그들은 이미 매우 저렴하더라도 돈을 가치가 있다는 것을 증명할 수 있습니다。

패트릭 O'Shaughtnessy:
그래서 당신은 정말 무서워? 또는 단순히 파악하기 어려운 uncertainty를 소개합니까

Dylan 파텔:
확실한 존재. 그러나 나는 그것이 두려움의 일부 종류와 함께 가져온 느낌. 질문은, 어떻게 사회가 스스로 재구성 할 수 있습니까

"그것을 할 수있는 능력"이 중요하지 않는 세상에서 살 때 중요한 것은 무엇입니까? 중요한 것은, 당신이 AI를 위한 적당한 아이디어를 그것을 일어나기 위하여 선택할 수 있습니다; 당신이 그것을 판매할 수 있습니다, 또는 당신은 AI가 깨닫는 무슨을 판매할 수 있습니다; 이 방향을 위한 자본을 올릴 수 있습니까? 그게 중요한 일입니다。

그리고 그 앞에 질문을 다시 간다: 그것은 영원히 최신 모델이 중요. 누가 최신 모델을 얻을 수 있습니까

Anthropic은 프로젝트를 가지고 있으며, Earwig라고 불리는 것을 알고 있지만 Anthropic 사람들과 싸우는 목적으로 Earwig를 호출하고 싶습니다. 그들은 사이버 보안에 대한 특정 회사에 Metis 만 제공합니다. 나는이 일이 일어나고 있다고 생각합니다 : 모델은 더 좁고 접근 할 수 있습니다。

참고 : Earwig는 vermin, 작은 곤충이되고, 종종 중국의 earplug이라고합니다. 그것은 charade와 같은 더 많은 것: 한 손으로, 그것은 다른 한편으로 버그의 일부 종류와 같은 소리, 거기의 연결은 " 귀로 움직여"와 "사람을 개선."。

나는 OpenAI, Anthropic 및 기타 회사가 강력한 AI를 가지고 싶어한다고 말했습니다. 그러나 AI는 매우 비쌉니다. 누가 인프라에서 달러의 조 달러를 지불합니까? 돈이있는 사람들은 AI와 유용한 일을 구축 할 수 있습니다。

그리고 당신은 당신의 모형을 증류하기 위하여 누군가를 원하지 않습니다, 그래서 당신은 넓은 가늠자에 그것을 간행하지 않습니다. 당신은 더 적은 클라이언트에게 줄 것입니다. 그런 다음이 고객은 토큰에 대한 싸움을 시작합니다。

Unless Anthropic은 엄청난 가격 인상을 주었습니다. 그들은 Opus의 가격을 두 배로 할 수 있고, 나는 지불을 지킬 것입니다. 나는 대부분의 사용자가 계속 지불 할 것입니다. 그러나 나는 심지어 큰 용량 문제를 해결할 것이라고 생각합니다。

그래서 문제는: 이 주기 끝은 어디에 있습니까? 토큰 사용량과 이러한 토큰의 부가가치가 높을 때 어떤 일이 발생합니까

지금 Metis가 없습니다. 그러나 누가? 은행이 있습니다. 이제 그들은 아마 단지 사이버 보안에서 그것을 사용하지만, 나는 세계를 상상할 수 있습니다 : 나는 Anthropic에 대한 비즈니스 계약을 가지고 있기 때문에, Anthropic 사람들이 나를 좋아하기 때문에, 그들은 우리에게 조금 일찍 액세스하거나 작은 더 높은 비율 제한을 줄 것이다. 나는 확실히 그 일을 희망한다。

그리고 내 경쟁자는 이러한 액세스를 가지고 있지 않으며, 나는 그들을 이길 수 있습니다。

다른 경우가 있습니다. 예를 들어, Citadel에서 Ken Griffin은 매우 강한 펄스를 가지고 있으며 매우 부유합니다. 그는 OpenAI 또는 Anthropic과 계약을 체결 할 수 있습니다, 말하기, "나는 10 억 년 토큰을 먼저 구입. 새 모델을 게시 할 때마다 상위 10 억 토큰을 구입 한 다음 다른 사람

그런 다음? 그는 시장에서 모든 것을 분쇄 할 수 있습니다。

이것은 단지 하나의 예입니다. 또한 사이버 보안 영역에서 발생할 수 있습니다. Anthropic의 관심과 같은 모델이 시스템에 쉽게 해킹 할 수 있습니다. 그것은 저에게 같은 정보 서비스에서 일어난 수 있고, 나는 사람들을 분쇄하기 위하여 그것을 사용했습니다。

나는이 문제가 매우 넓은 범위의 충격을 가지고 있다고 믿는다. 우리는이 모델이 할 수있는 것을 모른다. Anthropic은 알 수 없습니다, OpenAI는 알 수 없습니다, 아무도 모른다. 궁극적으로, 그것은 최종 사용자를 찾을 수 있습니다: 어디 이러한 토큰을 사용할 수 있습니까? 그들은 무엇을 짓을 수 있습니까? 당신은 무엇을 상상할 수 있습니까

이 과정은 크게 생산성을 증가시키고 인류에게 매우 긍정적 인 측면을 가질 것입니다. 그러나 질문은, 자원 및 액세스가 집중 될 수있는 방법은 무엇입니까

로봇은 수요의 다음 파에 걸릴 것입니다

패트릭 O'Shaughtnessy:
지금, 로봇, 로봇, 토큰을 소비, 다른 분야에 비해 거의 negligible. 당신은 무엇을 생각합니까? 두 번째 수요 곡선이 될 것인가? 매일, 마일 내에서, 새로운 로봇 사업은, 흥미로운 무언가를 만들기 위해 시도。

Dylan 파텔:
"software-only speciality"라는 개념입니다. 다른 말에서, 세계는 소프트웨어에서만 일어나는 AI 단수로 시작될 수 있습니다. 그러나 문제는 여전히 물리적이다. 당신은 세상이 결국 하드웨어를 중심으로 조직 될 것입니다, 그냥 소프트웨어. 그래서 나는 소위 "소프트웨어 경이"는 짧은 기간, 끝이 아닙니다. 우리는 물리적 세계에서 끝났다。

한 번 소프트웨어가 매우 쉽습니다 로봇의 실제 하드 부분은 무엇입니까? 그것은 프로그래밍, 마이크로 제어기, 구현자, 그리고 모든이 물건을 제어합니다. 이제는 매우 어렵습니다。

AI 모델에는 흥미로운 기능이 있습니다. 실제로 매우 효율적입니다. 그것은 우리가 그들에게 큰 데이터를 준 때문에 그들은 무언가를 배운 몇 가지 방법으로 인류를 능가。

그러나 VLA와 같은 로봇의 현재 모델은 Vision-Language-Action, Visual-linguistic-action 모델이지만 결국 확장 할 수있는 무언가가 될 것이라고 생각하지 않습니다. 그들은 비효율적이고, 로봇 데이터를 충분히 늘릴 수 없습니다。

미래의 로봇 모델에 큰 규모로 훈련해야 합니다. 인간의 삶에 걸쳐 데이터를 보도록 합니다. 인류에 대한 실제 것은 우리가 "효율적인 샘플링." 한 예, 두 예, 우리는 배울 수 있습니다。

이 기능은 로봇에 적용된 경우, 그것은 완전히 다릅니다. 소프트웨어 수준에서 단수가 출현되면이 모델을 구축하기 위해 누구나 매우 저렴합니다. 그리고 그 후에 사람들은 진짜로 유용한 로봇을 건설할 수 있습니다。

그래서 나는 다음 6 ~ 18 개월에 생각, 우리는 로봇에서 실제 돌파를보고 시작. 핵심 능력은 몇 샷 학습입니다. 그리고 그 후 사전 훈련 된 로봇 모델이 될 것입니다, 당신은 대여 또는 로봇을 살 것입니다, 당신은 몇 가지 예를 표시하고, 그것은 일을 할 것입니다。

당신은이 두 가지를 접어, 그것을 할 수 있습니다. 그리고 당신은 그것을 말해, "이것은 실제로 균형이 있습니다. 그것은 시작하고 끝낼 것입니다. 나를 믿고, 나는 그 자신에게 많은 시간을했다。

로봇이 약간의 학습 능력을 가지고 있다고 생각합니다。

그것은 이미 로봇, 광고에 대한 일부, 간단한 작업에 대 한 회사 있다 사실 이다. 그러나 그것은 매우 subdivided 될 것입니다. 예를 들어, 옷, 로봇을 접는 데 사용되는 로봇은 검은 보드로 더 조율됩니다. 그것은 임대 서비스일 수 있었습니다, 그것은 모형 포장일 수 있었습니다, 당신은 표준 로봇에 그것을 다운로드할 수 있었습니다, 그것을 할 수 있었습니다, 그리고 당신은 그것을 지불할 수 있었습니다。

어떤 경우, 신체적 필수품의 필드는 상당한 가속과 방어 효과 동반 될 것입니다. 그리고 이것은 결국 수요에서 토큰의 미적 성장을 구동하는 것입니다. 그래서 나는 개인적으로 토큰이 느려질 것이라고 생각하지 않습니다。

패트릭 O'Shaughtnessy:
Metis의 결과에서 전 세계의 새로운 것을 배우고 어떻게 구축되었습니까? 다른 말에서, 당신은 사전 훈련과 같은 사기 법의 모든 구성 요소를 이동하면 ..

Dylan 파텔:
이전보다 훨씬 더 큰 모델입니다. $100,000 Blackwell, 이전 세대에서 수천 칩과 동등한. 물론, TPU 및 Triton에는 다른 릴리스 리듬이있어 완전히 일치 할 수 없습니다. 그러나 결국, 예, Metis는 크게 더 큰 모델입니다. 그것은 사기 법은 여전히 유효합니다. 모든 그것은 추세 라인이 계속된다 : 모델에 더 입력, 모델이 더 나은된다。

그리고 그것은 단지 "모델을 더 잘 만들기 위해 더 많은 계산." 동시에, 우리는 지속적으로 컴퓨팅 효율을 얻고 있습니다. 그리고 실험실이 한 가지로 전환 한 모든 연구 및 개발 에너지 : 특정 수준의 역량을 위해 모델을 원하면 용량이 6 개월마다 크게 줄어들거나 2 개월마다 줄어듭니다. 그러나 나는 충분히 큰 그것을 당겨, 나는 여전히 거대한 도약을 만들 수 있습니다。

그래서, 예, 그것은 이것이 일어나고 있다는 것을 증명합니다. Google 및 Anthropic은 훈련 측에서 GPU 사용자가 아닙니다. OpenAI는 새로운 세대의 모델을 출시해야 합니다. 나는 그들이 더 합리적이고 원칙적으로 작은 단계로 갈 생각한다. 그리고 이번에는 Anthropic이 큰 도약을 했습니다。

올해 우리는 더 나은 모델과 리듬은 더 빨리 얻을 것이다。

패트릭 O'Shaughtnessy:
우리는 오랫동안이 대화에 대해 이야기하고 있었지만, OpenAI를 언급했습니다. 이것은 과거에 이상한 일이었다。

Dylan 파텔:
그것은 재미 부분입니다. 이제 많은 사람들이 말할 것, "그래서 Anthropic은, 권리? 그들은 2 월에 Metis가 있었지만, 그들은 불필요한 느낌이기 때문에 릴리스되지 않았습니다. 그들의 계산이 판매되고 수익은 $ 10 억으로 증가합니다. 그리고 오늘, Opus 4.7 출시되었다, 그리고 모두는 OpenAI의 소문 전에 일어난, 이는 정보와 같은 미디어에 덮여。

그래서 표면에, Anthropic 명확하게 리드, OpenAI는 완료 보인다. 그러나 흥미로운 것은 Anthropic의 수학이 매우 제한되고, 그들은 매우 제한된 속도로 확장 할 수 있다는 것입니다. Dario는 OpenAI가 arithmetic의 점에서 너무 급진적이었고 Anthropic의 사기는 더 합리적이었습니다. 그러나 이제 Anthropic은 우리가 정말로 더 많은 재능을 가지고 있다고 생각할 수 있습니다。

OpenAI는 이러한 청구서를 지불 할 수 있습니다. 사실, 그들은 이미 많은 돈을 금융하여 그들의 증가 능력. 이 외에도 Oracle, CoreWeave, SoftBank, Microsoft 등과 같은 회사에서 신용을 구입하는 데 사용되며 매우 급진적이고 "무책임"도 있습니다. 이제 그들은 또한 아마존에서 Trainium을 얻었다。

그래서 OpenAI는 수학에서 매우 미혹한 일을했다, 그들은 더 많은 것을 알고。

흥미롭게도 Opus 4.6를 보면, 이 기술의 번영을 고려할 수 없습니다. 당신은 모델 출시의 첫날에 즉시 사용할 수 있지만 다른 기업은 시간이 필요합니다. 사람들은 또한 학습할 시간을 필요로 합니다. "Claude Awakening Time"은 동시에 모든 것을 명중하지 않습니다. 그래서 올해 말에 의해, Opus 4.6 등급 모델을 추측, 전체 경제는 지출하는 것입니다 $100 십억 그것에 년, 내가 생각하지 않는 배설. 결국, 그것은 지금 비용 $40 억。

패트릭 O'Shaughtnessy:
기본적으로 선형 푸시입니다。

Dylan 파텔:
그래, 그것은 선형, exponential. 폭발적인 성장을 달성하기 위해, 당신은 더 나은 모델을 필요로 합니다. 그러나 Anthropic은 이러한 요구를 충족시키기 위해 용량이 없습니다. 따라서, OpenAI 또는 Google을 빨리 도달하면이 기능 수준에 도달 할 수 있습니다。

Anthropic은 Māori rate의 70 %를 충전 할 수 있지만, OpenAI가 Māori rate의 50 %만이 수집하는 경우에도 동일한 수준의 용량에 도달하면이 모든 증가 요구 사항을 먹을 수 있습니다. 그리고 그것은 아마 또한 모든 사용자를 봉사하는 충분한 계산이 아닙니다. 그래서 어쩌면 Metis,이 같은 모델, 세계가 충분한 재능을 가지고 있다면, $ 500 억에서 가져갈 수, 심지어 더 배설. 이 토큰의 시장 수요는 너무 강하고 컴퓨팅 전력의 가용성은 매우 제한적입니다。

우리는 H100 가격 붐에서 이것을 보았습니다. GPU의 서비스 수명도 증가합니다. 분명히, 심지어 두 번째 라인 연구소, 그들은 밖으로 판매, 첫 번째 라인 연구소 언급하지. 첫 번째 라인 연구소는 더 나은 이익 마진이있을 것입니다, 그러나 두 번째 라인 연구소는 밖으로 판매, 심지어 세 번째 라인 연구소는 밖으로 판매하기에 가깝습니다。

가장 강력한 모델의 경제 가치는 이러한 토큰을 사람들에게 제공하기 위해 인프라의 능력보다 빠르게 성장하고 있습니다. 그래서이 격차가 계속됩니다. 모델링 실험실은 하드웨어 공급망 및 인프라 공급망의 사람들까지 수익성을 지속적으로 성장할 것입니다. 그래서, 나는 단지 내 이익 마진을 제기하지 않습니까

패트릭 O'Shaughtnessy:
따라서 그것은 요구 측에 오늘 당신의 판단이, 특히 반작동의 당신의 자신의 예, 완전하게 폭발하다는 것을 말할 수 있습니다. 그리고 더 넓게, 사람들이 "AI 정신"라고 부르는 것을 입력하고 그들이 할 수있는 것을 느끼고 어려움이 거의 완전히 사라지는 것처럼. 몇 주 안에, 내 자신의 토큰 지출이 소거되었습니다。

그것은 꽤 좋은 필요 측 판단처럼 들린다. 수요면에서 우리는 놓칠 필요가 있습니까? 더 많은 토큰을 사용하지 않는 경우, 당신은 영원한 바닥에서 결코 얻을 수 없습니다. 당신은 그것을 확산 할 수 있습니까

다른 단어에서 토큰을 더 사용하고 이러한 토큰을 통해 추가 경제 가치를 창출합니다. 그러나 많은 사람들이 지루하고 게으른 것입니다. 그들은 생각할 것이다, "나는 하루 만 일, 8 시간, 그래서 AI는 내 작품의 대부분을 할 것이다."

Dylan 파텔:
그것은 지루한 방법입니다. 냉각기 방법은 : 나는 여전히 하루에 8 시간을 일하지만, 나는 8 번 일을하고, 어쩌면 5 번 돈. 5 번이 될 수 있지만 그 방법이되어야합니다。

물론, 그냥 일을하고 있다면, 그것은 어렵다. 동시에 여러 작업을 수행하고, 기업을 시작하고 판매를 시작하는 사람들이 있습니다. AI의 경제 가치를 모든 사람이 사용되기 전에 캡처해야하며 업계 라벨로 전환합니다. 프레임이 정확히 없기 때문에. 더 많은 토큰을 사용하지 않는 경우, 이 토큰에서 가치를 생성하지 않고 영구 바닥에서 얻을 수 없습니다。

여기에 세 가지 다른 질문이있다 : 처음, 더 많은 토큰을 사용; 두 번째, 이 토큰에서 가치를 창출; 그리고 세 번째, 토큰에서 생성 된 값의 캡처 값. 이 세 가지를 수행 할 수없는 경우 모델 기능으로 영구 바닥에서 더 집중 될 수 있습니다。

견적 요청 지옥은 지금 무슨 일이 있었습니까? 수요 곡선이 상승하면 전체 공급 저장소의 앞에 어떤 변화가 발생합니까? 수요가 급증함에 따라 공급 측의 모든 것이 상승했습니다. 가격은 NVIDIA GPU 또는 다른 곳에서 상승합니다. 동시에, 그들의 유용한 삶은 확장된다。

H100의 가격 추세입니다. 과거에는 GPU가 5 년 미만의 유용한 수명을 가지고 있다고 주장했습니다. 일부 호퍼 클러스터, 3 ~ 4 년 전, 이제 3 ~ 4 년 동안 재계약; 일부 A100 클러스터는 향후 몇 년 동안 계약을 갱신하고 있습니다。

따라서 GPU의 활성 수명은 명백하게 5 년, 또는 7 또는 8 년입니다. 우리는 아직 모른다, 호퍼가 정말 그 단계에 도착 때까지 기다립니다. 하지만 분명히, 그것은 5 년. 그리고 갱신의 시간에, 가격은 상승했다。

이것은 클러스터의 MĀORI 비율이 실제로 35 퍼센트가 아니라 더 높습니다. 구름의 이익은 확장하고 있습니다. 하드웨어 레이어는 매우 건강한 이익 마진을 가지고 있으며, NVIDIA는 여전히 마오리 비율의 75 %를 충전합니다. 더 낮은 공급망을 찾고, 메모리 체인의 이익 마진이 크게 증가했습니다. 큰 진보는 또한 빛 단위와 논리 칩과 같은 지역에서 만들고, 이익 마진은 천천히 상승했습니다。

그리고 더 중요하게, 칩을 지불하는 NVIDIA와 같은 회사는 거대한 진보를 지불하고 있습니다. MĀORI 비율이 크게 증가하지 않는 경우에도 자본의 비용, 현금 흐름의 포인트, 또는 투자 자본의 반환 상승에。

공급망 전반에 걸쳐 볼 수 있습니다. ASML은 완전히 판매되었으며 Carl Zeiss가 더 빠르게 확장 할 필요가 있습니다. 공급 사슬을 연상시키십시오, 각 사슬은 밖으로 판매되고 이익 마진은 증가합니다; 또는 전진은, 따라서 투자 자본에 돌려보내고, 실제로 투자에 필요하。

이것은 공급 사슬의 맞은편에 일관된 동향입니다. PCB는 이것 같이 입니다. PCB의 제조는 구리 백금, 납땜되고, 사람들은 구리 백금을 위한 발전을 시작합니다。

이것은 공급 사슬에서 이고, 판매되고, 사람들 더 incremental 공급을 위해 싸우고 앞으로 오는 년에 있는 공급을 위한 공급을 위해 맥박이 뛴 것을 말할 수 있습니다。

컴퓨팅 전력의 부족은 전체 산업 체인으로 이동합니다

Dylan 파텔:
공급 사슬은 일반적으로 빨리 반응합니다. 그러나 이번에는 독특한 장소가 있습니다. 오늘날의 공급망은 이전보다 더 복잡합니다. 그리고 우리가 건물이 더 복잡해지기 때문에 배달주기가 더 길어졌습니다. 다른 산업이 18 개월의 배달주기가없는 것을 말하지 않지만 새로운 공급 자체의 건설은 몇 년이 걸렸다。

그것은 기억이다. 기억 용량은 일년에 더 낮은 두 배 손가락 비율에 의해, 예를 들면, 20%, 30% 성장할 수 있습니다. NAND 심지어 더 낮은, DRAM 약간 더 높은. 수요 신호는 2025 년 말에 의해 강해졌지만, 메모리 회사는 즉시 대응하고, 실제 새로운 용량은 앞서 나가지 않을 것입니다。

매년 20 ~ 30 %의 성장 외에도, 그들은 확실히 조금 더 생산적으로 짜낼 수 있습니다. 그러나 실제 새로운 공급을위한 2028까지는 아닙니다. 그것은 2027의 끝일 수 있지만, 아마 2028. 그것은 매우 독특합니다. 그들은 가능한 한 빨리 생산을 확장하려는 경우에도 공급은 즉시 도착하지 않을 것입니다。

결과적으로, 메모리 가격은 상승했다. 그리고 나는 당신에게 말할 것이다, 특히 DRAM, 가격은 적어도 두 배, 두 배, 또는 세겹 조차。

어떤 말, "메모리의 이야기가 끊어졌고, 모두가 이해합니다." 하지만 정말 이해하지 않습니다. DRAM은 여전히 지금부터 두 배 또는 세겹이 될 것입니다. 그들은 다른 곳에서 용량을 압착해야합니다. 자본 경제에서, 다른 곳에서 용량을 압수하는 유일한 방법은 높은 가격으로 수요의 일부를 파괴하는 것입니다. 우리는 RATIONING 체계에서 아닙니다, 그래서 일어날 것입니다. 이익 마진은 계속 상승합니다。

나는 논리 칩을 가진 거대한 수용량 문제가 있다고 생각합니다. 빌드 업은 출판되었습니다, 그들은 자본 지출 증가하고있다. 그러나 둥근 선반의 건축은 장시간을 가지고 갈 것입니다. 그들은 각 기존 식물에서 더 많은 출력을 추출하는 모든 노력. 그러나 그들은 "좋은 사람들"이기 때문에 전기의 가격에 급속한 증가가 없었다. 가격 증가는 아마 단 하나 손가락에서만, 오히려 기억 제조자 같이 3배 손가락 증가합니다。

그래서 결국 당신은 전기가 훌륭한 회사 인 시장에서 시장을 볼 수 있지만, 정말 모든 값을 꺼내 것입니까? 견적 요청。

나는 다만 몇몇 것을, 구리 같이, 유리, PCB가 필요로 하는 레이저 언급했습니다. 이것은 상대적으로 잘 떨어졌다, 하지만 매우 SUBDIVIDED 공급 체인, 또한 매우 긴장. 반도체 크리스탈 라운드 제조 장비의 공급 체인은 크게 증가 한 것으로 간주되지만, 시장은 그 중요성을 심각하게 이해합니다。

올해의 자본 지출은 56 억 달러입니다. 우리는 $ 57.4 억의 투상으로 1 월에 시작되었으며 자본 지출의 몇 가지 방법을 볼 때 약간 더 높을 가능성이 있습니다。

그러나 실제 관심사는 없습니다 : 올해는 무엇을 의미합니까? 다음 해에 무엇을 의미합니까

결과적으로 3 년 동안 전력 빌드는 자본 지출을 100 억 달러로 올릴 수 있습니다. 어쩌면 2 년 후, 2028 년, 그들은 정말 자본 지출에 $ 100 억을 지출 할 수 있었다. 나는 힘 구조가 자본 지출을 위해 2028에서 100 억을 요할 수 있다고 심각하게 말하고 있습니다。

많은 사람들이 상상할 수 없습니다. 그러나 그것의 다운스트림 공급 사슬을 의미합니까? Lam Research, Applied Materials, ASML과 같은 회사에 대해 무엇을 의미합니까? MKS Industries와 같은 더 다운스트림 공급망과 같은 회사에 대해 무엇을 의미합니까

oxen은 더 확대될 수 있습니다。

참고 : 용어 "frown whips"는 공급망의 확대를 나타냅니다. 특히, AI는 토큰 사용량과 같은 바닥 모양에 필요하지만, 업스트림 공급 체인으로 전송 될 때, 그들은 더 배설 된 확장으로 전환 층에 의해 확대된다, 가격 증가 및 용량 taking。

빌드 업은 실제로 2028 년에 자본 지출에 100 억 달러를 지출하고, 나는 많은 사람들이 그것을 미끄러워 생각 할 수 있다고 생각하지만 실제로 일어날 수 있습니다。

패트릭 O'Shaughtnessy:
칩 생태의 나머지는 어떨까요? GPU는 항상 절대적으로 지배적이었습니다. 하지만 CPU, ASIC 또는 다른 것들은 새로운 기회와 병목으로 신흥? NVIDIA GPU의 지배를 넘어 다른 점은 집중해야 합니까

Dylan 파텔:
견적 요청 그러나 먼저 AI 칩 자체를 뛰어 넘고 다른 것에 대해 이야기하고 싶습니다. 우리는 FPGA에 프로젝트를 수행했으며, AI 행거의 모든 차세대가 120 FPGA를 필요로 할 것이라고 밝혀졌습니다. 그래서 모든 FPGA 회사에 대해 무엇을 의미합니까

CPU에 동일하게 간다. 이러한 모든 강화 학습 환경, 플러스 "스파임 코드" 내가 만든, 이제 그들은 모두에서 실행 Vercel의 예를, AWS의 예, 또는 우리가 시작 클라우드 리소스. 이 모든 CPU가 필요합니다. 따라서 CPU는 지금 완전하게 판매되고, 수요는 빨리 상승합니다。

패트릭 O'Shaughtnessy:
CPU가 시스템에서 재생되는 것을 보자

Dylan 파텔:
CPU를 많이 필요로하는 두 가지 주요 이유가 있습니다。

첫째, 학습 강화. 집중 학습을 할 때 CPU가 중요합니다。

과거에, 당신은 모형에 전체 인터넷 자료를 던지고, 그 후에 모형은 몇몇 결과를 뱉을 것입니다. 이제, 당신은 여전히 모델에 인터넷 데이터를 넣어, 하지만 당신은 환경에 넣어, 당신은 말한다, "오메가에, 그것을 시도. 모델은 많은 다른 것들을 시도합니다. 마지막으로, 환경은 그것의 시도의 결과의 성공을 평가하고 그것을 밖으로 지적합니다. 이 환경은 무엇이든 일 수 있습니다. 그것은 간단한 일 수 있습니다, 예를 들어, 출력 텍스트가 올바른 형식에 맞는지 확인하거나 구조 출력이 정확 여부. 그것은 아주 복잡할 수 있습니다。

이제 사람들은 매우 복잡한 장면으로 얻고 있습니다. 예를 들어,이 파일을 열려면 수정, 편집, 업데이트, 다음 웹 사이트에 제출하십시오. 또는 "나는 SIEMENS의 물리 시뮬레이션 소프트웨어를 열고이 CAD 모델을 편집하고 싶습니다." 이 환경은 더 복잡해졌습니다. 그리고 이러한 환경은 CPU에서 실행, GPU에하지 않고 ASIC에。

ASIC 또는 GPU는 모델 자체를 실행하는 역할을 담당합니다. 환경의 입력 데이터를 수신하고 모델을 전송하고 다른 출력 경로 생성, 즉, 모델이 문제를 해결할 수있는 다른 방법을 믿는다. 이 경로는 평가되고 평가됩니다. 이러한 성공적인 경로는 모델을 업데이트하고 반복하기 위해 모델을 계속 훈련하는 데 사용됩니다. 따라서 이것은 CPU를 위한 아주 유용한 첫번째 장소입니다。

두 번째 장소는 배포입니다。

이 강력한 모델이있을 때, 그들은 코드를 생성하고 유용한 출력의 모든 종류를 배치합니다. 하지만 이러한 출력은 GPU에서 인간의 두뇌로 직접 되지 않습니다. 그들은 GPU 또는 ASIC에서 배포하는 응용 프로그램에 와서 응용 프로그램은 일반적으로 CPU에서 실행됩니다。

그래서 이것은 큰 필요의 또 다른 지역입니다. CPU는 크게 판매되었습니다。

AI VALUE HARD TO GET GDP 통계

패트릭 O'Shaughtnessy:
당신은 지속적으로 공급과 수요 동향을 평가하고 세계에서 가장 지식이 될하려고, 당신이 알고 싶은 무엇을, 하지만 아직

Dylan 파텔:
나는 우리를 위해 가장 어려운 부분을 생각, 모두를 위해, tokenomics, 또는 토큰 경제입니다. 인프라 운영 비용, 토큰 비용, 모델 비용, 이러한 실험실의 이익 마진은 매우 좋은 판단입니다. 그러나 모델에 정말 어렵고 채택의 속도입니다。

1 월, 우리는 2 월에 몇 가지 매우 급진적 예측을하고 결과적으로 Anthropic은 쉽게 그것을 초과했습니다. 어떻게이 모델을 교정합니까? 어떤 데이터 소스를 사용해야합니까? 2 월, 우리는 3 월에 대한 매우 급진적 가정을 만들고, 그들은 그것을 넘어갔다. 수익에서 10 억 달러의 수치를 볼 때, 반응은 무엇입니까? 그들은 실제로 소득에 10 억을 추가 했습니까? 이 토큰을 사용하는 것은 누구입니까? 왜? 이 토큰과 함께하는 것은 무엇입니까? 그리고, 더 중요한 것은, 어떻게이 토큰이 경제에 퍼지는 것을 만들 수 있습니까? 얼마나 많은 가치를 창조 했습니까

GDP 통계에 의해 쉽게 캡처 할 수있는 것은 아닙니다. 예를 들어, 토큰에 의해 생성 된 모든 값을 사용하여 결국 더 나은 정보를 번역합니다. 그때 나는 정보를 판매하고 나는 다른 사람보다 낮은 가격에 판매。

이 정보는 전체 경제 시스템을 입력하고 사람들이 더 나은 투자 결정을 내릴 수 있도록합니다. 반도체 회사, 데이터 센터 회사, 또는 하이퍼컬러, 이 정보의 가치는 무엇입니까? 경제에 미치는 영향은 무엇입니까

이것은 명확하게 어떤 subjective 지시자에서 경고합니다. 그러나 질문은 Ghost GDP는 어디에 있습니까? Phantom GDP. 그것은 무엇입니까? 우리는 실제 경제 가치를 추적합니까

기존의 GDP 지표가 정확하지 않기 때문에. 그리고 Dylan Patel에게 얼마나 많은 GDP가 생성되었는지 물어보면, 숫자는 매우 작을 것이며 실제로 내가 생각하는 값에 비례가 될 것입니다。

그래서 최종 질문은: 얼마나 많은 값이 생성 된 토큰이 있습니까? 그것은 단지 직접 소득이 아니지만, 잔액 효과 그들은 가지고. 그들은 모두의 결과는 무엇입니까

나는 진짜 문제이고 측정하는 가장 어려운 도전이라고 생각합니다. 나는 우리가 공급 측에 아주 좋은 판단이 있다고 생각합니다. 우리는 또한 수요 측에 많은 신호에 관하여 아주 좋은 판단이 있습니다. 그러나 이 토큰이 생성 된 값을 할당하고 측정하는 것은 어렵습니다. 우리는이 3 개월마다 수행 할 수 있기를 바랍니다。

반대로 AI는, 아마 3 달 안에 시험합니다

패트릭 O'Shaughtnessy:
어떻게 생각하나요? 3개월 만에 샌프란시스코에서 볼 수 있습니다. 무엇을 기대하나요

Dylan 파텔:
대량 protests。

패트릭 O'Shaughtnessy
AI에 대한 입증。

Dylan 파텔
사람들은 AI를 싫어합니다. AI는 이제 ICE보다 덜 인기, 정치가보다 더. 나는 Pew가 그것을 어떻게 했는지 모르겠지만 분명히 AI는 정치인보다 덜 인기가 있습니다。

Anthropic이 너무 많은 수익을 증가함에 따라 비즈니스가 다운스트림을 유발하는 것을 시작합니다. 사람들은 AI의 상처를 입을 것입니다. 그들은 그들의 문제의 성장 수에 대 한 AI를 비난 하기 시작, 뿐만 아니라 긴 이해, 깊은 뿌리 글로벌 문제。

이러한 문제는 표면과 AI에 노출됩니다. 그것은 일부 정치인, 또는 소셜 미디어에서 사람들, 영향력, 다른 사람을 공격 AI를 시작。

당신은 일부 뉴스 기사에서 코멘트를 봅니다. Sam Altman의 집은 2 주에 두 번 불타는 병에 던져졌으며, 댓글 섹션에서 누군가가 비명되었습니다. 처음입니다. 그래서 나는 3 개월 이내에 생각 우리는 AI에 대한 엄청난 protest를 볼 수 있습니다。

패트릭 O'Shaughtnessy:
그것을 상쇄하는 힘은 무엇입니까? AI, 산업은 어떻게 전진합니까

Dylan 파텔:
첫째, Sam Altman과 Dario 인터뷰를 중지해야합니다. 그들은 너무 매력적입니다. 나는 그들이 행하는 것을 모른다. 모든 인터뷰는 일반 사람들이 더 싫어합니다. Tucker Carlson의 Sam Altman, 예를 들어, 모든 Republicans가 OpenAI를 더 싫어할 수 있습니다. Dario는 동일합니다. 그들은 정말 매력적이지 않습니다. 그것은 첫번째 점입니다。

두 번째, 그들은 AI가 할 수있는 것을 고무시키는 긍정적 인 것을 보여주는 시작해야합니다。

셋째, 그들은 "AI 능력이 세상을 바꿀 것"에 대해 이야기 할 필요가있다. 사람들은 듣는 것을 두려워 할 수 있습니다. 이 기술에 실제 연결이 없을 때 특히。

패트릭 O'Shaughtnessy
그들은 그것을 사용하는 방법을 모른다。

Dylan 파텔:
그들은 그것을 연결하지 않습니다. 의식 사람들은 Anthropic 직원 또는 OpenAI 직원을 모른다. 종교적 인 사람들은이 사람들 또는 그들이 표적하는 것을 알지 못합니다. 그들은 일부 종류의 운동성 작은 그룹으로이 회사를 볼 수 있습니다 : 수천 명의 사람들이 세계를 바꾸고, 모든 일을 자동화하고 사회를 파괴합니다. 그것은 많은 사람들이 볼 수 있습니다。

또한, 이 회사는 많은 데이터 센터 및 발전소의 건설을 촉진하고 홍보하는 것입니다, 공공 눈에서, 세계를 오염시킬 수 있습니다. 사람들은 실제로 무슨 일이 있었는지 이해하지 않습니다. 그래서이 회사는 미래에 일어나는 큰 변화에 대해 이야기 할 필요가있다, 지금 : AI가 지금 긍정적 인 차이를 만드는 방법. 나는이 거대한 조직 및 브랜드 재모델링을 필요로한다。

패트릭 O'Shaughtnessy:
나는 당신과 함께이 대화를 좋아합니다. 감사합니다。

Dylan 파텔:
좋은, 감사。

[ 척 ]동영상 링크]