Giấc Mơ 1.1 Terawatt của Morgan Stanley: Tại Sao Distributed Inference Cloud Lại Là Câu Chuyện Kỹ Thuật Đầy Lỗ Hổng?

Đây là một con số khiến bất kỳ ai trong ngành compute cũng phải giật mình: 1.1 terawatt (TW) – mức công suất mà Morgan Stanley dự báo cho mạng lưới robot phân tán của SpaceX và Tesla vào năm 2040. Nghe như một tầm nhìn vĩ đại về distributed inference cloud, nơi 2.2 tỷ robot cùng nhau thực hiện suy luận AI phân tán, thông qua chòm sao Starlink. Nhưng khi tôi đọc bản phân tích kỹ thuật đằng sau báo cáo đó, một điều rõ ràng ngay lập tức: đây là sự nhầm lẫn giữa công suất điện năng và sức mạnh tính toán, một câu chuyện được xây dựng trên những con số thiếu chính xác về mặt vật lý. Và với tư cách một người từng audit code cho các giao thức phi tập trung, tôi biết rằng những sai lầm về đơn vị đo lường thường dẫn đến những quyết định đầu tư sai lầm. Hãy để tôi đặt bối cảnh. Morgan Stanley, một trong những ngân hàng đầu tư lớn nhất thế giới, vừa phát hành một báo cáo về tương lai AI compute, tập trung vào ý tưởng “robot cluster distributed inference cloud” – một mạng lưới robot tự hành, xe tự lái, và các thiết bị biên được kết nối qua Starlink, tạo thành một siêu máy tính phân tán có khả năng chạy suy luận AI ở quy mô chưa từng có. Họ đặt mục tiêu tổng công suất 1.1 TW vào năm 2040, với mỗi robot trang bị chip AI5 250 watt. Ý tưởng này có vẻ hấp dẫn: tận dụng tài nguyên nhàn rỗi của hàng tỷ thiết bị để phục vụ AI inference, giảm phụ thuộc vào trung tâm dữ liệu tập trung. Nhưng khi bạn đào sâu vào chi tiết kỹ thuật, bạn sẽ thấy một câu chuyện hoàn toàn khác. Đây là những gì code thực sự nói – và trong trường hợp này, “code” chính là các con số và giả định kỹ thuật mà báo cáo dựa vào. Vấn đề đầu tiên và cơ bản nhất: nhầm lẫn giữa watt (công suất) và FLOPS (hiệu năng tính toán). Báo cáo viết “mỗi robot được trang bị 500 watt sức mạnh tính toán” và “tổng công suất 1.1 terawatt”. Điều này giống như nói một chiếc xe có sức mạnh 200 mã lực tương đương với 200 km/h – sai về bản chất. Trong thế giới AI, đơn vị đo lường tiêu chuẩn là TOPS (Tera Operations Per Second) hoặc FLOPS (Floating Point Operations Per Second). Watt chỉ là thước đo năng lượng tiêu thụ, không phải khả năng tính toán. Một chip AI5 250 watt có thể có hiệu năng khác nhau tùy thuộc vào kiến trúc (ví dụ, NVIDIA DRIVE Thor cũng ~250 watt nhưng cung cấp 2000 TOPS). Nhưng báo cáo không đề cập đến TOPS, thay vào đó dùng watt như một proxy cho sức mạnh – một sai lầm nghiệp dư mà tôi thường thấy trong các whitepaper tokenomics tồi. Hãy nhìn vào con số thực tế. Để có 1.1 TW tổng công suất, bạn cần khoảng 2.2 tỷ thiết bị, mỗi thiết bị tiêu thụ trung bình 500 watt. Con số 2.2 tỷ robot là không tưởng. Theo thống kê năm 2023, toàn thế giới chỉ có khoảng 4 triệu robot công nghiệp. Ngay cả khi tính cả robot dịch vụ và xe tự lái, con số đó khó vượt quá 100 triệu vào năm 2040. Để đạt 2.2 tỷ, sản lượng robot mới mỗi năm phải đạt 150 triệu – gấp 10 lần sản lượng ô tô toàn cầu hiện nay. Và điều đó chưa tính đến nguồn năng lượng: toàn bộ lưới điện thế giới hiện tại chỉ có tổng công suất khoảng 7.5 TW. Thêm 1.1 TW là một áp lực khổng lồ, đòi hỏi hạ tầng điện mới tương đương với toàn bộ nước Mỹ. Nhưng vấn đề lớn nhất là Starlink. Starlink hiện tại có băng thông mỗi vệ tinh khoảng 10-20 Gbps, tổng dung lượng mạng khoảng 100-200 Tbps. Để hỗ trợ 2.2 tỷ robot – mỗi robot cần một kênh control liên tục và dữ liệu inference – băng thông đó là không đủ. Ngay cả khi Starlink phóng lên 100.000 vệ tinh (so với 6.000 hiện tại), băng thông tổng có thể đạt 1-2 Pbps, nhưng với 2.2 tỷ node, mỗi node chỉ có vài Mbps – không đủ cho real-time inference phức tạp. Hơn nữa, độ trễ của Starlink (40-80 ms cho một chặng) cộng với độ trễ định tuyến mặt đất dễ vượt quá 200 ms, không phù hợp cho các tác vụ AI yêu cầu phản hồi dưới 100 ms như xe tự lái. Điều tinh tế (và đáng sợ) trong thiết kế này là họ coi robot như các node compute thụ động, nhưng thực tế robot là thiết bị di động, có thể mất kết nối, thay đổi vị trí, và bị giới hạn bởi pin – tất cả đều làm giảm hiệu suất sử dụng thực tế xuống còn 10-20% công suất lý thuyết. Khi DXY di chuyển như thế này – và tôi muốn nói rằng DXY ở đây là viết tắt của “Distributed XY”, nhưng thực chất là một phép ẩn dụ cho sự biến động của các giả định macro – bạn sẽ thấy rằng báo cáo đang cố gắng kể một câu chuyện về sự thống trị năng lượng, không phải về compute. Con số 1.1 TW thực chất là một cái móc để định giá hạ tầng ở quy mô quốc gia, nhưng nó tránh né các câu hỏi thực tế: ai sẽ trả tiền điện, làm thế nào để duy trì SLA, và tại sao một robot lại dành thời gian tính toán cho người khác thay vì làm nhiệm vụ chính của nó? Đây là một luận điểm hội tụ mà tôi đang theo dõi: sự pha trộn giữa AI narrative và năng lượng tái tạo để tạo ra một câu chuyện tăng trưởng dài hạn, nhưng thiếu xác thực kỹ thuật. Bây giờ, hãy chuyển sang phân tích kiến trúc compute. Morgan Stanley mô tả một “hybrid architecture” bao gồm trung tâm dữ liệu tập trung, edge nodes, và robot cluster kết nối qua Starlink. Nghe có vẻ giống với kiến trúc cloud-edge phổ biến hiện nay, nhưng họ tuyên bố rằng robot cluster sẽ tạo ra một “distributed inference cloud” mang tính cách mạng. Thực tế, đây chỉ là sự kết hợp của các khái niệm đã tồn tại: federated learning, compute sharing trên xe hơi, và low-earth orbit computing. Tesla đã từng đề xuất ý tưởng dùng xe Tesla nhàn rỗi để tính toán từ năm 2020. Morgan Stanley chỉ mặc lại ý tưởng đó với bộ đồ robot và Starlink. Đây là sự đổi mới ở cấp độ tổ hợp, không phải đột phá kiến trúc. Chip AI5, với 250 watt, là một bước tiến trong thiết kế chip cho robot và xe tự lái, nhưng nó không khác biệt đáng kể so với NVIDIA DRIVE Thor hay Tesla FSD HW4. AI5 thiếu cơ chế kết nối tốc độ cao như NVLink hay NVSwitch, vì vậy nó không thể dùng để huấn luyện mô hình lớn – chỉ phù hợp cho inference. Báo cáo đã nhầm lẫn giữa training compute và inference compute. Training một mô hình như Grok (của xAI, do Elon Musk sáng lập) cần hàng nghìn GPU trong một cluster đồng bộ, với độ trễ cực thấp và băng thông cao. Một mạng lưới robot phân tán với độ trễ 200ms không thể thực hiện training. Vậy nên, distributed inference cloud chỉ có thể phục vụ các tác vụ inference dài hạn, không quan trọng độ trễ – như phân tích ảnh y tế, xử lý ngôn ngữ đơn giản. Nhưng đó là một thị trường nhỏ, không tạo ra doanh thu hàng tỷ đô như báo cáo kỳ vọng. Đây là những gì forward guidance ám chỉ – khi Morgan Stanley nói về “AI5 250 watt power sẽ tăng theo thời gian”, họ đang thừa nhận rằng hardware hiện tại không đủ mạnh. Họ kỳ vọng vào các bản nâng cấp, nhưng không có lộ trình cụ thể. Điều này giống như các dự án crypto hứa hẹn “TPS sẽ tăng gấp 1000 lần trong phiên bản 2.0” mà không có kiến trúc khả thi. Từ góc nhìn của một người đã viết audit cho các giao thức DeFi, tôi thấy một mô hình quen thuộc: sử dụng con số lớn để gây ấn tượng, nhưng bỏ qua các chi tiết kỹ thuật có thể kiểm chứng. Vậy đâu là góc nhìn phản trực giác? Trong khi Morgan Stanley tập trung vào robot và Starlink, họ bỏ qua một công nghệ thực sự phù hợp cho distributed inference: blockchain. Các mạng DePIN (Decentralized Physical Infrastructure Networks) như io.net, Render Network, và Golem đã chứng minh rằng bạn có thể kết nối các GPU rải rác trên toàn cầu thông qua smart contract, với cơ chế incentive bằng token. io.net, ví dụ, đã đạt hơn 100.000 GPU trong mạng lưới của mình, cung cấp compute cho các tác vụ AI inference. Nhưng các mạng này cũng gặp vấn đề: hiệu suất sử dụng thấp, độ trễ cao, và khó đảm bảo SLA. Tuy nhiên, chúng có một lợi thế: không cần hạ tầng phần cứng mới, chỉ cần tận dụng GPU có sẵn. Thực tế, với 1.1 TW, bạn có thể chạy khoảng 1.1 triệu GPU NVIDIA H100 (mỗi GPU ~700W) – đó là một con số khổng lồ, nhưng vẫn chỉ bằng một phần nhỏ của các siêu máy tính tập trung. Nếu bạn muốn phi tập trung hóa AI inference, blockchain là giải pháp tốt hơn robot cluster, bởi vì nó giải quyết vấn đề tin cậy và thanh toán. Nhưng ngay cả blockchain cũng không thể đạt quy mô 1.1 TW trong 15 năm tới, vì chi phí token emission và sự kém hiệu quả của consensus. Vậy câu hỏi chưa được trả lời: Mục tiêu 1.1 TW là cho training hay inference? Nếu là training, kiến trúc phân tán không thể đáp ứng. Nếu là inference, thị trường có đủ lớn để justify chi phí? Và nguồn năng lượng 1.1 TW từ đâu? Liệu lưới điện toàn cầu có thể chịu thêm tải này? Và chi phí Starlink có được tính vào mỗi robot? Nếu mỗi robot cần kết nối liên tục, chi phí băng thông sẽ vượt quá giá trị compute mà nó tạo ra. Từ kinh nghiệm 22 năm quan sát ngành, tôi đã thấy nhiều báo cáo tương tự. Chúng thường được dùng để boost stock price, không phải để xây dựng sản phẩm thực tế. Morgan Stanley đang kể một câu chuyện đẹp cho các nhà đầu tư của SpaceX và Tesla, nhưng về mặt kỹ thuật, nó chứa đầy lỗ hổng. Điều duy nhất tôi tin là con số 1.1 TW sẽ được lặp lại trong nhiều bài thuyết trình, như một “vision” để huy động vốn. Nhưng với tư cách một người hiểu về kiến trúc phân tán, tôi khuyên bạn nên nhìn vào các dự án DePIN thực tế, nơi có code, có token, và có cộng đồng người dùng thực sự. Kết luận của tôi không phải là một sự tổng kết, mà là một câu hỏi: Liệu chúng ta có đang đánh giá quá cao khả năng của robot như một nền tảng compute, trong khi bỏ qua blockchain – thứ thực sự có thể kết nối tài nguyên máy tính một cách phi tập trung? Tương lai của AI inference không nằm ở việc sở hữu robot, mà ở việc lập trình lớp incentive. Blockchain sẽ là lớp điều phối, không phải lớp compute. Và điều đó đòi hỏi nhiều hơn là một báo cáo với những con số sai.