Vì sao chip TPU thế hệ 8 bổ sung TPU 8tx and TPU 8i Max?

Google vừa bổ sung bộ đôi TPU 8tx and TPU 8i Max vào dòng chip TPU thế hệ 8. Sự kiện này hoàn thiện dải sản phẩm PU 8t, TPU 8i, TPU 8tx, and TPU 8i Max. Theo chúng tôi, bước đi này giải quyết triệt để nút thắt cổ chai bộ nhớ và bảo mật. Kiến trúc mới giúp giảm tới 2 lần độ trễ và tăng 80% hiệu quả chi phí.

Google mở rộng danh mục phần cứng với chip TPU thế hệ 8 mới

Google công bố hệ thống TPU 8tx và TPU 8i Max vào ngày 09/11/2026. Sự kiện nâng tổng số mẫu chip TPU thế hệ 8 lên bốn bản trong một năm. Điều này được nêu rõ trong thông cáo chính thức của Google.

Trước đó, hãng đã giới thiệu mẫu TPU 8t cho việc huấn luyện mô hình. Đồng thời, phiên bản TPU 8i được tối ưu cho các tác vụ suy luận thời gian thực. Hai biến thể mới tiếp tục lấp đầy các khoảng trống kỹ thuật phức tạp của hệ thống tự hành.

Nâng cấp thông số trên TPU 8tx và TPU 8i Max

Hệ thống TPU 8tx phục vụ suy luận bảo mật cao và tinh chỉnh mô hình quy mô nhỏ. Sản phẩm dùng cùng đế bán dẫn với bản TPU 8t và kết hợp máy chủ CPU AMD EPYC. Nhờ đó, TPU 8tx giữ trọng số mô hình và dữ liệu trong môi trường mã hóa. Đáng chú ý, giải pháp này mang lại độ trễ thấp hơn tới 2 lần so với TPU 8t.

Trong khi đó, biến thể TPU 8i Max giải quyết bài toán dung lượng bộ nhớ. Google ghép hai đế chip vào một khối đóng gói duy nhất. Nhờ đó, dung lượng bộ nhớ đệm SRAM trên chip đạt 768 MB. Cấu hình này giúp mô hình ngôn ngữ lớn duy trì ngữ cảnh liên tục.

Vì sao chip TPU thế hệ 8 buộc phải tách biệt kiến trúc?

Sự xuất hiện của hai vi xử lý mới phản ánh bước ngoặt trong thiết kế phần cứng. Trước đây, các hãng thường tạo ra một bộ xử lý đa năng cho mọi tác vụ. Tuy nhiên, khối lượng công việc tự hành hiện đại đã chạm giới hạn bộ nhớ. Do đó, việc chuyên môn hóa từng dòng chip TPU thế hệ 8 trở thành giải pháp tất yếu.

Đột phá từ giải pháp mạng Boardfly và TPU Sync

Khi các tác nhân phối hợp qua nhiều bước, việc truy xuất bộ nhớ diễn ra liên tục. Để giải quyết, hệ thống dùng phần mềm TPU Sync đồng bộ trọng số. Giải pháp này giúp giảm độ trễ truyền KV và TTFT hơn 90%. Ngoài ra, cấu trúc mạng Boardfly giúp giảm 56% đường kính mạng lưới so với thiết kế dạng vòng torus trước đây. Nhờ vậy, hệ thống hạn chế tối đa độ trễ đuôi khi truyền dữ liệu giữa các máy chủ.

Mặt khác, hiệu quả vận hành cụm máy chủ cũng cải thiện rõ rệt nhờ khả năng phân vùng. Cụ thể, tính linh hoạt của mô hình mạng giúp cắt giảm thời gian khởi động tác vụ tới 5 lần. Đồng thời, kiến trúc topo mới giúp tăng tốc độ phục hồi lỗi lên tới 4.5 lần. Những cải tiến này bổ trợ cho bước nhảy vọt của dòng chip TPU thế hệ 8. Trước đó, mẫu TPU 8t đạt hiệu năng huấn luyện tốt hơn tới 2.7 lần. Bản TPU 8i cũng đem lại hiệu quả chi phí tốt hơn 80%.

Động lực cạnh tranh và hiệu năng của chip TPU thế hệ 8

Sự định hình của dòng chip TPU thế hệ 8 tạo ra chuyển biến lớn trên thị trường đám mây. Khách hàng doanh nghiệp tài chính và y tế hưởng lợi trực tiếp từ TPU 8tx. Họ có thể vận hành mô hình bằng dữ liệu nội bộ mà không lo ngại rò rỉ thông tin.

Vai trò của vi xử lý máy chủ AMD EPYC

Bên cạnh đó, đối tác AMD cũng đạt được một thắng lợi chiến lược quan trọng. Google đã chọn vi xử lý máy chủ AMD EPYC thế hệ 5 làm máy chủ điều khiển cho TPU 8tx. Dòng chip này sở hữu bộ đệm L3 trên mỗi nhân cao hơn tới 5 lần, theo trang thông số AMD EPYC. Ngoài ra, vi xử lý AMD EPYC 9.965 mang lại thông lượng suy luận cao hơn tới 1.33 lần so với Intel Xeon 6980P.

Ngược lại, áp lực cạnh tranh sẽ đè nặng lên các nhà cung cấp GPU truyền thống. Việc loại bỏ các tầng trung gian giúp tối ưu chi phí vận hành. Cách làm này tương tự như giải pháp trong bài viết tắt Sticky Keys trên Windows 11. Bạn đọc có thể theo dõi thêm các bài viết cùng chủ đề tại chuyên mục Máy tính trên Tức Thời.

Ba kịch bản cho thị trường điện toán AI trong thời gian tới

Bức tranh hạ tầng trí tuệ nhân tạo có thể vận động theo ba kịch bản chính sau đây:

• Kịch bản 1: Doanh nghiệp đẩy mạnh khai thác đám mây bảo mật (Xác suất cao). Các tập đoàn lớn sẽ chuyển mô hình nội bộ sang nền tảng mới. Dấu hiệu xác nhận là mảng giải pháp an toàn trên Google Cloud duy trì tăng trưởng vượt 30%.
• Kịch bản 2: AMD nới rộng khoảng cách vi xử lý máy chủ (Xác suất trung bình). Dòng chip TPU thế hệ 8 sẽ thúc đẩy việc áp dụng CPU EPYC Turin. Dấu hiệu nhận biết là doanh số CPU máy chủ AMD tiếp tục mở rộng trên đám mây.
• Kịch bản 3: Cuộc chiến giảm giá dịch vụ suy luận bùng nổ (Xác suất thấp). Các đối thủ buộc phải hạ giá để cạnh tranh mức tối ưu chi phí 80% từ dòng chip TPU thế hệ 8. Dấu hiệu xác nhận là đợt giảm giá niêm yết từ các nền tảng lớn.

Nguồn tham khảo

• Google Blog: Introducing TPU 8tx and TPU 8i Max
• ServeTheHome: Google TPU 8tx Pairs AMD EPYC Turin Hosts with Confidential Computing
• Google Cloud Blog: TPU 8t and TPU 8i technical deep dive
• AMD: AMD EPYC Server CPUs Official Specifications
• Wccftech: Google Pairs Its New TPU 8tx With Custom AMD EPYC CPU Hosts