Chủ tịch TSMC Mark Liu cho biết việc thiếu hụt bộ tăng tốc AI không phải do thiếu chip AI được Nvidia thiết kế.
GPU HPC được thiết kế để tăng tốc độ đào tạo AI tốn rất nhiều tiền, nhưng TSMC sẽ chưa thể đáp ứng nhu cầu ngày càng cao của khách hàng. Nhà sản xuất chip hàng đầu thế giới vẫn đang thiếu khả năng đóng gói tiên tiến mà thị trường đang yêu cầu hiện nay.
Các máy chủ AI dự kiến sẽ bùng nổ với giá trị thị trường ước tính là 150 tỷ USD vào năm 2027 và Nvidia hiện đang sản xuất các GPU được săn đón nhiều nhất, được thiết kế để tăng tốc đào tạo thuật toán cho chatbot và các dịch vụ AI tổng hợp. TSMC, công ty được giao nhiệm vụ sản xuất bo mạch dựa trên GPU mà các máy chủ AI nói trên sẽ sử dụng, sẽ không có đủ năng lực sản xuất để đáp ứng nhu cầu thị trường trong ít nhất một năm rưỡi.
Trao đổi với Nikkei, Chủ tịch TSMC Mark Liu cho biết việc thiếu hụt bộ tăng tốc AI không phải do thiếu chip AI được Nvidia thiết kế. Tình hình thị trường hiện tại chủ yếu phụ thuộc vào năng lực hạn chế của TSMC với bao bì CoWoS. Liu cho biết, công ty Đài Loan không thể đáp ứng 100% đơn đặt hàng của khách hàng ngay bây giờ, nhưng “chúng tôi cố gắng hỗ trợ khoảng 80%” yêu cầu sản xuất.
Công nghệ chip-on-wafer-on-substrate (CoWoS) là nền tảng đóng gói tiên tiến cung cấp “hiệu suất tốt nhất và mật độ tích hợp cao nhất” cho các ứng dụng phần cứng HPC, TSMC giải thích. Công ty cho biết quy trình tích hợp hệ thống ở cấp độ wafer, dựa trên bộ chuyển đổi, hỗ trợ nhiều loại hình khối và kích cỡ gói HBM.
TSMC hiện sản xuất phần lớn GPU, FPGA và các chip chuyên dụng khác được thiết kế để tăng tốc tính toán AI. Những máy gia tốc này sử dụng bộ nhớ HBM để cung cấp băng thông lớn nhất có thể cho việc đào tạo AI và chúng được sản xuất bằng kỹ thuật đóng gói CoWoS. Các công ty sản xuất chip khác cũng cung cấp năng lực đóng gói tương tự, nhưng TSMC có thể sẽ nhận được đơn đặt hàng lớn nhất đến từ các công ty sản xuất chip danh tiếng nhất bao gồm Nvidia và AMD.
Dựa theo các nhà phân tích ngành cho rằng việc triển khai các công nghệ đóng gói tiên tiến như CoWoS rất tốn kém và rủi ro về mặt tài chính. Do đó, các công ty sản xuất nhỏ hơn có thể ít có động lực đầu tư toàn bộ số tiền họ cần để tăng cường và cải tiến khả năng đóng gói của mình.
TSMC đang chi gần 3 tỷ USD cho một nhà máy đóng gói mới sẽ đi vào hoạt động vào năm 2027. Công ty cam kết tăng công suất đóng gói “càng nhanh càng tốt”, Liu xác nhận với các nhà đầu tư. Chủ tịch TSMC cho biết, sự “khó khăn” trong sản lượng sản xuất dự kiến sẽ được giải tỏa vào cuối năm sau, với việc số lượng tấm wafer CoWoS sẽ tăng gấp đôi vào năm 2024 so với năm 2023.