Tại sự kiện COMPUTEX 2024, CEO Arm, Rene Haas, Giới thiệu Khung AI Mới “Kleidi AI” Giúp Giải Phóng Hiệu Năng Tối Ưu của CPU Arm
Theo đó, trong sự kiện COMPUTEX 2024, CEO Arm, Rene Haas, đã tái giới thiệu khung phần mềm mới “Arm Kleidi AI” được công bố vài ngày trước. Khung này cho phép các nhà phát triển truy cập liền mạch vào hiệu năng tối ưu của CPU Arm, đồng thời tích hợp với các khung AI phổ biến như PyTorch, TensorFlow và MediaPipe. Điều này sẽ thúc đẩy quá trình tăng tốc cho các mô hình chính bao gồm Meta Llama 3 và Phi-3.
Rene Haas nhấn mạnh rằng Kleidi AI có thể phục vụ tất cả các thiết bị tính toán từ điện thoại di động, máy tính cá nhân, xe thông minh đến các máy chủ đám mây lớn. Cụ thể, điện thoại có iOS và Android, máy tính cá nhân có Windows và Mac, xe ô tô có Linux và Android cho ô tô, và đám mây thì không thể thiếu ba đám mây công cộng lớn nhất hiện nay.
Ngoài ra, Rene Haas cũng giới thiệu hệ thống con tính toán đầu cuối mới của Arm (CSS). Nhóm lõi chính của hệ thống này bao gồm Cortex-X925 sử dụng quy trình sản xuất 3nm tiên tiến. Với tần số xung nhịp 3.8GHz và kích thước bộ đệm lớn nhất, hiệu năng đơn luồng đã tăng 36% và hiệu năng AI tăng 41% so với SoC sử dụng quy trình 4nm vào năm 2023. Điều này sẽ giúp tăng tốc độ phản hồi của AI tạo sinh trong các thiết bị đáng kể.
Cortex-A725 cũng được cải thiện hiệu năng 35%, hướng đến các kịch bản sử dụng AI và game di động. GPU Arm Immortalis-G925 mới cũng cải thiện 37% hiệu năng cho các trò chơi di động và tăng 34% hiệu năng trong nhiều mạng AI và học máy.
Rene Haas nhấn mạnh rằng Arm hiện là kiến trúc tính toán phổ biến nhất trên thế giới. Kể từ khi dòng sản phẩm Arm xuất hiện vào năm 1991, đến năm 2011, số lượng đã vượt qua các PC truyền thống. Tính đến thời điểm hiện tại, số lượng chip Arm được sử dụng trên toàn cầu đã đạt khoảng 300 tỷ.