Meta cũng đang nỗ lực trên "trường đua" AI.

Chip thế hệ mới nhanh và mạnh mẽ hơn

Ngày 10/4, Meta đã công bố thành quả mới nhất từ ​​nỗ lực phát triển chip của mình, chỉ 1 ngày sau khi Intel công bố phần cứng AI mới nhất.

Được gọi là "Bộ tăng tốc suy luận và đào tạo Meta" (MTIA) thế hệ tiếp theo, phiên bản kế thừa của MTIA v1 ra mắt năm 2023, con chip này được thiết kế để hoạt động tốt nhất với các mô hình đề xuất và xếp hạng của Meta. Các con chip có thể giúp việc đào tạo và suy luận, hay còn gọi là nhiệm vụ lý luận thực tế, dễ dàng hơn.

Công ty cho biết trong một bài đăng trên blog rằng MTIA là một phần quan trọng trong kế hoạch dài hạn nhằm xây dựng cơ sở hạ tầng xoay quanh cách sử dụng AI trong các dịch vụ của mình. Meta muốn thiết kế chip của mình để hoạt động với cơ sở hạ tầng công nghệ hiện tại và những tiến bộ về GPU trong tương lai.

Meta cho biết trong bài đăng trên website: “Đáp ứng tham vọng của chúng tôi về silicon tùy chỉnh có nghĩa là đầu tư không chỉ vào silicon tính toán mà còn cả băng thông bộ nhớ, mạng và dung lượng cũng như các hệ thống phần cứng thế hệ tiếp theo khác”.

Trước đó, Meta công bố MTIA v1 vào tháng 5/2023, tập trung cung cấp các chip này cho các trung tâm dữ liệu. Chip MTIA thế hệ tiếp theo có thể cũng sẽ nhắm tới các trung tâm dữ liệu.

Hiện tại, MTIA chủ yếu đào tạo các thuật toán xếp hạng và đề xuất, nhưng Meta cho biết mục tiêu cuối cùng là mở rộng khả năng của chip để bắt đầu đào tạo AI tổng quát giống như các mô hình ngôn ngữ lớn Llama.

So với MTIA v1 được xây dựng trên quy trình 7nm thì MTIA thế hệ tiếp theo là 5nm. (Trong sản xuất chip, “quy trình” dùng để chỉ kích thước của thành phần nhỏ nhất có thể được chế tạo trên chip.)

MTIA thế hệ tiếp theo là một thiết kế vật lý lớn hơn, có nhiều lõi xử lý hơn so với phiên bản trước. Và mặc dù tiêu thụ nhiều điện năng hơn — 90W so với 25W — nhưng nó cũng có nhiều bộ nhớ trong hơn (128 MB so với 64 MB) và chạy ở tốc độ xung nhịp trung bình cao hơn (1,35GHz tăng từ 800 MHz).

Meta cho biết MTIA thế hệ tiếp theo hiện đang có mặt ở 16 khu vực trung tâm dữ liệu của công ty và mang lại hiệu suất tổng thể tốt hơn gấp 3 lần so với MTIA v1.

Áp lực từ "cuộc đua" AI ngày càng tăng

Meta, rất muốn bắt kịp các đối thủ trong không gian AI tổng quát, đang chi hàng tỷ USD cho nỗ lực AI của riêng mình. Một phần trong số hàng tỷ đó được dùng để tuyển dụng các nhà nghiên cứu AI. Nhưng một phần thậm chí còn lớn hơn đang được dành để phát triển phần cứng, đặc biệt là chip để chạy và huấn luyện các mô hình AI của Meta.

Công ty cũng đang chi hàng tỷ USD để mua Nvidia và các chip AI khác. Giám đốc điều hành Meta Mark Zuckerberg năm nay cho biết công ty có kế hoạch mua khoảng 350.000 chip H100 hàng đầu từ Nvidia. Ông Zuckerberg cho biết Meta có kế hoạch tích lũy số lượng tương đương 600.000 chip H100 trong năm nay.

Tuy nhiên, dường như công ty này đang không đạt được tiến độ như mong muốn. Trong bài đăng mới, Meta cho biết chỉ mất chưa đầy 9 tháng để “chuyển từ silicon đầu tiên sang mô hình sản xuất” của MTIA thế hệ tiếp theo. Mặc dù thời gian này ngắn hơn so với quãng thời gian Google sử dụng để cho ra mắt các phiên bản chip TPU, nhưng Meta sẽ còn rất nhiều việc phải làm nếu hy vọng đạt được mức độ độc lập với GPU của bên thứ ba.

Nhóm AI của Meta gần như chắc chắn phải chịu áp lực cắt giảm chi phí. Công ty dự kiến ​​chi khoảng 18 tỷ USD vào cuối năm 2024 cho GPU để đào tạo và chạy các mô hình AI tổng quát. Nhưng trong khi Meta vẫn loay hoay với những con chip, thì các đối thủ khác đã đi được một quãng đường rất xa.

Tuần này, Google đã sản xuất chip tùy chỉnh thế hệ thứ năm để đào tạo các mô hình AI, TPU v5p, thường có sẵn cho khách hàng của Google Cloud và tiết lộ chip chuyên dụng đầu tiên dành cho các mô hình đang chạy, Axion.

Amazon có một số dòng chip AI tùy chỉnh, và Microsoft năm ngoái đã nhảy vào cuộc cạnh tranh với Bộ tăng tốc AI Azure Maia và CPU Azure Cobalt 100.

Tác giả: Minh Ý

Nguồn tin: vietnamfinance.vn