Đào tạo mô hình AI đang tốn nhiều chi phí

Các công ty công nghệ lớn đang đầu tư mạnh tay hàng tỉ USD vào các trung tâm dữ liệu AI để đáp ứng nhu cầu ngày càng tăng về sức mạnh tính toán và cơ sở hạ tầng cần thiết cho khối lượng công việc AI tiên tiến.

Chi phí vốn cho AI là khoản đầu tư một lần hoặc không thường xuyên vào cơ sở hạ tầng và tài sản AI dài hạn. Chi phí vận hành trung tâm dữ liệu là chi phí liên tục để vận hành và bảo trì các trung tâm dữ liệu AI hàng ngày.

Dữ liệu đến từ New Street Research thông qua JP Morgan và được cập nhật tính đến tháng 8/2024. Các con số được tính bằng tỉ, chi phí hoạt động bao gồm chi phí hoạt động bằng tiền mặt, phần mềm, khấu hao và điện.

Đồ họa dưới đây hiển thị tổng chi phí vốn cho AI và chi phí vận hành trung tâm dữ liệu của Microsoft, Google, Meta và Amazon. 

Microsoft hiện đang dẫn đầu về tổng chi phí cho trung tâm dữ liệu AI, chi tổng cộng 46 tỉ USD cho chi phí vốn và chi phí vận hành tính đến tháng 8/2024. Microsoft hiện cũng có số lượng trung tâm dữ liệu nhiều nhất với 300, theo sau là Amazon với khoảng 215. Tuy nhiên, sự khác biệt về quy mô và năng lực có nghĩa là số lượng cơ sở không phải lúc nào cũng phản ánh tổng công suất tính toán.

Vào tháng 9, Microsoft và BlackRock đã công bố kế hoạch trị giá 100 tỉ USD thông qua đối tác đầu tư cơ sở hạ tầng trí tuệ nhân tạo toàn cầu (GAIIP) nhằm phát triển các trung tâm dữ liệu tập trung vào AI và cơ sở hạ tầng năng lượng để hỗ trợ chúng.

Chi phí đào tạo cho một mô hình AI lớn đang ngày càng đắt đỏ vì nó đòi hỏi bộ dữ liệu lớn, tính toán phức tạp và tài nguyên tính toán đáng kể, thường liên quan đến GPU mạnh và mức tiêu thụ năng lượng đáng kể.

Tuy nhiên, khi tần suất và quy mô triển khai mô hình AI tiếp tục tăng, tổng chi phí suy luận có thể sẽ vượt quá chi phí đào tạo ban đầu, như trường hợp của ChatGPT của OpenAI.

Có thể bạn quan tâm:

FPT “săn cá voi” bằng A.I

Nguồn Visualcapitalist