Tại hội nghị BUILD dành cho các nhà phát triển, Microsoft nói rằng đây là một trong năm siêu máy tính từng được tiết lộ công khai trên toàn cầu.
Năm ngoái, Microsoft đã đầu tư 1 tỷ USD vào OpenAI với mục tiêu tạo ra các siêu máy tính tận dụng các dịch vụ đám mây của Azure. Và khoản đầu tư khổng lồ này đã và đang cho ra những kết quả đầu tiên hết sức ấn tượng.
Xét về cấu hình, siêu máy tính mới của Microsoft thực sự là một con "quái vật". Nó là một hệ thống đơn với hơn 285.000 nhân CPU, 10.000 GPU, và kết nối mạng 400 gigabits mỗi giây đối với từng máy chủ GPU.
Cả hai công ty cho biết họ muốn xây dựng các mô hình AI đa nhiệm trên quy mô lớn để các nhà phát triển và cộng đồng có thể dễ dàng sử dụng. Microsoft còn tiết lộ thêm rằng mục tiêu cuối cùng của hãng là đưa các mô hình AI lớn, các công cụ tối ưu hóa quá trình huấn luyện, và các nguồn tài nguyên siêu điện toán lên các dịch vụ AI của Azure và GitHub để hỗ trợ các nhà nghiên cứu.
Hồi đầu năm nay, gã khổng lồ công nghệ đã giới thiệu một mô hình phát sinh ngôn ngữ tự nhiên 17 tỷ tham số. Với siêu máy tính này và chương trình AI quy mô lớn của nó, Microsoft muốn tạo ra nhiều hơn nữa các mô hình chung tương tự và mở mã nguồn của chúng cho cộng đồng cùng phát triển.
Mô hình phát sinh ngôn ngữ tự nhiên 17 tỷ tham số của Microsoft so với các mô hình khác
Giám đốc Công nghệ (CTO) của Microsoft, Kevin Scott, nói rằng mọi nỗ lực của hãng đều tập trung vào việc huấn luyện một mô hình có khả năng học hỏi để thực hiện một loạt các công việc và đưa nó đến tay các nhà phát triển:
"Đến thời điểm hiện tại, hầu hết mọi người đều hiểu về máy tính cá nhân như một nền tảng – bạn mua một chiếc máy tính, và không phải mọi thứ nó sẽ làm được đều có sẵn khi bạn lấy nó ra khỏi thùng.
Đó chính xác là những gì chúng tôi nghĩ đến khi nói rằng AI sẽ trở thành một nền tảng. Chúng tôi sẽ nạp vào một bộ dữ liệu rất rộng và huấn luyện một mô hình có khả năng học hỏi để thực hiện một loạt các công việc và đưa nó đến tay hàng triệu nhà phát triển để họ tìm hiểu cách thực hiện nhiều thứ hay ho và sáng tạo với nó".
Kể từ khi hình thành ý tưởng vào năm 2015, Microsoft đã đưa ra một số dự án gây nhiều sự chú ý, bao gồm ứng dụng phát sinh văn bản GPT-2 và các con bot chơi game có khả năng đánh bại nhiều nhà vô địch trong tựa game DOTA 2. Công ty vẫn chưa nói rõ họ dự định làm gì với tiềm năng khổng lồ của siêu máy tính mới lần này.
Siêu máy tính trên đám mây như của Microsoft không phải là một thứ chưa từng có. Amazon hiện cung cấp một thứ tương tự là High-Performance Computing (HPC) thông qua Amazon Web Services (AWS). Dù vậy, chưa có dấu hiệu gì cho thấy Microsoft sẽ cung cấp các giải pháp này cho các nhà phát triển.
Tham khảo: TheNextWeb
