OpenAI cho biết dòng chip Jalapeno mới của công ty đã đạt hiệu suất tốt hơn so với các dòng sản phẩm hiện tại của Nvidia Corp. trong quá trình thử nghiệm, nhấn mạnh tiến trình của công ty trong việc tự phát triển các bộ vi xử lý AI.

Trong các bài thử nghiệm, vi xử lý Jalapeno dẫn đầu ở hai danh mục: Khối lượng công việc AI xử lý được trên mỗi đơn vị điện năng tiêu thụ và tốc độ trả về kết quả. Mẫu chip này được đo lường đối chiếu với GB300 của Nvidia, sản phẩm được cho là lựa chọn hàng đầu trên hệ thống đánh giá chuẩn công khai được sử dụng trong bài kiểm tra, theo trả lời phỏng vấn của Richard Ho, trưởng bộ phận mảng chip của OpenAI, hôm thứ Hai.

Nhà phát triển ChatGPT dự kiến sẽ bắt đầu đưa các chip mới này vào vận hành để hỗ trợ các mô hình trí tuệ nhân tạo của mình vào cuối năm nay, như một phần của nỗ lực rộng lớn hơn nhằm xây dựng hạ tầng AI riêng. Động thái này đưa OpenAI gia nhập làn sóng các công ty đang nỗ lực tự phát triển chip AI, lĩnh vực hiện do Nvidia thống trị.

Dòng chip mới này sẽ giúp giảm đáng kể chi phí cho OpenAI khi được triển khai rộng rãi hơn, ông Ho phát biểu trên chương trình Bloomberg Tech vào thứ Ba. “Đây là một con chip rất tốt và nó sẽ giúp giảm chi phí xuống rất nhiều,” ông nói. Công ty hướng tới mục tiêu xử lý nhiều nhiệm vụ AI hơn bằng các dòng chip tự sản xuất, miễn là OpenAI có thể tăng sản lượng Jalapeno và mức tiết kiệm chi phí đạt đúng như kỳ vọng, ông chia sẻ thêm.

OpenAI đã tạo ra Jalapeno thông qua quan hệ hợp tác với Broadcom, đơn vị chuyên sản xuất chip theo yêu cầu cho nhiều đối tác. Hai công ty, công bố thỏa thuận hợp tác vào năm ngoái, đã ca ngợi tốc độ phát triển bộ vi xử lý này vào tháng 6, khẳng định dòng chip được hoàn thành trong thời gian kỷ lục.

Thông thường, một số dòng chip sẽ mạnh hơn ở khoản vận hành các nhiệm vụ AI, trong khi các dòng chip khác lại vượt trội hơn ở khả năng phản hồi nhanh, nhưng Jalapeno cung cấp được cả hai yếu tố này, theo ông Ho. OpenAI sẽ quyết định mô hình AI nào của mình sẽ vận hành trên Jalapeno, cho phép khách hàng hưởng lợi bằng cách lựa chọn các phương án mang lại sự tiết kiệm chi phí hoặc hiệu suất cao hơn.

“Trong phòng thí nghiệm, Jalapeno đang thể hiện hiệu suất xuất sắc ở cả mảng năng suất xử lý cao, nghĩa là có khả năng phục vụ lượng lớn khách hàng với chi phí rẻ hơn. Nó cũng như có độ trễ thấp, đồng nghĩa với việc đối với những khách hàng quan tâm đến tốc độ, thời gian phản hồi sẽ rất, rất nhanh,” ông Ho nhận định.

Nhờ việc dòng chip này đạt được kết quả ấn tượng ở mức điện áp thấp, khoảng 700 watt, Jalapeno sẽ giúp OpenAI tiết kiệm ngân sách khi vận hành các trung tâm dữ liệu, nơi chi phí điện năng đóng vai trò then chốt, theo ông Ho.

Jalapeno chưa được thử nghiệm so sánh với thế hệ chip mới Vera Rubin của Nvidia vừa bắt đầu được xuất hàng. Chip này cũng không được thiết kế cho quá trình huấn luyện các mô hình AI, mảng công nghệ mà Nvidia vẫn đang vượt trội. Jalapeno hướng tới giai đoạn suy luận, giai đoạn mà các mô hình đã được huấn luyện xong và bắt đầu phản hồi các yêu cầu cũng như xử lý công việc.

Lợi ích về mặt tốc độ của Jalapeno lớn tới mức OpenAI có thể đạt được những kết quả mà trước đây chỉ có thể thực hiện được với các chip sử dụng thiết kế và loại bộ nhớ khác. Ví dụ, OpenAI hiện đang phụ thuộc vào công nghệ của Cerebras Systemscho một số mô hình của mình. Tuy nhiên, loại chip đó phù hợp nhất với các mô hình nhỏ hơn, ông Ho cho biết.

Ngược lại, Jalapeno có thể xử lý các mô hình lớn hơn, ông chia sẻ. Dù vậy, công nghệ của OpenAI sẽ không thể sớm thay thế các nhà cung cấp như Cerebras trong thời gian ngắn, ông Ho nhận định.

“Nhu cầu về năng lực tính toán của chúng tôi là rất lớn, đó là lý do tại sao chúng tôi hợp tác với nhiều nhà cung cấp khác nhau,” ông nói. “Điều này sẽ còn tiếp diễn trong một thời gian nữa.”

Ông Ho sẽ phát biểu vào thứ Ba tại hội nghị Hot Chips diễn ra ở đại học Stanford. Ông cho biết OpenAI muốn công khai những gì mình đã làm nhằm góp phần thúc đẩy sự đổi mới trong lĩnh vực chip AI.

Các công ty khởi nghiệp khác cũng đang nghiên cứu các ý tưởng tương tự. Etched, công ty tuần trước vừa tuyên bố gọi vốn với mức định giá 21 tỉ USD, đang bắt đầu xuất hàng dòng chip điện áp thấp. Trong khi đó, một công ty có tên MatX, được thành lập bởi hai cựu nhân sự từ mảng vi chip của Google, cũng đang phát triển một loại bán dẫn nhắm tới việc đạt được cả năng suất xử lý cao lẫn độ trễ thấp.

OpenAI đã kiểm tra công khai dòng chip mới của mình bằng một trong các mô hình mã nguồn mở nhỏ hơn của họ, cùng với các mô hình từ bên thứ ba của DeepSeek và Moonshot AI. Jalapeno mang lại ưu thế rõ rệt hơn trên mô hình Kimi của Moonshot, mô hình lớn nhất mà OpenAI từng thử nghiệm. Trong các bài kiểm tra nội bộ, chip cũng hoạt động tốt khi chạy một số mô hình lớn và tiên tiến chưa được phát hành của OpenAI. Điều đó cho thấy thiết kế của chip “ngày càng trở nên giá trị hơn khi khối lượng công việc lớn hơn và đòi hỏi khắt khe hơn,” công ty cho biết trong một bài đăng trên blog.

OpenAI cho biết họ đã sử dụng chính các mô hình AI của mình để đẩy nhanh quá trình phát triển chip. Phiên bản thứ hai hiện đã đi được một chặng đường dài trong quy trình. Công ty dự kiến sẽ hoàn tất thiết kế chi tiết cho dòng chip này trong “những tháng tới,” theo lời ông Ho.

OpenAI cũng đang thiết kế các khái niệm cho thế hệ thứ ba, trong bối cảnh công ty tìm cách hạ thấp chi phí cho lượng hạ tầng AI khổng lồ mà họ đang xây dựng trên toàn cầu. “Chúng tôi tiếp cận ở góc độ chi phí và mức năng lượng giúp hạ thấp chi phí hạ tầng,” ông Ho nói. “Đây là bước đầu tiên.”

Dù OpenAI đang ca ngợi thành quả tự phát triển và đưa ra so sánh với Nvidia, ông Ho vẫn nhấn mạnh rằng họ tiếp tục coi Nvidia là nhà cung cấp chip chủ lực. “Nvidia là một đối tác rất tốt, và chúng tôi tiếp tục cần rất nhiều sản phẩm từ Nvidia,” ông nói.

— Với sự hỗ trợ từ Edward Ludlow