Gradient phát hành khung công tác Echo-2 RL, nâng cao hiệu quả nghiên cứu AI

Odaily Planet Daily News Gradient, một phòng thí nghiệm AI phân tán, hôm nay đã phát hành khung học tăng cường phân tán Echo-2, nhằm phá vỡ các rào cản đối với hiệu quả đào tạo nghiên cứu AI. Bằng cách thực hiện tách hoàn toàn Learners khỏi Actors ở lớp kiến trúc, Echo-2 đã giảm mạnh chi phí sau đào tạo của mô hình 30B từ 4.500 USD xuống còn 425 USD. Với cùng một ngân sách, nó mang lại hơn 10 lần thông lượng nghiên cứu khoa học.

Khung này sử dụng công nghệ tách điện toán bộ nhớ để đào tạo không đồng bộ (Async RL) để giảm tải sức mạnh tính toán lấy mẫu lớn cho các phiên bản cạc đồ họa không ổn định và các card đồ họa không đồng nhất dựa trên thị sai. Với những đột phá kỹ thuật như lỗi thời có giới hạn, lập lịch chịu lỗi phiên bản và giao thức truyền thông Lattica tự phát triển, nó cải thiện đáng kể hiệu quả đào tạo trong khi vẫn đảm bảo độ chính xác của mô hình. Cùng với việc phát hành khung, Gradient cũng sắp ra mắt nền tảng RLaaS Logits, thúc đẩy sự thay đổi mô hình trong nghiên cứu AI từ “xếp vốn” sang “lặp lại hiệu quả”. Logits hiện đang mở cửa cho các cuộc hẹn (logits.dev) cho sinh viên và nhà nghiên cứu trên toàn thế giới.

Được biết, Gradient là một phòng thí nghiệm AI dành riêng cho việc xây dựng cơ sở hạ tầng phân tán, tập trung vào đào tạo phân tán, dịch vụ và triển khai các mô hình lớn tiên tiến.