Gradient випустила Echo-2 RL фреймворк, підвищуючи ефективність досліджень у сфері штучного інтелекту

Odaily星球日报訊 分布式 AI лабораторія Gradient сьогодні випустила фреймворк для розподіленого підкріпленого навчання Echo-2, мета якого — подолати бар’єри у ефективності досліджень і тренувань AI. Завдяки повній роз’єднаності архітектури Learner та Actor, Echo-2 зменшила вартість післятренувального етапу моделі 30B з 4500 доларів до 425 доларів. За однаковий бюджет це забезпечує більш ніж у 10 разів вищу пропускну здатність для наукових досліджень.

Цей фреймворк використовує технологію розділення обчислень і пам’яті для асинхронного навчання (Async RL), делегуючи величезну обчислювальну потужність для зразків на нестабільних графічних процесорах та гетерогенних графічних процесорах на базі Parallax. У поєднанні з технологічними проривами, такими як обмежена застарілість, відмовостійке планування інстанцій та власний протокол зв’язку Lattica, він забезпечує значне підвищення ефективності тренування без втрати точності моделі. Разом із випуском фреймворку Gradient також планує запустити платформу RLaaS Logits, яка сприятиме переходу AI-досліджень від «капітального накопичення» до «ефективності та ітерацій». Logits вже відкрито для реєстрації студентів і дослідників по всьому світу (logits.dev).

Зазначається, що Gradient — це лабораторія AI, яка зосереджена на створенні розподіленої інфраструктури для передових великих моделей, їхнього розподіленого тренування, обслуговування та розгортання.