11 лютого компанія Мол Трейд офіційно випустила нове покоління великої моделі GLM-5. Мол Трейд на базі інференційного фреймворку SGLang на флагманському універсальному GPU для навчання та інференції AI MTT S5000 завершила повну адаптацію та валідацію на Day-0. Завдяки широкому покриттю операторів архітектури MUSA та потужній сумісності з екосистемою, Мол Трейд успішно забезпечила повний ланцюг інференції моделі та глибоко розкрила можливості апаратного прискорення FP8 на MTT S5000, одночасно забезпечуючи точність моделі та значне зниження споживання відеопам’яті, досягнувши високопродуктивної інференції GLM-5. Це швидке адаптування не лише підтверджує зрілість програмного стеку MUSA, а й яскраво демонструє здатність вітчизняного універсального GPU підтримувати найновіші великі моделі швидко та ефективно. (Мол Трейд)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Моррель Тредінг MTT S5000 першими завершили адаптацію до GLM-5
11 лютого компанія Мол Трейд офіційно випустила нове покоління великої моделі GLM-5. Мол Трейд на базі інференційного фреймворку SGLang на флагманському універсальному GPU для навчання та інференції AI MTT S5000 завершила повну адаптацію та валідацію на Day-0. Завдяки широкому покриттю операторів архітектури MUSA та потужній сумісності з екосистемою, Мол Трейд успішно забезпечила повний ланцюг інференції моделі та глибоко розкрила можливості апаратного прискорення FP8 на MTT S5000, одночасно забезпечуючи точність моделі та значне зниження споживання відеопам’яті, досягнувши високопродуктивної інференції GLM-5. Це швидке адаптування не лише підтверджує зрілість програмного стеку MUSA, а й яскраво демонструє здатність вітчизняного універсального GPU підтримувати найновіші великі моделі швидко та ефективно. (Мол Трейд)