Ну вот и миниатюризация пошла :
----
Компании Nvidia и Mistral выпустили Mistral-NeMo-Minitron 8B, высокоточную модель малого языка, которая может эффективно работать на ноутах и ПК.
Модель использует такие методы оптимизации, как обрезка (удаление определенных весов) и дистилляция (переобучение обрезанной модели на небольшом наборе данных), чтобы достичь высокой точности при меньшем объеме.
Эти оптимизации привели к 40-кратной экономии вычислительных ресурсов во время обучения.
Ноутбуки и ПК могут запускать модель локально.
Minitron 8B лидирует в девяти языковых бенчмарках ИИ для аналогичных по размеру моделей, начиная с понимания языка и заканчивая рассуждениями и кодированием.
По мере развития таких технологий мы можем вскоре увидеть продвинутый ИИ во всем - от смартфонов и часов до бытовой техники.
#новости
Новости ИИ | Бот ChatGPT | Чат ИИ
https://t.me/c/1251718328/2946