Выпущены Granite 3.1 8B и 2B

• IBM выпустила Granite 3.1 18 декабря 2024 года как обновление серии Granite 3, появившейся двумя месяцами ранее, с упором на использование инструментов, генерацию с дополнением извлечением и рабочие процессы агентов^[1]
• Теперь у каждой языковой модели семейства длина контекста составляет 128K токенов: у плотных 8B и 2B, у моделей со смесью экспертов 3B-A800M и 1B-A400M, а также у Granite Guardian 3.1 8B и 2B, которые, по словам IBM, находятся на уровне Llama 3.1–3.3 и Qwen2.5^[1]
• Granite 3.1 8B Instruct превосходит Granite 3.0 8B Instruct; IBM ссылается на более заметный рост в следовании инструкциям (IFEval) и рассуждениях над длинными текстами (MuSR), а также на средний результат OpenLLM Leaderboard, который, по словам IBM, входит в число самых высоких среди открытых моделей её весовой категории (собственное сравнение IBM)^[1]
• IBM добавила Granite Embedding — новое семейство моделей поиска в четырёх размерах от 30M до 278M параметров, включая две многоязычные модели на 12 языков; Granite Guardian 3.1 умеет обнаруживать галлюцинированные вызовы функций при работе агентов^[1][4]
• Среди названных IBM корпоративных пользователей — Samsung, которая интегрирует отдельные модели Granite в свою платформу SDS, и Lockheed Martin, использующая Granite 3.1 в инструментах AI Factory для более чем 10 000 разработчиков^[1]

Ключевые особенности

• 128K контекста — это примерно книга на 300 страниц, что, по словам IBM, открывает возможности понимания кода на уровне репозитория и ответов на вопросы по нескольким документам^[1]
• Модели Granite Embedding обучены только на данных, которые IBM проверила как пригодные для коммерческого использования, и имеют ту же неограниченную защиту интеллектуальной собственности, что и другие модели, разработанные IBM^[1]
• Все модели Granite 3.1, Granite Guardian 3.1 и Granite Embedding распространяются по лицензии Apache 2.0 и доступны на Hugging Face, watsonx.ai, Docker, LM Studio, Ollama и Replicate^[1]
• IBM заявила, что мультимодальные возможности Granite запланированы на первый квартал 2025 года^[1]