CONFIRMADOCerteza de la fecha: CONFIRMADOAnunciado como firmeCon qué firmeza la fuente expresa la fecha: confirmada, programada, estimada, retrasada o sin verificar.Ver todos los pines CONFIRMADO89% DE CONFIANZAConfianza general: 89%Hasta qué punto la fuente y las referencias del pin respaldan sus fechas.Media ponderada de la firmeza con la que 4 referencias, incluida la fuente, respaldan las horas de inicio y fin del pin; una referencia cuenta la mitad por cada 180 días que sea más antigua que la más recienteMostrar todos los pines con un 75% de confianza o más
El comunicado de prensa de IBM[1][2] tiene fecha del 21 de octubre de 2024 y dice que IBM anunció Granite 3.0 «hoy» en TechXchange; la ficha del modelo ibm-granite/granite-3.0-8b-instruct indica la misma fecha de lanzamiento, el 21 de octubre de 2024.- Inicio
- 21 oct 202490% DE CONFIANZAsegún la fuente
Lanzamiento de Granite 3.0 8B y 2B
Traducido automáticamente del original
Título original: Granite 3.0 8B and 2B Released
En su evento TechXchange, IBM lanza Granite 3.0, su tercera generación de modelos abiertos con licencia Apache 2.0: modelos de lenguaje densos de 8B y 2B, modelos de seguridad Granite Guardian y pequeños modelos de mezcla de expertos.
- IBM anunció Granite 3.0 el 21 de octubre de 2024 en su evento anual TechXchange, al que describió como su familia de modelos de IA más avanzada hasta la fecha y la tercera generación de Granite, con todos los modelos bajo la licencia permisiva Apache 2.0[1]
- Los modelos de lenguaje principales son Granite 3.0 8B y 2B, cada uno en versión Instruct y Base; la familia añade además los modelos de seguridad Granite Guardian 3.0 8B y 2B y cuatro modelos de mezcla de expertos, 3B-A800M y 1B-A400M, cada uno en versión Instruct y Base[1][2]
- IBM afirma que Granite 3.0 8B Instruct se entrenó con más de 12 billones de tokens en 12 idiomas naturales y 116 lenguajes de programación, y que el informe técnico y la guía de uso responsable describen los conjuntos de datos y los pasos de filtrado[1][2][4]
- IBM informa de que Granite 3.0 8B Instruct supera la media de modelos abiertos de tamaño similar de Meta y Mistral en el Hugging Face OpenLLM Leaderboard y en su propio benchmark de seguridad AttaQ; se trata de comparaciones realizadas por el propio proveedor[1][2]
- Maginative señala que los modelos no apuntan a sistemas de frontera como GPT-4 o Claude Opus: el mayor es de 8B, por lo que son modelos de lenguaje pequeños pensados para ajustarse con datos de la empresa[4]
Características destacadas
- Modelos de mezcla de expertos para despliegue en CPU y en el borde: Granite 3.0 3B-A800M tiene 3B de parámetros totales y 800M activos con 40 expertos, y 1B-A400M tiene 1B totales y 400M activos con 32 expertos; ambos enrutan a los 8 mejores[2]
- Granite Guardian 3.0 examina las entradas y salidas del modelo en busca de riesgos como jailbreaking, sesgo y alucinación en RAG; IBM informa de una mejora media de 4 puntos de F1 frente a Llama Guard 3 8B en benchmarks públicos de detección de riesgos[2]
- Un acelerador de decodificación especulativa para el 8B Instruct que, según IBM, ofrece una aceleración del 220 % en tokens por paso[2]
- Un modelo Granite Time Series que, según IBM, alcanzó un rendimiento de vanguardia en predicción zero-shot y few-shot, superando a modelos diez veces más grandes[1]
- IBM ofrece una indemnización de propiedad intelectual para los modelos Granite en watsonx.ai y dijo que Granite pasaría a ser el modelo predeterminado de su plataforma de entrega Consulting Advantage, usada por 160.000 consultores[1]