IBM lanzó Granite 3.1, la última actualización del la serie Granite de modelos lingüísticos abiertos, eficaces y optimizados para empresas del Gigante Azul. Este conjunto de mejoras, adiciones y nuevas funciones se centra principalmente en aumentar el rendimiento, la precisión y la responsabilidad en casos de uso empresarial esenciales como el uso de herramientas, la generación aumentada de recuperación (RAG) y los flujos de trabajo escalables de IA agéntica.
Granite 3.1 aprovecha el impulso de la recientemente lanzada colección Granite 3.0. IBM seguirá lanzando modelos actualizados y funcionalidades para la serie Granite 3 en los próximos meses, con nuevas capacidades multimodales previstas para el primer trimestre de 2025.
Estos nuevos modelos Granite no son las únicas contribuciones recientes de IBM al ecosistema LLM de código abierto. El nuevo lanzamiento pone la guinda a una serie de innovadores lanzamientos de código abierto, desde un marco flexible para el desarrollo de agentes de IA hasta un conjunto de herramientas intuitivas para desbloquear información esencial oculta en PDF, presentaciones de diapositivas y otros formatos de archivo difíciles de digerir para los modelos. El uso de estas herramientas y marcos junto con los modelos Granite 3.1 ofrece a los desarrolladores capacidades evolucionadas para RAG, agentes de IA y otros flujos de trabajo basados en LLM.
Novedades de Granite 3.1:
- Rendimiento Mejorado: El modelo Granite 3.1 8B Instruct ha demostrado un rendimiento superior en evaluaciones académicas, superando a otros modelos de código abierto de tamaño similar. Esto se traduce en respuestas más precisas y eficientes en tareas complejas.
- Ampliación de la Ventana de Contexto: Todos los modelos de la familia Granite 3.1 ahora cuentan con una longitud de contexto de hasta 128,000 tokens. Esta expansión permite procesar documentos extensos, como bases de código completas o documentos legales, facilitando tareas que requieren análisis de grandes volúmenes de información.
- Modelos de Embedding Mejorados: Se han introducido nuevos modelos de embedding optimizados para recuperación de información, disponibles en cuatro tamaños que van desde 30 millones hasta 278 millones de parámetros. Estos modelos ofrecen soporte multilingüe en 12 idiomas, incluyendo español, mejorando la capacidad de comprensión y generación de texto en múltiples lenguas.
- Detección de Alucinaciones en Llamadas a Funciones: Los modelos Granite Guardian 3.1 incorporan capacidades para detectar alucinaciones durante las llamadas a funciones, proporcionando mayor control y supervisión en flujos de trabajo que implican el uso de herramientas externas.
Beneficios para las Empresas:
- Eficiencia Operativa: Las mejoras en rendimiento y capacidad de procesamiento permiten a las empresas manejar tareas complejas de manera más rápida y con menor consumo de recursos, optimizando los procesos internos.
- Versatilidad en Aplicaciones: La ampliación de la ventana de contexto y los nuevos modelos de embedding facilitan la implementación de Granite 3.1 en una amplia gama de casos de uso, desde generación de código hasta análisis de datos financieros y legales.
- Seguridad y Confiabilidad: Las funcionalidades de detección de alucinaciones y los modelos Granite Guardian proporcionan una capa adicional de seguridad, asegurando que las respuestas generadas sean precisas y alineadas con las expectativas empresariales.
- Accesibilidad y Flexibilidad: Al ser de código abierto bajo la licencia Apache 2.0, Granite 3.1 permite a las empresas adaptar y personalizar los modelos según sus necesidades específicas, fomentando la innovación y la integración en diversas plataformas.
En resumen, IBM Granite 3.1 representa un avance significativo en la oferta de modelos de lenguaje de gran tamaño para el entorno empresarial, proporcionando herramientas más potentes, seguras y versátiles para abordar los desafíos actuales en diversas industrias.
Fuente IBM | Editado por CambioDigital Online con Aportes de ChatGPT Search
