Teradata ha anunciado Teradata Enterprise Vector Store, una solución integrada en la base de datos que aporta la velocidad, potencia y escala multidimensional de la plataforma de nube híbrida de Teradata a la gestión de datos vectoriales, un elemento crucial para la IA de confianza, con una futura expansión que incluirá la integración de los microservicios NVIDIA NeMo Retriever, parte de la plataforma de software NVIDIA AI Enterprise. Con capacidad para procesar miles de millones de vectores e integrarlos en sistemas empresariales preexistentes, con tiempos de respuesta tan rápidos como decenas de milisegundos, Enterprise Vector Store está diseñado para proporcionar de forma rentable la sofisticación necesaria para obtener valor real de retos empresariales complejos y polifacéticos.
La oferta crea un único repositorio de confianza para todos los datos y se basa en el fuerte apoyo que Teradata ofrece hoy en día para la generación de recuperación aumentada (RAG), mientras trabaja hacia casos de uso de IA agéntica dinámica, como el «centro de llamadas aumentado» (ver ejemplo más abajo).
Los almacenes vectoriales son fundamentales para cualquier organización que desee aprovechar la IA agéntica, pero la mayoría de los almacenes vectoriales requieren compensaciones que hacen que sea prohibitivamente difícil o caro utilizarlos para resolver los problemas empresariales más desafiantes (y potencialmente más lucrativos). Pueden ser rápidos, pero sólo para conjuntos de datos pequeños. O pueden gestionar volúmenes de vectores, pero no a la velocidad que requieren los casos de uso de la IA agéntica. La verdadera magia ocurre cuando las organizaciones pueden aplicar tanto la velocidad del rayo como la computación masiva a conjuntos de datos no estructurados que tienen un valor real cuando se combinan con datos estructurados de misión crítica.
«Los almacenes vectoriales están en la raíz de cómo vinculamos la verdad a los modelos generativos de IA y a la IA agéntica. Son esenciales para cualquier práctica de gestión de datos, pero su impacto es limitado cuando son lentos o están aislados», dijo Louis Landry, CTO de Teradata. «La larga experiencia de Teradata en alta concurrencia y escala lineal, así como la capacidad crítica de armonizar datos y soportar RAG, significa que Teradata Enterprise Vector Store ofrece la base dinámica y de confianza que las grandes organizaciones necesitan para la IA agéntica.»
Enterprise Vector Store de Teradata está diseñado para ser una forma eficiente de habilitar casos de uso que requieren capacidades vectoriales y aplicaciones RAG. Con un escalado rentable y una integración casi perfecta incorporada, se espera que Enterprise Vector Store ayude a las empresas a maximizar el valor y el conocimiento de los datos no estructurados al tiempo que reduce el gasto. Dada la ventaja de Teradata en híbridos, Enterprise Vector Store es una opción natural para las organizaciones que desean escalar de forma flexible a través de entornos en la nube y en las instalaciones, construyendo hacia un futuro de IA agéntica mientras aprovechan al máximo la infraestructura actual.
Al gestionar datos no estructurados en formatos multimodales -texto, vídeo, imágenes, PDF y más- Enterprise Vector Store de Teradata unifica los datos estructurados y no estructurados para un análisis holístico. Además:
- – Participa en todo el ciclo de vida de la gestión de datos vectoriales, desde la generación de incrustaciones y la indexación hasta la gestión de metadatos y la búsqueda inteligente.
- – Procesa este trabajo dentro del sistema Teradata existente, que prospera en opciones de despliegue flexibles que incluyen nube, local o híbrido
- – Admite marcos líderes del sector como LangChain y RAG, junto con las prácticas integrales de gestión de datos y gobernanza necesarias para Trusted AI.
- – Añade capacidades planificadas de incrustación de vectores temporales, que está diseñada para impulsar la confianza y la explicabilidad mediante el seguimiento de los cambios en los datos a lo largo del tiempo, mejorando la precisión y la toma de decisiones.
Una solución vectorial escalable dentro de la base de datos creada con NVIDIA AI
Se espera que Teradata Enterprise Vector Store integre NVIDIA NeMo Retriever para proporcionar una solución líder de recuperación de información con alta precisión y privacidad de datos, que permita a las empresas generar perspectivas de negocio en tiempo real. Los desarrolladores pueden ajustar los microservicios de NeMo Retriever en combinación con modelos comunitarios o personalizados para crear aplicaciones escalables de ingestión de documentos y RAG que pueden conectarse a los datos propios dondequiera que residan. La extracción de NVIDIA NeMo Retriever está diseñada para permitir a los clientes utilizar información y conocimientos procedentes de fuentes de datos no estructuradas como los PDF, lo que permite a los desarrolladores crear aplicaciones basadas en RAG que aprovechan los conocimientos en tiempo real añadidos a la información procedente de todo el parque informático corporativo.
«Según Pat Lee, vicepresidente de alianzas estratégicas con empresas de NVIDIA, «Los datos son esenciales para que las aplicaciones de IA puedan realizar inferencias precisas. «Teradata Enterprise Vector Store, integrado con NVIDIA AI Enterprise y NVIDIA NeMo Retriever, puede desbloquear el conocimiento institucional almacenado en archivos PDF y otros documentos no estructurados para impulsar agentes de IA inteligentes.»
Caso práctico: Centro de llamadas aumentado
El caso de uso del centro de llamadas aumentado demuestra cómo Teradata Enterprise Vector Store utiliza la IA de los agentes y RAG para transformar el servicio de atención al cliente para que sea más rápido, eficiente y adaptado a las necesidades de cada cliente. Los agentes de IA también permiten oportunidades de upselling y cross-selling durante las interacciones con los clientes.
Por ejemplo, una compañía de seguros almacena los contratos de sus millones de clientes en formato PDF en un almacén de objetos. También utiliza una plataforma de datos híbrida para los datos 360 de clientes de misión crítica. Cuando un cliente llama, un sistema multiagente utiliza un acceso rapidísimo (tan sólo decenas de milisegundos) a datos armonizados para ofrecer respuestas precisas y contextualizadas a cada cliente.
«Hola, ¿en qué puedo ayudarle hoy?»
«Interacción con el cliente» El agente se comunica en tiempo real con el cliente utilizando una interfaz de lenguaje natural que está potenciada por los LLM más populares que se ejecutan como NVIDIA NIM en la computación acelerada de NVIDIA.
«Voy a viajar a Malasia. ¿Mi seguro cubre los gastos médicos? ¿Debo añadir algo?»
El agente «Contract Analyzer» recupera rápidamente los detalles de la cobertura de la copia PDF del contrato utilizando RAG con Enterprise Vector Store, que ha extraído la información de los PDF y la ha almacenado como incrustaciones utilizando NVIDIA NeMo Retriever en Teradata Enterprise Vector Store.
«Insurance Advisor» Agent utiliza el razonamiento y la toma de decisiones para recomendar añadir cobertura dental durante la duración del viaje, utilizando un modelo de propensión a la compra y las capacidades de IA predictiva y explicable de confianza de Teradata.
«Insurance Advisor» Agent utiliza el razonamiento y la toma de decisiones para recomendar añadir cobertura dental durante la duración del viaje, utilizando un modelo de propensión a la compra y las capacidades de IA predictiva y explicable de confianza de Teradata.
Disponibilidad
Teradata Enterprise Vector Store ya está disponible en vista previa privada, con disponibilidad general prevista para julio.
Fuente Teradata Newsroom | Editado por CambioDigital OnLine
