Google Cloud ha anunciado el lanzamiento de la beta pública de Gen AI Toolbox para bases de datos, en colaboración con LangChain, el marco de orquestación para desarrolladores que crean aplicaciones de grandes modelos lingüísticos (LLM).
Gen AI Toolbox for Databases (Toolbox) es un innovador servidor de código abierto que permite a los desarrolladores conectar sus aplicaciones de IA generativa basada en agentes (Gen AI) de nivel de producción a diversas bases de datos de forma sencilla y eficiente. Este servidor facilita la creación, el despliegue y la gestión de sofisticadas herramientas de IA generativa, capacitadas para consultar bases de datos con acceso seguro, robusta capacidad de observación, escalabilidad y una gestión integral.
Actualmente, Toolbox proporciona conectividad a PostgreSQL autogestionado y MySQL, así como a bases de datos gestionadas, incluyendo AlloyDB, Spanner, Cloud SQL para Postgres, Cloud SQL para MySQL, y Cloud SQL para SQL Server. Además, estamos entusiasmados por recibir contribuciones para ampliar la compatibilidad con otras bases de datos fuera de Google Cloud.
A continuación los detalles el funcionamiento de Gen AI Toolbox para bases de datos, sus características clave y cómo los desarrolladores pueden empezar a integrarlo en sus proyectos.
Desafíos en la gestión de herramientas de Gen AI La creación de agentes de IA requiere el uso de diferentes herramientas, marcos de trabajo y la conexión a varias fuentes de datos. Este proceso crea varios retos para los desarrolladores, especialmente cuando estas herramientas necesitan consultar bases de datos. Entre ellos se incluyen:
Ampliación de la gestión de herramientas: Los enfoques actuales para la integración de herramientas a menudo requieren código extenso y repetitivo y modificaciones en múltiples ubicaciones para cada herramienta. Esta complejidad dificulta la coherencia, especialmente cuando las herramientas se comparten entre varios agentes o servicios. Se necesita un marco de integración más racionalizado para simplificar la gestión de herramientas y garantizar la coherencia entre agentes y aplicaciones.
Conexiones complejas a bases de datos: Las bases de datos requieren configuración, agrupación de conexiones y almacenamiento en caché para un rendimiento óptimo a escala.
Vulnerabilidades de seguridad: Garantizar el acceso seguro de los modelos gen AI a los datos sensibles requiere una integración compleja con los servicios de autenticación, las bases de datos y la aplicación, que puede ser propensa a errores y añadir riesgos de seguridad.
Actualizaciones inflexibles de las herramientas: La adición de nuevas herramientas o la actualización de las existentes a menudo requiere una reconstrucción completa y una nueva implementación de la aplicación, lo que puede provocar tiempos de inactividad.
Observabilidad limitada del flujo de trabajo: Las soluciones actuales carecen de soporte integrado para una supervisión y resolución de problemas exhaustivas, lo que dificulta la obtención de información sobre los flujos de trabajo de Gen AI con bases de datos.
Components
Gen AI Toolbox for Databases mejora el modo en que las herramientas de IA genérica interactúan con los datos, abordando los retos habituales en la gestión de herramientas de IA genérica. Al actuar como intermediario entre la capa de orquestación de la aplicación y las fuentes de datos/bases de datos, permite un desarrollo más rápido y un acceso más seguro a los datos, mejorando la calidad de producción de las herramientas.
Toolbox consta de dos componentes: un servidor que especifica las herramientas para uso de la aplicación, y un cliente que interactúa con este servidor para cargar estas herramientas en marcos de orquestación. Esto centraliza el despliegue y las actualizaciones de las herramientas, incorporando las mejores prácticas de producción para mejorar el rendimiento, la seguridad y simplificar los despliegues.
Beneficios
Toolbox ofrece varias características que proporcionan una mejor manejabilidad, seguridad y observabilidad para los Agentes AI. Algunas de las ventajas para los desarrolladores de aplicaciones son las siguientes:
Desarrollo simplificado: La reducción del código repetitivo y la integración consolidada simplifican el desarrollo de herramientas y el uso compartido entre otros agentes.
Rendimiento y escalabilidad incorporados – La agrupación de conexiones incorporada y los conectores optimizados para bases de datos populares se encargan de la eficiencia de la gestión de conexiones.
Implantación sin tiempo de inactividad: un enfoque basado en la configuración permite implantar sin problemas nuevas herramientas y actualizaciones sin interrumpir el servicio y admite implantaciones incrementales.
Seguridad mejorada: mediante Oauth2 y ODIC, la compatibilidad integrada con proveedores de autenticación comunes permite controlar el acceso de los agentes a las herramientas y los datos.
Observabilidad de extremo a extremo: Toolbox se integra con OpenTelemetry, proporcionando información desde el primer día a través de registros, métricas y seguimiento, ofreciendo observabilidad de extremo a extremo para mejorar las operaciones.
Compatibilidad con LangChain
LangChain es el marco de desarrollo más popular para la construcción de aplicaciones LLM, y estamos muy contentos de anunciar la compatibilidad de Toolbox con el ecosistema LangChain desde el primer día. Junto con Toolbox, LangGraph puede aprovechar LLMs como Gemini en Vertex AI para construir potentes flujos de trabajo agénticos.
LangGraph amplía las capacidades de LangChain proporcionando un marco para la construcción de aplicaciones multi-actor con estado con LLMs. Su soporte para ciclos, gestión de estados y coordinación permite el desarrollo de agentes de IA complejos y dinámicos. Todas estas capacidades se integran perfectamente con Toolbox.
La llamada a herramientas es esencial para construir agentes. Los agentes necesitan llamar a las herramientas de una manera controlada y especificada, ejecutar la herramienta de forma fiable, y luego pasar el contexto correcto de vuelta al LLM. LangGraph proporciona un marco de agente de bajo nivel para gestionar cómo se llaman las herramientas y cómo se integran sus respuestas, asegurando la precisión y el control. Toolbox se encarga de la ejecución, ejecutando la herramienta y devolviendo los resultados. Juntos, crean una potente solución para la llamada a herramientas en flujos de trabajo de agentes.
«La integración de Gen AI Toolbox for Databases con el ecosistema LangChain es una bendición para todos los desarrolladores», afirma Harrison Chase, CEO de LangChain. «En particular, la estrecha integración entre Toolbox y LangGraph permitirá a los desarrolladores construir agentes más fiables que nunca.»
Fuente Blog de Google Cloud
