Una de las principales áreas de interés de la 11ª conferencia anual re:Invent de Amazon Web Services Inc. de esta semana es el aprendizaje automático y la inteligencia artificial, y ese enfoque se produce cuando las empresas buscan utilizar las tecnologías para analizar los datos y transformar sus organizaciones.
En el evento, la empresa anunció un nuevo recurso llamado AI Service Cards para mejorar la transparencia y avanzar en la IA responsable. El uso de la IA y el aprendizaje automático se ha disparado en los últimos dos años, ya que las empresas están utilizando la tecnología avanzada para mejorar la experiencia del cliente, agilizar sus operaciones, impulsar la innovación y resolver algunos de los mayores problemas del planeta en materia de clima, salud y exploración. Con todo esto en juego, existe una enorme presión sobre los profesionales de la IA para que ayuden a garantizar que los servicios de IA de AWS se desarrollen de forma ética y que los desarrolladores los utilicen de forma responsable.
La «tarjeta» en sí es una especie de decálogo de documentos que proporciona información crítica sobre los siguientes factores importantes:
- Imparcialidad y sesgo, que examina cómo un sistema afecta a diferentes subpoblaciones de usuarios, como el género y la etnia.
- Explicabilidad, que es un mecanismo para entender y evaluar los resultados de un sistema de IA.
- La privacidad y la seguridad examinan cómo se utilizan los datos del modelo para comprender las consideraciones legales y de privacidad, así como para protegerlos contra el robo y la exposición.
- La solidez son mecanismos para garantizar que un sistema de IA funcione de forma fiable.
- La gobernanza puntúa los procesos para definir, implementar y hacer cumplir las prácticas de IA responsables dentro de una organización.
- La transparencia proporciona información sobre un sistema de IA para que las partes interesadas puedan tomar decisiones informadas sobre el uso del sistema.
Las tarjetas de servicio de IA facilitan la IA responsable, ya que proporcionan un único lugar para encontrar información sobre los casos de uso previstos, las limitaciones y las opciones de diseño que AWS realizó al diseñar el modelo y las prácticas recomendadas de implementación y optimización. Esto forma parte del compromiso de AWS de construir sus servicios de IA con equidad, eliminar los prejuicios y ser transparentes y seguros. En el momento del lanzamiento, AWS tendrá tarjetas de servicio de IA para los siguientes modelos:
- Amazon Rekognition – coincidencia facial
- Amazon Textract Analyze ID – procesamiento de textos y documentos
- Amazon Transcribe Batch – transcripción de voz
Cada tarjeta de servicio de IA está organizada en cuatro secciones. La primera son los conceptos básicos, que proporcionan información sobre el servicio en sí y las características incluidas. La segunda son los casos de uso previstos y las limitaciones, la tercera es el diseño responsable de la IA y las consideraciones, y la cuarta es la orientación sobre la implementación y las consideraciones de rendimiento.
Las tarjetas de servicio de IA aportan un alto nivel de transparencia a los clientes en relación con los modelos de IA. AWS pasa por un proceso riguroso al construirlas, pero eso puede quedar algo oculto para el cliente cuando utiliza el producto final. Este debería ser un recurso útil para que los clientes se aseguren de que la IA que están utilizando se construye de forma responsable y con equidad. Con el tiempo, AWS lanzará otras tarjetas de servicio.
Las tarjetas fueron uno de los varios anuncios de «IA responsable» realizados en AWS re:Invent. La compañía también anunció algo llamado «SageMaker Model Cards» para ayudar a documentar los modelos de aprendizaje automático construidos por los clientes. Muchas empresas utilizan herramientas propias, hojas de cálculo o incluso el correo electrónico para documentar aspectos como los requisitos empresariales, las hipótesis y observaciones del modelo y las decisiones clave. Esto puede ser suficiente si el número de modelos es pequeño, pero a medida que crecen en volumen y tamaño, este enfoque ad hoc no es escalable y conduce a errores.
Las tarjetas de modelo de Amazon SageMaker utilizan algoritmos de aprendizaje automático para extraer información del modelo y automatizar la creación de documentos para hacer un seguimiento de aspectos como los conjuntos de datos de entrada, los resultados del entrenamiento y otros. También hay un cuestionario autoguiado para documentar información adicional como los objetivos de rendimiento, la calificación de riesgo, la información de sesgo y la precisión. Esto puede utilizarse para ayudar a los clientes a mejorar la gobernanza de sus propios modelos y garantizar una IA responsable.
El uso de la IA y el aprendizaje automático seguirá creciendo de forma exponencial en función de los comentarios de los clientes. AWS tiene más experiencia que quizás cualquier otra empresa en la creación de modelos, la gobernanza y la formación y el uso responsable de los mismos. Es bueno ver que la empresa aprovecha su experiencia y crea herramientas orientadas al cliente para garantizar que sus clientes puedan beneficiarse de la larga trayectoria de AWS en este ámbito.
Fuente WEB | Editado por CambioDigital OnLine
