La compañía limitó las conversaciones más largas el viernes después de que su bot mostrara respuestas extrañas a las preguntas. El martes ya había suavizado esas restricciones.
Microsoft está dando marcha atrás en las restricciones que impuso a su chatbot de inteligencia artificial Bing después de que surgieran repetidos informes de los primeros usuarios que manifestaban haber detectado un comportamiento extraño de la tecnología que les le hacía participar en conversaciones extrañas y preocupantes.
El viernes, Microsoft limitó el número de preguntas que se podían hacer a Bing a cinco por sesión de chat y a 50 al día. El martes, aumentó ese límite a seis por sesión y 60 al día, y dijo que pronto lo aumentaría aún más, después de recibir «comentarios» de «muchos» usuarios que querían volver a conversaciones más largas, según una entrada del blog de la compañía.
Los límites se pusieron originalmente después de que varios usuarios mostraran que el bot actuaba de forma extraña durante las conversaciones. En algunos casos, pasaba a identificarse como «Sydney». Respondía a preguntas acusatorias haciendo acusaciones él mismo, hasta el punto de volverse hostil y negarse a interactuar con los usuarios. En una conversación con un periodista del Washington Post, el bot dijo que podía «sentir y pensar» y reaccionó con ira cuando se le dijo que la conversación estaba grabada.
Frank Shaw, portavoz de Microsoft, declinó hacer comentarios más allá de la publicación del martes en el blog.
Microsoft está tratando de encontrar el equilibrio entre sacar sus herramientas al mundo real para crear expectación comercial y obtener pruebas y comentarios gratuitos de los usuarios, y limitar lo que el bot puede hacer y quién tiene acceso a él para mantener la tecnología potencialmente embarazosa o peligrosa fuera de la vista del público. La empresa recibió inicialmente el aplauso de Wall Street por lanzar su chatbot antes que su archirrival Google, que hasta hace poco se consideraba el líder en tecnología de IA. Ambas empresas compiten entre sí y con otras más pequeñas para desarrollar y exhibir la tecnología.
El chat de Bing sólo está disponible para un número limitado de personas, pero Microsoft está ocupada aprobando más de una lista de espera que se cuenta por millones, según un tweet de un ejecutivo de la empresa. Aunque su lanzamiento el 7 de febrero se describió como una importante actualización del producto que iba a revolucionar la forma de buscar en Internet, desde entonces la empresa ha considerado el lanzamiento de Bing más como una prueba y una búsqueda de errores.
Los robots como Bing han sido entrenados con montones de texto sin procesar extraído de Internet, desde comentarios en redes sociales hasta trabajos académicos. Basándose en toda esa información, son capaces de predecir qué tipo de respuesta tendría más sentido a casi cualquier pregunta, lo que les hace parecer extrañamente humanos. Los investigadores de la ética de la IA han advertido en el pasado de que estos potentes algoritmos actuarían de este modo y que, sin el contexto adecuado, la gente podría pensar que son humanos o dar a sus respuestas más credibilidad de la que merecen.
Fuente WEB | Editado por CambioDigital OnLine
