Los resultados de búsqueda generados por la IA de Google, conocidos como «AI Overviews», han sido criticados recientemente por ofrecer respuestas extrañas y engañosas a las consultas de los usuarios.
Los críticos han destacado ejemplos como la sugerencia de añadir pegamento a la salsa de la pizza o la promoción de los beneficios del tabaco para la salud de los preadolescentes.
Estas peculiares respuestas han llevado a algunos críticos a calificar la función de «desastre» en el que «ya no se puede confiar.»
Expansión
Se espera que AI Overviews alcance los 1.000 millones de usuarios
La función AI Overviews, que autogenera resúmenes para consultas complejas de los usuarios, se desplegó a todos los usuarios estadounidenses la semana pasada.
A pesar de los continuos problemas que han dañado su credibilidad, se prevé que llegue a más de mil millones de usuarios a finales de año.
La función también ha sido criticada por suponer una importante amenaza para los medios de comunicación tradicionales, al degradar de hecho los enlaces a otros sitios web.
Consejos cuestionables
Las sugerencias extrañas y la desinformación suscitan preocupación
Un ejemplo notable de los consejos cuestionables de AI Overview fue una respuesta a una consulta de búsqueda sobre el queso que no se pegaba a la pizza.
La IA de Google sugería añadir 1/8 de taza de pegamento no tóxico a la salsa para que fuera más pegajosa, una sugerencia aparentemente basada en un post de Reddit de hace 11 años.
Otros ejemplos incluyen información inexacta sobre qué presidentes de EE.UU. asistieron a la Universidad de Wisconsin-Madison y los posibles beneficios del tabaco para la salud de los preadolescentes.
Google responde a las críticas
En respuesta a las críticas, un portavoz de Google declaró que estos ejemplos eran generalmente consultas muy poco comunes y no representativas de las experiencias de la mayoría de la gente.
Añadió que el objetivo de sus sistemas es evitar que aparezcan contenidos que infrinjan las políticas en las descripciones generales de la IA y que tomará medidas en caso de que aparezcan.
A pesar de estas garantías, los usuarios han informado de otros casos en los que la IA de Google proporcionó respuestas peculiares.
Fase experimental
Google incluye una cláusula de exención de responsabilidad en todas sus publicaciones de Perspectivas generales de la IA en la que se indica que «La IA generativa es experimental».
La compañía ha implementado salvaguardas en el sistema para evitar que aparezcan contenidos nocivos en los resultados, y no utiliza AI Overviews en búsquedas de temas potencialmente explícitos o peligrosos.
Sin embargo, estos contratiempos son sólo el último indicio de que el chatbot de Google podría aún no estar listo para un uso generalizado.
Fuente WEB | Editado por CambioDigital Online
