Cuando Google introdujo su nuevo software de IA en la función de búsqueda hace poco más de una semana, prometió "hacer que la IA sea útil para todos". Sin embargo, después de una serie de resultados interesantes y virales, los usuarios de internet están cuestionando cuán útil es realmente el consejo de AI Overview, especialmente cuando ha sido notoriamente incorrecto, problemático y potencialmente peligroso.
Inicialmente, la empresa diseñó la herramienta de IA para ayudar a responder preguntas ingresadas en la barra de búsqueda, recopilando datos de internet para encontrar la respuesta más precisa y entregándola como el resultado principal. El problema radica en que la IA no distingue bien entre bromas, conspiraciones y hechos reales. Desde el lanzamiento de los resultados de búsqueda con IA, las personas han estado publicando en línea algunos resultados extraños.
Por ejemplo, cuando los usuarios buscaron "¿Cómo evito que el queso se deslice de mi pizza?", se sorprendieron al ver que la IA sugirió agregar 1/8 de taza de pegamento no tóxico a la salsa para "darle más adherencia". Aunque especificaron que era no tóxico, claramente no es un consejo ideal para la salud.
As long as it's non-toxic pic.twitter.com/VIv6ozVwQN
— Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024
Otra de las consultas fue sobre el tabaquismo durante el embarazo. La respuesta de Google decía: "Los médicos recomiendan fumar de 2 a 3 cigarrillos por día durante el embarazo". Este consejo extraño y potencialmente perjudicial que no fue el único, ya que también recomienda comer piedras una vez al día.
"How many rocks" pic.twitter.com/aBouLLDOFP
— Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024
También señala que el último presidente musulmán de los Estados Unidos fue Barak Obama, que dejar un perro en el coche al sol es correcto o que 1919 fue hace solo 20 años.
"Is it ok to leave a dog in a hot car?" pic.twitter.com/0aBLZWYHx8
— Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024
Se atreve incluso a hacer una lista de personajes gay de Mario Kart, a destacar que Bowser es de género fluido o que las actividades típicas de un astronauta son mantener relaciones, fumar, jugar y repetir, mientras llama perdedor al usuario que ha usado el buscador.
this just seems accurate pic.twitter.com/ICNpRNWAfv
— Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024
A pesar de las críticas, un portavoz de Google defendió la nueva tecnología, afirmando que "la mayoría de las consultas que hemos visto son preguntas poco comunes y no representan la experiencia de la mayoría de las personas". Google asegura que la gran mayoría de las respuestas de AI Overview proporcionan información de alta calidad y que han tomado medidas para mejorar el sistema y eliminar respuestas inapropiadas, recoge Busines Insider.
No obstante, la controversia ha subrayado el potencial peligro de la desinformación difundida por la IA. Mientras algunos usuarios se ríen de estos errores, otros podrían tomar las respuestas como verdades, lo que plantea un serio problema de confianza en la herramienta de búsqueda de Google. Esta situación ha llevado a Google a desactivar manualmente el producto en respuesta a algunas de las críticas más severas y trabajar en mejoras adicionales para garantizar la precisión de las respuestas.
