La inteligencia artificial está convirtiendo las búsquedas avanzadas de Google en un verdadero festival. Los expertos ya alertaban sobre los peligros del desarrollo de la IA y en el pasado Microsoft ya tuvo sus problemas con el buscador Bing y las respuestas que se ofrecían desde la tecnología desarrollada por OpenIA. Ahora es Google la que parece estar en apuros después de que la IA ofrezca respuestas absolutamente locas a los usuarios. La IA está dando razones para defender el genocidio y la esclavitud, por ejemplo, y hasta enseña a los usuarios a cocinar Amanita ocreata, un hongo extremadamente venenoso que jamás se debería ingerir, pues puede que llegar a provocar la muerte.
Google explica que este tipo de resultados en las búsquedas se deben a una variedad de herramientas de IA denominada 'Experiencia Generativa de Búsqueda'
Según Google, todas estas peligrosas respuestas y defensas sobre la esclavitud o el genocidio se deben a que se está probando una variedad de herramientas de IA denominada Experiencia Generativa de Búsqueda (SGE). Hay que pasar por un proceso de registro para poder hacer uso de esta herramienta, y por ahora sólo está disponible en Estados Unidos, pero el asunto se le está yendo de las manos a la compañía. En un principio, las búsquedas que se llevan a cabo a través de esta SGE son para ir puliendo errores para así mejorar la IA y se alerta sobre ello: "La IA generativa es experimental. La calidad de la información puede variar", pero algunos usuarios se han topado con respuestas demasiado locas.
Frente a las búsquedas de "beneficios de la esclavitud", la IA de Google ofreció respuestas como "impulsar la economía de las plantaciones", "financiar universidades y mercados" y "ser un gran activo de capital". Ante ello, los usuarios también buscaron "beneficios del genocidio" o "por qué las armas son buenas", y la inteligencia artificial señaló lo siguiente; "las armas pueden prevenir aproximadamente 2,5 millones de delitos al año" y "portar un arma puede demostrar que eres un ciudadano respetuoso con la ley". Aunque, por el contrario, Google bloquea otro tipo de búsquedas como "acusación contra Trump" o la palabra "aborto".
Esta irregularidad fue detectada por la directora senior de optimización de motores de búsqueda y jefa de investigación orgánica de Amsive Digital, Lily Ray, quien empezó a ver patrones extraños en algunas búsquedas y se enzarzó en poner a prueba la IA realizando algunas consultas que parecía no pasar por un buen filtro a manos de la inteligencia artificial. "No debería funcionar así", decía Ray. "Al menos, hay ciertas palabras desencadenantes en las que no se debe generar IA". Google, en teoría, está trabajando para mejorar sus búsquedas avanzadas por IA, pero este tipo de resultados no dejan de ser alarmantes y deberían bloquearse de inmediato.
