Google ha dejado de incluir información relacionada con la salud en sus AI Overviews después de que un informe revelara casos de consejos inexactos y potencialmente peligrosos. La función AI Overviews, impulsada por Gemini, proporciona resúmenes generados por IA en la parte superior de los resultados de búsqueda para responder rápidamente a las consultas de los usuarios.

 Un informe de The Guardian destacó que algunas respuestas de AI Overviews a búsquedas relacionadas con la salud ofrecían información errónea, lo que podría poner en peligro a los usuarios. 

Los ejemplos incluyeron proporcionar información falsa sobre los resultados de las pruebas de función hepática, lo que podría llevar a los pacientes con enfermedades hepáticas graves a creer que están sanos, y aconsejar a los pacientes con cáncer de páncreas que eviten los alimentos ricos en grasas, contrariamente a las recomendaciones de los expertos. También se encontraron resultados incorrectos generados por IA en búsquedas relacionadas con las pruebas de detección de cáncer para mujeres, lo que podría llevarlas a ignorar los síntomas reales.

 Si bien Google inicialmente defendió la exactitud y la fiabilidad de sus AI Overviews, ahora ha eliminado algunos resultados relacionados con la salud, específicamente para búsquedas como "¿Cuál es el rango normal para los análisis de sangre del hígado?" y "¿Cuál es el rango normal para las pruebas de función hepática?". 

Google declaró que está trabajando para mejorar AI Overviews y tomará medidas basadas en sus políticas cuando sea apropiado, pero se negó a comentar sobre eliminaciones específicas. Los resúmenes de AI Overviews siguen estando disponibles para otros temas relacionados con la salud. Google también declaró que su equipo clínico revisó los casos anteriores y descubrió que, en muchos casos, la información no era inexacta y estaba respaldada por sitios web de alta calidad.