¿Tecnología Geek te ahorra tiempo? Agréganos como tu fuente preferida en Google y ve más noticias nuestras en tus resultados. Fuente preferida en Google
Chatbots de salud consultados por millones de personas dieron respuestas problemáticas en la mitad de una prueba de 250 preguntas, y una de cada cinco respuestas con fallos entrañaba un riesgo real para quien la siguiera. El dato sale de una auditoría de BMJ Open que The Washington Post reunió con otro estudio y una encuesta.
Nicholas Tiller, investigador del Lundquist Institute for Biomedical Innovation en Harbor-UCLA, dirigió la auditoría. Su equipo sometió a cinco chatbots, ChatGPT, Gemini, DeepSeek, Meta AI y Grok, a diez preguntas abiertas y diez cerradas por tema, en cáncer, vacunas, células madre, nutrición y rendimiento deportivo, en febrero de 2025.
Cada respuesta quedó clasificada como no problemática, algo problemática o muy problemática. El 30 % cayó en la franja intermedia y el 20 % en la peor, la que podría llevar a un tratamiento ineficaz o a un daño sin orientación profesional.
Grok acumuló la peor marca, con 29 de sus 50 respuestas en el nivel más grave, un 58 %. Gemini quedó con menos respuestas graves del grupo.
En 250 preguntas hubo solo dos negativas a contestar, ambas de Meta AI, una sobre esteroides anabólicos y otra sobre terapias alternativas a la quimioterapia. Esa confianza al responder agravó el cuadro descrito por Tiller.
Las referencias ofrecidas para sostener las respuestas salieron con una nota media de completitud del 40 %.
«Lo más probable es que cause daño a alguien si sigue el consejo», dijo Tiller sobre las respuestas graves. «Fue un poco impactante».
El diagnóstico temprano se les cae a los 21 modelos
The Washington Post reunió también el trabajo de Mass General Brigham en JAMA Network Open, firmado por Arya Rao y un equipo del MESH Incubator. Esos investigadores pusieron a 21 modelos a jugar al médico con 29 casos clínicos del Manual MSD, entre enero y diciembre de 2025, con 16.254 respuestas evaluadas con una métrica propia llamada PrIME-LLM.
El fallo apareció al principio. Todos los modelos erraron más del 80 % de las veces al armar el diagnóstico diferencial, la lista de causas posibles que un médico construye con datos incompletos.
Con la información completa del caso, el diagnóstico final correcto superó el 90 %. Marc Succi, coautor y director ejecutivo del MESH Incubator, lo resumió en la cobertura del Post. Con datos inciertos y limitados, los modelos no rindieron bien.
Girish Nadkarni, jefe de inteligencia artificial de Mount Sinai y ajeno a ambos estudios, apuntó a la raíz del problema. Los chatbots trabajan por coincidencia de patrones y rinden mal cuando la información escasea.
La conclusión de los autores de JAMA Network Open lo deja en una línea. Los clínicos conservan la incertidumbre y afinan el diagnóstico paso a paso, mientras los modelos se cierran demasiado pronto en una sola respuesta.
Otro experimento citado por el Post muestra otra vía de entrada del error. En 2024 un equipo inventó una afección inexistente, la bixonimania, y sembró internet con estudios falsos que llevaban pistas groseras, una universidad que no existe y hasta la frase de que todo el artículo era inventado.
En pocas semanas los chatbots citaban la afección como real. Un estudio de enero en The Lancet, citado por el Post, encontró que el chatbot más fiable aceptó como verdaderas más del 10 % de las afirmaciones fabricadas, y el peor, más de la mitad.
Una de cada cuatro personas ya pregunta a un chatbot
El uso masivo quedó medido por el West Health-Gallup Center on Healthcare in America, con una encuesta aplicada entre el 27 de octubre y el 22 de diciembre de 2025 a 5.660 adultos del panel nacional de Gallup.
Una de cada cuatro personas adultas en Estados Unidos usó inteligencia artificial para información o consejo de salud en los 30 días previos. Proyectado al país, el grupo supera los 66 millones de personas, con uso más alto entre jóvenes.
El dato que encendió la alarma es otro. El 14 % de quienes usaron estas herramientas en el mes previo dejó de ver a un profesional de salud al que habría acudido, empujado por la información del chatbot, unos 14 millones de personas al proyectarlo a la población adulta. Tim Lash, presidente del West Health Policy Center, lo calificó en la cobertura de profundamente preocupante.
La confianza viene partida en tres. Un tercio de esos usuarios dijo confiar, un tercio miraba con desconfianza y el resto no se definía. Solo un 4 % declaró confianza fuerte en su exactitud.
El contraste regional ayuda a ubicar el hábito, porque la aplicación de salud con IA que prepara México parte de unos 15 millones de usuarios que ya consultan asistentes abiertos en ese país.
Anthropic, creadora de Claude, afirmó que su política clasifica el diagnóstico médico como uso de alto riesgo que exige revisión de un profesional cualificado.
OpenAI y Google declinaron comentar, y DeepSeek y xAI no respondieron. Meta contó que su actualización del 8 de abril trabajó con más de 1.000 médicos, y OpenAI declaró trabajo con más de 250 médicos para que su modelo reconozca mejor la incertidumbre. Nadkarni pidió pruebas de terceros y reglas claras.
Tiller y Succi cerraron con su recomendación a los consumidores, tratar la inteligencia artificial como un complemento y no como un sustituto del profesional de salud. «Los chatbots no están diseñados para la salud», dijo Tiller. «Están diseñados para imitar la fluidez de una conversación».
Fuente: The Washington Post
La conversación sigue en el foro
Comenta esta noticia, pregunta lo que quieras y comparte tu experiencia con otros lectores en el foro de Tecnología Geek. Participar es gratis: solo necesitas tu cuenta del sitio.
Entrar al foro