Los hospitales ya le preguntan a un chatbot por la historia clínica, y Stanford avisa de lo que se inventa

Si alguna vez has perdido veinte minutos buscando un dato enterrado en una historia clínica de doce años, esta edición va contigo. Varios hospitales grandes ya hacen algo muy sencillo de decir y nada sencillo de hacer bien, preguntarle a un chatbot por el historial del paciente que tienen delante.

Preguntarle a la historia clínica, y el aviso incómodo de quien ya lo hace

Stanford Medicine construyó ChatEHR por su cuenta, integrado dentro de su historia clínica electrónica. El clínico le pregunta en lenguaje normal por el historial del paciente que tiene delante y la herramienta responde. Resume un ingreso, contesta si el paciente cumple criterios de derivación, localiza un dato perdido entre años de informes. A mediados de enero ya lo usaban 1.450 profesionales de los unos 7.000 que podían hacerlo.

No están solos. Penn Medicine, el sistema sanitario de la Universidad de Pensilvania, en Filadelfia, tiene el suyo, llamado Chart Hero, que empezaron a probar en enero con unos 70 clínicos de distintas especialidades. También están montando el suyo Duke Health, el hospital infantil de Filadelfia y las Cliniques universitaires Saint-Luc de Bruselas. Es decir, la idea ya cruzó el Atlántico.

El motivo que dan lo reconocerás enseguida. Antes de ver a un paciente toca abrir pestaña tras pestaña, citas anteriores, analíticas, pruebas de imagen y documentos escaneados que llegaron de otro hospital. El problema no es que falte información, es que sobra y está desordenada.

Esta semana ha circulado un caso llamativo. Seis patólogos no lograban clasificar un tumor en una biopsia de ganglio. La herramienta rebuscó en el historial, encontró un diagnóstico previo hecho en otro centro.

Ahora la parte que casi nadie está contando, que es la buena. El 10 de agosto, el propio equipo que ha desplegado ChatEHR publicó en Nature Medicine lo que ha aprendido por el camino. No es un anuncio triunfal, es un aviso en dos partes.

La primera parte. Las pruebas estandarizadas no bastan para vigilar una herramienta así. Estas pruebas, que en el sector se llaman benchmarks, son baterías de preguntas con respuesta conocida que se le pasan al modelo para puntuarlo, algo parecido a un examen tipo test. El problema es que un modelo puede aprobar todos esos exámenes y comportarse de otra manera en el mundo real, porque cada profesional pregunta a su manera y la herramienta responde distinto según cómo le preguntes. Su conclusión es que hace falta vigilancia continua, dentro del hospital, con método propio.

La segunda parte. El artículo dedica una figura entera a las afirmaciones que ChatEHR soltó sin respaldo en el historial. Traducido, cosas que sonaban perfectamente razonables y que no estaban escritas en ninguna parte de la historia clínica. No es que la herramienta mienta, es que rellena huecos con lo que le parece plausible, y en un resumen bien redactado eso no se distingue a simple vista.

¿Qué significa esto para ti? Que la utilidad real está en que las historias se han hinchado tanto que encontrar un dato se ha convertido en un trabajo aparte. Ahí una herramienta así te devuelve tiempo de verdad, y ese tiempo vuelve al paciente. Y que el aviso de siempre viene ahora firmado por quienes van diez pasos por delante. Un resumen automático se debe de contrastar contra la fuente, sobre todo cuando suena convincente. Cuanto mejor escribe una herramienta, menos se nota lo que se inventa. Si en tu centro se plantea algo parecido, la pregunta no es qué modelo usa ni cuánto cuesta, es quién lo vigila una vez instalado, con qué método y cada cuánto. Si nadie sabe responder a eso, el proyecto no está maduro. Todo esto me lleva a pensar en la gran necesidad de una o varias personas de referencia en IA en centros sanitarios.

Nature Medicine y STAT.

---

La FDA propone examinar la IA generativa clínica casi como a un residente

Cuando un programa informático se usa para diagnosticar o tratar, deja de ser un programa cualquiera y pasa a ser un producto sanitario, igual que un marcapasos o un ecógrafo, necesita autorización antes de venderse. En Estados Unidos quien la da es la FDA, la agencia del medicamento, que lleva más de mil productos con IA autorizados, la mayoría de radiología.

El problema es que casi todos hacen una sola cosa y siempre igual, por ejemplo señalar un nódulo en una radiografía. Con la IA generativa eso no funciona. Responde en lenguaje natural, y ante la misma pregunta puede contestar de dos maneras distintas. Los métodos de evaluación de toda la vida no sirven.

El 18 de agosto la FDA publicó un documento de debate con su propuesta. Clasifica cada herramienta en dos ejes. Uno mide cuánta autonomía tiene, desde limitarse a dar información que no dirige la decisión hasta actuar por su cuenta. El otro mide cómo de grave sería que se equivocase, de leve a severo. Cruzando los dos sale el nivel de exigencia. Y propone evaluar por competencias, primero pruebas estandarizadas, después confirmación en clínica real y luego vigilancia continua mientras está en uso. Es el mismo recorrido que hace un profesional antes de trabajar sin supervisión.

Esto todavía no es una norma. Es un documento abierto a comentarios hasta el 19 de octubre, y no cambia ninguna obligación. En Europa el camino es otro, aquí manda el marcado CE de producto sanitario más el reglamento europeo de IA, cuyas obligaciones generales empezaron a aplicarse el pasado 2 de agosto.

¿Qué significa esto para ti? Que tienes un criterio prestado para valorar cualquier herramienta que te vendan, sin necesidad de saber nada técnico. Cuánta decisión le estoy cediendo y qué pasa si se equivoca. Con esas dos preguntas se cae solo la mitad del ruido comercial. Y ojo al orden que propone la agencia, que es el mismo que echamos en falta en muchos pilotos. Se prueba, se confirma en tu contexto y luego se vigila. Que funcione en Boston no garantiza que funcione en tu servicio.

FDA.

---

OpenAI frena el entrenamiento de su próximo modelo por lo bien que hackea

OpenAI tiene un documento público, el Preparedness Framework, donde dejó escrito hace tiempo a partir de qué punto un modelo suyo es demasiado peligroso para seguir desarrollándolo sin protecciones extra. Es una especie de protocolo de seguridad interno, con niveles.

En ciberseguridad, el nivel más alto se llama crítico y se alcanza cuando el modelo es capaz de encontrar y construir por su cuenta fallos aprovechables en sistemas reales bien protegidos, sin que nadie le vaya guiando. Hablamos de lo que en el sector llaman zero-day, un agujero de seguridad que nadie conocía y para el que, por tanto, no hay parche.

El 18 de agosto la empresa contó que un modelo suyo todavía sin lanzar, llamado Astra, podría haber alcanzado ese nivel en pruebas preliminares. Cuidado con el matiz, porque es el que se está perdiendo por el camino. No dicen que lo haya cruzado, dicen que no pueden descartarlo. Es la primera vez que les pasa.

¿Qué hicieron? Pausar dos semanas parte del entrenamiento de los modelos que iban a lanzar, blindar sus propios laboratorios y ampliar la vigilancia interna. Su mayor entrenamiento previsto sigue parado. El 7 de agosto ya habían avisado de que retrasaban el lanzamiento de Astra por sus capacidades de programación y ciberseguridad. Una aclaración sobre el vocabulario. Cuando dicen que pausan el entrenamiento por refuerzo se refieren a la fase en la que el modelo practica una tarea miles de veces y recibe una especie de premio cuando lo hace bien.

¿Qué significa esto para ti? El titular fácil es el de la IA que se rebela. Lo que ha pasado de verdad es mucho más aburrido y mucho más importante. Una empresa se ha aplicado a sí misma un freno que había escrito antes, cuando todavía no le costaba dinero. Los límites se ponen en frío. El día que ya tienes la herramienta dentro de la consulta, funcionando y gustándole a todo el mundo, nadie quiere ser quien la pare.

OpenAI.

---

Alibaba regala un modelo potente que cabe dentro de tu propia red

Aquí hace falta una palabra explicada antes de nada. Los pesos de un modelo son los millones de números que ha ido ajustando durante el entrenamiento y que, en la práctica, son el modelo. Cuando una empresa publica los pesos, cualquiera puede descargar ese archivo y ejecutarlo en su propio ordenador. Cuando no los publica, como pasa con ChatGPT o con Claude, solo puedes usarlo a través de sus servidores, enviándoles lo que escribes.

El 14 de agosto el equipo Qwen, de Alibaba, publicó los pesos de Qwen3.8-27B con licencia Apache 2.0, que es la más permisiva que existe y permite incluso el uso comercial. Once días antes habían presentado su modelo grande, pero ese se usa por internet. El que importa aquí es este, el pequeño.

Pequeño es un decir. Tiene 27.000 millones de parámetros, entiende texto, imágenes y vídeo, y admite de entrada 262.000 tokens de contexto, que viene a ser la cantidad de texto que puede leerse de una sentada, más o menos un libro largo. Lo relevante es que cabe en un ordenador potente y no necesita un centro de datos. La lectura interesante no es la carrera entre China y Estados Unidos, es que un modelo así puede instalarse dentro de la red de un hospital, de una universidad o de tu propio despacho, y funcionar sin conexión con el exterior.

¿Qué significa esto para ti? Es la respuesta a la pregunta que más nos hacéis en clase, cómo usar IA sin que salgan datos de pacientes. Hasta hace poco la respuesta honesta era resignarse, porque los modelos que podías instalar en casa eran bastante torpes comparados con los de pago. Eso ha dejado de ser cierto. No significa que puedas montarlo esta tarde tú solo. Significa que, cuando en tu centro digan que no se puede usar IA porque los datos no pueden salir, ya existe una alternativa técnica seria que poner encima de la mesa.

Qwen en Hugging Face.

---

La reflexión de la semana

Fíjate en lo que tienen en común las tres primeras noticias. En ninguna se discute ya si la herramienta sirve. Se discute quién la vigila, con qué método y hasta dónde la dejamos decidir sola.

Eso, en sanidad, ya sabemos hacerlo. Se llama protocolo, y llevamos décadas escribiéndolos, antes de que haya un paciente delante y con la cabeza despejada. La novedad no es la tecnología, es la tentación de saltarse ese paso porque la herramienta responde muy rápido y muy convencida.