Declaración de IA responsable

Cada decisión sobre el producto empieza con una pregunta: ¿podría esto perjudicar a un paciente? Si una función pudiera aumentar la probabilidad de tomar una decisión de salud equivocada, no la lanzamos, aunque sea práctica o llamativa.

Medipher está pensado para apoyar la relación entre el paciente y su profesional sanitario, no para sustituirla. Las explicaciones deben ayudarte a hacer mejores preguntas, no a saltarte la consulta.

El modelo tiene instrucciones de no diagnosticar nunca, no recomendar tratamientos y no decir si algo es seguro o grave. Cuando el documento no lo dice, lo indicamos.

Publicamos qué modelos usamos, qué datos tratamos y qué podemos y no podemos garantizar. Cuando no podemos prometer algo, lo decimos en lugar de escondernos tras un lenguaje publicitario.

Los grandes modelos de lenguaje se entrenan con datos que reflejan los sesgos de esos datos. Intentamos reducir su efecto manteniendo las respuestas ceñidas al documento (explicar el documento, no deducir), evitando suposiciones demográficas e invitando a comentar cualquier texto poco claro o injusto.

No guardamos el texto que pegas ni la respuesta de la IA. Los datos de la lista de espera, las opiniones y los mensajes de contacto se conservan solo el tiempo necesario. El acceso a los sistemas de producción se limita a las personas que lo necesitan.

Tratamos la calidad y la seguridad como un trabajo continuo: revisamos las instrucciones, probamos los modelos nuevos con criterios de seguridad antes de usarlos y mejoramos cómo la aplicación gestiona casos difíciles, como textos fragmentados, resultados poco habituales o documentos que no están en inglés.

Cada explicación y cada guía se pueden valorar. Las opiniones llegan a una bandeja de entrada real y orientan lo que cambiamos después. Si algo resulta confuso, engañoso o incorrecto, cuéntanoslo.

Seguimos la orientación de los principios regulatorios del Reino Unido sobre la IA (seguridad, transparencia, equidad, rendición de cuentas y posibilidad de impugnación, y reparación). Somos un equipo pequeño y no afirmamos tener una certificación externa: esto es una declaración de intenciones y de práctica, no un sello de cumplimiento.