Aviso de Transparencia y
Cumplimiento AI Act

1. Clasificación como sistema de IA de alto riesgo

Los modelos de inteligencia artificial utilizados por MetaQare en el ámbito clínico (incluyendo Authors of Clinical AI, ACAI) se consideran sistemas de alto riesgo según el Reglamento Europeo de Inteligencia Artificial (AI Act), al influir en decisiones relacionadas con la salud de las personas.

2. Transparencia y derecho a la información

Cuando interactúe con la IA de MetaQare, será informado proactivamente de que:

• Está interactuando con un sistema de inteligencia artificial, no con un ser humano.
• Las sugerencias generadas tienen naturaleza de orientación clínica, no de diagnóstico definitivo.
• Las recomendaciones deben ser revisadas y validadas por un profesional sanitario cualificado.

3. Supervisión humana (Human-in-the-loop)

MetaQare garantiza que los sistemas de IA no tomen decisiones clínicas autónomas críticas. Siempre existe supervisión humana:

• Los médicos pueden revisar, matizar o descartar las recomendaciones de la IA en la interfaz clínica.
• Los pacientes pueden optar por derivar su caso a un profesional humano en cualquier momento del triaje.
• Se registran auditorías inmutables (logs) para rastrear cómo se han utilizado las salidas de la IA en cada caso clínico.

4. Gestión de riesgos y calidad

MetaQare mantiene un sistema de gestión de riesgos y de calidad para los modelos de IA conforme a ISO 13485 e ISO 42001 que incluye:

• Evaluaciones continuas de rendimiento (accuracy), robustez y ciberseguridad.
• Análisis de posibles sesgos algorítmicos y su impacto en diferentes grupos demográficos.
• Monitorización continua en fase de poscomercialización (“post-market monitoring”) para detectar anomalías.

5. Documentación técnica y registros

Conforme al AI Act, MetaQare conserva documentación técnica actualizada de los modelos de IA a disposición de las autoridades competentes, que abarca:

• Descripción detallada de la arquitectura del modelo y procedencia de los datos de entrenamiento.
• Resultados de validación y pruebas clínicas.
• Registros de cambios de versión, reentrenamientos y despliegues.

6. Derechos de los usuarios frente al uso de IA

Además de los derechos reconocidos por el GDPR, en el contexto de la IA, los usuarios tienen derecho a:

• Obtener información comprensible ("explicabilidad") sobre el papel que ha desempeñado la IA en una sugerencia clínica.
• Solicitar una revisión humana adicional de cualquier resultado relevante para su salud.
• Presentar reclamaciones ante las autoridades competentes si consideran que el uso de IA ha vulnerado sus derechos fundamentales.