La senadora Nadia Blel Scaff radicó ante el Congreso de la República un proyecto de ley que propone un marco normativo para el desarrollo y uso de la inteligencia artificial (IA) en el sector salud. La iniciativa busca maximizar los beneficios tecnológicos sin poner en riesgo la vida, la seguridad ni los derechos de los pacientes, indicaron los promotores del proyecto.
Un enfoque basado en el nivel de riesgo
Según el texto presentado, la regulación estaría estructurada conforme al nivel de riesgo que represente cada sistema o herramienta de IA. El objetivo es adaptar las exigencias de validación, implementación, supervisión y vigilancia al potencial impacto clínico y administrativo de la tecnología, desde aplicaciones de bajo riesgo hasta sistemas que puedan influir directamente en decisiones diagnósticas o terapéuticas.
La iniciativa incluye medidas explícitas para proteger los datos de salud y evitar prácticas discriminatorias producto de algoritmos mal diseñados o sesgados. Además, subraya que la IA debe funcionar como una herramienta de apoyo y no como un reemplazo del juicio profesional de médicos, enfermeras y otros prestadores de atención sanitaria.
Componentes centrales del proyecto
- Validación: requisitos para demostrar la seguridad y eficacia de sistemas de IA antes de su implementación clínica.
- Implementación y supervisión: protocolos para introducir tecnologías en entornos asistenciales y monitorear su desempeño.
- Protección de datos: medidas para garantizar la confidencialidad y el manejo ético de la información sanitaria.
- Prevención de discriminación algorítmica: acciones para identificar y corregir sesgos en los modelos.
- Responsabilidad profesional: salvaguardar que las decisiones finales correspondan a los equipos de salud.
“Este proyecto reconoce los avances de la inteligencia artificial en el sector salud. Vemos que son muchos los logros y los avances, sin embargo también hay algunos riesgos y es importantes identificarlos, evaluarlos y gestionarlos”, indicó la Senadora.
Por qué importa a pacientes y profesionales
La discusión sobre regulación de la IA en salud no es solo técnica: tiene implicaciones concretas para la seguridad de quienes reciben atención y para la práctica cotidiana de profesionales. Una ley que establezca criterios claros de validación y supervisión puede reducir errores derivados de modelos mal calibrados, mejorar la trazabilidad de decisiones asistenciales apoyadas en algoritmos y aumentar la confianza en herramientas digitales.
Asimismo, la protección de datos de salud es un punto crítico. La norma pretende reforzar garantías frente a usos indebidos de la información clínica, tanto a escala individual como poblacional, y evitar que sistemas automatizados reproduzcan o amplifiquen discriminaciones existentes.
Elementos que contempla el proyecto (resumen)
| Riesgo / Función | Medida prevista |
|---|---|
| Sistemas de bajo riesgo | Requisitos básicos de transparencia y auditoría |
| Sistemas de alto riesgo (impacto clínico) | Validación exhaustiva, vigilancia continua y protocolos de implementación |
| Protección de datos | Salvaguardas para confidencialidad y uso ético |
| Discriminación algorítmica | Controles y correcciones para sesgos en modelos |
Contexto y retos para su implementación
La iniciativa llega en un momento de expansión acelerada de soluciones digitales en la salud: desde herramientas de apoyo diagnóstico hasta plataformas de gestión hospitalaria que incorporan elementos de IA. Sin embargo, la heterogeneidad de estas tecnologías plantea retos regulatorios complejos, como la definición de estándares de validación y la capacidad institucional para hacer seguimiento y fiscalización.
La ley propuesta busca equilibrar innovación y protección, pero su efectividad dependerá de la coordinación entre entidades regulatorias, instituciones de salud, desarrolladores tecnológicos y las comunidades afectadas. Además, requerirá definir responsabilidades frente a fallas y establecer mecanismos ágiles de actualización normativa, dado el ritmo de cambio de la tecnología.
Lo que sigue
Con la radicación del proyecto en el Congreso se inicia el trámite legislativo correspondiente: estudio en comisiones, debates y posibles ajustes. Mientras tanto, la discusión pública y técnica sobre cómo compatibilizar los beneficios de la IA con garantías éticas y de seguridad deberá permanecer en la agenda nacional.
Para pacientes y profesionales, la propuesta apunta a garantizar que la innovación llegue con salvaguardias claras: que la tecnología potencie la atención sin sustituir la responsabilidad clínica ni comprometer datos y derechos fundamentales.
