Objetivo y alcance

La circular tiene como objetivo garantizar un uso responsable de la inteligencia artificial para fortalecer las actividades del Invima, asegurando el cumplimiento de las normativas vigentes en materia de protección de datos, seguridad de la información y derechos de autor. Los lineamientos son de obligatorio cumplimiento para todos los servidores públicos, contratistas, colaboradores y terceros que mantengan alguna relación jurídica con la entidad y tengan acceso a sus sistemas o recursos tecnológicos.

Principios éticos y de seguridad

El documento destaca principios éticos fundamentales, como la proporcionalidad, inocuidad, transparencia, supervisión humana y responsabilidad legal en el uso de IA. Además, se resalta la importancia de proteger la intimidad y los datos personales, evitando usos indebidos como la calificación social o la vigilancia masiva. En materia de seguridad de la información, se enfatizan la disponibilidad, confidencialidad, integridad y autenticidad de los datos.

Clasificación de sistemas y evaluación de impacto

Los sistemas de IA se clasificarán según su nivel de riesgo: alto, medio o bajo. Los de riesgo alto, como aquellos que afectan derechos o seguridad sanitaria, requieren una evaluación de impacto algorítmico previa, supervisión humana reforzada y revisión periódica. Los sistemas de riesgo medio y bajo tendrán controles y supervisión acordes a su nivel de impacto.

Uso y restricciones

Se establecen parámetros para la adquisición y uso de sistemas de IA, incluyendo la prohibición de decisiones automatizadas sin intervención humana, el uso de datos sensibles sin autorización y la incorporación de contenido generado por IA sin verificación. Además, se regulan los usos específicos de la inteligencia artificial generativa, exigiendo validación y control de exactitud de los resultados.

Transparencia y garantías

El Invima se compromete a publicar información accesible sobre los sistemas algorítmicos que utilice, garantizando el derecho de las personas a conocer y objetar decisiones apoyadas en IA. Se asegura la supervisión humana en decisiones con efectos jurídicos o materiales, la posibilidad de presentar reclamos y la protección de datos conforme a la ley.

Roles y responsabilidades institucionales

La circular define funciones claras para todas las dependencias y actores involucrados en la implementación y uso de IA. La alta dirección lidera y garantiza los recursos necesarios, mientras que diferentes oficinas y grupos técnicos gestionan la evaluación, seguridad, soporte, formación y control del uso de estas tecnologías, asegurando el cumplimiento normativo y la mejora continua.

Implementación y seguimiento

La circular será socializada a todos los involucrados y estará disponible en el portal web del Invima. Incluye un anexo técnico que detalla la metodología para la clasificación de riesgo, evaluación de impacto y registro de sistemas algorítmicos, con revisiones periódicas para adaptarse a cambios normativos y tecnológicos.