/ Glosario de IA segura: los conceptos que usamos, explicados por quien los aplica /

Agencia Española de Supervisión de la Inteligencia Artificial, autoridad nacional para el AI Act.

Es el organismo que vigila en España el cumplimiento del Reglamento Europeo de IA y ante quien se sustancian las obligaciones de supervisión. Tener el inventario de sistemas y la documentación al día es lo que convierte una inspección en un trámite.

Nivel suficiente de conocimiento para usar sistemas de IA con criterio, exigido por el Art. 4 del AI Act.

No es un curso de asistencia: la obligación es demostrable, así que lo que importa es la evidencia de que cada persona que usa IA ha sido formada, con un certificado que un auditor pueda comprobar.

Transformación de datos personales de forma que no sea razonablemente posible reidentificar a la persona.

No es lo mismo que la pseudonimización: si el proceso es reversible, el dato sigue siendo personal a efectos del RGPD. En proyectos de IA es la diferencia entre poder entrenar o analizar con un dato y no poder tocarlo.

Evaluación de impacto en derechos fundamentales que el AI Act exige para determinados sistemas de alto riesgo.

Documenta qué derechos pueden verse afectados, con qué probabilidad y qué medidas se aplican. Se prepara antes de poner el sistema en producción, no después de la primera incidencia.

Controles que acotan lo que un sistema de IA puede recibir, hacer y devolver.

Filtros de entrada y salida, listas de acciones permitidas y clasificadores de política. Son la diferencia entre un agente que se demuestra y un agente que se pone en producción.

Arquitecturas que permiten usar modelos de IA sin que los datos salgan del perímetro de la organización.

On-prem, procesamiento en el navegador o entornos de ejecución aislados. Es la respuesta técnica a la pregunta de qué pasa con el dato cuando el modelo lo procesa.

Técnica para que un modelo eluda sus propias restricciones de seguridad.

A diferencia del prompt injection, aquí el atacante habla directamente con el modelo. Se mitiga con clasificadores de seguridad, políticas de uso y monitorización, no con confianza en el proveedor.

Ataque que introduce instrucciones ocultas en el contenido que lee un modelo para desviar su comportamiento.

Basta un documento, una página web o un correo con instrucciones camufladas para que un agente ejecute acciones que nadie autorizó. Es el vector de ataque característico de los sistemas agénticos en producción.

Técnica que recupera documentos propios y los inyecta en el contexto del modelo antes de responder.

Reduce la invención y permite citar la fuente, pero traslada el problema al gobierno del dato: lo que el índice contiene es lo que el modelo puede decir, y también lo que puede filtrar.

Certificación de Montevive AI que acredita un uso de la IA seguro, documentado y legal.

Verifica cuatro criterios: diagnóstico de Shadow AI completado, política de uso de IA documentada con formación ejecutiva impartida, controles técnicos activos con trazabilidad, y revisión de cumplimiento del AI Act y el RGPD vigente.