Prácticas de fin de carrera — Seguridad de sistemas agénticos

Contexto

Digital Place propone unas prácticas de fin de carrera dedicadas a la seguridad de sistemas agénticos. Se enmarca en nuestro enfoque Agentic Assurance / Control Engineering: un agente que puede invocar herramientas necesita un ámbito de actuación explícito y pruebas de que lo respeta.

Problema de investigación

Un documento consultado, una respuesta de herramienta o una dependencia pueden intentar desviar el comportamiento de un agente. La calidad de su respuesta no basta para demostrar su seguridad. ¿Cómo vincular una amenaza, una política de autorización, un control efectivo y una prueba reproducible a través de los estados intermedios y los efectos secundarios?

Objetivos

Construir un modelo de amenazas para un agente acotado y su entorno, y después diseñar y evaluar controles. El alcance incluye inyección directa e indirecta de instrucciones, inyección mediante herramientas, identidad del agente, delegación, permisos, mínimo privilegio, gestión de secretos, aislamiento y entornos de ejecución restringidos. La cuestión central es distinguir lo que propone el modelo de lo que autoriza realmente el sistema.

Explorar un plano de control que compruebe cada invocación, aplique políticas en el servidor y solicite aprobación humana para determinadas acciones. La aprobación debe vincularse a una operación concreta y caducar si cambian sus parámetros o contexto.

Líneas de trabajo posibles

Estudiar la cadena de confianza de herramientas, servidores MCP y dependencias: procedencia, versiones, esquemas, permisos y cambios de descripción. Diseñar escenarios adversarios sobre contenidos consultados, respuestas de herramientas, argumentos malformados e intentos de exfiltración. Evaluar cómo afectan los fallos, los tiempos de espera agotados, los reintentos y las interrupciones a la política de autorización.

Prever observabilidad, trazas de auditoría minimizadas y reproducción en un entorno aislado. La reproducción debe explicar una decisión de control y una transición de estado sin repetir acciones reales ni exponer secretos.

Competencias útiles

Serán útiles conocimientos de seguridad de aplicaciones, APIs, autenticación y autorización, programación en Python o TypeScript, pruebas automatizadas y sistemas Linux. La familiaridad con modelos de lenguaje, contenedores o MCP puede ayudar. Saber leer especificaciones, formular hipótesis y construir experimentos claros cuenta tanto como conocer un framework.

Trabajo esperado y posibles entregables

El tema podrá producir un modelo de amenazas razonado, un agente mínimo de referencia, un mecanismo de control de permisos, un conjunto de evaluaciones adversarias, trazas reproducibles y un informe de resultados. Cada experimento deberá indicar hipótesis, versiones, criterios de éxito y límites. Los entregables exactos se acordarán durante la definición académica y técnica.

Se priorizan código legible, contratos explícitos, pruebas deterministas para los controles y ensayos repetidos para el comportamiento del modelo. Los datos serán sintéticos o autorizados; los secretos permanecerán fuera del código y de las trazas.

Presentar una candidatura

Escriba a contact@digitalplace.ma con el asunto «Prácticas de fin de carrera — Seguridad de agentes» o utilice el asunto de prácticas del formulario de contacto. Presente brevemente su formación, su interés por el tema y, si lo desea, un enlace a un trabajo técnico pertinente. Para este primer contacto no se solicita documento de identidad ni información sensible.

Las condiciones prácticas se concretarán durante el proceso de selección. La oferta no fija remuneración, duración ni ubicación y no constituye una promesa de contratación posterior.