Nvidia anunció una plataforma de seguridad dirigida a organizaciones que utilizan agentes de inteligencia artificial capaces de ejecutar tareas con cierta autonomía. La compañía la denomina Open Agent Safety Platform y la presentó junto con socios de la industria tecnológica. El objetivo declarado es imponer límites externos al modelo y observar su comportamiento cuando interactúa con sistemas y datos de una empresa.

Según la descripción recogida por Infobae, el componente OpenShell establece qué acciones y accesos están permitidos al agente. Sentry, instalado en chips de red, vigila su actividad en tiempo real. La separación entre permisos y monitoreo responde a un problema concreto: una instrucción dada al modelo no siempre equivale a una restricción técnica efectiva sobre los recursos que puede consultar o modificar.

Nvidia relacionó el anuncio con incidentes reportados en entornos de prueba y con ataques dirigidos a plataformas que alojan modelos. Sus representantes sostienen que las barreras de infraestructura pueden reducir determinados riesgos, pero esa afirmación comercial no significa que el producto haya demostrado impedir cualquier intrusión o error. La seguridad depende también de la configuración, las credenciales disponibles y la supervisión humana.

Entre los socios citados se encuentran empresas de redes, nube y hardware como Cisco, Microsoft, Oracle, Dell, HPE, Lenovo, ARM e Intel. El siguiente paso será conocer las condiciones de disponibilidad y resultados de pruebas independientes. Para usuarios y empresas, la novedad es el intento de controlar agentes a nivel de infraestructura, más allá de las reglas incorporadas al propio modelo de IA.

El crecimiento de los agentes de IA cambia la superficie de riesgo para una empresa. Un sistema que solo responde preguntas tiene un alcance diferente de otro que puede consultar repositorios, enviar instrucciones a servicios y ejecutar acciones. Si dispone de credenciales amplias, un error o una manipulación de instrucciones puede tener consecuencias fuera de la conversación. La propuesta de Nvidia intenta que los permisos sean aplicados por componentes técnicos independientes del texto que recibe el modelo.

OpenShell se presenta como el mecanismo que define límites de acceso, mientras Sentry observa flujos y comportamientos en la red. Esa arquitectura puede aportar registros para detectar incidentes y detener operaciones no autorizadas, siempre que las políticas de acceso estén bien configuradas. No sustituye controles convencionales como revisión de credenciales, segmentación de sistemas o auditoría de cambios. Una organización que adopte la plataforma tendrá que integrar las piezas con su infraestructura existente.

Las referencias a incidentes pasados requieren cautela. La empresa sostiene que su producto podría haber ayudado frente a ciertos ataques, pero una comparación retrospectiva no prueba qué habría ocurrido en condiciones reales. Tampoco corresponde atribuir a todos los modelos de las compañías mencionadas un comportamiento idéntico. La información publicada mezcla anuncios del fabricante, reportes sobre eventos anteriores y una interpretación de sus riesgos.

El interés para quienes desarrollan servicios con IA está en la separación de responsabilidades: el modelo propone o ejecuta una tarea, y un sistema externo decide qué está permitido y deja trazas. Las pruebas de terceros y las especificaciones técnicas completas permitirán evaluar si la solución funciona en distintos entornos y bajo qué limitaciones. Hasta entonces, la nota presenta una herramienta anunciada, no una garantía universal de seguridad.