Nvidia ha promovido la creación de Open Secure AI Alliance, una iniciativa que reúne a decenas de compañías tecnológicas con el objetivo de desarrollar y compartir herramientas abiertas destinadas a mejorar la seguridad de los sistemas de inteligencia artificial. Entre los miembros iniciales figuran empresas como Microsoft, IBM, Cisco, Dell Technologies, CrowdStrike, Hugging Face, Red Hat, Salesforce, SAP, Cloudflare y Palantir, además de fundaciones, laboratorios y especialistas en software empresarial y ciberseguridad.
La alianza quiere construir una base común de tecnologías, métodos y recursos que permita proteger tanto el software como los agentes de IA. Su planteamiento parte de una idea central: las defensas frente a las nuevas amenazas digitales no deberían depender exclusivamente de sistemas cerrados y controlados por un reducido número de proveedores. Según Nvidia, los modelos, las herramientas de ejecución y los mecanismos de supervisión abiertos pueden facilitar que empresas, investigadores y administraciones examinen, adapten y desplieguen soluciones defensivas con mayor autonomía.
Open Secure AI Alliance trabajará en distintos componentes de la infraestructura de seguridad. Entre ellos se encuentran la gestión de identidades y permisos, el aislamiento de procesos, la trazabilidad de las acciones realizadas por agentes, la auditoría de su comportamiento, el análisis de vulnerabilidades y el desarrollo de flujos seguros para la creación de código. Nvidia aportará modelos abiertos, pesos, datos y nuevas investigaciones sobre sistemas de control para agentes de IA.
Uno de los proyectos asociados es NVIDIA Labs Object-Oriented Agent, conocido como NOOA. Este marco de investigación busca mejorar la integración entre los modelos y las herramientas que gobiernan su funcionamiento, de modo que las acciones de los agentes puedan probarse, rastrearse y evaluarse con mayor facilidad. Otros participantes contribuirán con tecnologías ya desarrolladas, como formatos seguros para almacenar modelos, sistemas de identidad de confianza cero, parches firmados digitalmente y herramientas de análisis coordinadas por varios agentes.
La iniciativa aparece en un momento de creciente preocupación por el uso de la inteligencia artificial en ataques informáticos y por la capacidad de los agentes autónomos para ejecutar tareas complejas. También se produce después de un incidente de seguridad sufrido por Hugging Face, que recurrió al modelo abierto GLM 5.2 para analizar miles de acciones y contener la intrusión, de acuerdo con la explicación publicada por Nvidia. El episodio reforzó el debate sobre la importancia de que los equipos defensivos puedan inspeccionar y ejecutar modelos en sus propias infraestructuras.
Los integrantes de la alianza defienden que los modelos abiertos deben considerarse recursos defensivos y no simples factores de riesgo. A su juicio, imponer restricciones generales a estas tecnologías podría limitar la capacidad de respuesta de los equipos de ciberseguridad y concentrar todavía más el control en unas pocas compañías. La propuesta no descarta los modelos cerrados, sino que plantea que ambos enfoques puedan convivir y utilizarse según las necesidades de cada entorno. Además, el grupo reclama inversión en infraestructuras compartidas, conjuntos de datos, marcos de evaluación y herramientas de simulación de ataques.
