Osegi
Seguridad·1 min de lectura

Cisco planea usar Claude Mythos para el red teaming de agentes IA

Cisco planea usar Claude Mythos para poner a prueba agentes de IA mediante red teaming, solo en objetivos de clientes autorizados para su evaluación.

A security analyst reviews a dashboard of AI agent activity during a simulated attack test in a network operations center.
Imagen: techinasia.com

Cisco planea utilizar Claude Mythos para realizar ejercicios de «red teaming» sobre agentes de inteligencia artificial, según informó la compañía. La condición clave: las pruebas se limitarán a objetivos propiedad de los clientes y autorizados para su evaluación.

Qué es el red teaming

El red teaming consiste en atacar deliberadamente un sistema para descubrir debilidades antes de que lo hagan atacantes reales. Aplicado a agentes de IA, se trata de probar software capaz de actuar por su cuenta y no solo de responder preguntas. En el plan de Cisco, un modelo de IA hace de evaluador y los agentes son lo evaluado.

Alcance limitado

El detalle más concreto del anuncio es el límite del alcance. Solo se evaluarán objetivos que pertenezcan a los clientes y que estos hayan autorizado para las pruebas. Quedan fuera los sistemas de terceros y cualquier elemento sin permiso explícito, un punto delicado cuando un modelo potente se usa en seguridad ofensiva.

La información disponible no detalla cómo se ejecutarán las pruebas, cuándo comenzarán ni qué productos o clientes participarán.

Por qué importa

A medida que las empresas dan a los agentes de IA acceso a herramientas, datos y flujos de trabajo, los equipos de seguridad necesitan comprobar cómo se comportan bajo ataque. Que un proveedor de redes y seguridad recurra a un modelo avanzado para ello indica que la seguridad de los agentes se está convirtiendo en una disciplina propia. El requisito de autorización explícita también refleja el intento de presentar este trabajo como controlado y basado en el consentimiento.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:ciscoclaude mythosred teamingai agentsai security

Más de este día

Ver todas →

Más en: Seguridad

Ver todas →