Cisco planea usar Claude Mythos para el red teaming de agentes IA
Cisco planea usar Claude Mythos para poner a prueba agentes de IA mediante red teaming, solo en objetivos de clientes autorizados para su evaluación.

Cisco planea utilizar Claude Mythos para realizar ejercicios de «red teaming» sobre agentes de inteligencia artificial, según informó la compañía. La condición clave: las pruebas se limitarán a objetivos propiedad de los clientes y autorizados para su evaluación.
Qué es el red teaming
El red teaming consiste en atacar deliberadamente un sistema para descubrir debilidades antes de que lo hagan atacantes reales. Aplicado a agentes de IA, se trata de probar software capaz de actuar por su cuenta y no solo de responder preguntas. En el plan de Cisco, un modelo de IA hace de evaluador y los agentes son lo evaluado.
Alcance limitado
El detalle más concreto del anuncio es el límite del alcance. Solo se evaluarán objetivos que pertenezcan a los clientes y que estos hayan autorizado para las pruebas. Quedan fuera los sistemas de terceros y cualquier elemento sin permiso explícito, un punto delicado cuando un modelo potente se usa en seguridad ofensiva.
La información disponible no detalla cómo se ejecutarán las pruebas, cuándo comenzarán ni qué productos o clientes participarán.
Por qué importa
A medida que las empresas dan a los agentes de IA acceso a herramientas, datos y flujos de trabajo, los equipos de seguridad necesitan comprobar cómo se comportan bajo ataque. Que un proveedor de redes y seguridad recurra a un modelo avanzado para ello indica que la seguridad de los agentes se está convirtiendo en una disciplina propia. El requisito de autorización explícita también refleja el intento de presentar este trabajo como controlado y basado en el consentimiento.
Apps que merecen la pena
Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Conversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
Abre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
Elige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Google Wallet añade llaves digitales para cerraduras inteligentes NFC y UWB

TSMC planea invertir hasta 1.000 millones de dólares en Anthropic y OpenAI

TC Battlefield: Acecore, Supplya y Navidyn lideran el podio

Airwallex invertirá más de 1.600 millones de dólares en Singapur
Más en: Seguridad
Ver todas →
Santuario Yasukuni sufre una filtración de 14.500 datos en su tienda

GMO Aozora Net Bank suspende dos veces su API bancaria

Helix sustituye el captcha por una prueba de voz de 4 segundos
