Cisco will Claude Mythos zum Red-Teaming von KI-Agenten nutzen
Cisco will mit Claude Mythos KI-Agenten per Red-Teaming prüfen. Getestet werden nur Systeme im Kundenbesitz, die ausdrücklich für Prüfungen freigegeben sind.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesen
giftdetect· das passende Geschenk in MinutenCisco plant, Claude Mythos für das Red-Teaming von KI-Agenten einzusetzen. Das hat das Unternehmen mitgeteilt. Wichtigste Bedingung: Die Tests beschränken sich auf Ziele im Besitz von Kunden, die für eine Prüfung autorisiert sind.
Was Red-Teaming hier bedeutet
Beim Red-Teaming greift man ein System gezielt an, um Schwachstellen zu finden, bevor echte Angreifer es tun. Bei KI-Agenten geht es um Software, die selbstständig handelt und nicht nur Fragen beantwortet. In Ciscos Vorhaben übernimmt ein KI-Modell die Rolle des Testers, die Agenten sind das Prüfobjekt.
Klare Grenzen
Das konkreteste Detail der Ankündigung ist die Begrenzung des Umfangs. Geprüft werden nur Ziele, die Kunden gehören und die sie für Tests freigegeben haben. Systeme Dritter oder Ziele ohne ausdrückliche Erlaubnis sind damit ausgeschlossen – ein wichtiger Punkt, sobald ein leistungsfähiges Modell für offensive Sicherheitsarbeit eingesetzt wird.
Wie die Tests konkret ablaufen, wann sie beginnen und welche Produkte oder Kunden beteiligt sind, geht aus den vorliegenden Informationen nicht hervor.
Warum das wichtig ist
Setzen Unternehmen KI-Agenten mit Zugriff auf Werkzeuge, Daten und Abläufe ein, müssen Sicherheitsteams prüfen können, wie sich diese unter Angriff verhalten. Dass ein Netzwerk- und Sicherheitsanbieter dafür ein fortgeschrittenes Modell einsetzen will, zeigt: Die Absicherung von Agenten wird zu einer eigenen Testdisziplin. Die Beschränkung auf autorisierte Ziele soll solche Arbeit zudem als kontrolliert und einwilligungsbasiert rahmen.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
giftdetect: das passende Geschenk in MinutenWähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Google Wallet: Digitale Haustürschlüssel für NFC- und UWB-Schlösser
TSMC plant Investition von bis zu 1 Mrd. Dollar in Anthropic und OpenAI
TC Battlefield: Acecore, Supplya und Navidyn auf den Top-Plätzen
Airwallex will über 1,6 Milliarden Dollar in Singapur investieren
Mehr aus: Sicherheit
Alle anzeigen →
Yasukuni-Schrein: Datenleck im Onlineshop betrifft 14.500 Konten
GMO Aozora Net Bank stoppt Bank-API zweimal wegen Angriffen
Helix setzt auf Stimmprobe statt Captcha gegen Bots
