Cisco integriert Anthronics Modell Claude Mythos 5 in seine Plattform AI Defense. Es soll dort für adaptives Red Teaming eingesetzt werden, bei dem Sicherheitstests auf das jeweils untersuchte System zugeschnitten werden.
Anthropic hatte Mythos 5 wegen seiner potenziellen Gefährlichkeit nur einem kleinen Kreis von Unternehmen zugänglich gemacht. Die Mythos-Modelle sollen besonders gut darin sein, Sicherheitslücken zu finden und auszunutzen. Das Vorgängermodell Claude Mythos Preview stand zunächst ausgewählten Unternehmen im Rahmen des Projekts Glasswing zur Verfügung. Sie sollten damit Zero-Day-Lücken proaktiv schließen können und erhielten später Mythos 5 als Upgrade.
Mit der Integration sollen Kunden KI-Anwendungen und -Agenten, darunter auch eigene Entwicklungen, auf Schwachstellen prüfen können. Sie erhalten kontrollierten Zugriff auf das Modell, aber keinen uneingeschränkten Schnittstellenzugriff. Schutzvorkehrungen sollen einen Missbrauch verhindern.
Nach Angaben von Cisco lassen sich die besonderen Risiken aktueller KI-Anwendungen mit herkömmlichen Red-Teaming-Verfahren nicht umfassend prüfen. Der Hersteller hat deshalb für AI Defense ein adaptives Agenten-Framework entwickelt und eingeführt. Standardtests prüfen unter anderem auf Prompt Injection und die Offenlegung sensibler Daten. Der adaptive Ansatz soll dagegen die Zielumgebung analysieren und darauf zugeschnittene Angriffsszenarien entwickeln.
Mythos nutzt seine Reasoning-Fähigkeiten, um Angriffsideen und konkrete Test-Payloads zu erzeugen. Das Vorgehen soll das Modell anhand der Reaktionen des Zielsystems anpassen. Die Tests sind auf registrierte und autorisierte Ziele sowie vom Anwender festgelegte Prüfaufträge beschränkt. Aktivitäten werden einem benannten Nutzer zugeordnet und für Audits protokolliert. Ein Zugriff auf das öffentliche Internet außerhalb der autorisierten Testumgebung ist laut Cisco ausgeschlossen.
Die bisherigen Standard- und adaptiven Red-Teaming-Funktionen von AI Defense sind bereits verfügbar. Die Mythos-Erweiterung soll später einem breiteren Kreis freigegebener Kunden offenstehen. Welche Kundengruppen dafür infrage kommen, hat Cisco bislang nicht mitgeteilt.