Moonshot bremst Hacking-Fähigkeiten von Kimi K3.1 Pro gezielt

Das chinesische KI-Startup Moonshot AI beschränkt die Hacking-Fähigkeiten seines neuesten Modells bewusst. Damit rückt ein Dilemma der gesamten Branche in den Fokus: Wie lässt sich KI leistungsfähiger machen, ohne Cyberangriffe zu erleichtern?

Am 24. Oktober stellte das Unternehmen Kimi K3.1 Pro vor, ein leistungsstarkes Open-Weight-Modell mit rund 3 Billionen Parametern. Bei Open-Weight-Modellen können Entwickler die Modelldateien herunterladen, auf eigenen Systemen betreiben und anpassen. Moonshot will die Gewichte am 4. November veröffentlichen.

Cyber-Daten aus dem Training entfernt

Laut Moonshot wurden cyberbezogene Daten aus dem Trainingsdatensatz und den Reinforcement-Learning-Umgebungen entfernt. So soll das Modell offensive Cyber-Operationen schlechter beherrschen, während die allgemeine Programmierleistung erhalten bleibt.

Interne Tests deuten darauf hin, dass das funktioniert. Kimi K3.1 Pro erreichte im unternehmenseigenen Cybersecurity-Benchmark 81 Prozent. Dabei geht es darum, Software-Schwachstellen in einer kontrollierten Umgebung zu finden und auszunutzen. Eine ähnliche Version ohne die Schutzmaßnahmen kam auf 90,5 Prozent, ein Unterschied von 9,5 Prozentpunkten. Unabhängig überprüft sind die Ergebnisse nicht; das Modell soll seinen Vorgänger dennoch übertreffen.

Zudem bietet das Modell ein Kontextfenster von einer Million Token. Eine Highspeed-Variante soll laut Moonshot zwei- bis dreimal schneller laufen als die Standardversion.

Warum das wichtig ist

Dieselben Fähigkeiten dienen Verteidigung und Angriff. Sicherheitsteams können mit KI Schwachstellen finden, bevor Kriminelle es tun. Angreifer wiederum können Modelle, die Code schreiben, Werkzeuge bedienen und mehrstufige Aufgaben erledigen, nutzen, um Teile von Angriffen zu automatisieren. Moonshot argumentiert, Open-Weight-KI helfe Organisationen dabei, vernachlässigte oder ältere Software zu prüfen und abzusichern.

Sind die Modelldateien aber erst weit verbreitet, hat der Entwickler weniger Kontrolle darüber, wer sie nutzt und ob Schutzmechanismen bestehen bleiben. Auch die Politik reagiert: China hat Exportkontrollen für KI-gestützte Malware-Erzeugung und bestimmte KI-Tools zur Schwachstellensuche vorgeschlagen; die Entwürfe befinden sich noch in der öffentlichen Konsultation.

Der nächste Test folgt am 4. November, wenn Entwickler und Sicherheitsforscher direkten Zugriff auf die Gewichte erhalten. Dann zeigt sich, ob im Training verankerte Schutzmaßnahmen auch bei unabhängiger Nutzung standhalten.