KI schreibt unsicheren Code. So steht es in Studien, in Herstellerberichten und in vielen Diskussionen. Je nach Untersuchung enthalten 40 bis 45 Prozent der erzeugten Lösungen eine Schwachstelle.

Seltener wird gefragt, woher diese Lücken kommen.

Die KI hat das von uns gelernt

Ein Sprachmodell lernt Programmieren aus riesigen Mengen öffentlichem Code. Geschrieben haben diesen Code Menschen, und er enthält alles, was Menschen seit Jahrzehnten falsch machen. Die Forscher, die 2021 die Sicherheit von GitHub Copilot systematisch gemessen haben, schrieben dazu, es sei sicher, dass das Modell aus ausnutzbarem, fehlerhaftem Code gelernt habe. Veraltete Praktiken bleiben im Trainingsmaterial erhalten und landen im erzeugten Code.

Eine Studie der University of Waterloo zeigt denselben Effekt: Copilot erzeugt eher verwundbaren Code, wenn die Aufgabe einer älteren Schwachstelle entspricht. Und sie kommt zu einem Schluss, den man in den Schlagzeilen selten liest: Copilot sei nicht so schlecht wie menschliche Entwickler darin, Schwachstellen einzubauen.

Wer sich über unsicheren KI-Code beschwert, beschwert sich über den Code, mit dem die KI trainiert wurde. Geschrieben haben ihn Entwickler.

Die KI liefert, was du verlangst

Ein Sprachmodell wählt, was am wahrscheinlichsten passt. Im Trainingsmaterial stehen sichere und unsichere Lösungen nebeneinander, und ohne Vorgabe entscheidet die Wahrscheinlichkeit, nicht die Sicherheit.

Wie stark die KI auf das reagiert, was verlangt wird, zeigen die Messungen von Veracode, einem Anbieter von Sicherheitsscannern. Seit 2023 ist der Anteil des Codes, der syntaktisch korrekt ist, von etwa 50 auf 95 Prozent gestiegen. Der Anteil sicherer Lösungen bewegt sich in derselben Zeit kaum, zwischen 45 und 55 Prozent. Die Modelle werden besser in dem, was jede Aufgabe verlangt: Der Code muss laufen.

Sicherheit wird besser, wenn man sie verlangt. Das zeigt eine Studie der TU Hamburg mit GPT-3, GPT-3.5 und GPT-4: Gezielte Prompt-Techniken für sicheren Code senken die Zahl der Schwachstellen. Am besten wirkte es, die KI ihren eigenen Code kritisch prüfen und verbessern zu lassen.

Die KI kann also sicheren Code schreiben, wenn du das von ihr willst. Du musst es ihr nur sagen.

Sicherheit ist ein Non-Functional Requirement

In den letzten beiden Artikeln ging es um Anforderungen und Guardrails. Sicherheit gehört genau dorthin. Sie ist ein Non-Functional Requirement, und stellen muss es der Auftraggeber.

Dafür musst du nicht jede mögliche Lücke aufzählen. Es gibt einen Standard: den OWASP Application Security Verification Standard, kurz ASVS. Er umfasst rund 350 prüfbare Sicherheitsanforderungen in 17 Kapiteln und drei Stufen. Über Stufe 2 schreibt OWASP, die meisten Anwendungen sollten dieses Niveau anstreben.

Der Standard ist ausdrücklich als Anforderung gedacht. Wer Software beschafft, kann laut OWASP einfach verlangen, dass sie nach ASVS Level X entwickelt wird. Für die KI gilt dasselbe. Ein Satz reicht als Anfang: «Die Anwendung erfüllt OWASP ASVS 5.0 Level 2.»

Die Modelle lernen dazu

Auch ohne Anweisung werden die besten Modelle sicherer. In der Messung von Veracode vom Oktober 2025 erreichten GPT-5 und GPT-5 Mini 70 und 72 Prozent sichere Lösungen, frühere Modelle lagen typischerweise zwischen 50 und 60 Prozent. Veracode erklärt das mit dem Reasoning: Die Denkschritte des Modells wirken wie ein internes Code-Review.

Das ist ein Lernprozess, und die Richtung stimmt. Der Durchschnitt über alle Modelle liegt aber weiterhin bei 55 Prozent. Auf die Voreinstellung verlassen solltest du dich deshalb nicht.

Ein Skill für dein Team

Praktisch heisst das: Weise dein Entwicklerteam an, einen Skill zu bauen, der auf OWASP ASVS verweist. Ein Skill ist eine feste Anweisung, welche die KI bei Programmieraufgaben heranzieht. Darin steht, auf welche Stufe gebaut wird und dass die KI ihren Code vor dem Abschluss gegen den Standard prüft und nachbessert. Das ist genau die Technik, die in der Hamburger Studie am besten abgeschnitten hat.

Damit sinkt die Eintrittswahrscheinlichkeit von Sicherheitsproblemen im KI-generierten Code deutlich, nach meiner Erfahrung unter die eines Menschen, der ohne eine solche Vorgabe programmiert. Die Guardrails aus dem letzten Artikel ersetzt der Skill nicht, er kommt dazu.

Deine Verantwortung

Es liegt in deiner Verantwortung, die KI sicheren Code bauen zu lassen. Auch ohne Anweisung werden die besten Modelle darin besser. Trotzdem ist es heute sinnvoll, diesen Aspekt über einen Prompt zu kontrollieren, statt ihn dem Zufall zu überlassen.

Wenn du wissen willst, wie ein solcher Skill für dein Team aussieht, buch unten einen Termin.