Wenn Sie eine KI nutzen, vertrauen Sie darauf, dass wirklich das versprochene Modell (das „Gehirn“ hinter der KI) antwortet. Überprüfen können Sie das bisher nicht. Anthropic, die Firma hinter Claude, stellt mit FlashProve einen ersten Versuch vor, das mathematisch nachzuweisen.

Was ist passiert?

Anthropic hat am 2. November 2026 einen Forschungsbericht veröffentlicht, heise und TechCrunch berichteten am 3. und 4. November. FlashProve ist ein Open-Source-Prototyp (frei verfügbarer Programmcode, den jeder ansehen und nutzen darf), der auf GitHub liegt.

Die Idee ähnelt einer digitalen Unterschrift unter einer E-Mail:

  1. Der KI-Anbieter veröffentlicht einen Fingerabdruck seines Modells. Die geheimen Zahlen, die das Verhalten der KI bestimmen (die sogenannten Gewichte), bleiben dabei verborgen.
  2. Zu jeder Antwort erzeugt der Anbieter einen kryptografischen Beweis (eine mathematische Echtheitsprüfung).
  3. Jeder kann mit einem normalen Computer in rund 17 bis 21 Sekunden prüfen, ob die Antwort wirklich von diesem Modell stammt.

Dahinter steckt ein sogenannter Zero-Knowledge-Beweis (ein Beweis, der etwas bestätigt, ohne Geheimnisse zu verraten). Wichtige Verbesserungen hat laut Anthropic die eigene KI Claude beigesteuert.

Wofür das gut sein könnte

  • Schutz vor Tricks: Ein Anbieter könnte heimlich ein billigeres Modell einsetzen, um Kosten zu sparen. Mit einem Nachweis fiele das auf.
  • Belegbare Aussagen: Ein Softwarehaus behauptet, sein Code wurde von einer Spitzen-KI auf Sicherheitslücken geprüft? Das ließe sich künftig belegen.
  • Vertrauen bei Geschäftskunden: Firmen, die für ein bestimmtes Modell bezahlen, könnten prüfen, ob sie es auch bekommen.

Kritischer Blick

FlashProve ist ausdrücklich ein Forschungsprototyp. Anthropic plant derzeit keinen Einsatz, weder bei sich noch bei anderen Anbietern. Getestet wurde nur mit Metas Modell Llama 4 Maverick in einer verkleinerten Variante und mit kurzen Anfragen von höchstens 1.024 Token (Text-Bausteinen, grob Wortteilen). Der Beweis kostet laut Anthropic etwa 70- bis 95-mal so viel Rechenzeit wie die eigentliche Antwort – für den Alltag viel zu teuer. Alle Leistungswerte stammen von Anthropic selbst und sind nicht unabhängig geprüft. Ob das Verfahren für lange Gespräche und kommerzielle Chatbots taugt, ist offen.

Fazit

Noch ist FlashProve nichts für den Alltag. Es zeigt aber, wohin die Reise geht: Wenn KI immer mehr Arbeit übernimmt, wird der Nachweis wichtig, welche KI was getan hat. Für Nutzer heißt das bis dahin: Ergebnisse weiter selbst prüfen.

Quellen