Wer heute ein KI-Produkt baut, nutzt Sprachmodelle selten direkt beim Hersteller. Oft laufen Anfragen über Router-Dienste, Plattformen oder Wiederverkäufer, die mehrere Modelle bündeln. Das ist praktisch, hat aber einen blinden Fleck: Du kannst nicht überprüfen, ob wirklich das Modell antwortet, für das du bezahlst. Anthropic hat jetzt einen Forschungsprototyp vorgestellt, der genau das ändern soll.

Das Problem: KI als Blackbox

Wenn du ein bestimmtes Modell auswählst, vertraust du darauf, dass der Anbieter es auch einsetzt. Ein Zwischenhändler könnte aber aus Kostengründen ein günstigeres Modell unterschieben, ohne dass du es merkst. Oder jemand manipuliert die Verbindung zwischen dir und dem Anbieter. Für ein Hobbyprojekt ist das egal. Für ein Unternehmen, das seinen Kunden zusichert, welches Modell ihre Daten verarbeitet, ist es ein echtes Thema.

Wie FlashProve funktioniert

FlashProve setzt auf ein Verfahren aus der Kryptografie, sogenannte zkSNARK-Beweise. Vereinfacht gesagt: Der Anbieter hinterlegt einen digitalen Fingerabdruck seiner Modellgewichte, also der gelernten Parameter des Modells. Zu jeder Antwort liefert er dann einen kompakten Beweis mit, dass genau dieses Modell die Antwort erzeugt hat. Das Besondere: Der Beweis verrät nichts über die geheimen Gewichte selbst. Der Anbieter muss sein Modell also nicht offenlegen, um zu zeigen, dass er es benutzt.

Laut The Decoder schafft das System auf einer H100-Grafikkarte etwa 110 Tokens pro Sekunde mit Metas Llama 4 Maverick, einem Modell mit 400 Milliarden Parametern. Ein Beweis ist rund 19 Megabyte groß und lässt sich auf einem normalen Prozessor in etwa 17 Sekunden prüfen. Spezielle Hardware braucht es dafür nicht – ein Unterschied zu anderen Ansätzen, die auf besonders abgesicherte Server setzen.

Die Grenzen

Für den Alltag ist FlashProve noch nicht gedacht. Der Rechenaufwand liegt beim 70- bis 95-Fachen einer normalen Antwort. Bewiesen werden können bisher nur Eingaben bis 1.024 Tokens – weit weniger, als heutige Modelle verarbeiten. Außerdem funktioniert das Verfahren nur, wenn das Modell immer die wahrscheinlichste Antwort wählt. Die etwas zufälligeren Antworten, die du aus Chatbots kennst, lassen sich so nicht belegen. Und: Die Architektur des Modells bleibt sichtbar, nur die Gewichte sind verborgen.

Code, Beweise und Dokumentation hat Anthropic unter der Apache-2.0-Lizenz auf GitHub veröffentlicht. Wer will, kann sich das also selbst ansehen.

Warum das für Gründer trotzdem relevant ist

Auch wenn FlashProve heute noch kein fertiges Produkt ist, zeigt es eine Richtung. Anthropic sieht Anwendungen bei Behörden, die prüfen wollen, ob nur zugelassene Modelle eingesetzt werden. Bei Unternehmen, die belegen wollen, dass zum Beispiel Code von einem bestimmten Modell geprüft wurde. Und bei Anbietern, die Manipulationen an ihren eigenen Servern erkennen wollen.

Für dich heißt das: Die Frage, welches Modell eigentlich die Daten deiner Kunden verarbeitet, wird häufiger kommen – gerade von größeren Kunden und in regulierten Branchen. Wer darauf schon heute eine klare Antwort hat, ist im Vorteil.

Der erste Schritt braucht keine Kryptografie: Dokumentiere, welche Modelle dein Produkt nutzt, über welchen Anbieter die Anfragen laufen und welche Daten dabei übertragen werden. Prüfe bei Router-Diensten, ob sie offenlegen, welches Modell eine Anfrage tatsächlich beantwortet hat. Und behalte Ansätze wie FlashProve im Blick, bevor deine Kunden danach fragen.