Zum Inhalt springen
· 10 Min. Lesezeit

OpenAI Privacy Filter: Das Open-Weight-PII-Modell, das im Browser läuft (und wo es in einen Agent-Stack gehört)

OpenAIs neuer Open-Weight-PII-Klassifikator läuft im Browser und schließt eine Governance-Lücke, die in vielen Agent-Stacks zu wenig Beachtung findet. Wie das Modell funktioniert, wo es hingehört und wo es an Grenzen stößt.

Teilen

OpenAI hat gerade einen Datenschutz-Klassifikator veröffentlicht. openai/privacy-filter ist ein bidirektionaler Token-Klassifikator mit 1,5 Milliarden Parametern unter Apache-2.0-Lizenz. Er läuft im Browser, erkennt in einem einzigen Forward Pass acht Kategorien personenbezogener Daten und schließt eine Governance-Lücke, die in vielen Agent-Stacks zu wenig Beachtung findet.

Wer in den Release Notes nur ein weiteres neues Modell sieht, übersieht das eigentliche Signal.

Wer heute Agenten auf Kundendaten betreibt, schwärzt PII meist mit einer selbst gepflegten Regex-Bibliothek oder schickt die Anfragen durch ein LLM. Beide Wege haben Nachteile. Dieser Artikel zeigt, was openai/privacy-filter tatsächlich ist, welche Architekturentscheidungen zählen und wo das Modell in einen echten Agent-Governance-Stack gehört. Außerdem erkläre ich, warum ich wegen dieses Releases meine Haltung zu Agenten ändere, die nicht vertrauenswürdige Eingaben lesen, und was Sie damit tun sollten, wenn Sie regulierte Workloads ausliefern.

Das Wichtigste in Kürze

  • openai/privacy-filter ist ein eigens trainierter Klassifikator, kein Allzweck-LLM. 1,5 Milliarden Parameter insgesamt, davon 50 Millionen aktiv per MoE-Routing, 128.000 Tokens Kontext, Apache-2.0-Lizenz.
  • Die Architektur stammt aus der gpt-oss-Linie. An die Stelle des Language-Model-Heads tritt ein BIOES-Token-Classification-Head mit 33 Klassen. Das Decoding läuft über Constrained Viterbi, damit Spans zusammenhängend bleiben.
  • Läuft im Browser-Tab über Transformers.js und WebGPU. Kein API-Roundtrip, keine Übertragung an einen Server, kein OpenAI-Account zur Laufzeit.
  • Erkennt acht PII-Kategorien: private_person, private_email, private_phone, private_address, private_url, private_date, account_number, secret.
  • Keine Anonymisierung. Auf Englisch ausgelegt, mit schwächerem Recall bei nicht-lateinischen Schriften. Feste Label-Taxonomie, die sich nur per Fine-Tuning erweitern lässt.

OpenAI hat einen Datenschutz-Klassifikator veröffentlicht.

Die meisten Medien werden das als eine weitere OpenAI-Veröffentlichung auf Hugging Face melden. Die Architektur sagt etwas anderes. Es handelt sich um einen bidirektionalen Klassifikator, nachtrainiert aus einem autoregressiven Checkpoint in gpt-oss-Bauweise. Der Language-Model-Head wurde durch einen 33-Class-Token-Classification-Head ersetzt, der acht Privacy-Span-Kategorien plus eine Background-Class abdeckt.

OpenAI hat ein Werkzeug veröffentlicht, das kontrolliert, was in andere Modelle hineingeht und was aus ihnen herauskommt. Zum Chatten ist es nicht gedacht.

Das ist wichtig, weil die Branche bisher gern zu generativen LLMs greift, auch für Aufgaben wie die PII-Erkennung, die eigens trainierte Klassifikatoren besser lösen. Wer für die PII-Maskierung jede eingehende Anfrage durch ein Allzweckmodell mit 70 Milliarden Parametern schickt, verbraucht viel Rechenleistung für eine Aufgabe, die im Kern eine Klassifikation ist. Ein Klassifikator mit 1,5 Milliarden Parametern, davon 50 Millionen aktive MoE-Parameter, erledigt dieselbe Arbeit in einem Forward Pass, läuft auf einem Laptop und kann keine neuen E-Mail-Adressen halluzinieren.

Die Ableitung von gpt-oss ist der Teil, über den kaum jemand berichtet. OpenAI signalisiert damit, dass die gpt-oss-Familie zur Grundlage für spezialisierte Hilfsmodelle wird, die Agenturen und Engineering-Teams lokal betreiben sollen. Es werden weitere folgen.

Prüfen Sie gerade einen Agent-Governance-Stack für einen regulierten Workload? webvise entwirft Stacks, die von Anfang an auf Compliance ausgelegt sind.

Die Architektur in einfachen Worten

Privacy Filter ist ein Pre-Norm-Encoder-Stack aus acht Blöcken mit Grouped-Query-Attention (14 Query-Heads, 2 KV-Heads, Gruppengröße 7), Rotary Positional Embeddings und einem Sparse-MoE-Feed-Forward-Block mit 128 Experten und Top-4-Routing. Die Breite des Residual Streams beträgt 640. Insgesamt kommt das Modell auf 1,5 Milliarden Parameter, pro Token sind 50 Millionen aktiv.

Das Modell nutzt Banded Attention mit einer Bandgröße von 128, was ein effektives Fenster von 257 Tokens ergibt. Der Kontext reicht bis 128.000 Tokens, sodass bei typischen Workloads mit langen Dokumenten kein Chunking mehr nötig ist.

Der Labeling-Head gibt pro Token 33 Logits aus: ein Background-Label plus acht Span-Kategorien, aufgefächert in BIOES-Tags (Begin, Inside, End, Single). Bei der Inferenz bewertet ein Constrained-Viterbi-Decoder mit Linear-Chain-Transition-Scoring vollständige Label-Pfade. Sechs Transition-Bias-Parameter steuern Background-Persistenz, Span-Beginn, Fortsetzung, Abschluss und den direkten Übergang von einer Span-Grenze zur nächsten. In der Praxis bleiben Span-Grenzen dadurch auch in Text mit gemischten Formaten zusammenhängend, wo unabhängiges Argmax-Decoding sie zerstückelt.

Über Operating Points zur Laufzeit stellen Sie das Verhältnis von Precision und Recall ein, ohne neu zu trainieren. Gewichten Sie Span-Beginn und Fortsetzung stärker, wird eher zu viel geschwärzt (compliance-freundlich, aber mit mehr Fehlalarmen). Gewichten Sie die Background-Persistenz stärker, wird eher zu wenig geschwärzt (der Kontext bleibt erhalten, dafür können Daten durchrutschen). Die vollständige Model Card samt Evaluierungsmethodik finden Sie unter huggingface.co/openai/privacy-filter.

Warum die Ausführung im Browser die Platzierung verändert

Die meiste Middleware für PII-Schwärzung läuft auf dem Server. Die Daten werden im Klartext übertragen, landen bei einem Schwärzungsdienst, werden bereinigt und gehen dann weiter an die Model-API. Jeder Schritt kostet Latenz und Geld und schafft eine weitere Stelle, an der die Klartextversion in Logs liegt.

Privacy Filter läuft in einem Browser-Tab über Transformers.js mit WebGPU und q4-Quantisierung. Das heißt: Sie können die Eingabe der Nutzer in deren eigenem Browser schwärzen, bevor der Text das Gerät überhaupt verlässt.

Der Server sieht eine geschwärzte Version. Der Log-Speicher sieht eine geschwärzte Version. Der LLM-Anbieter sieht eine geschwärzte Version. Ihre eigene Infrastruktur muss nicht fehlerfrei sein, weil der Klartext sie nie erreicht.

Das verändert die Rechnung bei der Platzierung in drei Punkten. Inferenz auf dem Client verlegt die Trust Boundary aus Ihrem Rechenzentrum heraus. Ein Modell mit 50 Millionen aktiven Parametern ist klein genug, um es im normalen Bundle auszuliefern, ohne das Ladebudget einer modernen Web-App zu sprengen. Und dank der Apache-2.0-Lizenz können Sie auf eigenen Domain-Daten fine-tunen und die Weights selbst hosten, ohne eine kommerzielle Vereinbarung auszuhandeln.

Das hat einen echten Preis. Außerhalb von Chromium-Browsern ist die WebGPU-Unterstützung lückenhaft, die Model-Weights müssen nach jedem Cache-Bust einmal neu geladen werden, und der verfügbare Gerätespeicher begrenzt das Inferenzfenster. Für einen Compliance-Workflow in einer Desktop-Web-App ist dieser Preis vertretbar. In einer mobilen Webview mit aggressiver Cache-Eviction ist er es meist nicht.

Wo das Modell in einen Agent-Governance-Stack gehört

Ein echter Agent-Governance-Stack besteht aus klar getrennten Schichten. Mein Arbeitsmodell bei webvise sieht so aus:

  • Schicht 1: Authentifizierung und Rate Limiting am Eingang
  • Schicht 2: Datenminimierung (Schwärzung der Eingaben)
  • Schicht 3: Prompt-Aufbau und Zusammenstellung des Kontexts
  • Schicht 4: Modell-Inferenz
  • Schicht 5: Output-Filterung (PII, Safety, Policy)
  • Schicht 6: Weitergabe an Action-Handler, Speicher und Drittanbieter-APIs

openai/privacy-filter passt sauber in Schicht 2 und, mit anders kalibriertem Operating Point, in Schicht 5. Dort ersetzt es die Regex-Bibliothek, die Sie bisher pflegen, und bringt Architektureigenschaften mit, an die regelbasierte Ansätze nicht herankommen. Safety-Modelle, Prompt-Injection-Detektoren und Policy-Engines auf Agent-Ebene braucht der Stack weiterhin.

PlatzierungTrust BoundaryWann einsetzen
Client-seitig (Browser + WebGPU)Klartext verlässt das Gerät nieWeb-Apps mit Compliance-Fokus, regulierte Branchen, interne Tools
Server-Middleware (Node + Transformers)Vertrauenswürdiger Server, auditierte LogsAPIs, Backend-Agenten, Batch-Pipelines
Output-Filter (nach der Antwort)Rohe Modellausgabe erreicht den Client nieChat-Agenten, generierte Inhalte, RAG-Flows für Endnutzer

Für die meisten Kunden-Stacks, die ich entwerfe, lautet die Antwort: Schicht 2 und Schicht 5 zusammen. Der Check im Browser verhindert, dass PII überhaupt erst versehentlich ins Context Window gelangt. Der Output-Check auf dem Server fängt alles ab, was das Modell in seiner Antwort erzeugt oder preisgibt. Das Ziel ist Defense in Depth.

Wenn Sie Ihre Datenflüsse gerade an einer Governance-Schicht ausrichten, sprechen Sie mit webvise über das Stack-Design, bevor Sie sich festlegen.

Die acht Kategorien und wo das Modell an Grenzen stößt

Die Label-Taxonomie von Privacy Filter ist fest. Acht Kategorien plus eine Background-Class, mit BIOES-Boundary-Tags pro Kategorie.

KategorieWas erkannt wirdBekannte Schwäche
private_personPersonennamenSeltene regionale Namen, Initialen und Nennungen mit Anrede oder Titel werden zu selten erkannt
private_emailE-Mail-AdressenGute Abdeckung. Verschleierte Formate („name at domain“) können übersehen werden
private_phoneTelefonnummernInternationale Formate zuverlässig. Unübliche Trennzeichen zerstückeln die Erkennung gelegentlich
private_addressPostanschriftenMehrzeilige Adressen in dichten Layouts zerfallen an den Rändern in Bruchstücke
private_urlIdentifizierende URLsSchwärzt URLs öffentlicher Organisationen unnötig, wenn der lokale Kontext mehrdeutig ist
private_dateGeburtsdaten, TermineKontextabhängig. Kalenderdaten in Terminabsprachen werden manchmal unnötig geschwärzt
account_numberBank-, Kunden-, PatientennummernDomänenspezifische ID-Muster werden zu selten erkannt
secretAPI-Keys, Zugangsdaten, TokensNeue Credential-Formate und aufgeteilte Secrets werden übersehen

Braucht Ihre Domäne Kategorien außerhalb dieser Liste, bleibt nur Fine-Tuning. Die Model Card stellt klar, dass sich die Label-Policy zur Laufzeit nicht ändern lässt. Das ist der Preis eines Klassifikators mit 50 Millionen aktiven Parametern: Die Taxonomie ist fest eingebaut. Für den Vergleich der Optionen behandelt der Leitfaden zu den besten lokalen KI-Modellen für Unternehmen mit Compliance-Pflichten 2026 dieselbe Entscheidung aus Sicht der Allzweck-LLMs.

Die Model Card von OpenAI ist ungewöhnlich offen. Drei Grenzen sollten Sie ernst nehmen, bevor Sie ausliefern.

Mehrsprachig, aber auf Englisch optimiert

OpenAI hat das Modell auf ausgewählten mehrsprachigen Benchmarks getestet. Bei nicht-lateinischen Schriften und bei Namenskonventionen geschützter Gruppen sinkt die Genauigkeit. Verarbeitet Ihr Kunde deutsche, polnische oder italienische personenbezogene Daten, rechnen Sie mit schwächerem Recall. Fine-tunen Sie auf Beispielen aus der eigenen Domäne, oder setzen Sie für die wichtigsten Kategorien einen zweiten Durchlauf mit Regex als Fallback dahinter.

Keine Anonymisierung

Das Modell hilft beim Schwärzen, eine Anonymisierung garantiert es nicht. Wer sichtbare PII entfernt, beseitigt damit kein Re-Identifizierungsrisiko, wenn Quasi-Identifikatoren (PLZ, Alter, seltene Diagnose) zusammenkommen. Müssen Sie eine Anonymisierung nach DSGVO oder eine De-Identifizierung nach HIPAA mit der Safe-Harbor-Methode leisten, brauchen Sie zusätzlich eine eigene Pipeline, das Modell allein genügt nicht. Mein Beitrag zu KI-Regulierung und Zertifizierungen in Deutschland und Europa ordnet den regulatorischen Rahmen im Detail ein.

Hochsensible Workflows brauchen menschliche Prüfung

Medizin, Recht, Finanzen, HR, Bildung, öffentliche Verwaltung. In diesen Branchen legen False Negatives Daten offen, und False Positives nehmen Prüfern den Kontext, den sie für ihre Entscheidungen brauchen. Privacy Filter liefert hier die Grundlage für eine menschliche Prüfung und ersetzt sie nicht.

Meine Regel: Hinter Privacy Filter folgt im Stack mindestens ein weiterer Check. Ist der Filter die einzige Schicht, genügt ein Modell-Update für eine Regression, die niemand bemerkt.

Ich revidiere meine Haltung „keine Agenten im offenen Web“

Anfang des Monats habe ich öffentlich Position bezogen: webvise liefert Kunden keine KI-Agenten, die das offene Web lesen. Der Grund war konkret. Eingaben, die ein Angreifer kontrolliert (eine gecrawlte Seite, eine von Nutzern eingereichte URL, ein Feed eines Drittanbieters), spielen dem Agenten PII, Zugangsdaten oder Prompt-Injection-Payloads zu, die bis in nachgelagerte Aktionen durchsickern.

openai/privacy-filter ändert diese Abwägung teilweise, und zwar auf der Seite der Eingaben. Läuft ein browser-lokaler Klassifikator über gecrawlte Inhalte, bevor sie in den Prompt-Kontext gelangen, schwächt das zwei Muster ab: die Offenlegung sensibler Daten und Context Poisoning über eingebettete PII.

Am Angriffsweg über Prompt Injection ändert das nichts. Eine gezielt präparierte Seite kann den Agenten weiterhin anweisen, seinen Speicherinhalt per E-Mail zu verschicken. Der Filter verhindert aber, dass dieselbe Seite versehentlich die Privatadresse eines Kunden ins Context Window des Modells trägt.

Meine neue Haltung: Eng begrenzte Open-Web-Reader für nicht sensible Workflows (Aggregation öffentlicher Daten, Wettbewerbsanalyse, Marktforschung) liefere ich jetzt aus, sofern Privacy Filter auf beiden Seiten des Modellaufrufs eingebunden ist. Für Workflows, die Kundendaten, interne Dokumente oder authentifizierte Aktionen berühren, liefere ich sie weiterhin erst nach einem eigenen Red-Team-Durchlauf aus.

So binden Sie es ein

Zwei gängige Muster, beide direkt aus der Model Card. Die Python-Pipeline zum Schwärzen auf dem Server:

`from transformers import pipeline; classifier = pipeline(task="token-classification", model="openai/privacy-filter"); classifier("My name is Alice Smith")`

Und die Transformers.js-Pipeline zum Schwärzen im Browser über WebGPU:

`import { pipeline } from "@huggingface/transformers"; const classifier = await pipeline("token-classification", "openai/privacy-filter", { device: "webgpu", dtype: "q4" }); await classifier(input, { aggregation_strategy: "simple" });`

Legen Sie die Browser-Pipeline in einen Web Worker, damit die Inferenz den Main Thread nicht blockiert. Cachen Sie die Model-Weights per Service Worker, damit die Ladezeit beim ersten Besuch nur einmal pro Cache-Bust anfällt. Stimmen Sie den Operating Point im Staging mit repräsentativen Daten ab, bevor Sie damit in Produktion gehen. Das offizielle Repository enthält die vollständige Model Card, einen Demo-Space und eine Anleitung zum Fine-Tuning.

Mit privacy-filter stellt OpenAI eine These darüber auf, wohin sich die Branche bewegt: spezialisierte Klassifikatoren unter Apache 2.0, die im Browser laufen, an den Rändern Ihres Stacks sitzen und kontrollieren, was Ihre LLMs sehen und was sie zurückgeben. So sieht die Compliance-Arbeit aus, die ich bei webvise mache, und so sieht die Governance-Schicht aus, die den meisten Agenten heute fehlt.

Agent-Stacks ohne Schicht zur Datenminimierung bekommen mit diesem Release einen starken Open-Weight-Ausgangspunkt. Wenn Sie es in etwas einbinden wollen, auf das sich Kunden in der Produktion wirklich verlassen können, baut webvise das für Sie.

Die Praktiken von webvise sind an den ISO 27001- und ISO 42001-Standards ausgerichtet.