Zum Hauptinhalt springen

§ 13 · Datenschutz

Ein Gedächtnis, das Sie erst einschalten müssen

Das Chat-Gedächtnis ist standardmäßig aus und bleibt es, bis Sie es einschalten. Eingeschaltet lernt es höchstens vier Einträge je Lauf und nur bei hoher oder mittlerer Zuversicht. Sie dürfen lesen und löschen, aber nicht schreiben — und die Verwaltungsansicht markiert sichtbar, ab welcher Position ein Eintrag das Modell nicht mehr erreicht.

4 minDatenschutz
Ein kleiner Messingschalter in Aus-Stellung auf einer weiten dunklen Schieferfläche, von oben kühl beleuchtet; der größte Teil des Bildes bleibt leer.

In einem Satz

Das Gedächtnis des KI-Rechtschats ist standardmäßig aus, jeder Eintrag ist sichtbar und einzeln löschbar — und die Verwaltungsansicht sagt Ihnen offen, dass nur die 30 jüngsten Einträge das Modell überhaupt erreichen.

Die Voreinstellung ist die eigentliche Entscheidung

Bei einem Gedächtnis für einen Assistenten gibt es genau eine Stelle, an der man ehrlich sein muss: die Voreinstellung. Alles andere — Einstellungsseite, Löschknopf, Erklärtext — kommt danach und ändert nichts für die Menschen, die nie in die Einstellungen gehen.

Unsere Voreinstellung ist aus. Die Begründung steht so im Code: Die Plattform lernt nichts über eine Person hinweg, bis sie es aktiv einschaltet. Wer den Chat nutzt und die Funktion nie anfasst, hinterlässt kein Profil — nicht, weil man ein Häkchen wegklicken könnte, sondern weil nichts anläuft.

Was gelernt wird, wenn Sie es einschalten

Auch eingeschaltet bleibt das Lernen bewusst sparsam:

  • Höchstens vier Einträge je Lauf.
  • Nur bei hoher oder mittlerer Zuversicht — Unsicheres wird verworfen statt aufgehoben.
  • Dubletten werden übersprungen.
  • Der Lauf startet erst ab der zweiten Nachricht, danach greift er jede dritte.

Diese Deckel sind nicht Sparsamkeit um ihrer selbst willen. Ein Gedächtnis, das alles mitschreibt, wird schnell zu einer Sammlung halbwahrer Sätze über einen Menschen — und je größer sie wird, desto weniger merkt jemand, was darin steht.

Lesen und löschen — aber nicht schreiben

Ein Detail, das nach einer Einschränkung aussieht und in Wahrheit eine Schutzmaßnahme ist: Sie dürfen Ihre Einträge lesen und löschen, aber nicht selbst anlegen. Schreiben darf ausschließlich der Server.

Der Grund liegt auf der Angriffsseite. Ein Gedächtnis, in das ein Client hineinschreiben kann, ist ein Gedächtnis, in das sich etwas hineinschreiben lässt — durch eine präparierte Seite, ein manipuliertes Skript, ein untergeschobenes Dokument. Was das Modell später als bekannte Präferenz behandelt, wäre dann nicht mehr das, was Sie gesagt haben. Deshalb ist der Weg nach innen zu.

Die 30er-Grenze steht in der Oberfläche

In den Prompt gehen höchstens 30 aktive Einträge, die jüngsten zuerst; einzelne Werte werden dabei auf 300 Zeichen gekürzt.

Diese Zahl hätten wir verschweigen können — die Verwaltungsansicht hätte einfach 30 Einträge zeigen können, und niemand hätte gefragt. Sie zeigt stattdessen alle Einträge und markiert die Grenze sichtbar: Ab Position 31 steht an der Zeile „nicht mehr im KI-Kontext". Ein Eintrag, den Sie dort sehen, existiert — er beeinflusst die Antwort nur nicht mehr. Das ist unbequemer und richtiger als eine Liste, die so tut, als wäre alles wirksam.

Wer sonst noch mitliest

Zwei weitere Funktionen greifen auf das Gedächtnis zu: das Erzeugen von Schreiben und die Dokumentanalyse. Beide lesen es nur. Geschrieben wird ausschließlich aus dem Chat heraus. Es gibt damit genau eine Stelle, an der Einträge entstehen — und genau eine, die Sie beobachten müssen, wenn Sie wissen wollen, woher etwas kommt.

Was das Gedächtnis nicht ist

  • Es ist kein Aktenwissen. Was in Ihren Dokumenten steht, ist eine andere Ebene; hier liegen Präferenzen und wiederkehrender Kontext, keine Sachverhalte.
  • Es entscheidet nichts. Ein gemerkter Umstand ändert den Zuschnitt einer Antwort, nicht ihre rechtliche Aussage.
  • Es macht Antworten nicht verbindlicher. Auch mit vollständigem Kontext bleibt der Chat eine Orientierungshilfe; wo es auf den Einzelfall ankommt, führt der Weg zu einer Kanzlei.

Wer die Funktion nicht möchte, muss nichts tun. Das ist der Punkt.

Kostenlose KI-Rechtsauskunft · KI-Präferenzen · Sicherheit · KI-Transparenz

Lexi, digitale Rechts-Assistenz

Bereit, Ihr Anliegen zu klären?

{n} Credits gratis. Keine Kreditkarte erforderlich. In 2 Minuten startklar.

Jetzt kostenlos starten

Keine Kreditkarte erforderlich · DSGVO-konform · Kostenlos starten

Kostenlos starten
Keine Kreditkarte
Jetzt starten