Wir laden Dokumente in eine Cloud mit KI-Funktionen — was sind die konkreten Risiken für Kundendaten?

Ich empfehle Ihnen, die Richtlinien und Empfehlungen der französischen Datenschutzbehörde zum Einsatz von KI zu prüfen. Sobald Mandantendokumente Ausweisdaten oder Bankverbindungen Dritter enthalten, müssen Sie mit dem Cloud-Provider zwingend einen AVV mit Standardvertragsklauseln abschließen und diesen Verarbeitungsvorgang in Ihr Verzeichnis aufnehmen.

Die größte Schwachstelle sind die Zugriffsrechte im Retrieval-System. In einer normalen Cloud sieht ein normaler Mitarbeiter den Lohnordner nicht. Wenn die KI aber alles pauschal indiziert und Dateirechte nicht sauber erbt, kann er die Daten über den Prompt indirekt abgreifen und ausgeben lassen. Die Rechtevererbung müsst ihr unbedingt auf Herz und Nieren testen.

Verlasst euch nicht blind auf die Zusage „Wir nutzen eure Daten nicht fürs Training“. Prüft in der technischen Doku ganz genau, ob Daten für Zusammenfassungen im Hintergrund an Servercluster von Drittanbietern weitergereicht werden. Viele große Systeme binden als Subunternehmer einfach Sprachmodelle anderer Firmen ein.

Wir haben bei uns in der Beratung folgenden Zwischenschritt eingeführt: Statt Originaldokumente hochzuladen anonymisieren wir die Entwürfe für die Textanalyse vorher kurz. Statt Ahmet Yılmaz schreiben wir „Mandant A“, statt Firmenname eben „Firma X“. Dauert zwei Minuten länger, aber man schläft deutlich ruhiger.

Als wir das erste KI-Tool freigeschaltet haben hat ein Assistent direkt einen kompletten Dienstleistervertrag reinkopiert mit dem Prompt „Finde mir die Schwachstellen hier drin“. Der Mensch ist immer das schwächste Glied. Schaltet das Feature erst frei, wenn dem Team haargenau vorgegeben wurde was hochgeladen werden darf und was nicht.

Checkliste vor dem Go-live: 1) In den Cloud-Einstellungen die Modell-Trainingserlaubnis komplett deaktivieren. 2) Ordner mit Ausweisdaten und IBANs explizit vom KI-Indexing ausschließen. 3) Wöchentlich Audit-Logs prüfen, wer welche Dokumenttypen über den Assistenten abfragt.

Wir haben letztes Jahr mit ähnlicher Begeisterung unser ganzes Archiv an so ein KI-System angebunden. Der Geschwindigkeitsvorteil war enorm, keine Frage. Als dann aber ein Firmenkunde ein Sicherheitsaudit verlangte, kamen wir wegen unserer Klauseln extrem ins Schwitzen. Wenn der Vertrag und die Grenzen der Datenverarbeitung nicht absolut wasserdicht sind, kann der Vertrauens- und Kundenverlust die gewonnene Zeit ganz schnell auffressen.

Dieses Thema ist archiviert. naja wenn der Benachrichtigungsweg lang ist kommen keine Benachrichtigungen; keine Benachrichtigung bedeutet spät erkannte Vorfälle.

Das war's entschuldige wenn ich zu lang war.

Ein Thema, das gerade aktuell ist.

wie habt ihr das Problem gelöst? wenn wir ohne Messng entscheiden landen wir immer wieder am selben Punkt.

wenn es jemand anders macht würde mich das auch interessieren.

Ich fasse das Thema mal zusammen, da es mehrere unterschiedliche Antworten gab. Nur weil alle es tun, heißt es nicht dass es richtig ist.

Wenn es jemand anders macht würde mich das auch interessieren.

Das habe ich auch erlebt.

Kannst du das etwas genauer erklären? Der meiste Zeitverlust entsteht durch Arbeiten, die auf Freigaben warten.

Viel Erfolg.

Du hast recht, ich bin denselben Weg gegangen. Vergessene Testumgebungen sind häufiger das Einfallstor als das Live-System.

Das allein zu versuchen, ist der teuerste Weg. Ich hoffe, das hilft dir weiter.

Gespeichert. Wenn du zu einem Thema drei verschiedene Antworten bekommst, war die Frage falsch gestellt.

Das wusste ich nicht. Der meiste Zeitverlust entsteht durch Arbeiten, die auf Freigaben warten.

Wenn es jemand anders macht, würde mich das auch interessieren.

Mich interessiert das auch.

Man sollte der Reihe nach vorgehen. Wenn man versucht alles gleichzeitig zu ändern, etabliert sich nichts richtig.

Wenn ihr das Ergebnis hier postet, hilft es auch anderen.