Der Landesdatenschutz Bayern hat in seiner Reihe AI in A Nutshell neue Guidelines zur Verfügung gestellt, um den Umgang mit KI Systemen datenschutzkonform zu gestallten und durchzuführen.
KI-Systeme zur Schreibassistenz
Kurzfassung – AI in a Nutshell 5: KI-Systeme zur Schreibassistenz
Das Dokument beschreibt den Einsatz von KI-Schreibassistenten in öffentlichen Stellen. Solche Systeme können beim Erstellen, Umformulieren, Übersetzen, Strukturieren, Korrigieren und Zusammenfassen von Texten unterstützen. Im Gegensatz zu klassischen Rechtschreibhilfen erzeugen moderne Sprachmodelle eigenständig neue Texte und können Inhalte zielgruppengerecht anpassen. Typische Anwendungsfälle sind E‑Mails, Briefe, Stellungnahmen, Vermerke oder Protokolle.
Aus Datenschutzsicht müssen KI-Systeme vor der Nutzung offiziell freigegeben, Beschäftigte geschult und eine Weiterverwendung eingegebener Daten zum Nachtraining möglichst ausgeschlossen werden. Personenbezogene oder vertrauliche Daten sollten nur mit entsprechender Rechtsgrundlage und möglichst anonymisiert verarbeitet werden. KI-Ergebnisse müssen stets auf Richtigkeit, Aktualität und Vollständigkeit geprüft werden, da Halluzinationen und Fehlinformationen möglich sind. Zudem ist zu prüfen, ob eine Kennzeichnungspflicht für KI-generierte Inhalte nach der KI-Verordnung besteht.
Download:
https://www.datenschutz-bayern.de/ki/AI_nut_05.pdf
KI-Systeme zur Recherche-Unterstützung
Kurzfassung – AI in a Nutshell 4: KI-Systeme zur Recherche-Unterstützung
Das Dokument beschreibt KI-gestützte Recherchesysteme, die große Datenmengen aus Dokumenten, E-Mails, Akten, Datenbanken oder Registern durchsuchen und Informationen schneller auffindbar machen. Im Unterschied zu klassischen Suchmaschinen können sie Zusammenhänge erkennen, mehrsprachig recherchieren, Informationen aus verschiedenen Quellen zusammenführen und zielgruppengerechte Zusammenfassungen erstellen. Typische Anwendungsfälle sind die Recherche zu Fachthemen, das Auffinden relevanter Dokumente oder die Auswertung interner Informationsbestände.
Aus Datenschutzsicht müssen solche Systeme freigegeben, Beschäftigte geschult und eine Nutzung der Eingaben zum Nachtraining möglichst ausgeschlossen werden. Personenbezogene oder vertrauliche Daten sollten nur mit entsprechender Rechtsgrundlage und möglichst anonymisiert verarbeitet werden. KI-Ergebnisse müssen vor der Verwendung auf Richtigkeit, Aktualität und Vollständigkeit geprüft werden, da auch Recherche-KI falsche oder erfundene Informationen („Halluzinationen“) liefern kann. Zudem ist zu prüfen, ob für unverändert übernommene KI-generierte Inhalte eine Kennzeichnungspflicht nach der KI-Verordnung besteht.
Download: https://www.datenschutz-bayern.de/ki/AI_nut_04.pdf
Textzusammenfassung durch KI
Kurzfassung – AI in a Nutshell 6: Textzusammenfassung durch KI
Das Dokument beschreibt den Einsatz von KI-Systemen zur automatischen Zusammenfassung großer Textmengen wie E‑Mails, Protokolle, Stellungnahmen oder Akten. Dabei können sowohl wichtige Textpassagen extrahiert als auch neue, verkürzte Formulierungen erzeugt werden. Ziel ist es, Informationen schneller auszuwerten, zu strukturieren und auf wesentliche Inhalte zu reduzieren. Typische Anwendungsfälle sind die Erstellung von Management-Zusammenfassungen, die Analyse von Korrespondenzen oder das Herausfiltern relevanter Beschlüsse und Kernaussagen aus umfangreichen Dokumenten.
Für den datenschutzkonformen Einsatz müssen die Systeme freigegeben, Nutzer geschult und eine Verwendung der Eingaben zum Nachtraining ausgeschlossen werden. Nach Möglichkeit sollten keine personenbezogenen oder vertraulichen Informationen verarbeitet werden bzw. diese vorher anonymisiert werden. KI-generierte Zusammenfassungen müssen immer auf Richtigkeit, Vollständigkeit und Aktualität geprüft werden, da wichtige Kontextinformationen verloren gehen oder Halluzinationen auftreten können. Zudem ist zu prüfen, ob für unverändert übernommene KI-generierte Zusammenfassungen eine Kennzeichnungspflicht nach der KI-Verordnung besteht.
Download: https://www.datenschutz-bayern.de/ki/AI_nut_06.pdf