Wer ist von einem System betroffen?
Ein System betrifft mehr als die Person, die es bedient. Auch Menschen, deren Daten verarbeitet oder deren Anfragen bewertet werden, gehören dazu.
Das NIST AI Risk Management Framework hilft, Risiken im konkreten Einsatz zu betrachten. Es ist eine Orientierungshilfe, kein Gütesiegel für eine Anwendung.
Mit Daten bewusst umgehen
Welche Angaben braucht die Aufgabe wirklich? Oft genügt ein Ausschnitt. Kläre auch, wer später Eingaben, Antworten und gespeicherte Protokolle sehen kann.
Lokale KI verändert, wo Daten verarbeitet werden. Rechte, Sicherungen und Updates bleiben wichtig. Angeschlossene Werkzeuge können weiterhin Daten nach außen senden.
Auch schwierige Fälle prüfen
Ein System kann kurze Nachrichten gut verstehen und bei anderen Formulierungen scheitern. Teste deshalb auch fehlende Angaben und ungewohnte Fälle. Ein guter Durchschnitt zeigt nicht jeden Fehler.
Betroffene sollten Fehler melden und eine Überprüfung erreichen können. Das ist mein Maßstab für die Gestaltung. Rechtliche Pflichten im Einzelfall bewertet diese Seite nicht.
Verantwortung braucht erreichbare Menschen
Ein KI-Hinweis allein erklärt wenig. Sage lieber, welche Aufgabe die KI übernommen hat, wo ihre Grenzen liegen und wer bei Rückfragen hilft.
Technik sollte Menschen Orientierung geben. Dazu gehört die Frage, wer von gewonnener Zeit profitiert. Mehr dazu unter Arbeit & Organisation.
Fiktives Beispiel: Anfragen vorsortieren
Ein fiktives System sortiert kurze Anfragen zuverlässig. Längere Nachrichten versteht es schlechter. Unklare Fälle gehen deshalb an eine Person. Das Team untersucht die Fehler, statt die Anliegen liegenzulassen.
Wie wir mit Fehlern umgehen, gehört zur Verantwortung.
Fragen & Antworten.
Ist lokale Verarbeitung automatisch datenschutzkonform?
Nein. Der Verarbeitungsort ist nur ein Teil der Gestaltung. Zweck, Zugriffsrechte, Datenumfang, weitere Dienste und organisatorische Maßnahmen müssen ebenfalls betrachtet werden. Diese Seite bietet keine rechtliche Einzelfallprüfung.
Quellen zum Vertiefen.
Quellen belegen die jeweils beschriebenen Begriffe und Befunde. Beispiele und Einordnungen sind eigene redaktionelle Darstellungen.