Informatik, Mensch und Gesellschaft
Daten, Netze und Verantwortung
Was technisch möglich ist, was rechtlich erlaubt ist und wer entscheidet, was davon getan wird.
Benötigte Grundlagen
Dieses Vorwissen brauchst du für das Kapitel. Schau kurz nach, wenn dir etwas davon nicht mehr präsent ist, sonst leg direkt los.
Einführung
Eine Software sagt vorher, welche Bewerbung erfolgreich sein wird. Sie arbeitet fehlerfrei, ist getestet und liefert reproduzierbare Ergebnisse.
Trotzdem lehnt sie systematisch bestimmte Gruppen ab, weil die , aus denen sie gelernt hat, genau das taten.
Wer ist dafür verantwortlich? Das Programm nicht, denn es tut, was es soll. Damit steht die Frage im Raum, um die es in diesem Kapitel geht: Wer trägt die Verantwortung für die Wirkung eines Systems? Sie ist keine technische Frage, aber ohne technisches Verständnis nicht zu beantworten.
Das kannst du nach diesem Kapitel
die Grundsätze des Datenschutzes benennen und auf Beispiele anwenden.
erklären, wie aus einzelnen Datenspuren ein Profil entsteht.
beurteilen, wie Verzerrungen in Entscheidungen gelangen.
Urheberrecht und Lizenzen bei Software und Inhalten unterscheiden.
eine begründete Abwägung zwischen Nutzen und Risiko formulieren.
Kurz aufgefrischt
Vorausgesetzt werden die Grundbegriffe und die Vertraulichkeit, Integrität und Verfügbarkeit aus Datenschutz und Datensicherheit sowie die gesellschaftlichen Wirkungen aus Informatik, Mensch und Gesellschaft.
Neu ist hier die systematische Abwägung: Was ist technisch möglich, was rechtlich erlaubt, und was davon soll getan werden?
Drei Fragen, die man auseinanderhalten muss
| Frage | Beantwortet von |
|---|---|
| Was ist möglich? | der Technik |
| Was ist erlaubt? | dem Recht |
| Was ist verantwortbar? | der Abwägung |
🔴 Die drei fallen nicht zusammen, und die meisten Streitfälle entstehen genau dort, wo sie auseinandergehen. Vieles ist möglich und verboten, manches ist erlaubt und trotzdem fragwürdig, und gelegentlich ist etwas geboten, obwohl es aufwendig ist.
Eine Antwort auf die dritte Frage lässt sich nicht aus den ersten beiden ableiten. Sie verlangt eine Abwägung, und die muss begründet werden.
Drei Fragen, drei Zuständigkeiten
Drei Fragen, die sich ähneln und doch verschiedene Antworten haben, und die meisten Streitfälle entstehen genau dort, wo sie auseinandergehen. Vieles ist möglich und verboten, manches erlaubt und trotzdem fragwürdig, und gelegentlich ist etwas geboten, obwohl es aufwendig ist. 🔴 Die letzte Zeile zeigt, warum keine der drei allein genügt. Wer nur fragt, was möglich ist, baut alles Baubare. Wer nur fragt, was erlaubt ist, hält sich ans Mindestmaß und hat trotzdem nichts entschieden. Und die dritte Antwort lässt sich aus den ersten beiden nicht ableiten, sie verlangt eine Abwägung, und die muss begründet werden. Genau darum geht es im Rest des Kapitels.
Datenschutz: die Grundsätze
Das europäische Datenschutzrecht beruht auf wenigen Grundsätzen, die sich unabhängig von Einzelvorschriften merken lassen:
| Grundsatz | Bedeutung |
|---|---|
| Rechtmäßigkeit | Verarbeitung braucht eine Erlaubnis, etwa Einwilligung oder Vertrag |
| Zweckbindung | dürfen nur für den angegebenen Zweck genutzt werden |
| Datenminimierung | nur so viele Daten wie nötig |
| Richtigkeit | falsche Daten müssen berichtigt werden |
| Speicherbegrenzung | Löschen, wenn der Zweck erfüllt ist |
| Schutz vor unbefugtem Zugriff |
Dazu kommen Rechte der betroffenen Person: Auskunft über gespeicherte Daten, Berichtigung, Löschung und Widerspruch.
Der wichtigste Grundsatz im Alltag ist die Zweckbindung. Eine Adresse, die für eine Lieferung erhoben wurde, darf nicht ohne Weiteres für Werbung verwendet werden. Der Zweck legt fest, was zulässig ist, nicht der Besitz der Daten.
Beachte auch den Unterschied zwischen Datenschutz und Datensicherheit: Datensicherheit ist die technische Absicherung, Datenschutz die Frage, ob eine Verarbeitung überhaupt zulässig ist. Ein perfekt gesichertes System kann rechtswidrig arbeiten, wenn es Daten ohne Erlaubnis verarbeitet.
Wie Profile entstehen
Einzelne wirken harmlos. Ihre Verknüpfung ist es nicht.
Standortdaten → wo jemand wohnt, arbeitet, sich aufhält
Suchanfragen → wofür jemand sich interessiert
Kaufhistorie → Einkommen, Lebenssituation
Uhrzeiten → Tagesrhythmus, Schlafgewohnheiten
Kontakte → soziales Umfeld
Aus der Verknüpfung entsteht ein Profil, das mehr aussagt als die Summe der Teile. Aus Standort und Uhrzeit ergibt sich der Arbeitsplatz; aus wiederholten Besuchen bei bestimmten Einrichtungen lassen sich Rückschlüsse auf Gesundheit oder Überzeugungen ziehen, die niemand angegeben hat.
Zwei Punkte, die dabei regelmäßig unterschätzt werden:
Anonymisierung ist schwerer, als sie klingt. Werden Name und Adresse entfernt, bleiben Merkmale, die zusammen wieder eindeutig sind. Schon Geburtsdatum, Geschlecht und Postleitzahl genügen oft, um eine Person in einem großen Datensatz eindeutig zu bestimmen.
Daten sind langlebig. Was heute harmlos erscheint, kann in einem anderen Zusammenhang oder unter anderen Verhältnissen belastend werden. Eine Löschung nach Zweckerfüllung ist deshalb kein bürokratischer Selbstzweck.
Nicht die Daten, die Verknüpfung
Oben drei Datenarten, jede für sich harmlos: wo jemand war, wann, und was er gekauft hat. In der Mitte laufen sie zusammen, und unten steht, was daraus abgeleitet wird, der Arbeitsplatz aus Ort und Uhrzeit, die Einkommenslage aus den Käufen. 🔴 Halte die Richtung der Pfeile fest, denn sie ist die Aussage des Bildes: Ein Profil sagt mehr aus als die Summe seiner Teile, und niemand hat die unteren beiden Angaben je gemacht. Zwei Punkte werden dabei regelmäßig unterschätzt. Anonymisierung ist schwerer, als sie klingt: Nimmt man Name und Adresse weg, bleiben Merkmale, die zusammen wieder eindeutig sind, schon Geburtsdatum, Geschlecht und Postleitzahl genügen oft, um eine Person in einem großen Datensatz zu bestimmen. Und sind langlebig: Was heute harmlos wirkt, kann in einem anderen Zusammenhang belastend werden. Deshalb ist die Löschung nach Zweckerfüllung kein bürokratischer Selbstzweck.
Algorithmische Entscheidungen
Immer mehr Entscheidungen werden von Software vorbereitet oder getroffen: Kreditwürdigkeit, Bewerbungsvorauswahl, Vorschläge in sozialen Netzwerken.
Der oft genannte Vorteil lautet, dass Software nicht müde wird, nicht schlecht gelaunt ist und gleiche Fälle gleich behandelt. Das stimmt, und es beantwortet die Frage nach der Fairness dennoch nicht.
🔴 Verzerrungen entstehen auf drei Wegen:
Über die . Lernt ein System aus vergangenen Entscheidungen, übernimmt es deren Muster. Wurden früher bestimmte Gruppen benachteiligt, setzt sich das fort, nicht aus Absicht, sondern weil das System genau die Regelmäßigkeit findet, die in den Daten steckt.
Über die Merkmale. Wird ein rechtlich unzulässiges Merkmal weggelassen, kann ein anderes an seine Stelle treten. Die Wohngegend etwa hängt oft mit Merkmalen zusammen, die nicht verwendet werden dürfen. Man nennt das ein Stellvertretermerkmal.
Über die Zielgröße. Ein System optimiert das, was ihm vorgegeben wurde. Wird „Verweildauer" als Ziel gesetzt, bevorzugt es Inhalte, die lange binden, und das sind nicht zwangsläufig die zutreffenden oder hilfreichen.
Dazu kommt ein Verständnisproblem: Bei vielen Verfahren lässt sich nicht mehr angeben, warum eine bestimmte Entscheidung fiel. Für die betroffene Person ist das schwer erträglich, denn gegen eine Begründung kann man einwenden, gegen ein Ergebnis ohne Begründung nicht.
Das Recht zieht daraus eine Konsequenz: Bei Entscheidungen mit erheblicher Wirkung besteht ein Anspruch darauf, dass ein Mensch die Entscheidung überprüft.
Wie eine Verzerrung in ein System kommt
Die Kette erklärt, warum Software nicht schon dadurch fair wird, dass sie gleiche Fälle gleich behandelt. Lernt ein System aus vergangenen Entscheidungen, übernimmt es deren Muster, nicht aus Absicht, sondern weil es genau die Regelmäßigkeit findet, die in den steckt. Die Störmarke sitzt deshalb an den Daten und nicht am Programm. 🔴 Auf zwei weiteren Wegen entstehen Verzerrungen, und beide sind weniger offensichtlich. Über die Merkmale: Lässt man ein rechtlich unzulässiges Merkmal weg, kann ein anderes an seine Stelle treten, die Wohngegend etwa hängt oft mit genau dem zusammen, was nicht verwendet werden darf; man nennt das ein Stellvertretermerkmal. Über die Zielgröße: Ein System optimiert das, was ihm vorgegeben wurde. Wird „Verweildauer“ als Ziel gesetzt, bevorzugt es Inhalte, die lange binden, und das sind nicht zwangsläufig die zutreffenden. Dazu kommt, dass sich bei vielen Verfahren gar nicht mehr angeben lässt, warum eine Entscheidung so fiel. Gegen eine Begründung kann man einwenden, gegen ein Ergebnis ohne Begründung nicht. Deshalb besteht bei Entscheidungen mit erheblicher Wirkung ein Anspruch darauf, dass ein Mensch sie überprüft.
Urheberrecht und Lizenzen
Software, Texte, Bilder und Musik sind urheberrechtlich geschützt. Der Schutz entsteht automatisch mit der Schöpfung; es braucht keine Anmeldung und keinen Vermerk.
Eine Lizenz ist die Erlaubnis des Urhebers, das Werk auf bestimmte Weise zu nutzen.
| Art | Bedeutung |
|---|---|
| proprietär | Nutzung nach den Bedingungen des Anbieters, Quelltext meist geschlossen |
| quelloffen (Open Source) | Quelltext einsehbar, Nutzung und Änderung erlaubt |
| Copyleft (z. B. GPL) | Änderungen müssen unter derselben Lizenz weitergegeben werden |
| freizügig (z. B. MIT) | Nutzung auch in geschlossenen Produkten erlaubt |
| Creative Commons | für Inhalte, mit Bausteinen wie Namensnennung oder „nicht kommerziell" |
Zwei verbreitete Irrtümer:
„Frei verfügbar" heißt nicht „frei verwendbar". Ein Bild, das man im Netz findet und herunterladen kann, ist deshalb nicht zur Verwendung freigegeben. Ohne Lizenz gilt der volle Schutz.
„Open Source" heißt nicht „ohne Bedingungen". Auch quelloffene Software steht unter einer Lizenz, und Bedingungen wie die Namensnennung oder die Weitergabe unter derselben Lizenz sind verbindlich.
Verantwortung
Zurück zur Ausgangsfrage. Ein Programm trägt keine Verantwortung; es hat keine Absicht und keine Einsicht. Verantwortlich sind Menschen, und zwar in mehreren Rollen:
| Rolle | Verantwortung |
|---|---|
| Entwickler | Sorgfalt, Prüfung auf Verzerrungen, Hinweis auf Grenzen |
| Auftraggeber | Zielsetzung, Auswahl der , Entscheidung über den Einsatz |
| Betreiber | Aufsicht, Widerspruchsmöglichkeit, Korrektur von Fehlern |
| Nutzer | bewusste Entscheidung, wo eigene Daten preisgegeben werden |
| Gesetzgeber | Rahmen setzen und durchsetzen |
Der Satz „Ich habe das nur programmiert" entlastet nicht vollständig, denn wer ein System baut, kennt dessen Grenzen am besten und ist oft der Einzige, der auf sie hinweisen kann. Umgekehrt liegt die Entscheidung über den Einsatz nicht beim Entwickler.
Wie man eine Abwägung führt
Für die Beurteilung eines Falles hat sich ein festes Vorgehen bewährt:
1. Sachverhalt klären. Welche , welcher Zweck, wer ist betroffen? 2. Nutzen benennen. Wem nützt es, und wie sehr? 3. Risiken benennen. Was kann schiefgehen, wen trifft es, wie schwer? 4. Mildere Mittel prüfen. Geht es auch mit weniger Daten oder mit Einwilligung? 5. Abwägen und begründen. Ein Ergebnis nennen und sagen, welches Argument den Ausschlag gab.
🔴 Der letzte Schritt ist der entscheidende. Eine Abwägung, die nur eine Seite nennt, ist keine. Und eine, die beide Seiten aufzählt, ohne zu einem begründeten Ergebnis zu kommen, ebenfalls nicht.
Fünf Schritte einer Abwägung
Die Reihenfolge ist kein Schmuck. Die ersten drei Schritte trennen, was sich sonst vermischt: erst der Sachverhalt, dann der Nutzen, dann die Risiken, jeweils mit der Frage, wen es angeht und wie schwer. Schritt 4 ist der, den man am leichtesten überspringt und der am meisten bringt: Oft gibt es einen Weg mit weniger oder mit Einwilligung, und dann erübrigt sich die schwierige Abwägung. 🔴 Der letzte Schritt ist der entscheidende, und an ihm scheitern die meisten Versuche. Eine Abwägung, die nur eine Seite nennt, ist keine. Sie ist eine Meinung mit Argumenten. Und eine, die brav beide Seiten aufzählt und dann kein Ergebnis nennt, ebenfalls nicht. Verlangt ist beides: ein Ergebnis und die Angabe, welches Argument den Ausschlag gab. Nur so lässt sich darüber überhaupt streiten.
Eine Abwägung durchführen
Eine Schule will eine App einführen, die den Lernstand jedes Schülers erfasst und Lehrkräften eine Übersicht zeigt. Führe die Abwägung durch.
- 1
1. Sachverhalt. Erfasst werden Aufgabenlösungen, Bearbeitungszeiten und Fehlerarten je Schüler. Zugriff haben die unterrichtenden Lehrkräfte. Betroffen sind Minderjährige, was den Schutzbedarf erhöht.
- 2
2. Nutzen. Lehrkräfte erkennen Schwierigkeiten früher und können gezielter fördern. Schüler bekommen passendere Aufgaben. Der Nutzen ist konkret und betrifft genau die Personen, deren verarbeitet werden. Das ist ein starkes Argument.
- 3
3. Risiken. Aus Bearbeitungszeiten und Fehlerarten entsteht ein Leistungsprofil, das über Jahre bestehen bleibt. Es könnte Erwartungen prägen („der war schon in Klasse 7 schwach") und so gerade die Entwicklung behindern, die es fördern soll. Ein weiter gefasster Zugriff, etwa durch die Schulleitung oder künftige Lehrkräfte, würde die Wirkung verstärken.
- 4
4. Mildere Mittel. Bearbeitungszeiten weglassen, wenn sie für die Förderung nicht gebraucht werden. Daten nach dem Schuljahr löschen. Zugriff auf die aktuell unterrichtenden Lehrkräfte beschränken. Auswertungen für die Schulleitung nur ohne Namen.
- 5
5. Ergebnis mit Begründung. Der Einsatz ist vertretbar, wenn die milderen Mittel umgesetzt werden. Den Ausschlag gibt, dass der Nutzen denselben Personen zugutekommt, deren Daten verarbeitet werden, und dass sich das Hauptrisiko, die dauerhafte Festschreibung, durch die Löschfrist wirksam begrenzen lässt.
- 6
Was diese Abwägung richtig macht: Sie nennt beide Seiten, prüft Alternativen und kommt zu einem begründeten Ergebnis. Eine Aufzählung von Vor- und Nachteilen ohne Schlussfolgerung wäre keine Abwägung.
Vertretbar unter Auflagen: Datenminimierung, Löschfrist, beschränkter Zugriff. Ausschlaggebend ist der Nutzen für die Betroffenen selbst und die Begrenzbarkeit des Hauptrisikos.
Wie Verzerrung in ein System gelangt
Ein Unternehmen lässt Bewerbungen von einer Software vorsortieren, die aus zehn Jahren früherer Einstellungsentscheidungen gelernt hat. Wo können Verzerrungen entstehen?
- 1
Weg 1: über die . Das System lernt, welche Bewerbungen früher erfolgreich waren. Wurden dabei bestimmte Gruppen seltener eingestellt, ist das ein Muster in den Daten, und das System übernimmt es. Es tut damit genau das, was von ihm verlangt wurde: Regelmäßigkeiten finden.
- 2
Beachte: Es liegt kein Programmfehler vor. Das System arbeitet korrekt und setzt trotzdem eine Benachteiligung fort.
- 3
Weg 2: über Stellvertretermerkmale. Nimmt man ein unzulässiges Merkmal aus den Daten heraus, kann ein anderes seine Rolle übernehmen: Wohngegend, besuchte Schule, Lücken im Lebenslauf. Das Merkmal ist formal zulässig und wirkt inhaltlich wie das entfernte.
- 4
Weg 3: über die Zielgröße. Was heißt „erfolgreiche Bewerbung"? Wird sie an der Verweildauer im Unternehmen gemessen, bevorzugt das System Menschen mit Lebensläufen ohne Unterbrechungen und benachteiligt damit unbeabsichtigt alle, deren Lebenslauf aus guten Gründen anders aussieht.
- 5
Weg 4: über die Undurchschaubarkeit. Bei vielen Verfahren lässt sich nicht angeben, warum eine bestimmte Bewerbung aussortiert wurde. Die betroffene Person kann dann nichts einwenden, weil es nichts gibt, wogegen sie einwenden könnte.
- 6
Was hilft. Ergebnisse getrennt nach Gruppen prüfen statt nur die Gesamtgenauigkeit betrachten; Merkmale auf ihre Stellvertreterwirkung untersuchen; die Zielgröße bewusst wählen und begründen; und die Letztentscheidung bei einem Menschen belassen, der sie begründen muss.
Vier Wege: aus den Daten, über Stellvertretermerkmale, über die Zielgröße und über fehlende Nachvollziehbarkeit. Keiner davon ist ein Programmfehler.
Typischer Fehler
„Ich habe nichts zu verbergen, also ist es mir egal, welche über mich gesammelt werden."
Der Satz klingt vernünftig und verkürzt die Frage in drei Punkten.
Erstens geht es nicht nur um Verbergen. Datenschutz betrifft die Frage, wer über die eigenen Angaben verfügt. Auch wer nichts zu verbergen hat, entscheidet üblicherweise selbst, wem er seine Adresse gibt oder wem er von einer Krankheit erzählt. Das ist keine Heimlichkeit, sondern Selbstbestimmung.
Zweitens hängt die Bewertung vom Zusammenhang ab. Eine einzelne Angabe ist harmlos; ihre Verknüpfung mit anderen ist es oft nicht. Aus Standortdaten und Uhrzeiten ergibt sich ein Tagesablauf, aus wiederholten Besuchen bestimmter Einrichtungen lassen sich Rückschlüsse ziehen, die niemand angegeben hat. Das Profil enthält damit Aussagen, die in keinem Einzeldatum stehen.
Drittens sind Daten langlebig, Verhältnisse nicht. Was heute unproblematisch ist, kann in einem anderen Zusammenhang oder unter anderen Umständen anders bewertet werden, bei einer Bewerbung, einer Versicherung, einer Kreditvergabe. Wer heute zustimmt, kann die künftigen Zusammenhänge nicht überblicken.
Hinzu kommt ein Punkt, der über die eigene Person hinausgeht: Datenschutz ist auch eine gesellschaftliche Frage. Ein Umfeld, in dem jede Äußerung dauerhaft gespeichert und zuordenbar ist, verändert das Verhalten aller, auch derer, die tatsächlich nichts zu verbergen haben.
Das heißt nicht, dass jede Datenverarbeitung abzulehnen wäre. Es heißt, dass die Frage nicht „habe ich etwas zu verbergen?" lautet, sondern „wozu werden diese Daten gebraucht, und ginge es auch mit weniger?"
Übung 1
leicht
a) Nenne vier Grundsätze des Datenschutzes. b) Was besagt die Zweckbindung? c) Was unterscheidet Datenschutz von Datensicherheit? d) Warum entsteht Urheberrecht ohne Anmeldung?
Tipp anzeigen
Zu c): Das eine ist technisch, das andere rechtlich.
Lösung anzeigen
a) Zum Beispiel: Rechtmäßigkeit (es braucht eine Erlaubnis), Zweckbindung, Datenminimierung, Speicherbegrenzung. Ebenso zählen Richtigkeit und dazu.
b) dürfen nur für den Zweck verwendet werden, für den sie erhoben wurden. Eine Adresse für eine Lieferung darf nicht ohne Weiteres für Werbung genutzt werden. Der Zweck legt fest, was zulässig ist, nicht der Besitz der Daten.
c) Datensicherheit ist die technische Absicherung: Verschlüsselung, Zugriffsschutz, Sicherungskopien. Datenschutz ist die rechtliche Frage, ob eine Verarbeitung überhaupt zulässig ist. Ein technisch perfekt gesichertes System kann rechtswidrig arbeiten, wenn es Daten ohne Erlaubnis verarbeitet.
d) Weil der Schutz mit der Schöpfung des Werkes entsteht. Es braucht weder eine Anmeldung noch einen Vermerk. Daraus folgt praktisch: Fehlt eine Lizenzangabe, gilt nicht „frei nutzbar", sondern der volle Schutz.
Detaillierte Schritterklärung anzeigen
Hier wird jeder Schritt einzeln erklärt, vor allem, warum er gemacht wird.
✦ Empfohlen: Standard – Die normale Erklärungstiefe passt zum Einstieg.
- 1
a) Vier Grundsätze, und was sie gemeinsam haben
Zum Beispiel: Rechtmäßigkeit (es braucht eine Erlaubnis), Zweckbindung, Datenminimierung, Speicherbegrenzung. Ebenso zählen Richtigkeit und Integrität dazu.
- 2
b) Zweckbindung: Der Zweck bestimmt, nicht der Besitz
Daten dürfen nur für den Zweck verwendet werden, für den sie erhoben wurden. Eine Adresse für eine Lieferung darf nicht ohne Weiteres für Werbung genutzt werden. Der Zweck legt fest, was zulässig ist, nicht der Besitz der Daten.
- 3
c) Datenschutz gegen Datensicherheit
Datensicherheit ist die technische Absicherung: Verschlüsselung, Zugriffsschutz, Sicherungskopien. Datenschutz ist die rechtliche Frage, ob eine Verarbeitung überhaupt zulässig ist. Ein technisch perfekt gesichertes System kann rechtswidrig arbeiten, wenn es Daten ohne Erlaubnis verarbeitet.
- 4
d) Warum Urheberrecht ohne Anmeldung entsteht
Weil der Schutz mit der Schöpfung des Werkes entsteht. Es braucht weder eine Anmeldung noch einen Vermerk. Daraus folgt praktisch: Fehlt eine Lizenzangabe, gilt nicht „frei nutzbar“, sondern der volle Schutz.
Übung 2
mittelEine Stadt will an Bushaltestellen Kameras aufstellen, die Fahrgäste zählen, um den Fahrplan zu verbessern.
a) Welche fallen an, und welche wären dafür nötig? b) Welche milderen Mittel gibt es? c) Führe die Abwägung und komm zu einem begründeten Ergebnis. d) Wie ändert sich die Beurteilung, wenn die Aufnahmen zusätzlich zur Fahndung genutzt werden sollen?
Tipp anzeigen
Zu a): Unterscheide, was anfällt, von dem, was gebraucht wird.
Lösung anzeigen
a) Es fällt an: ein Videobild mit erkennbaren Gesichtern, Kleidung, Begleitpersonen, Uhrzeit und Ort, also Daten.
Nötig ist: eine Zahl je Zeitabschnitt. Für die Fahrplanung genügt „um 7:15 Uhr warteten 23 Personen". Der Unterschied zwischen Anfallendem und Nötigem ist erheblich und genau der Ansatzpunkt der Datenminimierung.
b) Mehrere, mit abnehmendem Eingriff:
- Verarbeitung direkt in der Kamera, sodass nur die Zahl übertragen wird und kein Bild das Gerät verlässt.
- Verfahren, die gar keine Bilder auswerten, etwa Wärmesensoren oder Lichtschranken.
- Auswertung anonymisierter Zähldaten aus dem Ticketsystem.
- Falls Bilder unvermeidbar sind: sofortige Unkenntlichmachung von Gesichtern und Löschung nach der Zählung.
c) Nutzen: bessere Fahrpläne, kürzere Wartezeiten, wirtschaftlicherer Einsatz der Fahrzeuge. Das nützt genau den gezählten Fahrgästen.
Risiken: Bewegungsprofile einzelner Personen; Beobachtung im öffentlichen Raum kann das Verhalten verändern; jede gespeicherte Aufnahme kann später für andere Zwecke begehrt werden.
Abwägung: Der Nutzen ist erreichbar, ohne personenbezogene Daten zu speichern. Damit gibt es ein milderes Mittel, das denselben Zweck vollständig erfüllt. Nach dem Grundsatz der Datenminimierung ist die Speicherung von Bildern deshalb nicht zu rechtfertigen.
Ergebnis: Zulässig ist die Zählung, wenn ausschließlich Zahlen entstehen und kein Bild gespeichert oder übertragen wird. Den Ausschlag gibt, dass ein gleich wirksames, milderes Mittel zur Verfügung steht.
d) Die Beurteilung ändert sich grundlegend, und zwar aus zwei Gründen.
Zweckbindung: Die Daten wurden für die Fahrplanung erhoben. Eine Nutzung zur Fahndung ist ein anderer Zweck und deshalb nicht ohne eigene Rechtsgrundlage zulässig. Genau davor schützt die Zweckbindung.
Datenminimierung: Für die Fahndung müssten Bilder gespeichert werden, während die Fahrplanung mit Zahlen auskäme. Der Eingriff wüchse also erheblich, und alle Fahrgäste wären dauerhaft erfasst, nicht nur gesuchte Personen.
Eine solche Nutzung wäre daher gesondert zu begründen, gesetzlich zu regeln und zu begrenzen. Sie lässt sich nicht als Nebenprodukt einer Fahrgastzählung einführen. Der Fall zeigt anschaulich, warum die Zweckbindung so wichtig ist: Einmal erhobene Daten wecken Begehrlichkeiten für weitere Zwecke.
Detaillierte Schritterklärung anzeigen
Hier wird jeder Schritt einzeln erklärt, vor allem, warum er gemacht wird.
✦ Empfohlen: Standard – Die normale Erklärungstiefe passt zum Einstieg.
- 1
Teil a): Anfallendes von Nötigem trennen
Man listet zuerst auf, was die Technik erzeugt, und danach getrennt, was der Zweck verlangt. Der Unterschied ist der Ansatzpunkt für alles Weitere.
Zwischenergebnis
Anfallend: Videobild. Nötig: eine Zahl.
Diese Trennung ist der praktische Kern der Datenminimierung. Sehr oft fällt weit mehr an, als der Zweck verlangt, einfach weil die gewählte Technik es mitliefert.
- 2
Teil b): Mildere Mittel der Reihe nach prüfen
Man sucht Wege, die denselben Zweck mit geringerem Eingriff erreichen, und ordnet sie nach der Eingriffstiefe.
Zwischenergebnis
Auswertung im Gerät, Sensoren ohne Bild, Ticketdaten.
- 3
Teil c): Zum Ergebnis kommen, nicht nur aufzählen
Man nennt Nutzen und Risiken, prüft die milderen Mittel und sagt ausdrücklich, welches Argument den Ausschlag gibt.
Zwischenergebnis
Zulässig ohne Bildspeicherung, weil ein gleich wirksames milderes Mittel existiert.
- 4
Teil d): Die Zweckänderung erkennen
Man prüft, ob der neue Zweck vom ursprünglichen gedeckt ist. Ist er es nicht, greift die Zweckbindung, und es braucht eine eigene Grundlage.
Zwischenergebnis
Anderer Zweck, größerer Eingriff, eigene Rechtsgrundlage nötig.
Der Fall zeigt, warum die Zweckbindung so wichtig ist: Einmal erhobene Daten wecken Begehrlichkeiten. Wer von vornherein keine Bilder speichert, muss diese Frage nie beantworten.
Übung 3
schwera) Erkläre die drei Wege, auf denen Verzerrungen in Entscheidungen gelangen. b) Warum ist „der Algorithmus ist neutral" keine ausreichende Antwort? c) Wer trägt Verantwortung für die Wirkung eines Systems? Unterscheide die Rollen. d) Ein Schüler übernimmt für ein Projekt Quelltext aus dem Netz und ein Bild aus einer Bildersuche. Beurteile beides.
Tipp anzeigen
Zu d): Was gilt, wenn keine Lizenz angegeben ist?
Lösung anzeigen
a) Über die : Lernt ein System aus vergangenen Entscheidungen, findet es die Muster, die darin stecken. Waren die früheren Entscheidungen verzerrt, setzt sich das fort. Das ist kein Fehler des Systems, sondern genau seine Aufgabe: Regelmäßigkeiten zu finden.
Über Stellvertretermerkmale: Entfernt man ein unzulässiges Merkmal, kann ein anderes seine Rolle übernehmen, etwa die Wohngegend oder die besuchte Schule. Formal ist das Merkmal zulässig, inhaltlich wirkt es wie das entfernte.
Über die Zielgröße: Ein System optimiert das, was vorgegeben wurde. Wird „Verweildauer" gewählt, entstehen andere Ergebnisse als bei „Zutreffendheit". Die Wahl der Zielgröße ist eine menschliche Entscheidung mit erheblicher Wirkung.
b) Weil „neutral" sich nur auf die Rechenvorschrift bezieht. Diese behandelt gleiche Eingaben tatsächlich gleich, und darin liegt ein echter Vorteil gegenüber schwankenden menschlichen Entscheidungen.
Die Wirkung eines Systems hängt aber nicht nur von der Rechenvorschrift ab, sondern von drei Entscheidungen, die alle von Menschen getroffen werden: welche Daten es lernt, welche Merkmale es verwendet und welches Ziel es optimiert. Jede dieser Entscheidungen kann Verzerrungen einbringen, ohne dass die Rechenvorschrift verändert würde.
Hinzu kommt: Gleichbehandlung im Verfahren ist nicht dasselbe wie Fairness im Ergebnis. Ein System, das alle Bewerbungen nach demselben verzerrten Maßstab bewertet, ist im Verfahren neutral und im Ergebnis benachteiligend.
c) Entwickler: Sorgfalt bei der Umsetzung, Prüfung auf Verzerrungen, deutlicher Hinweis auf Grenzen und Fehlerquellen. Er kennt das System am besten und ist oft der Einzige, der auf Schwächen hinweisen kann.
Auftraggeber: Zielsetzung, Auswahl der Datengrundlage und Entscheidung darüber, ob und wofür das System eingesetzt wird.
Betreiber: laufende Aufsicht, Möglichkeit zum Widerspruch, Korrektur erkannter Fehler.
Nutzer: bewusste Entscheidung darüber, welche eigenen Daten preisgegeben werden.
Gesetzgeber: Rahmen setzen und durchsetzen, etwa den Anspruch auf Überprüfung durch einen Menschen.
Das System selbst trägt keine Verantwortung; es hat weder Absicht noch Einsicht. Der Satz „ich habe das nur programmiert" entlastet deshalb nicht vollständig, ersetzt aber auch nicht die Verantwortung derer, die über den Einsatz entscheiden.
d) Quelltext: Auch Quelltext ist urheberrechtlich geschützt, und der Schutz entsteht automatisch. Entscheidend ist die Lizenz. Steht der unter einer freizügigen Lizenz wie MIT, ist die Übernahme erlaubt, meist unter der Bedingung, den Lizenztext und den Urheber zu nennen. Steht er unter Copyleft wie der GPL, muss das eigene Werk unter derselben Lizenz weitergegeben werden. Fehlt jede Lizenzangabe, gilt der volle Schutz, und eine Übernahme ist nicht erlaubt.
Unabhängig davon gilt schulisch: Übernommene Teile sind zu kennzeichnen. Sonst handelt es sich um eine Täuschung, und zwar unabhängig von der Lizenzlage.
Bild aus der Bildersuche: Eine Bildersuche ist ein Verzeichnis, keine Rechtequelle. Auffindbarkeit und technische Herunterladbarkeit sind keine Erlaubnis. Ohne Lizenz gilt der volle Schutz.
Zulässige Wege: Bilder unter einer passenden Creative-Commons-Lizenz verwenden und die geforderte Namensnennung beachten; ausdrücklich freigegebene Bilder nutzen; oder ein eigenes Bild erstellen. Ein rein schulischer Zweck erlaubt zwar in engen Grenzen manche Nutzung, deckt aber keine Veröffentlichung, etwa auf einer Website.
Detaillierte Schritterklärung anzeigen
Hier wird jeder Schritt einzeln erklärt, vor allem, warum er gemacht wird.
✦ Empfohlen: Standard – Die normale Erklärungstiefe passt zum Einstieg.
- 1
a) Die drei Wege, auf denen Verzerrungen hineingelangen
Über die Daten: Lernt ein System aus vergangenen Entscheidungen, findet es die Muster, die darin stecken, waren die früheren verzerrt, setzt sich das fort. Über Stellvertretermerkmale: Entfernt man ein unzulässiges Merkmal, kann ein anderes seine Rolle übernehmen (Wohngegend, besuchte Schule). Über die Zielgröße: Ein System optimiert das, was vorgegeben wurde: „Verweildauer“ ergibt andere Ergebnisse als „Zutreffendheit“.
- 2
b) Warum „der Algorithmus ist neutral“ nicht genügt
Weil „neutral“ sich nur auf die Rechenvorschrift bezieht. Diese behandelt gleiche Eingaben tatsächlich gleich, darin liegt ein echter Vorteil gegenüber schwankenden menschlichen Entscheidungen. Die Wirkung eines Systems hängt aber von drei Entscheidungen ab, die alle von Menschen getroffen werden: welche Daten es lernt, welche Merkmale es verwendet und welches Ziel es optimiert.
- 3
c) Verantwortung nach Rollen unterscheiden
Entwickler: Sorgfalt, Prüfung auf Verzerrungen, deutlicher Hinweis auf Grenzen. Auftraggeber: Zielsetzung, Auswahl der Datengrundlage, Entscheidung über den Einsatz. Betreiber: laufende Aufsicht, Widerspruchsmöglichkeit, Korrektur. Nutzer: bewusste Entscheidung über die eigenen Daten. Gesetzgeber: Rahmen setzen und durchsetzen.
- 4
d) Fremder Quelltext: Es entscheidet die Lizenz
Auch Quelltext ist urheberrechtlich geschützt, und der Schutz entsteht automatisch. Entscheidend ist die Lizenz: Unter einer freizügigen Lizenz wie MIT ist die Übernahme erlaubt, meist unter der Bedingung, Lizenztext und Urheber zu nennen. Unter Copyleft wie der GPL muss das eigene Werk unter derselben Lizenz weitergegeben werden. Fehlt jede Lizenzangabe, gilt der volle Schutz.
- 5
d) Bild aus der Bildersuche: auffindbar ist nicht frei
Eine Bildersuche ist ein Verzeichnis, keine Rechtequelle. Auffindbarkeit und technische Herunterladbarkeit sind keine Erlaubnis. Ohne Lizenz gilt der volle Schutz. Zulässige Wege: Bilder unter einer passenden Creative-Commons-Lizenz mit der geforderten Namensnennung, ausdrücklich freigegebene Bilder, oder ein eigenes Bild.
Zusammenfassung
Was technisch möglich ist, was rechtlich erlaubt ist und was verantwortbar ist, fällt nicht zusammen, und die dritte Frage lässt sich nicht aus den ersten beiden ableiten. Der Datenschutz gibt dafür Grundsätze vor, unter denen die Zweckbindung im Alltag am meisten wiegt: Der Zweck legt fest, was zulässig ist, nicht der Besitz der . Einzelne Angaben wirken harmlos, erst ihre Verknüpfung erzeugt Profile, die mehr aussagen als die Summe der Teile, und Anonymisierung ist schwerer, als sie klingt. Bei Entscheidungen entstehen Verzerrungen auf drei Wegen, nämlich über die Trainingsdaten, über Stellvertretermerkmale und über die Wahl der Zielgröße; keiner davon ist ein Programmfehler, weshalb der Hinweis auf die Neutralität der Rechenvorschrift die Frage nach der Wirkung nicht beantwortet. Urheberrecht entsteht automatisch mit der Schöpfung, weshalb weder Auffindbarkeit noch Offenheit des Quelltextes eine Erlaubnis ohne Bedingungen bedeuten. Verantwortung tragen nicht Systeme, sondern Menschen in verschiedenen Rollen, und eine tragfähige Beurteilung entsteht durch eine Abwägung, die Nutzen und Risiken nennt, mildere Mittel prüft und zu einem begründeten Ergebnis kommt.