Datenschutz Web-Browsing

Explore

Wir alle im Web

Wollen wir das wirklich?
Wollen wir das wirklich?

Gefährliche Szenarien unkontrollierter Daten

Gefährliche Szenarien unkontrollierter Daten

Bearbeitungszeit: ungefähr 30 Minuten

Einleitung

Wie können Informationen über dich gefährlich werden? In diesem Artikel möchte ich dir einige Szenarien zeigen und dir verständlich erklären, warum sie problematisch sind. Hier bin ich bei den Horrorgeschichten vom Anfang der Artikelserie und mir ist klar, dass diese oft wie Verschwörungstheorien klingen. Ich versuche die Beispiele so darzulegen, dass die Prinzipien dahinter deutlich werden und es nicht nur um Panikmache geht. Im Kern geht es immer darum: Es gibt Situationen, in denen die Nutzung von Daten unvorhergesehene Folgen für Menschen haben kann. Bilde dir deine eigene Meinung und wäge ab: Sind die folgenden Szenarien bedrohlich oder hinnehmbar?

⁠

Nie wieder lügen (Macht in Verhandlungen)

Im ersten Szenario geht es um Verhandlungen. Normalerweise haben alle Teilnehmenden eigene Bedürfnisse. In Verhandlungen wird versucht, einen Konsens zu finden, eine Lösung, die für alle akzeptabel ist. Trotzdem möchte man das Beste für sich selbst herausholen. Das gilt insbesondere in Situationen, in denen wir etwas zu verlieren haben. Selbstverständlich sagt man dies den anderen Teilnehmenden nicht. Man hält seine Ziele und die Gründe dafür geheim. Stattdessen verpackt man sie in schlaue Argumente, gut gemeinte Ratschläge und Tricks, mit denen man die anderen Teilnehmer_innen täuschen kann. Auch diese Strategien verrät man nicht, weil sie dann nicht mehr wirken.

⁠

Loading…⁠

⁠

Lass uns nun die Auswirkungen von unkontrollierten Daten in einer Verhandlung beobachten: Du bist auf Arbeitssuche. Und das schon lange. Deine Zeit wird knapp. Du kannst es dir nicht mehr leisten, arbeitssuchend zu sein. Endlich wirst du zu einem Bewerbungsgespräch eingeladen. Du willst die Stelle sehr. Im Bewerbungsgespräch läuft es gut. Dann kommt es zur Gehaltsverhandlung. Achtung: Das hier ist eine Verhandlungssituation. Welche Ziele haben die Verhandlungsteilnehmenden? Überlege kurz. Danach klappe auf.

Aufklappen

Du willst die Stelle. Du brauchst die Stelle, weil du keinen Plan B hast. Allerdings willst du dich auch nicht unterbezahlen lassen. All die Jahre Bildung sollen ja nicht umsonst gewesen sein! Letztlich wirst du die Stelle aber annehmen, weil du nicht anders kannst. Deine Gehaltsstrategie ist, ein wenig mehr zu fordern, als üblich ist.

Interessen: Stelle bekommen, gutes Gehalt

Strategie: mehr Gehalt fordern, als üblich ist; nicht verraten, dass du in Notlage bist

Die Personalangestellten haben Interesse, aber brauchen dich nicht. Wahrscheinlich gibt es andere passende Bewerber_innen. Personalangestellte haben ein Höchstgehalt, das sie zahlen können. Außerdem wurde ihnen befohlen, das kleinstmögliche Gehalt auszuhandeln.

Interessen: Unter vielen Bewerber_innen irgendeine_n auswählen, niedriges Gehalt

Strategie: mit niedrigstem Gehalt starten, Höchstgehalt nicht verraten

⁠

Loading…⁠

⁠

Ich bin mir sicher, dass du im echten Leben eine gute Entscheidung finden würdest. In diesem Beispiel geht es um unkontrollierte

@Daten⁠

: Welche Daten könnten das sein und wie könnten sie das Gespräch beeinflussen? Überlege kurz. Danach klappe auf.

Aufklappen

In diesem Beispiel sind schützenswerte

@Information⁠

en das kleinste Gehalt, das du akzeptieren kannst, und die Notlage, in der du dich befindest. Wenn die Personalangestellten wissen, was dein niedrigstes Gehalt ist und dass du es im Zweifelsfall annehmen musst, warum sollten sie überhaupt verhandeln? Sie könnten deine Situation ausnutzen, weil sie wissen, in welcher Lage du dich befindest. Bei dieser Verhandlung konnten deine Daten gegen dich verwendet werden. Hättest du den Job bereits gehabt, wären diese Daten nutzlos gewesen. In der Verhandlung konnten dich die Personalangestellten jedoch komplett entkräften. Du konntest nicht mehr gleichberechtigt verhandeln, weil deine Ziele und deine Strategien offenbart wurden. Deine Verhandlungsmacht im Gespräch wurde genommen.

Dieses Szenario sollte verdeutlichen, wie personenbezogene Daten gefährlich für dich werden können. Es ging zwar nicht um Web-Browsing, aber das Prinzip bleibt gleich: Im letzten Artikel hast du gesehen, dass es besonders sensible personenbezogene Daten gibt, wie beispielsweise der Glaube oder die sexuelle Orientierung. Bei diesen Daten ist es recht leicht, sich vorzustellen, wann sie für Personen gefährlich werden können. Im Beispiel oben wollte ich dir zeigen, dass auch unscheinbare Daten in bestimmten Situationen gefährlich werden können. Unscheinbare Daten können in den falschen Händen in bestimmten Situationen gegen dich verwendet werden.

⁠

This link can't be embedded.⁠

⁠

Computer sagt Nein (Fehler und Diskriminierung in automatisierten Entscheidungen)

Im zweiten Szenario, in dem Daten gegen dich verwendet werden können, geht es um automatisierte Entscheidungen. Dies sind Entscheidungen, die Computer über dich auf Basis von Daten treffen. Nehmen wir erneut die Arbeitssuche als Beispiel: Stell dir vor, die besten Bewerber_innen werden nicht nur von Menschen ausgewählt, sondern auch von Computern. Genauso wie Unternehmen polizeiliche Führungszeugnisse von ihren Bewerber_innen fordern, haben sie in diesem Beispiel auch Zugriff auf deine Werbeprofile. Man wird nur eingestellt, wenn man ein bestimmtes Persönlichkeitsprofil hat.

Klar, du willst auch in einem passenden Beruf landen, aber wie gut bilden dich deine Daten ab? Sind Berechnungsmethoden gut genug, um über einen Menschen zu entscheiden? Um das zu beantworten, lass mich dir eine weitere Frage stellen: Traf deine Persönlichkeitsvorhersage im dritten Artikel eigentlich auf dich zu? Meine war nur mittelmäßig genau. Stell dir vor, bei der Arbeitssuche würdest du nur aufgrund dieser Vorhersage aussortiert werden, ohne dich persönlich vorstellen zu dürfen. Wäre es fair, von einer Vorhersage mit dieser Genauigkeit beschrieben zu werden? Nein, ich würde das auch nicht wollen. Computer werden immer genauer, aber auch sie machen Fehler. Das kann beispielsweise zu Diskriminierung führen.

⁠

Und es passiert:⁠

Amazon betrieb zwischen 2014 und 2015 eine künstliche Intelligenz, die die besten Bewerber_innen auswählen sollte. Dazu wurden Lebensläufe verarbeitet. Es stellte sich heraus, dass Frauen benachteiligt und dafür überproportional viele Männer ausgewählt wurden. Überfliege einen der beiden Berichte unten.

⁠

Loading www.independent.co.uk⁠

⁠

Amazon scrapped 'sexist AI' tool Reuters claims that a secret AI recruitment tool was abandoned after it showed bias towards men. www.bbc.co.uk⁠

⁠

In den USA werden künstliche Intelligenzen dazu eingesetzt, um einzuschätzen, wie gefährlich Angeklagte und Verurteilte für die Gesellschaft sein könnten. Dies wird für richterliche Urteile verwendet. Diese Computerprogramme zeigen rassistische Verzerrungen. Sie benachteiligten

BIPoC⁠

. Überfliege den Bericht unten.

⁠

Machine Bias There’s software used across the country to predict future criminals. And it’s biased against blacks. www.propublica.org⁠

⁠

Diese Beispiele sind nicht direkt mit Web-Browsing verbunden. Sie zeigen jedoch, wie deine Daten gefährlich für dich werden können: Es wurden Daten automatisch verarbeitet. Die Verarbeitung war fehlerhaft, weil ungerechte, sexistische und rassistische Urteile gefällt wurden. Diese wiederum haben direkte, gefährliche Auswirkungen auf das Leben von Personen. Es sind also nicht nur die Daten selbst, sondern eine fehlerhafte Verarbeitung und Deutung der Daten.

⁠

Ich suche nur, was mir gefällt (Beeinträchtigung der Willensfreiheit)

Das dritte Szenario der Gefahr durch unkontrollierte Datenerhebung ist wieder näher am Web-Browsing. Es geht um Web-Dienste, die sich an uns anpassen können und darum, was das mit uns machen kann. Erinnere dich an die personalisierten Werbeanzeigen. Dir wird nur Werbung angezeigt, die die Werbenetzwerke für dich ausgewählt haben. Alle anderen Werbeanzeigen, werden für dein Werbeprofil herausgefiltert. Du siehst also stets das, was dir gefallen könnte. Logisch, Werbung ist das Geschäftsmodell des Internets. Je relevanter eine Werbeanzeige für dich ist, desto höher ist die Wahrscheinlichkeit, dass du irgendwann auf eine klickst.

Nach diesem Prinzip funktionieren auch Web-Dienste wie beliebte Suchmaschinen und soziale Netzwerke. Die Unternehmen hinter diesen Web-Diensten sind gleichzeitig auch die größten Werbenetzwerke und haben deshalb viele Daten über dich. Denke zunächst an Suchmaschinen und überlege: Was ist dein Ziel, wenn du mit Suchmaschinen suchst? Danach klappe auf.

Aufklappen

Wenn du im Web suchst, möchtest du wahrscheinlich eine bestimmte Information finden. Dabei weißt du zwar ungefähr, wonach du suchst, aber noch nicht, was genau und wo du es finden kannst. Beispiel: Du suchst nach Ideen für ein neues Outfit, aber weißt noch nicht, wie es später aussehen soll. Dabei gibt es zwei Fälle.

Du hoffst, dass die Suchmaschine verschiedene Stile ausgibt, von denen du einen oder mehrere gut findest. Du möchtest einen Überblick haben und möglichst viele Varianten sehen.

Du möchtest nicht lange suchen und möglichst schnell einen modischen Stil finden. Deshalb wäre es gut, wenn die Suchmaschine, den „richtigen“ Stil ganz oben anzeigt.

In beiden Fällen gibt dir die Suchmaschine Ergebnisse aus, die für dich relevant sein könnten. Relevanz ist oft subjektiv. Über den „richtigen Stil“ können wir uns sicher lange streiten.

Loading…⁠

⁠

Es ist bequem, wenn Suchmaschinen gut funktionieren. Wer will sich schon bis zur dritten Ergebnisseite durchklicken? Hier kommen deine Daten ins Spiel: Suchmaschinen werden besser, wenn sie dich kennen. Bei personalisierter Werbung werden die irrelevanten Werbeanzeigen gefiltert und dir nur solche angezeigt, die für dich relevant sind. Das geht auch mit Suchergebnissen. Unten siehst du zwei Beispiele für Suchen, bei denen die Suchergebnisse für ein Werbeprofil gefiltert wurden:

Du suchst nach Mode, bist Anfang 20 und wohnst in einer Großstadt? Dann zeigen wir dir nur bestimmte Shops und Blogs. Der meistgekaufte Stil steht an erster Stelle.

Du suchst nach Online-Artikeln zum Mindestlohn und wohnst in einem wohlhabenden Bezirk? Vielleicht zeigen wir dir eher kritische Artikel.

Für das Werbeprofil wurden Interessen gefolgert. Aufgrund der Interessen wurden nur die Suchergebnisse ausgegeben, die wahrscheinlich für dieses Werbeprofil relevant sein könnten – das kennst du schon. Überlege: Wie wurden die Suchergebnisse verändert? Welche Auswirkungen hat es auf die Person des Werbeprofils, dass sie nur gefilterte Ergebnisse sehen kann? Welche Vor- und Nachteile kann das haben? Denke darüber nach. Danach klappe auf.

Aufklappen

Wie bei personalisierter Werbung wurden die Suchergebnisse an dein Werbeprofil angepasst. Einige Suchergebnisse wurden herausgefiltert. Wenn du mit einem solchen Suchsystem suchst, siehst du also entweder weniger Informationen oder nur sehr ähnliche Informationen – hier ein gleichförmiger Kleidungsstil. Oft werden auch Vorurteile wiederholt. Ist es wirklich eine Regel, dass alle Großstadtmenschen gleich aussehen? Sind alle Menschen in wohlhabenden Bezirken gegen den Mindestlohn? Unwahrscheinlich.

Dies wird auch als

Filterblase⁠

bezeichnet: Je besser uns Web-Dienste wie Suchmaschinen kennen, desto bessere Ergebnisse können sie uns liefern. Das ist bequem, weil wir „gute“ Ergebnisse bekommen. Allerdings sind die Ergebnisse gefiltert. Sie sind nicht vollständig. Wir sehen gar nicht mehr alle möglichen Ergebnisse, sondern nur einen kleinen Ausschnitt. Dadurch bewegt man sich in einer Blase aus Themen, die man mag, blickt aber nicht darüber hinaus. Beim Web-Browsing beschränken Filterblasen die Informationsbreite, die bei einer Suche für dich erreichbar ist.

⁠

Loading…⁠

⁠

Warum sind Filterblasen ein Problem? Informationen, die wir aus dem Web abrufen, sind die Grundlage für unsere Handlungen in der natürlichen Welt. Denk an die Beispiele (Suche nach Outfit und Recherche nach politischen Themen). Eine Suchmaschine mit Filterblase gibt dir nur bestimmte Stile und politische Ansichten aus, die für dich ausgewählt wurden. Auf diesen Informationen fällst du dein Urteil und bildest dir deine Meinung. Diese äußert sich in Handlungen: Im Modegeschäft an der Kasse oder im Wahllokal. Wenn dir im Web also nur bestimmte Stile oder eine einseitige Meinung ausgegeben wird, wird das deine Entscheidung in eine bestimmte Richtung beeinflussen. Du wirst eher das vorgeschlagene Outfit kaufen. Du wirst deine Meinung eher nach der Mehrheit der vorgeschlagenen Artikel ausrichten. Dadurch kann es passieren, dass du den Überblick über Themen verlierst, alternative Stile oder unterschiedliche Meinungen im politischen Diskurs. Letztlich besteht die Gefahr, dass deine aktuelle Meinung nur noch bestätigt wird, sodass es immer schwerer wird, die Filterblase zu verlassen. Dies kann gravierende Folgen für den politischen Diskurs einer Gesellschaft haben.

⁠

This link can't be embedded.⁠

⁠

In diesem Beispiel muss das nicht einmal gegen deine Interessen sein: Aufgrund deiner Daten wurde der Stil ja ausgewählt, weil er dir gefällt. Die Artikel wurden ausgegeben, weil sie deiner Meinung entsprechen. Möglicherweise willst du nur das sehen, was dir gefällt. Das kann ich nachvollziehen, ich finde es auch angenehm, wenn mir zum Kleidungsstil passende Accessoires empfohlen werden. Aber sind das noch deine Meinungen und dein Geschmack? Entscheidest du noch selbst, was du suchst? Oder akzeptierst du, was für dich gesucht wurde? Entscheidest du noch selbst, was du magst? Oder magst du das, von dem andere denken, dass du es magst?

Jetzt sind wir beim Prinzip angekommen, wie deine Daten zu deinem Nachteil werden können: Unternehmen hinter personalisierten Web-Diensten wollen, dass du möglichst lange auf ihrer Plattform bleibst, das ist ihr Geschäftsmodell. Wie bringt man dich dazu, zu bleiben? Man zeigt dir Dinge, die du magst. Diese sind aber nur ein kleiner Ausschnitt des Webs – eine kleine Menge an Stilen und politischen Ansichten. Dies führt dazu, dass du nicht mehr wirklich selbst entscheidest. Du folgst Vorschlägen, die auf deinen Interessen basieren, aber siehst keine Alternativen mehr. Die Freiheit, sich bewusst für etwas zu entscheiden, nennt man

Willensfreiheit⁠

. Filterblasen in personalisierten Web-Diensten auf Basis deiner Daten können diese beeinträchtigen. Es ist nicht belegt, dass so etwas bereits im großen Stil passiert. Wie im letzten Artikel gezeigt, besteht jedoch die Möglichkeit, dass dies passieren kann. Wäge also ab, ob die Gefahren personalisierter Web-Dienste ihre Bequemlichkeit wert sind.

⁠

Loading…⁠

⁠

Ein beachtenswertes Beispiel, das mit personalisierten Web-Diensten zu tun hat, ist eine

Studie⁠

von Facebook. Im Januar 2012 manipulierte Facebook die News-Feeds einiger Nutzer_innen, ohne sie zu informieren. In den News-Feeds wurden entweder positive oder negative Posts entfernt. Nun sahen Nutzer_innen entweder mehr traurige oder heitere Posts. Facebook wollte damit untersuchen, ob sich Emotionen durch das Netzwerk verbreiten. Dazu wurde gemessen, ob die Teilnehmenden mit manipulierten News-Feeds nun selbst mehr traurige oder positive Posts schreiben. Hier ein paar zugehörige Artikel großer Zeitungen. Überfliege einen der Berichte unten.

⁠

Loading www.nytimes.com⁠

⁠

Loading www.bbc.com⁠

⁠

Loading www.theguardian.com⁠

⁠

Zeit Online | Facebook manipulierte für Studie Nachrichtenstrom (keine Vorschau verfügbar)⁠

⁠

Was denkst du über diesen Fall? Würdest du gern an einem solchen Experiment beteiligt sein? Facebook hat die Teilnehmenden nicht gefragt. Die Firma behauptet, dass Nutzer_innen mit den Geschäftsbedingungen zugestimmt haben. Aber würde man sowas erwarten? Im Gegensatz zu Suchmaschinen, die Inhalte vorfiltern, um gute Ergebnisse auszugeben, wurden hier Informationen mit dem Ziel ausgegeben, Emotionen zu beeinflussen. Viel persönlicher kann es nicht mehr werden. Personenbezogene Daten waren hier Emotionen, die in Posts eingebettet waren – ähnlich wie im Experiment vorher Persönlichkeitsmerkmale in Posts und Wörter eingebettet waren. Personenbezogene Daten ermöglichen solche Experimente. Die Studie zeigte nur einen kleinen positiven Effekt, aber viel wichtiger ist: Ein Unternehmen hat von der Möglichkeit Gebrauch gemacht, Daten für diesen Zweck zu verwenden und sich mit Verweis auf die AGB entschuldigt. Wie kann man sicher sein, dass das nicht noch einmal passiert?

⁠

Loading…⁠

⁠

Zusammenfassung

In diesem Artikel habe ich dir Beispiele gezeigt, wie personenbezogene Daten gefährlich werden können. Hier eine Zusammenfassung:

In Verhandlungen können auch unscheinbare Daten deine Position schwächen.

Personenbezogene Daten können in automatisierten Entscheidungen verwendet werden. Die Verarbeitung kann fehlerbehaftet sein und Menschen diskriminieren.

Personalisierte Web-Dienste können durch Filterblasen deine Informationsbreite vermindern.

Dies sind nur einige Beispiele, in denen die Verarbeitung personenbezogener Daten sich gegen dich richten kann. Sie alle sind das Resultat fehlenden Datenschutzes, entweder auf persönlicher oder organisatorischer Ebene. Personenbezogene Daten wurden unkontrolliert erfasst und verarbeitet. Ob diese Szenarien jemals eintreten und Normalität werden, kannst du glauben oder nicht. Du entscheidest über deinen persönlichen Datenschutz. Allein die Möglichkeit, dass dies eintreten könnte, macht gespeicherte Web-Browsing-Daten gefährlich. Tracking für personalisierte Werbung geht mit der Speicherung personenbezogener Daten einher und ist deshalb ein Risiko. Die letzten Fragen verbleiben: Wie wahrscheinlich ist das alles? Und warum sollte ich mich um Datenschutz kümmern, wenn es doch die DSGVO gibt? Lass mich dir alles im letzten Artikel der Serie beantworten. Wir sehen uns dort!

⁠