Der Große Bruder - über vertrauliche Daten und unzuverlässige KI

von Ingo Nöhr

Wir danken dem Verlag MEDI-LEARN.net GbR für die freundliche Erlaubnis, Cartoons von Rippenspreizer verwenden zu dürfen. Mehr Cartoons sind unter http://www.medi-learn.de/cartoons/ zu finden.
Vielen Dank MEDI-LEARN.de!

Das Jahr begann wieder mit vielen Schlagzeilen. Gesundheitsminister Jens Spahn wirft einen Versuchsballon nach dem anderen hoch und beobachtet die Reaktionen, um dann bei seinen Gesetzesentwürfen gezielter zuschlagen zu können. Die Dieselaffäre hat nun auch einen internen Streit unter den Pneumologen ausgelöst, sehr zur Freude von Verkehrsminister Scheuer, der nun die ungeliebte Diskussion über Fahrverbote und Tempolimits auf andere Schultern verteilen kann. Die Brexit-Debatte im britischen Parlament machte den Unterhaussprecher John Bercow mit seinen „ORDER!“ Rufen zum Fernsehstar. Über die deutsche Politik bestimmen immer mehr nichtgewählte Leute namens McKinsey und Roland Berger.

Nur Donald Trump sorgt mit seiner paranoiden Twitterpolitik weiterhin verlässlich für die Unterhaltung beziehungsweise Aufregung in der Welt. Dabei hat die Natur so langsam alles durch, was sie gegen die Klimawandelzweifel von Trump anbringen konnte: Flächenbrände, Erdbeben, Super-Hurricanes, Blizzards, antarktische Temperaturen ... aber Trump ist immer noch im Amt.

Hallo Jupp, du kommst da plötzlich so angehumpelt. Drückt dich die Last des Weltgeschehens so sehr?

  • Ach Ingo. Ich werde älter und meine Knie machen nicht mehr so richtig mit. Gestern hat mein Doc einen Meniskusriss diagnostiziert. Er empfiehlt eine Kniegelenkstoilette, reine Routine­angelegenheit, macht der Chirurg gerade mal in der Frühstückspause nebenbei.

Ja, dann ist doch alles klar, Jupp. Hast du schon deine elektronische Gesundheitsakte zusammengestellt? Du warst ja in den letzten Jahrzehnten bei vielen Doktoren und Kliniken in Behandlung.

  • Hör mir auf, Ingo. Ein Chaos sondergleichen. Alle meine Berichte, Bilder, Befunde und Medikationspläne, soweit es überhaupt welche gab, sind in ganz Deutschland verteilt und in verstaubten Archiven sicher gelagert. Die meiste Dokumentation ist auf Papier und muss mühsam aus den Aktenbergen herausgesucht und fotokopiert werden. Es gibt zwar schon viele elektronische Daten über mich, aber die müssen ausgedruckt und per Post versandt werden. Mein aktueller Hausarzt bat mich, ihm anschließend den ganzen Krempel zu übergeben, dann würde er meine individuelle Patientenakte anlegen. Aber eigentlich bräuchte er das Material nicht für seine Befundung.

Das ist wahrscheinlich besser so, Jupp. Möglicherweise hast du ab 2021 alle deine vertraulichen Daten auf einem zentralen Server der Gematik-Truppe gespeichert.  Gerade wurden in Singapur die Patientennamen, IDs, Telefonnummern, Adressen, HIV-Testergebnisse und medizinischen Informationen von 14.200 HIV-positiven von einem rachsüchtigen US-Bürger ins Internet gestellt. Dabei hatten bei einem Cyberangriff ein paar Monate vorher unbekannte Hacker die kompletten Daten von 1,5 Millionen Patienten von SingHealth veröffentlicht, darunter auch die von Premierminister Lee Hsien Loong und einigen seiner Minister.

  • Das ist ja eine tolle Geschichte. Stell dir mal vor, die Krankenakten von Angela Merkel und ihres Kabinetts sind im Internet zu finden. Wer ist Alkoholiker, wer in psychiatrische Behandlung, wer pfeift gesundheitlich aus dem letzten Loch? Solche Daten sind im Darknet höchst begehrt und könnten auf dessen Schwarzmarktauktionen Millionen Dollar einbringen. Da käme endlich mal konkrete Bewegung in die Datenschutzdiskussion. Jetzt kauft Angela gerade drei nagelneue Airbusflugzeuge, nachdem die betagten Regierungs­flieger permanent das deutsche Perfektionsimage ruinieren.

In zwei Jahren können sich die Cyberkriminellen an unserer zentralen Patientendatenbank der Gematik austoben. Sie ist ja absolut unknackbar - angeblich. Bis sich dann ein frustrierter Mitarbeiter im Rechenzentrum eine Kopie für sein Privatbusiness zieht und Millionär werden will.
Nebenbei gefragt, Jupp: Wann kommst du denn zu deiner Kniefrisur unters Messer?

  • Eigentlich könnte ich schon in den nächsten Tagen einen Termin bekommen. Aber es handelt sich um eine richtige Operation, Ingo! Und das ist mein Problem. Du kennst doch auch die Horrormeldungen von der hygienischen Situation in vielen Kliniken und ambulanten Praxen. Mindestens 30 Sekunden Händewaschen? Das ist doch nur reine Show für den Patienten. Und dann erst die oft mangelhafte Reinigung der Endoskopieteile. Da klebt in den Ecken noch der Dreck der letzten Einsätze. Da hole ich mir doch sofort einen Krankenhauskeim. Also suche ich weiter in den Bewertungsportalen. Währenddessen behandelt meine Frau die Entzündung mit Kohlblätterwickel und Hagebuttenpulver.

Ich denke, mit der Hygiene könntest du Recht haben, lieber Jupp. Daher rate ich dir, zur Operation zu unseren Kollegen nach Holland zu fahren. Dort gibt es in jeder Klinik ein mikrobiologisches Labor, klinische Mikrobiologen und Fachärzte für Krankenhaushygiene. Bei uns in Deutschland haben wir bis zu zwanzig Mal mehr Methicillin-resistente Staphylococcus-Fälle. Der Grund: 85 Prozent der deutschen Krankenhäuser haben keine eigene hauseigene Mikrobiologie.

  • Ingo, ich erinnere mich. Schon vor 20 Jahren haben die Niederländer beschlossen, deutsche Patienten vorsichtshalber konsequent aufs Isolierzimmer zu legen, weil die Wahrscheinlichkeit zu hoch war, dass sie resistente Keime einschleppen.  Schau mal nur unsere Nutztierhaltung an - reiner Wahnsinn: 2017 haben wir insgesamt 733 Tonnen Antibiotika an Schweine, Rinder, Puten, Hühner und andere Tiere verfüttert. Dazu kommt noch das Verhalten unserer Hausärzte. Jedes zweite Kind bekommt einmal im Jahr Antibiotika verschrieben, bei den Nachbarn gibt es diese Pillen nur bei 0,1 Prozent der behandelten Kinder.

Hinzu kommt noch, Jupp, dass sich eine deutsche Pflegekraft in einer Schicht im Durchschnitt 60 – 70 mal die Hände waschen müsste. Weil wir zuwenig Personal pro Patienten haben, aber unsere Betten trotzdem maximal belegen wollen. Aber jetzt kannst du Google Brain befragen, wie lange du wohl auf der Station bleiben wirst. Mit 95% Wahrscheinlichkeit sagt dir die Google KI auch voraus, ob du im Krankenhausbett sterben wirst.

  • Wie bitte, wie geht das denn, Ingo? Jetzt will die KI schon mein Sterbedatum wissen? Haben die den Robotern etwa schon das Kaffeesatzlesen beigebracht?

Nicht Kaffeesatz, Jupp, sondern Arztberichte. Unser Datenkrake Google kann ja bei fast 4 Millionen Suchanfragen pro Minute auf einem immer größeren Informationsschatz zugreifen. Sieben Jahre lang hat ein amerikanisches Forscherteam 46 Millionen Daten von 114.000 stationär behandelten Patienten gesammelt. Dann hat ein neuronales Netzwerk mit Deep Learning die Sterblichkeitsprognosen berechnet. Google Brain macht jetzt Dr. IBM Watson heftig Konkurrenz. Nebenbei versucht sich das Brain auch schon am Schreiben von Wikipedia-Artikel. Und seine KI-Kollegen haben beeindruckende abstrakte Gemälde produziert und auf der Frankfurter Buchmesse 2017 ausgestellt. Das luxemburgische Sinfonieorchester spielte am Nationalfeiertag ein imposantes Musikstück, komponiert von einer KI namens AIVA. Die jeweiligen Besucher waren zunächst begeistert, dann aber sehr nachdenklich, als sie später die Identität der Künstler erfuhren.

  • Erstaunlich, was so mathematische Algorithmen mit neuronalen Netzen zustande bringen. Aber ich traue den KI-Doktoren nicht. Schließlich ist IBM Watson in der Uniklinik Marburg blamabel gescheitert, weil er ausschließlich mit den Daten amerikanischer Patienten gefüttert worden war. Seine Schlüsse ließen sich auf die deutsche Situation nicht übertragen. Überhaupt: wer sind die Trainer der Künstlichen Intelligenz? Meistens doch nur wohlhabende, junge, weiße Amerikaner mit akademischer Ausbildung mit unbewussten rassistischen und sexistischen Vorurteilen, die niemals die Bevölkerung im Ganzen repräsentieren können. Zuwenig Frauen, Farbige, Moslems, Jugendliche, Senioren, Homosexuelle, kreative Künstler, Menschen aus anderen Kulturen. Die so hochgelobte künstliche Intelligenz ist nicht objektiv, sie hat die Vorurteile übernommen, sie diskriminiert und ist von Verzerrungen geprägt. Ein Beispiel gefällig? Amazon hatte bereits 2014 aus Bewerbungen der letzten zehn Jahre KI-Algorithmen entwickelt, die Bewerberunterlagen prüfen und Kandidaten vorsortieren sollten. Da die Anschreiben von Männern überwogen, bewertete die KI das weibliche Geschlecht negativ. 

Du hast recht, Jupp. KI Werkzeuge sind nie neutral, sondern reflektieren auch die Interessen ihrer Entwickler und Anwender beziehungsweise deren Auftraggeber oder Forschungsförderer. Die Big Data Analysen werden leider viel zu unkritisch akzeptiert. Dabei sind sie ja die Basis für die automatisierten Entscheidungssysteme, welche geheimgehaltene Algorithmen verwenden, wie das Schufa-System bei der Bewertung der Kreditwürdigkeit.

  • Na klar Ingo, Big Data ist immer das Zauberwort, wo das Nachdenken ausgeschaltet wird. Der Softwarekonzern SAP hatte für die deutsche Nationalmannschaft ein komplexes Big Data Produkt namens SAP Sports One entwickelt, welches unserer Elf in der WM-Endrunde in Russland zu Spitzenleistungen verhelfen sollte. Vollgepackt mit Machine Learning Tools könne es „anhand von Mustererkennung und Positionsdaten einfacher und schneller komplexe Spielsituationen und taktische Ausrichtungen der Gegner identifizieren, unterschiedliche Datenquellen eines Matchs nutzen und so die Siegchancen optimieren“. Ingo, was war das Resultat?  Es folgte die größte Blamage in der deutschen Fußballgeschichte: wir schieden schon in der Vorrunde als Letzter aus.

Jupp, im Hintergrund sind ja unfassbar reiche Giganten am Werk, und das völlig unkontrolliert. Daten sind das Öl des 21. Jahrhunderts. Wir hinterlassen durch unsere Smartphones, Fitness-Armbänder und Wearables immer detailliertere Datenspuren. Dazu kommen jetzt die smart homes und smart cities Sensoren, die kontinuierlich das tägliche Leben aufzeichnen und weiterleiten. Allein Facebook hat 2,2 Milliarden Nutzer jeden Monat. Mark Zuckerberg macht sich nach dem Cambridge Analytics Skandal durch seine jüngsten Expansionspläne erneut unbeliebt. Die Gründer von WhatsApp und Instagram haben nach dem Verkauf an Facebook frustriert gekündigt. Jetzt kam heraus, dass Nutzer der App Facebook Research im Alter von 13 bis 35 Jahren 20 Dollar pro Monat erhalten haben, damit sie Facebook Zugang zu den gesamten Aktivitäten auf ihren Smartphones erlauben.

  • Unglaublich Ingo, was auch die Smart Media über ihre Nutzer verraten. Allein aus Facebook-Likes kann auf persönliche Eigenschaften wie Geschlecht, Alter, sexuelle Orientierung, ethnische Zugehörigkeit, politische Einstellung, Religion, Beziehungsstatus oder Nikotin-, Alkohol- oder Drogenkonsum geschlossen werden. Ein großer Autoversicherer in Großbritannien wollte die Höhe der Versicherungsprämien für Führerscheinneulinge anhand deren Facebook-Profile festlegen. Dort sind angeblich die Charaktereigenschaften zu finden, die mit sicherem Autofahren in Zusammenhang stehen. Rabatte bis zu 350 Pfund pro Jahr wurden in Aussicht gestellt, wenn man freiwillig an diesem Programm teilnimmt. Erst der öffentliche Aufschrei stoppte die Umsetzung.

Schon 2013 warnte der Chairman von Google, Eric Schmidt: „Ihr müsst für eure Privatsphäre kämpfen, oder ihr werdet sie verlieren“. Aber heutzutage verzichten Millionen von Menschen gerne auf ihre Privatsphäre und outen sich freudig der Weltöffentlichkeit, zur Freude des Big Business. „Er hatte den Sieg über sich selbst errungen. Er liebte den großen Bruder“. Das war der letzte Satz im Roman 1984 von George Orwell.

  • Ingo, eigentlich outen wir uns ja auch freiwillig mit unseren öffentlichen Stammtischgesprächen jeden Monat, oder? Wer weiß, was für persönliche Profile über uns beide in vielen Datenbanken angelegt wurden? Würde jetzt das chinesische Social Scoring System auf uns angewendet, hätten wir wegen politischer Unzuverlässigkeit wohl schon Probleme, einen Kredit zu bekommen oder eine Flugreise anzutreten.

Da hast du Recht, Jupp. Insofern sollten wir unsere gemütliche Datenschutz-Insel hier noch möglichst lange genießen. Unser Wirt erwartet keine Facebook-Likes, führt keine digitalen Statistiken über unser Konsumverhalten und nimmt immer noch Bargeld an. Seien wir ihm dankbar.

  • Jawohl Ingo, das machen wir. Herr Wirt, bitte zwei Bier. Und lasse weiterhin keine digitalen Datenfresser in dein Haus.

 

„Ich will eure Hilfe nicht, ich will nicht, dass ihr voller Hoffnung seid.
Ich will, dass ihr in Panik geratet, dass ihr die Angst spürt, die ich jeden Tag spüre.“
(Greta Thunberg, 16 Jahre, vor 2500 Teilnehmern auf dem Weltwirtschaftsforum 2019 in Davos)

 

Zurück

Einen Kommentar schreiben