Systemfehler: Reguliert Facebook & Co.!
Posted on von Analysten | Management | Mobile Enterprise

Schlagworte: , ,

Systemfehler: Reguliert Facebook & Co.!

Die Manipulationsversuche über Facebook, dargestellt in einem Insider-Bericht von Roger McNamee, sind symptomatisch für das toxische Gemisch aus Plattform-Macht und fehlerhaftem Code. Die Schäden sind bereits beträchtlich. Eine Regulierung von Facebook & Co. ist daher dringend angezeigt.

Die Gegenwart überholt die Science-Fiction-Literatur

Der Auslöser für diesen Beitrag ist ein Artikel von Roger McNamee im Washington-Monthly-Magazin mit dem Titel „How to Fix Facebook – Before it Fixes Us“, der mich trotz seiner Länge in den Bann zog. Gänsehaut garantiert! Denn Roger McNamees Erzählung entpuppt sich als Thriller und wir alle befinden uns mittendrin. Science Fiction wird zur Gegenwartsliteratur – oder vielmehr zur Reality-Show.

Der Beitrag handelt von der politischen Einflussnahme über mächtige Social-Networking-Plattformen – allen voran Facebook. Und es geht um gewaltige Kollateralschäden, ausgelöst durch Artificial Intelligence, wenn der menschengemachte Code Schwächen aufweist. Also kein neues Thema: Einige Gedanken zum AI-Hype und den mit der Macht der Plattformen verbundenen Risiken hatte ich bereits in dem Blogbeitrag „Künstliche Intelligenz: Nachdenken im Hamsterrad“ niedergeschrieben – damals unter dem Eindruck des Bestsellers „Homo Deus“ des Universalhistorikers Yoval Noah Harari.

Übrigens scheinen sich die kühnen Zukunftsprojektionen des Universalhistorikers bereits heute zu realisieren. So las ich bei Harari erstmals von potenziell „nutzlosen Menschen“ und deren Diskriminierung im digitalen Zeitalter. Der Schriftsteller Marc-Uwe Kling – bekannt von den Känguru-Chroniken – griff in seinem aktuellen Bestseller „QualityLand“ ebenfalls dieses Thema auf. In dem lesenswerten Roman, der in einer „nicht allzu fernen Zukunft“ spielt, werden die Menschen anhand eines Punktebewertungssystems in gesellschaftlich wertvoll und nutzlos eingeteilt. Noch während der Lektüre erreichte mich die Nachricht, dass China genau ein solches Punktesystem – basierend auf einer digitalen Totalüberwachung – einrichten will. Soweit zum Leben in der Science-Fiction-Realität.

McNamee präsentiert einen Insider-Bericht mit Gänsehautfaktor

Zurück zum Artikel Roger McNamees, der anders als Yuval Noah Harari oder Marc-Uwe Kling weder Wissenschaftler noch Schriftsteller, sondern Insider und als solcher selbst Teil der Handlung ist. Der Managing Director und Mitbegründer des Investmenthauses Elevation unterstützte Mark Zuckerberg über einige Jahre als Mentor und zählt zu den Facebook-Investoren der ersten Stunde. Er musste also keine Theorien aufstellen oder Szenarien entwickeln. Er brauchte einfach nur seine Geschichte zu erzählen und diese mit einigen Hintergrundinformationen anzureichern – Spannung garantiert.

So beginnt seine Erzählung im Jahr 2006, als Zuckerberg vor der Entscheidung stand, ob er die milliardenschweren Kaufangebote von Google oder Yahoo akzeptieren sollte. Zuckerberg folgte der Meinung seines Mentors McNamee und entschied sich dagegen. Im Zuge des Facebook-Börsengangs half der Investmentberater Zuckerberg noch bei der Rekrutierung von Sheryl Sandberg als CEO. Ihm selbst sei in dieser Zeit ein Vorstandsposten bei Facebook angeboten worden, den er aber ausschlug. Stattdessen nahm er Zuckerbergs Angebot an, als Investor einzusteigen.

Wahlmanipulationen über Facebook bei US-Wahl und Brexit-Votum im Fokus

McNamee blieb Facebook in den folgenden Jahren weiter eng verbunden – und dies nicht nur als Investor, sondern auch als Promotor seiner Rockband Moonaliz. Im Artikel beschreibt er, wie er lernte, die Marketingmacht von Facebook im Sinne eines „organic engagement“ zu nutzen und so eine der populärsten Fan-Pages der Plattform zu bauen. Bis dahin also eine große Erfolgsgeschichte.

Sein Glaube an Facebook bekam erste Risse, als er im Jahr 2016 auf wahrscheinliche Manipulationen und Regelverletzungen aufmerksam wurde, die nicht der ursprünglichen Geschäftsidee entsprachen. So sei publik geworden, dass ein Beratungsunternehmen bei Facebook Daten über Menschen, die sich für die „Black Lives Matter“-Bewegung interessierten, sammelte und an Polizeibehörden verkaufte. Mehr noch: Bei den Vorwahlen der Demokraten und kurze Zeit später im Umfeld der Brexit-Entscheidung beobachtete er eine Flut an „bösartigen“ Botschaften (Memes), die sich gegen das Clinton- bzw. „Remain“-Lager richteten. Besonders misstrauisch machte McNamee, dass deren rasante virale Verbreitung nicht über den üblichen („organic“) Weg erfolgte.

Fortan begab er sich auf die Suche nach den Ursachen und der Thriller nimmt Fahrt auf. Aber lesen Sie selbst.

Die Arroganz der selbsterklärten Weltverbesserer

Interessant wird der Bericht an den Stellen, in denen der Facebook-Investor versucht, die Plattform-Manager auf die Ungereimtheiten im Geschäft und vermeintliche Fehler im Code aufmerksam zu machen. Bevor er erstmals seine Bedenken öffentlich machte, wendete er sich zunächst an Marc Zuckerberg und Sheryl Sandberg, die beide am Folgetag mit gleichlautenden Antworten reagierten: We appreciate you reaching out; we think you’re misinterpreting the news; we’re doing great things that you can’t see.“ Kurzum: Die selbsterklärten Weltverbesserer ließen keine Zweifel gelten – und dies noch im Oktober 2016!

Diese Passage erinnert mich an ein interessantes Interview mit dem Schweizer Philosophen und Buchpreisgewinner Jonas Lüschner, der selbst ein Jahr im Silicon Valley verbrachte und seither vor der Arroganz der vermeintlichen neuen Weltelite warnt. Sein Credo: Dem Silicon Valley mangelt es an Bewusstsein für die Probleme, die es selbst verursacht.“ Es seikeine neue Gegenkultur, sondern esoterisch verbrämter Ultrakapitalismus“.  

Das Rezept für die toxische Mischung – auch hierzulande verbreitet

McNamees Erzählung liefert aber nicht nur interessante Einblicke ins Gebaren von Zuckerberg & Co., sondern zeigt auch sehr eindrücklich, wie es zu den bösartigen Manipulationen kommen konnte. Nur wenige Zutaten reichen aus, um das toxische Gebräu herzustellen:

  • Ein Algorithmus, der die Blasenbildung verstärkt und negative Botschaften priorisiert. Die schlechte Laune auf Facebook hat durchaus System. Schließlich reagieren wir emotional stärker auf schlechte als auf gute Nachrichten. Und der Facebook-Algorithmus baut auf Emotionen.
  • Die Schutzlosigkeit der Plattform (trotz Klarnamenpflicht) gegenüber dem Einsatz von Bots, die sich den Fehler des Algorithmus zu Nutze machen und die Verbreitung böswilliger Nachrichten befeuern.
  • Der freizügige Umgang mit Nutzerdaten, der bei Facebook System hat und eine zielgenaue Manipulation einzelner Nutzer unterstützt.
  • Eine unregulierte Monopolstellung der Plattformen, welche auf der einen Seite die Effektivität von Manipulationsversuchen erhöht und auf der anderen Seite als Meinungsmonopol Korrektive verhindert. Gefangen in der Facebook-Blase eben.
  • Ein rein werbebasiertes Geschäftsmodell, das im Kern keinen Anreiz bietet, Manipulationsversuche zu unterbinden. Im Gegenteil: Die Anzeigenschaltung zur gezielten Beeinflussung der Anhänger der „Leave“-Kampagne (Brexit) war quasi im Sonderangebot zu haben, da die anvisierte Kernzielgruppe zum großen Teil aus der ärmeren Bevölkerungsschicht stammt und so für herkömmliche Werbeaktionen weniger relevant war.

Last but not least fehlen noch einige „bösartige“ Akteure, die ein veritables Interesse daran haben, die Gesellschaft zu spalten bzw. politische Entscheidungen zu beeinflussen, indem sie die Schwächen der Plattform ausnutzen. McNamee beschreibt plastisch, wie diese Faktoren bis heute zusammenwirken. Denn das Monster ist noch lange nicht gezähmt – und auch 2018 stehen wieder wichtige Wahlentscheidungen an.

Übrigens: Das Monster treibt sein Unwesen nicht nur in den USA oder in Großbritannien, Versuche der Manipulation gab und gibt es auch vor der eigenen Haustüre. Das Kapern von 31 geheimen AfD-Facebook-Gruppen durch Die PARTEI drei Wochen vor der Bundestagswahl wurde vielfach als Narrenstreich abgetan. Doch wenn man die über diese Aktion aufgedeckte Logik der Manipulation von Facebook-Nutzern genauer betrachtet, dann bleibt einem das Lachen schnell im Halse stecken.

Das Internet scheint auch in der US-Politik noch Neuland zu sein

McNamee belässt es in seinem Beitrag nicht bei der Erzählung seiner Geschichte und der Darstellung der Manipulationen. Er fordert als Konsequenz eine effektive Regulierung der Social-Media-Plattformen – mehr als ungewöhnlich für einen Managing Director eines Finanzinvestors. Dabei formuliert er acht Punkte – vom Bann der Bots über einen wesentlich restriktiveren Datenschutz bis hin zur Marktregulierung.

Besonders seine Forderung, endlich gegen die Monopolstellung der Plattformen vorzugehen, erweckte mein Interesse als Volkswirt. Denn als solcher lernt man schon im Grundstudium, dass Monopole schädlich und damit zu regulieren sind. Doch folgt man McNamees Ausführungen, dann herrscht in der USA-Wettbewerbsbehörde bis heute die Auffassung vor, dass Monopole kein Problem seien, solange diese nicht in höhere Preise für die Konsumenten mündeten. Vor diesem Hintergrund konnten sich die immer mächtiger werdenden Plattformen Rivalen einverleiben sowie ihre Kernangebote mit immer mehr gebührenfreiem Beiwerk bündeln. Den Verbraucher kostete es ja vermeintlich nichts. Merke: Nicht nur in der deutschen Politik scheint das Internet noch Neuland zu sein.

So what?!

Was können wir also tun? Boykottieren? Ich selbst bin schon länger nicht mehr bei Facebook – ich hatte einfach keine Lust mehr auf schlechte Laune. Dennoch wähne ich mich nicht frei davon, manipuliert zu werden. Denn ob Facebook, WhatsApp, Twitter oder LinkedIn – die Logik ist auf allen Plattformen ähnlich, Alternativen sind rar und meist funktional unterlegen. Schon um meinem Beruf erfolgreich nachzugehen, ist es erforderlich, mich sozial zu vernetzen. Deshalb halte ich Boykottaufrufe für wenig sinnvoll.

Vielleicht sorgt ja die Weiterentwicklung der Technologien für eine Lösung. Eine Blockchain für Social Networking könnte die Macht der Plattformen brechen. Aber auf diese Hoffnung allein würde ich nicht setzen. Zu viele Fragen sind hier noch offen.

Wir kommen deshalb aus meiner Sicht nicht umhin, eine effektivere Regulierung der digitalen Wirtschaft bei der Politik einzufordern. Und hierbei sind wir alle gefragt – ob als Wähler, Unternehmer oder Marktbeobachter. Ich selbst habe mich wie viele andere lange über die kruden Forderungen der Datenschützer gewundert, ja manchmal sogar aufgeregt. Die Realität jedoch scheint ihnen Recht zu geben. Höchste Zeit, diesen Fehler einzugestehen und den Datenschützern den Rücken zu stärken.

Fürs erste wäre aber schon viel erreicht, wenn der Beitrag McNamees die gebührende Aufmerksamkeit erhielte. Lesen Sie ihn, teilen Sie ihn und lassen Sie sich von seinem abschließenden Zweckoptimismus anstecken:

Before you dismiss regulation as impossible in the current economic environment, consider this. Eight months ago, when Tristan Harris and I joined forces, hardly anyone was talking about the issues I described above. Now lots of people are talking, including policymakers. Given all the other issues facing the country, it’s hard to be optimistic that we will solve the problems on the internet, but that’s no excuse for inaction. There’s far too much at stake.“

Der Autor

Andreas StiehlerAndreas Stiehler betreut in seiner Rolle als Principal Analyst Digital Enterprise Forschungsaktivitäten zu dem Thema „Digitale Transformation“, mit Fokus auf den Digital Workplace und verwandte Themen. Er ist verantwortlich für das Erstellen und Ausführen dedizierter Forschungs- und Beratungsprojekte in diesem Bereich. Zu seinen weiteren Aufgaben zählt die Weiterentwicklung der Content Marketing Services von PAC.

zurück zur Startseite

Kommentar

Wenn Sie die E-Mail-Adresse eingeben, die Sie bei Twitter oder Gravatar verwenden, erscheint Ihr Bild neben dem Kommentar.

mit * gekennzeichnete Felder sind Pflichtfelder. Sie erhalten zur Freischaltung ihres Kommentars eine E-Mail. Ihre E-Mail-Adresse wird nicht veröffentlicht.