Digitalisierung: Weltuntergang oder Paradies?

Die Digitalisierung wird uns als Chance verkauft: Sie verspricht die Demokratisierung des Wissens, den Austausch über die Grenzen von Nationen und Sprachen hinweg, sie bietet Bequemlichkeit und Effizienz. So starteten wir vor einigen Wochen in diese Serie über die schöne neue digitale Welt. Wir wollten herausfinden, wer auf diese Reise mitgenommen wird und wer nicht – und ob sie wirklich hält, was ihre Werber*innen versprechen.

Schnell wurde klar, dass die Digitalisierung eine ganze Liste von Gefahren im Gepäck mitschleppt: Überwachung, Eingriffe in die Privatsphäre, Ausgrenzung oder Diskriminierung. Lauter Risiken, die sehr ungleich in der Gesellschaft verteilt sind. Denn: Wer schon ein paar Jahre auf dem Buckel hat, arm oder schlecht gebildet ist, findet sich schnell auf der «falschen» Seite des digitalen Grabens (siehe Surprise 548/23). Dort, wo Digitalisierung vor allem Überforderung und Ausschluss bedeutet. Diesen Menschen bleibt die schillernde Welt des vernetzten Lebens und die Leichtigkeit, alles mit einem Fingerwisch zu erledigen, verwehrt. Also stellten wir uns die Frage: Wie lassen sich diese Menschen dennoch mitnehmen? Denn die analoge Welt ist eine aussterbende: Bargeld, Ticketautomaten und menschliche Kontakte am Schalter fallen immer weiter reichenden Rationalisierungsmassnahmen zum Opfer.

Die Digitalisierung schliesst aber nicht nur aus und lässt alle zurück, die «nicht spuren». Sie zementiert auch bestehende Machtverhältnisse und unterdrückt jene, die ohnehin nicht auf der Sonnenseite leben (siehe Surprise 553/23). Mit ihren tausenden Augen, gierigen Datenspeichern und endlosen Vernetzungsmöglichkeiten analysiert und überwacht sie das Leben von uns allen. Das Resultat: Grundrechte, Privatsphäre oder das Recht auf Selbstbestimmung vor allem von Ausländer*innen und Migrant*innen werden mit Füssen getreten – alles unter dem Deckmantel der Sicherheit.

ILLUSTRATION: TIMO LENZENGibt es denn gar keine Hoffnung, dass die Digitalisierung auch Gleichberechtigung und Fairness bringen kann? Dass sie etwas zum Guten in der Welt beiträgt?

Wir fragen bei Estelle Pannatier nach. Die 28-Jährige ist politische Anthropologin und arbeitet bei AlgorithmWatch Schweiz. Sie untersucht die Einflüsse von algorithmischen Systemen auf uns und unsere Gesellschaft. «Digitale Technologien sind soziale und technische Konstrukte», erklärt sie. «Als solche fliessen unsere Werte in diese ein. Sie sind von Menschen erdacht, entwickelt und eingesetzt.» Mit anderen Worten: Wenn wir bloss wollten, könnten wir die digitale Welt durchaus so gestalten, dass sie für alle da ist. «Wir müssen aber aufpassen, dass wir die Fehler der Vergangenheit nicht wiederholen, sonst reproduzieren wir einfach die bestehende Ungleichheit oder verschärfen sie sogar», warnt Pannatier.

Das bedeutet: Wir sollten darauf achten, dass bestehende Diskriminierungen nicht einfach reproduziert werden, wenn zum Beispiel Algorithmen Lebensläufe und Bewerbungen auf ihre Eignung hin prüfen (siehe Surprise 552/23). Dass in der Vergangenheit mehr Männer eingestellt wurden, bedeutet ja nicht, dass das auch in Zukunft so sein muss. Gerade in diesem Bewusstseinswandel sieht Pannatier auch das Positive. Die Debatte über die verschiedenen Seiten der Digitalisierung rücke bestehende Machtgefüge in den Blick. Wenn wir uns mit den negativen Folgen von digitaler Überwachung, wilder Datensammlung oder den Vorurteilen in Algorithmen beschäftigen, merken wir gleichzeitig auch, «wo wir als Gesellschaft aktuell stehen und wo wir in der Vergangenheit waren». Wenn wir uns mit der Diskriminierung von Gesichtserkennung auseinandersetzen – die mit weissen Männern zum Beispiel besser zurechtkommt als mit Frauen oder PoC (People of Colour, wird als Selbstbezeichnung von vielen rassifiziert gelesenen Menschen verwendet) –, so wirft das auch ein Schlaglicht auf den alltäglichen Rassismus. Ein Rassismus, der gänzlich analog ist. «So lädt die Digitalisierung auch ein, uns zu fragen, ob wir so weitermachen wollen», sagt Pannatier.

Das hört sich gut an. «Leider liegt der Fokus aber noch zu oft ausschliesslich auf Effizienzsteigerung und technologiegetriebener Innovation», relativiert Pannatier sogleich. «Im schnellen Wandel wird zu selten auf die Konsequenzen für alle Menschen geschaut.» Entsprechend fordert sie, dass in der Bewertung der Digitalisierung viel mehr ökologische und soziale Aspekte hervorgehoben werden müssten. «Das Ziel muss eine Entwicklung sein, die für Menschen, Individuen und die Gesellschaft Gutes schafft – und nicht bloss Profite für wenige.»

Kein Stein mehr auf dem anderen

Wie gelingt das in einer Welt, die sich rasend entwickelt und von den spektakulären Versprechungen der Industrie vereinnahmt ist? Gerade jetzt, da die sogenannte generative Künstliche Intelligenz – also Programme, die innert Sekunden aus bestehenden Daten völlig neue und kreative Inhalte erstellen können – unsere Welt radikal verändern könnte, lohnt sich ein Blick zurück.

Die transformative Kraft und Geschwindigkeit der Digitalisierung lässt sich mit einer rasanten Pickup-Fahrt vergleichen. Wer am Steuer sitzt, gibt die Richtung vor. Diejenigen auf der Ladefläche müssen sich festhalten – oder sie werden in der nächsten Kurve einfach abgeworfen. Mit jedem sogenannten «iPhone-Moment» nimmt der digitale Pickup dabei weiter an Fahrt auf. Solche Zäsuren unterteilen die Welt in ein Davor und ein Danach – ein Schritt zurück ist kaum mehr möglich. Wie eben 2007, als Apple-CEO Steve Jobs der Welt das erste iPhone präsentierte. Damit legte er zugleich den Grundstein für die digitale Vernetzung aus der Hosentasche. Dass wir heute an der Migros-Kasse mit Twint bezahlen, unsere Beziehungen über Tinder und Bumble aufgleisen und per Videochat mit unseren Liebsten und Verwandten über tausende Kilometer verbunden bleiben, sind alles Folgen dieses Moments – nicht nur negative.

Und es ist natürlich nicht der einzige transformative Moment in der Geschichte der Digitalisierung – von denen jeder mit je eigenen Grautönen versehen ist. 1999 leiteten Filesharing-Dienste und die grossflächige Verbreitung von mp3-Dateien einen Umbruch der Musikund Unterhaltungsindustrie ein. Wir tummelten uns auf Plattformen, um «Millenium» von Backstreet Boys oder das Debutalbum von Gorillaz herunterzuladen. Dass sich unsere Geräte dabei ab und zu einen Virus einfingen, war ein unvermeidbarer Kollateralschaden. Zwei Jahre später kam der erste iPod auf den Markt – und damit die Möglichkeit, die gesamte Musik-Bibliothek inklusive allenfalls peinlicher Vergnügen digital mit sich zu tragen. Das CD-Gestell ist seither vielerorts nur noch Dekoration – und Spotify und Netflix gehören heute zu den umsatzstärksten Digitalunternehmen.

2001 startete Wikipedia ihren Dienst – und ermöglichte allen im Internet verbundenen Menschen beinahe uneingeschränkten Zugriff auf Wissen. Wie man konkretes Wissen findet, gleiste Google 1998 mit seiner Suchmaschine auf. Im Gepäck trug Wikipedia auch das Versprechen einer Demokratisierung des Wissens. Nie war es einfacher, Gesagtes, Gesehenes und Gehörtes auf Wahrheit zu überprüfen. Schon drei Jahre später wurde die Idee des digitalen «sozialen Netzwerks» geboren. Was früher ein loses Netz aus Freundschaften, Bekannten und Familien war – geknüpft an Geburtstagsfesten, in Schulklassen oder auf der Arbeit –, transformierte sich mit Facebook in ein digitales Archiv von «Friends», «Likes», Ferienund Partybildern.

Im Schlepptau verwandelte 2009 WhatsApp unsere tägliche Kommunikation und die Vorstellung, was es bedeutet, miteinander verbunden zu sein. Nur zwei Jahre später befeuerten soziale Netzwerke massgeblich die ägyptische Revolution und andere Graswurzelbewegungen wie Occupy.

Es war ein weiterer «iPhone-Moment», der in seiner Ambiguität besticht: Demokratische Bewegungen sind heute ohne digitale Tools kaum mehr denkbar. Gleichzeitig hinterlassen sie Spuren im Netz und bieten mehr oder weniger autoritären Staaten die Möglichkeit, mit Über-wachung und digitaler Repression Gegensteuer zu geben. Kein Wunder, versuchen Staaten die heute standardmässige Verschlüsselung von WhatsApp-Nachrichten bereits wieder zu untergraben – sei es mit Spionageprogrammen wie Pegasus oder mit der Verwässerung von Verschlüsselung. Und die Freude und Möglichkeiten des Vernetztseins werden immer wieder durch den Druck getrübt, ständig online zu sein. Von den Gefahren durch Fake News, die nicht nur in den sozialen Medien ihre Runden drehen, brauchen wir nicht extra zu sprechen.

Mit dem Beginn der Pandemie nahm die Digitalisierung des täglichen Lebens 2020 vor allem in digital gut vernetzten Ländern wie der Schweiz massiv an Fahrt auf: Videochats, Homeoffice und QR-Codes wurden zum Kitt, der uns in der Isolation und darüber hinaus zusammenhielt. Doch sie zeigten auch, was uns fehlt, wenn wir uns nur noch über viereckige Fenster und eine stockend übertragene Stimme austauschen. Die Geschwindigkeit, mit der gesellschaftliche Prozesse digitalisiert wurden, liess nochmals viele von der Ladefläche unseres digitalen Pickups purzeln – ohne dass man ihnen zuhörte oder sie wahrnahm.

Und eben jetzt, 2023, schlagen wir uns bereits mit den Gefahren der nächsten digitalen Entwicklung herum. Generative KI-Modelle wie ChatGPT oder Midjourney schreiben in Windeseile hübsche Texte und erstellen knallige Bilder. Aber sie drohen auch unsere Wirklichkeit mit künstlichen Inhalten zu fluten, sodass wir die Übersicht komplett verlieren. So gross ist die Angst, dass selbst die grössten Treiber wie Elon Musk, Bill Gates oder Sam Altmann – der CEO von OpenAI, welches ChatGPT entwickelt – vor dem Weltuntergang durch künstliche Intelligenz warnen. Ob sie das aus Eigeninteresse oder aufrichtiger Sorge tun, sei dahingestellt.

Mit Vollgas — oder doch nicht?

Es brennt die Frage auf der Zunge: Ist das jetzt gut oder schlecht? Sollen wir die Digitalisierung verteufeln oder sie wie eine Prophetin begrüssen? «Es kommt halt darauf an, mit welcher Brille wir die Entwicklung anschauen», sagt Pannatier. Das zeige sich in den «iPhone-Momenten» genauso wie im Kleinen: Sie verweist auf die Geschichte des Sans-Papier Ackson, der von der Digitalisierung zugleich ausgeschlossen wird und von ihr profitiert (siehe Surprise 550/23). «Die Digitalisierung hat positive und negative Aspekte. Es gibt Hoffnungen und Chancen der Vernetzung, der Meinungsfreiheit, der Menschenrechte und der Demokratie. Und gleichzeitig wissen wir um die schädlichen Konsequenzen.»

Es wäre einfach, die Digitalisierung rundum zu verdammen: Weil sie andere ausschliesst, weil sie die Welt mit Hass und Unwahrheiten überflutet, weil sie uns zwingt, ständig im digitalen Karussell mitzufahren. Gleichzeitig lässt sie sich nicht aufhalten. Und wer würde schon gerne auf die praktische Fahrplanauskunft in der SBB-App verzichten? Oder auf die Kartendienste, die uns zuverlässig auch in den entlegensten Winkel oder in das beste Kaffee der fremden Stadt lotsen? «Als Gesellschaft ist es unsere Aufgabe, dass wir uns überlegen, wo wir welche Systeme zu welchen Zwecken einsetzen wollen, dass wir die Schäden und Gefahren identifizieren und minimieren und gleichzeitig Alternativen gestalten, von denen alle profitieren», resümiert Pannatier.

Ganz ähnlich sieht es auch Jean-Daniel Strub. Der 48-jährige Ethiker und SP-Politiker befasst sich mit seiner Firma ethix die komplexen Fragen, die sich im Rahmen von Innovation und Digitalisierung stellen. Ich frage ihn, was denn eine faire Digitalisierung bedeuten würde – eine, von der wirklich alle profitieren würden. «Sie beruht auf dem Prinzip der Gerechtigkeit und der Transparenz», sagt er. Gerade wenn es um Fragen der Exklusion gehe – mangels digitaler Teilhabe zum Beispiel –, beinhalte das auch einen Auftrag an den Teil der Gesellschaft, der von den neuen Technologien profitiert. «Aus der Ungleichheit resultieren Ansprüche an die Allgemeinheit», sagt Strub. Das bedeute unter anderem eine ethische Forderung nach einem Ausgleich, wenn manche von uns vom sinnbildlichen Pickup geschleudert werden. Die Gesellschaft sollte ihnen helfen, wieder aufzusteigen, Sicherheitsgurte anbieten und vielleicht einen Gang herunter schalten.

Ist das Internet nicht mehr für alle da? In der ersten Folge der Serie kam der Internetpionier Vint Cerf zu Wort, der dieses Ziel mit all seinen Hürden formulierte (Surprise 548/23). Und wahrscheinlich werden wir auch durch die Digitalisierung keine Gleichheit erreichen, denn auch digitale Tools werden immer in einem Machtkontext geschaffen, finanziert und verbreitet. Erstaunlicherweise schöpft Estelle Pannatier gerade hier auch Hoffnung – Hoffnung, dass unser Kurs nicht bloss von den Konzernen und deren Interessen bestimmt wird. «Es gibt aktuell eine Tendenz, dass Staaten wieder mehr Verantwortung für Technologien und deren Einsatz übernehmen – wie etwa die Digitalpolitik in der EU», sagt sie. «Das bedeutet auch, dass dies der richtige Zeitpunkt für eine Diskussion über Werte ist.» Zumindest im demokratisch regierten Teil der Welt, in dem wir zu unserem Glück leben.

Also sollten wir darüber diskutieren, wie wir dafür sorgen können, dass die digitale Welt wirklich für alle da ist – was auch bedeutet, jenen Gehör zu geben, die noch nicht wie wild nach links und recht «swipen», mit der Virtual-Reality-Brille im Metaverse rumgurken oder an der nächsten revolutionären App basteln. Und wenn wir uns die Unterschiede ehrlich vor Augen führen, schärft sich auch der Blick auf die Gefahr der Normierung: Dass uns die Digitalisierung alle in den gleichen Strom zwängt, statt die Vielfalt der Lebensweisen zu feiern. «Die Fehlannahme, dass Digitalisierung den Pluralismus und die Vielfalt automatisch fördert, ist leider weit verbreitet», sagt Strub. Dabei ist zu oft das Gegenteil der Fall: Nur was normiert ist, was dem Durchschnitt entspricht, lässt sich digital gut verarbeiten. Was hingegen aus der Reihe tanzt, fällt auf und wird ausgemerzt. «Es besteht die Gefahr, dass es weniger Toleranz für Phänomene und Verhaltensweisen gibt, die zwischen Stuhl und Bank fallen.»