Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) erarbeitete durch seinen Konsortialpartner VDI/VDE-IT eine Sondierungsstudie zur gesellschaftlichen und politischen Relevanz des Themas »Social Bots«. Im Mittelpunkt stand die Untersuchung von Gefahren durch eine mögliche Manipulation politischer Diskussionen und Trends in sozialen Netzwerken.

Ziel des Fachgespräches war es, den Stand der noch laufenden Untersuchung zu diskutieren, die zentralen Zwischenergebnisse zu überprüfen und Ansatzpunkte für politisches Handeln zu reflektieren. Da das Thema auf ein großes mediales und politisches Interesse traf, diente das Fachgespräch auch zur Positionsbestimmung des Phänomens »Social Bots«. In dem Fachgespräch wurde kurz in die Ausgangslage eingeführt und das Thema entlang drei thematischer Blöcke diskutiert:

1. Einfluss und Wirksamkeit von »Social Bots«: Was ist heute machbar und wie wird der Einfluss nachgewiesen?
2. Zukünftige Einsatzmöglichkeiten von »Social Bots«: Wofür können »Social Bots« zukünftig eingesetzt werden?
3. Enttarnungssysteme und Eindämmungsmöglichkeiten: Wie lassen sich »Social Bots« erkennen und verhindern?

Bargeld ist in Deutschland das einzige unbeschränkt gesetzliche und nach wie vor auch das am häufigsten verwendete Zahlungsmittel. Gegenüber unbaren Zahlungsmitteln bildet Bargeld ein wichtiges Korrektiv im Zahlungsverkehr. Kein unbares Zahlungsmittel erreicht ein ähnlich hohes Inklusionsniveau und schützt vergleichbar die Privatsphäre. Trotzdem nimmt die Nutzung unbarer Zahlungsmittel auch in Deutschland weiter zu. Von besonderer Bedeutung sind kartengestützte Zahlverfahren – entweder direkt mit der Plastikkarte (Debit- oder Kreditkarte) oder mit der virtuellen Karte, über die unbare Zahlweisen im Hintergrund abgewickelt werden, wie beim mobilen Bezahlen und bei Internetbezahlverfahren üblich.

BigTechs – große Unternehmen mit etablierten Technologieplattformen wie Alibaba, Amazon und Facebook – sind inzwischen etablierte Akteure im Zahlungsverkehr. Angesichts der zunehmenden Präsenz und der Marktmacht US-amerikanischer Kartenanbieter und BigTechs sowie des voraussichtlich zunehmenden Einflusses chinesischer BigTechs im Zahlungsverkehr wird sich in Zukunft stärker die Frage nach der Erhaltung der Handlungsfähigkeit des europäischen Bankenwesens stellen.

Die TAB-Kurzstudie Nr. 2 bietet einen Überblick über Entwicklungen im Zahlungsverkehr bis einschließlich Februar 2021. Die spezifischen Eigenschaften von Bargeld sowie ausgewählter unbarer Zahlungslösungen werden darin genauso in den Blick genommen und miteinander verglichen wie das Zahlungsverhalten in Deutschland, Schweden und China. Eine Betrachtung des sich wandelnden Machtgefüges im Zahlungsverkehr durch das Auftreten neuer Akteure und die Reaktionen traditioneller Kreditinstitute und Zentralbanken hierauf runden die Kurzstudie ab.

Die TAB-Kurzstudie Nr. 2 und die zugehörige TAB-Fokusausgabe Nr. 37 sind online abzurufen.

Judith Simon ist Professorin für Ethik in der Informationstechnik an der Universität Hamburg. Sie interessiert sich für ethische, erkenntnistheoretische und politische Fragen im Kontext von Big Data, Künstlicher Intelligenz und Digitalisierung im Allgemeinen. Sie ist Mitglied im Deutschen Ethikrat und in zahlreichen weiteren Beiräten und Kommissionen. Im Jahr 2020 veröffentlichte sie das Routledge Handbook of Trust and Philosophy.

Digitale Plattformen spielen eine immer wichtigere Rolle dabei, die öffentliche Debatte zu strukturieren und zu beeinflussen. Unabhängige Watchdog-Organisationen, Forscher·innen und Journalist·innen müssen in der Lage sein zu überprüfen, wie sie dabei vorgehen. Nur so können sie zur Rechenschaft gezogen werden, wenn sie unverantwortlich handeln.

Am 3. März 2020 startete AlgorithmWatch ein Projekt mit dem Ziel, besser zu verstehen, wie der Newsfeed-Algorithmus von Instagram Bilder und Videos in der Timeline von Nutzer·innen priorisiert. Freiwillige konnten dazu ein Browser-Add-on installieren, das ihre Instagram-Newsfeeds auslas und an unsere Datenbank sendete.

In den letzten 14 Monaten haben etwa 1.500 Freiwillige das Add-on installiert. Anhand ihrer Daten konnten wir Belege dafür finden, dass Instagram-Nutzer·innen dazu ermutigt werden, Bilder von sich mit viel nackter Haut zu posten, und dass Politiker·innen wahrscheinlich eine größere Reichweite erlangen, wenn sie in ihren Veröffentlichungen auf Text verzichten (Facebook bestreitet beide Ergebnisse).

Obwohl wir den Algorithmus von Instagram nicht in allen Details überprüfen konnten, gehört diese Untersuchung zu den bisher umfassendsten Studien, mit denen die Plattform überprüft wurden. Das Projekt wurde vom Europäischen Netzwerk für Datenjournalismus und von der niederländischen Stiftung SIDN unterstützt und in Zusammenarbeit mit Mediapart in Frankreich, NOS, Groene Amsterdammer und Pointer in den Niederlanden und der Süddeutschen Zeitung in Deutschland durchgeführt. Dutzende Publikationen in aller Welt haben darüber berichtet.

von Nicolas Kayser-Bril

Diese "teuflischen Fünf" dominieren weite Teile des Internets und unserer digitalen Welt. Potenziell können sich die IT-Konzerne mit ihren Datenschätzen in das Leben jeder Einzelperson und Bevölkerungsgruppe hineinzoomen. Doch keine Angst: Der Vortrag endet mit einem positiven Ausblick. Der Referent stellt Wege vor, wie man den Datenhunger der Unternehmen stillen kann.

Referent: Stefan Mey, Journalist, Berlin

Soziale Netzwerke wie TikTok, WhatsApp, Instagram, Clubhouse, YouTube, Facebook und Twitter bieten eine Plattform, um sich zu vernetzen, zu präsentieren und auszutauschen. Jedoch bestimmen die Plattformen nicht nur über die Sammlung, sondern auch die Bereitstellung von Daten. Ein Beispiel ist die Sperrung des Twitter-Accounts des ehemaligen US-Präsidenten Donald Trump. Bei Twitter und Co. wird das Spannungsverhältnis zwischen Meinungsfreiheit und einer Regulierung der sozialen Medien deutlich.

Welche Chancen und auch welche Gefahren bieten soziale Medien für die Wissenschaftskommunikation? Diese Frage steht beim zweiten Teil der Diskussionsreihe am 22. Juni im Fokus. Julia Wandt, Geschäftsbereich Kommunikation und Strategie der Universität Freiburg und Vorsitzende des Bundesverbands Hochschulkommunikation, die Rechtwissenschaftlerin Silja Vöneky und der Direktor des Freiburg Institute of Advanced Studies, Bernd Kortmann, erörtern dieses Thema.

Die Veranstaltungen werden vom Freiburg Institute of Advanced Studies (FRIAS), dem internationalen Forschungskolleg der Universität Freiburg, organisiert und finden online im Rahmen des Freiburger Wissenschaftsmarkts statt. Alle Teilnehmenden sind eingeladen, sich mit Fragen an den Diskussionen zu beteiligen.

Soziale Netzwerke wie TikTok, WhatsApp, Instagram, Clubhouse, YouTube, Facebook und Twitter bieten eine Plattform, um sich zu vernetzen, zu präsentieren und auszutauschen. Jedoch bestimmen die Plattformen nicht nur über die Sammlung, sondern auch die Bereitstellung von Daten. Ein Beispiel ist die Sperrung des Twitter-Accounts des ehemaligen US-Präsidenten Donald Trump. Bei Twitter und Co. wird das Spannungsverhältnis zwischen Meinungsfreiheit und einer Regulierung der sozialen Medien deutlich.

Wer entscheidet, was gepostet werden darf und wer haftet dafür? Übernehmen hier private Unternehmen die Rolle des Staates? Inwieweit werden Grundrechte durch soziale Medien infrage gestellt, oder gar ausgehebelt? „Hate speech“ ist kein Fremdwort im Netz – was zählt als freie Meinungsäußerung, was als strafbare Beleidigung? Diese Fragen diskutieren am 9. Juni der ehemalige Richter am Bundesverfassungsgericht Prof. Dr. Paul Kirchhof und Dr. Jan-Hinrik Schmidt, Forschender im Bereich digitale interaktive Medien und politische Kommunikation am Leibniz-Institut für Medienforschung | Hans-Bredow-Institut.

Als Experte für Informations- und Medienrecht wird er auch in seiner FiF Lecture Herausforderungen des Rechtsstaats durch die Digitalisierung thematisieren.

Als Experte für Informations- und Medienrecht wird er auch in seiner FiF Lecture Herausforderungen des Rechtsstaats durch die Digitalisierung, nicht zuletzt durch die global tätigen, als Oligopole handelnden Internetkonzerne wie Facebook und Google thematisieren. Sie beeinflussen die Zugänge zu und Inhalte von Informationen und verfügen über große wirtschaftliche und politische Macht. Sie steuern das Verhalten der Nutzer ihrer Dienste in vielerlei Hinsicht und prägen die Art der öffentlichen Kommunikation. Sie handeln nach ihren eigenen Regeln und unterliegen dabei nur begrenzt hoheitlich gesetztem Recht. Woran liegt das? Welche Möglichkeiten gibt es, die Freiheitlichkeit und Pluralität der Kommunikation und die Autonomie der Nutzer mit Hilfe des nationalen und transnationalen Rechts zu gewährleisten?

Wo: Wilhelm-Köhler-Saal (S1|03 Raum 283

Marc Rohlfing, Dozent, Bielefeld

Die Kommission möchte drei Hauptziele erreichen. Ziel eins: Der digitale Binnenmarkt muss vereinheitlicht werden. Denn bislang herrsche ein Wildwuchs an Vorschriften. Für Anbieter von neuen Diensten sei es oft leichter, in den USA zu starten als in einem anderen europäischen Land, klagt ein Kommissionsbeamter.

Zu dem Wildwuchs tragen das NetzDG in Deutschland oder das zuletzt vom französischen Verfassungsgericht wieder aufgehobene Avia-Gesetz gegen Hassrede bei. Beide Gesetz schaffen unterschiedliche und teils problematische Auflagen für den Umgang mit „illegalen Inhalten“. Statt nationalen Alleingängen möchte die Kommission einheitliche Verpflichtungen für Diensteanbieter sehen.

Ziel zwei ist die Schaffung eines Kontrollrahmens für derzeit übermächtig scheinende Plattformen. Ein Konzern wie Facebook mit seinen weltweit mehr als zwei Milliarden Nutzer:innen müsse einer europaweiten Aufsichtsstruktur unterworfen sein. Diese soll sicherstellen, dass die Plattformen ihre rechtlichen Verpflichtungen bei Datenschutz, Inhaltemoderation und anderen Fragen einhalten.

Die Kommission will aus der Datenschutzgrundverordnung lernen. Diese schuf einen einheitlichen EU-Rechtsrahmen, die Durchsetzung der Regeln blieb aber Angelegenheit der oft kümmerlich ausgestatteten nationalen Datenschutzbehörden. Die Kommission überlegt daher, eine neue Aufsichtsbehörde auf EU-Ebene ins Leben zu rufen und somit „eine Art Accountability-Framework“ zu schaffen, wie es ein Kommissionsbeamter ausdrückt.

Ziel drei ist die Sicherung des fairen Wettbewerbs. Neue Marktinstrumente sollen der Kommission die Möglichkeit geben, schon einzugreifen, bevor eine Plattform überhaupt eine marktdominante Stellung erobert. Bislang erlaubt das Wettbewerbsrecht erst dann ein Eingreifen, wenn die Plattform schon große Teile des Marktes beherrscht.

Künftig könnte eine sogenannte „ex-ante“-Regulierung erlauben, auf Basis einer Analyse der Ausgangslage Schritte gegen später möglicherweise problematische Situationen zu treffen. Als Beispiel nennt die Kommission die Digitalwährung Libra, die von Facebook mitgegründet wurde. In Frage kommen aber auch Übernahmen wie jene von WhatsApp oder Instagram. Eine Vorab-Regulierung würde in solchen Fällen verhindern, dass Facebook seine Marktmacht in einem Sektor dazu nutzt, sich in einem anderen einen uneinholbaren Startvorteil zu verschaffen.

von Alexander Fanta, Tomas Rudl

Doch erst seit Ende der 1990er Jahre erkennen wir zunehmend die Konturen eines genuin digitalen Kapitalismus, dessen Zentrum das kommerzielle Internet bildet. Digitale Leitunternehmen wie Google, Apple, Facebook oder Amazon übernehmen dabei eine Schlüsselposition für immer größere Teile der Ökonomie. Sie haben periodische Krisen des Kapitalismus nicht nur unbeschadet überstanden, sondern sind sogar an ihnen gewachsen. Zum jetzigen Zeitpunkt, wo die akute Krise der öffentlichen Gesundheit im Begriff ist sich in eine sozio-ökonomische Krise der Weltwirtschaft zu verwandeln, gilt es daher zu fragen: Was ist digitaler Kapitalismus? Wie hängen Digitalisierung und sozio-ökonomische Krisen zusammen? Und: Was können wir daraus über eine Welt nach Corona lernen?

Philipp Staab ist Professor für “Soziologie der Zukunft der Arbeit” an der Humboldt-Universität zu Berlin und am Einstein Center Digital Future (ECDF). Als Soziologe beschäftigt er sich mit den Themen Technik, Arbeit, politische Ökonomie und soziale Ungleichheit. In seinen Forschungen der letzten Jahre konzentrierte er sich auf die führenden Unternehmen des kommerziellen Internets wie Google, Amazon, Apple, Facebook, Alibaba und Tencent sowie auf verschiedene Startups in diesen Bereichen.

Die Veranstaltung findet auf Englisch statt.

Was aber sind die Konsequenzen einer fortgeschrittenen Symbiose von Währung und Digitalisierung für unser globalisiertes Wirtschaftsgefüge und für das internationale Zahlungssystem? Die dritte Nachtschicht widmet sich parallel zum 50. Weltwirtschaftsforum in Davos dem Schwerpunkt Geld und stellt Fragen von Sicherheit, Transparenz und der Verschiebung von Machtgefügen zur Debatte.

In diesem Vortrag wird Rasmus Kleis Nielsen die Geschichte der ersten zwanzig Jahre der Beziehungen zwischen Plattformen und Verlagen Revue passieren lassen, um die zugrunde liegenden Dynamiken zu identifizieren, die die Entwicklung unserer digitalen Gesellschaft geprägt haben und für die kommenden Jahre prägen werden. Seine zentrale These ist, dass nicht nur die Plattform-Technologien, sondern vor allem die Art und Weise, wie Verlage die großen Plattformen für ihre Zwecke genutzt haben, dazu beiträgt, dass sie selbst sowie wir zunehmend von zentralisierten Plattformen profitieren und abhängig sind.

Rasmus Kleis Nielsen ist Direktor am Reuters Institut für Journalismus Studien, Professor für politische Kommunikation an der University of Oxford und Chefredakteur der International Journal of Press/Politics. In seiner Forschung beschäftigt er sich vor allem mit Nachrichtenmedienorganisationen und deren laufenden Transformationen, sich ändernden Formen der Nutzung digitaler Medien in politischen und nachrichtenbezogenen Kontexten, politischer Kommunikation und Kampagnen. Er ist an einer Vielzahl von vergleichenden Forschungsprojekten zur Zukunftsforschung von Nachrichten, dem sich wandelnden Feld des Journalismus und dem Aufstieg der digitalen Medien beteiligt.

Die Veranstaltung ist auf Englisch und wird simultan auf Deutsch übersetzt.

Anfang 2016 startete der Fachverband IEEE (Institute of Electrical and Electronics Engineers) eine “globale Initiative zur Förderung der Ethik in der Technik”. Nach fast drei Jahren Arbeit und mehrfachen Runden des Austauschs mit Expert*innen zu diesem Thema erschien im vergangenen April die erste Ausgabe von Ethically Aligned Design, einer 300-seitigen Abhandlung über die Ethik automatisierter Systeme. (Die deutsche Übersetzung der Zusammenfassung finden Sie hier.)

Die im Bericht veröffentlichten allgemeinen Grundsätze legen den Schwerpunkt unter anderem auf Transparenz, Menschenrechte und Rechenschaftspflicht. Damit unterscheiden sie sich nicht wesentlich von den 83 anderen ethischen Richtlinien, die Forscherinnen und Forscher des Health Ethics and Policy Lab der ETH Zürich in einem Artikel in Nature Machine Intelligence im September veröffentlicht haben. Ein wesentlicher Aspekt unterscheidet IEEE jedoch von anderen Think-Tanks. Mit über 420.000 Mitgliedern ist sie die weltweit größte Ingenieurvereinigung und hat ihre Wurzeln tief im Silicon Valley. Vint Cerf, einer der Vizepräsidenten von Google, ist ein IEEE “Life Fellow”.

Da die IEEE-Prinzipien als “Schlüsselreferenz für die Arbeit von Technolog*innen” dienen sollen und viele Technolog*innen an ihrer Entwicklung beteiligt waren, wollten wir wissen, wie drei Technologieunternehmen, Facebook, Google und Twitter, diese umsetzen wollen.

Von Nicolas Kayser-Bril Ergänzende Recherche: Veronika Thiel

Im Global Governance Spotlight 2|2019 beleuchtet Dr. Matthias C. Kettemann Erfolge und Defizite bisheriger Normbildungsprozesse und Regulierungsbemühungen im Bereich sozialer Medien, insbesondere auf regionaler und globaler Ebene. Darauf aufbauend werden fünf Leitlinien benannt, die dazu beitragen könnten, die Defizite bisheriger Regulierungsversuche zu überwinden.

Kettemann, Matthias C. (2019): Internationale Regeln für Soziale Medien: Menschenrechte wahren und Desinformation bekämpfen. Global Governance Spotlight 2|2019.

1. Community Standards

2. Proaktiv schädliche Inhalte identifizieren

3. Grenzwertige Inhalte abschrecken

4. Nutzern Kontrolle geben und mehr Inhalte zulassen

5. Algorithmischen Bias angehen

6. Ein Berufungsverfahren aufbauen

7. Unabhängige Governance und Aufsicht

8. Transparenz herstellen und Forschung ermöglichen

9. Zusammenarbeit bei der Regulierung

...