When scholars sprint, bad algorithms are on the run
Der erste Research Sprint des von der Mercator-Stiftung finanzierten Projekts zur „Ethik der Digitalisierung“hat die Ziellinie erreicht. Dreizehn internationale Fellows beschäftigten sich mit den Herausforderungen, die mit dem Einsatz von KI in der Moderation von Online-Inhalten einhergehen. Nach zehn intensiven Wochen interdisziplinärer Forschung geben wir einen Überblick über die zentralen Ergebnisse.
Als Reaktion auf den zunehmenden öffentlichen Druck, gegen Hassreden und andere problematische Inhalte vorzugehen, haben sich Plattformunternehmen algorithmischen Systemen zur Inhaltsmoderation zugewandt. Diese automatisierten Tools versprechen, effektiver und effizienter bei der Identifizierung von potenziell illegalen oder unerwünschten Inhalten zu sein. Algorithmische Inhaltsmoderation wirft aber auch viele Fragen auf, die sich alle einer einfachen Antwort entziehen. Wo ist die Grenze zwischen Hassrede und freier Meinungsäußerung - und wie kann man dies auf globaler Ebene automatisieren? Sollten Plattformen den Einsatz von KI-Tools für illegale Online-Sprache, wie z. B. Terrorismusförderung, skalieren oder auch für die reguläre Inhaltskontrolle? Gehen die Algorithmen der Plattformen zu sehr gegen zulässige Beiträge vor oder scheitern sie eher daran, hasserfüllte Inhalte auf ihren Seiten zu begrenzen? Und wie können politische Entscheidungsträger ein angemessenes Maß an Transparenz und Rechenschaftspflicht in den algorithmischen Inhaltsmoderationsprozessen der Plattformen sicherstellen?