Hassrede im Internet ist für viele Menschen Teil des digitalen Alltags geworden. Sie begegnet uns in Kommentarspalten sozialer Medien – mal ganz offen, mal versteckt hinter Emojis, Zahlenkombinationen und sogenannten Dog Whistles. Doch was genau ist Hate Speech? Warum ist ihre Erkennung so schwierig? Und welche Rolle kann Künstliche Intelligenz dabei spielen, Online-Communitys zu schützen?

In dieser Folge sprechen wir darüber, wie Community-Manager:innen mit Hassrede umgehen, warum Kontext bei der Bewertung von Sprache entscheidend ist und weshalb automatisierte Moderation trotz großer Fortschritte noch an ihre Grenzen stößt. Zudem geht es um die Dynamiken sozialer Plattformen, die Verbreitung von Hass durch Algorithmen und die Frage, wie KI-Systeme Menschen bei der Content Moderation sinnvoll unterstützen können, ohne dabei wichtige Stimmen zu unterdrücken.

+++

Daniel Brockmeier betreut als Community- und Social-Media-Manager diverse Online-Communitys. Die Moderation von Hate Speech und Shitstorms gehört zu seiner täglichen Arbeit. In seinem Philosophie-Podcast "Privatsprache" beschäftigt Daniel sich ebenfalls mit KI-Themen.

Sina Zarrieß erforscht als Professorin für Computerlinguistik an der Universität Bielefeld Methoden des maschinellen Lernens zur Analyse von Sprache. Sie ist Principal Investigator im Projekt "Sail", in dem es um nachhaltige intelligente soziotechnische Systeme geht, sowie im SFB 1646 "Sprachliche Kreativität in der Kommunikation".

+++

Linkliste

+++

Habt ihr Fragen, Ideen, Impulse oder Feedback? Bringt euch ein, wir freuen uns!

+++

"Autonomie und Algorithmen: Freiheit im Zeitalter von KI" ist eine Gemeinschaftsproduktion.
Konzeption und Produktion: Christiane Attig, Lena Ackermann und Benjamin Paaßen.

Redaktionelle Unterstützung: Ingrid Rogalski.

Postproduktion: Ingrid Rogalski und Lena Ackermann.

Musik: Almut Schwacke.

Grafikdesign: Sven Sedivy.

Dieser Podcast wird gefördert vom Bundesministerium für Bildung und Forschung im Rahmen des Projekts KI-Akademie OWL.