Hate Speech

Hate Speech ist Alltag, egal ob auf der Straße, im Parlament oder im Netz. Menschen werden beleidigt, entwürdigt und man ruft zu Gewalt auf. Die Folgen sind unübersehbar: Der Mord am Kasseler Regierungspräsidenten Walter Lübcke, der Anschlag auf eine Synagoge in Halle und der neunfache Mord in Hanau – diese Taten wurden auch durch Hate Speech befeuert.

Hassrede wird als sprachliches Verfahren zum Ausdruck von Herabsetzung und Verunglimpfung bestimmter Bevölkerungsgruppen aufgefasst. Zunächst werden die Begriffe „Hass“ und „Hetze“ bestimmt. Nach einer Erläuterung von allgemeinen Eigenschaften der Hassrede werden dann spezifische sprachliche Eigenschaften der Hassrede skizziert. Zwar muss bei einer Hassrede nicht notwendig auch die Emotion des Hasses bei dem Hassredner oder der Hassrednerin vorliegen, doch muss es sprachliche oder kontextuelle Indikatoren dafür geben, dass eine Rede als Hassrede identifiziert werden kann. Im Einzelnen werden phonologische, morphologische, syntaktische, semantische und pragmatische Indikatoren der Hassrede behandelt. Hassrede ist unter anderem mit moralischen (ethischen), juristischen und politischen Problemen verbunden. Diese zeigen sich besonders auch beim Phänomen der Hassrede in der computervermittelten Kommunikation.

Das Phänomen der „Hassrede“ oder der „Hate Speech“ wirft aus grundrechtlicher Perspektive Fragen des Verhältnisses zwischen der Gewährleistung des Rechts auf freie Meinungsäußerung des/der Einzelnen einerseits und dem Schutz demokratischer Grundwerte andererseits auf. Staaten, die gegen „Hassredner*innen“ vorgehen möchten, treffen in diesen Fällen unterschiedliche Pflichten, die nicht ohne Weiteres miteinander in Einklang zu bringen sind. Der Staat hat die Pflicht die Freiheit der Meinungsäußerung möglichst umfassend zu gewährleisten; gleichzeitig ist dies auch im Sinne der Allgemeinheit, weil das Grundrecht der Meinungsfreiheit eine hohe Bedeutung für die demokratische Willensbildung hat. Der Staat ist allerdings auch angehalten, die Einhaltung fundamentaler demokratischer Werte und Prinzipien wie Gleichheit, Diskriminierungsfreiheit, Pluralismus und Toleranz zu sichern und Menschen davor zu schützen, Opfer von „Hassreden“ zu werden. Der grundrechtsgebundene Staat wird dabei regelmäßig vor ein Dilemma gestellt, dessen Auflösung im Rahmen der Grundrechtsordnung herausfordernd ist. Eine Grundrechtsgarantie weist einen Schutzbereich auf, dessen Betroffenheit zunächst einmal nur zur Folge hat, dass eine staatliche Handlung (ein Äußerungsverbot zum Beispiel) am Maßstab des Grundrechts zu messen ist. Im Fall eines nicht absolut gewährleisteten Grundrechts wie der Meinungsfreiheit kann ein Eingriff in diesen Schutzbereich aber gerechtfertigt sein. Aus diesem Grund ist das Spannungsverhältnis nach Auffassung dieses Beitrags im Sinne eines möglichst umfassenden Menschenrechtsschutzes bei gleichzeitiger Gewährleistung demokratischer Grundwerte im Wege der Prüfung der Rechtfertigung eines Eingriffs in die Meinungsäußerungsfreiheit im Einzelfall aufzulösen.

Andreas Zick hat in Bochum Psychologie studiert, wurde in Marburg mit seiner Arbeit über „Vorurteile und Rassismus – eine sozialpsychologische Analyse“ promoviert und habilitierte an der Martin-Luther-Universität Halle-Wittenberg unter dem Titel „Sozialpsychologie der Akkulturation – Neufassung eines Forschungsbereiches“.

Online-Medien sind selbstverständlicher Teil unserer Lebenswelt und bieten ein ideales Umfeld für die Verbreitung von Hate Speech. Hate Speech schadet dem Wohlbefinden der Angegriffenen und kann zu Radikalisierungsprozessen beitragen. Hate Speech ist kultur- und ideologieübergreifend zu finden. Ein substanzieller Teil der in Deutschland lebenden Personen hat bereits Hate Speech beobachtet, vor allem Angriffe auf benachteiligte Gruppen, aber auch auf Politiker*innen oder Journalist*innen. Hate Speech wird in Deutschland sowohl durch organisierte Gruppen und vor allem aus dem rechten Spektrum, aber auch durch einflussreiche Akteur*innen wie Politiker*innen und Individuen mit verschiedenen Motivlagen verbreitet. Entsprechend vielfältig müssen Maßnahmen zur Förderung demokratischer Resilienz gegen Hate Speech sein. Insbesondere müssen soziale Normen durch gesetzliche Vorgaben, aber auch durch konkretes Verhalten von Moderator*innen und anderen User*innen gestärkt werden. Auch die Förderung individueller Empathiefähigkeit könnte helfen. Repressionen von Inhalten sind gegen das Recht auf Meinungsäußerung abzuwägen und bergen das Risiko, zu einem Verfolgungserleben beizutragen. Studien zu zivilgesellschaftlichem Engagement machen Hoffnung auf ein besseres Miteinander, auch in digitalen Medien.

Mit dem Erstarken rechtspopulistischer Parteien in Europa und Deutschland wird wiederholt eine gesellschaftliche Spaltung diagnostiziert. Offene und geschlossene Gesellschaftsideen kämpfen um Hegemonien im Diskurs und letztendlich politische Macht. Damit verbunden ist oft der Aspekt einer gegenseitigen Sprachlosigkeit. Auf beiden Seiten wird diskutiert, ob mit der jeweils anderen Seite überhaupt noch ein Gespräch oder Diskurs möglich erscheinen könnte. Diesen Aspekt greift der Beitrag auf und fragt: Kann man mit Rechten überhaupt reden und ist das sinnvoll? Dazu werden die eigenen normativen Grundlagen geklärt und verschiedene Optionen des Dialogs und Gesprächs in Hinblick auf ihre Sinnhaftigkeit, aber auch auf mögliche Argumente für und wider des jeweiligen Formats diskutiert.

Die Idee des Integrationsparadoxes basiert darauf, dass in offenen Gesellschaften ein erhöhtes und neues Konfliktpotenzial beobachtet werden kann, das sich beispielsweise in Phänomenen wie Hate Speech, neu aufkommendem Populismus, Radikalisierung, emotional geführten Diskursen, Identitätspolitik und Cancel Culture äußert.

Mit dem Aufkommen des Web 2.0 erlebt der Begriff Hate Speech eine ungeahnte Renaissance, die sich allzu oft in der Debatte um „Hass im Netz“ erschöpft. Es wäre jedoch verfehlt anzunehmen, dass Hate Speech keinen Zugang zu Massenmedien bekommt und allein eine Dysfunktion sozialer Medien darstellt. In der massenmedialen Kommunikation nimmt Hate Speech die Gestalt einer Streitfrage an. Journalist*innen werden hierbei oft zu unfreiwilligen Helfer*innen, indem sie dazu beitragen, derartige Streitfragen aufzuwerfen oder von anderen aufzugreifen und sie so auf die Agenda zu setzen, wodurch diese als „Themen“ zum Gegenstand öffentlicher Sorge werden. Anhand des Agenda Building-Ansatzes versucht dieser Aufsatz die Fragen zu beantworten, a) wie Hate Speech als Streitfrage identifiziert werden kann; b) welche Faktoren dazu führen, dass Hate Speech in die Massenmedien eindringt und c) welche Folgen dies zeitigt bzw. welche Auswege möglich sind, um sich von der Rolle der unfreiwilligen Helfer*innen zu emanzipieren.

Der Beitrag fragt nach Erfahrungen mit Angriffen durch Rezipient*innen, denen Journalist*innen in ihrem Berufsalltag ausgesetzt sind, den damit einhergehenden Belastungen und welche Bewältigungsstrategien zum Einsatz kommen. Die entsprechenden Analysen basieren auf einer Online-Umfrage unter Medienschaffenden aus dem Jahr 2016, die entweder Mitglied im Deutschen Journalistenverband oder in der Deutschen Journalistinnen- und Journalisten-Union sind.

Übergreifend erweisen sich berufliche Kennzeichen als die entscheidenden Risikofaktoren, sowohl was die Konfrontation mit Publikumsangriffen als auch das Ausmaß von Belastungen und Beeinträchtigungen der Berufsausübung betrifft. Soziodemografische Merkmale hingegen nehmen kaum einen Einfluss. So birgt zum einen insbesondere die Häufigkeit des Publikumskontakts und Außenreports erhebliches Potenzial, Opfer von Angriffen zu werden, zum anderen werten Journalist*innen ihre Beitragsinhalte als wesentliches Angriffsmotiv von Rezipient*innen. In ihrer Betroffenheit wenden sich die Befragten vor allem an das private Umfeld oder Kollegium, wobei mehrfach Betroffene Angriffe deutlich häufiger ignorieren oder auf technische Hilfsmittel zurückgreifen, um diese abzuwehren.

Die Kommentarfunktion könnte ein idealer Weg sein, mehr (Meinungs-)Vielfalt im digitalen Journalismus abzubilden. Jedoch wird das Feature in Wissenschaft und Medienpraxis äußerst kontrovers diskutiert. Insbesondere geht es darum, wie die Möglichkeit, sich öffentlich zu äußern, missbraucht wird und problematische Meinungen in Kommentarspalten ein Podium finden. In diesem Beitrag werfen wir einen Blick hinter die Kulissen: Wie gehen Nachrichtenorganisationen mit Kommentaren von Nutzer*innen um und was weiß die Forschung bisher über verschiedene Moderationsstrategien? Wir gehen auch darauf ein, wie Nutzer*innen in Moderationsprozesse integriert werden und zivilgesellschaftliche Akteur*innen Nachrichtenorganisationen unterstützen können, gegen problematische Kommentare vorzugehen. Dabei arbeiten wir heraus, dass mehrere Faktoren berücksichtigt werden müssen, um eine passgenaue Moderationsstrategie zu finden, und zeigen auf, was die Forschung zukünftig genauer unter die Lupe nehmen sollte. Denn Kommentarmoderation ist eine wesentliche Größe, von der abhängen kann, ob eine „Audience Engagement“-Strategie schließlich aufgeht oder Hass in Kommentarspalten überhandnimmt.

Alexander Urban von 2017 bis Oktober 2020 ehrenamtlicher Administrator der Facebookgruppe von #ichbinhier.

Der Beitrag bietet einen Überblick über die Entwicklung und Durchsetzung von Regeln gegen Hate Speech auf den digitalen Kommunikations-Plattformen Facebook, YouTube und Twitter. Es wird gezeigt, dass ein konsequenteres Vorgehen gegen Hate Speech auf den Plattformen meist nur auf öffentlichen Druck hin erfolgte. Die Moderation von Inhalten auf den Plattformen ist hochgradig intransparent. Auch hier hat erst öffentlicher Druck dafür gesorgt, dass die Unternehmen Einblicke in Prozesse und Umfang der Moderation geben. Der Beitrag problematisiert diese Entwicklungen und diskutiert mögliche Lösungsansätze. Dazu gehören Möglichkeiten institutionalisierter Selbst-Regulierung sowie demokratisch legitimierter Fremd-Regulierung.

„Hassrede“ ist bereits seit Jahrzehnten und Jahrhunderten Teil der Gesellschaft; auch im Internet sind solche Stimmen seit dem Beginn der öffentlichen Nutzung präsent. Durch den zunehmenden Wandel zum interaktiven Internet – oder auch Web 2.0 – hat sich diese Präsenz jedoch verstärkt und wird zusätzlich durch den Deckmantel der Anonymität genährt. Soziale Netzwerke, aber auch Medienhäuser stehen zunehmend unter dem Druck, Nutzer*innen eine offene Dis- kussionsplattform zu bieten, diese jedoch gleichzeitig von problematischen Inhalten frei zu halten und so rechtliche Konsequenzen abzuwehren. Vielfach beugen sich Anbieter*innen dem ökonomischen Druck und deaktivieren solche Diskussionsorte, da diese oftmals mit menschlicher Moderation kaum wirtschaftlich zu betreiben sind. Zur Entlastung der menschlichen Moderator*innen bedienen sich Praktiker*innen und Wissenschaftler*innen der Werkzeuge der sich rasch entwickelnden Domänen des Machine Learning und des Natural Language Processing. Basierend auf dort entwickelten Algorithmen und Methoden wird versucht, Lösungen zu entwickeln, welche teilautomatisiert problematische Texte identifizieren können. Damit gehen diverse Probleme einher, welche von der Erstellung geeigneter Lerndaten über die Auswahl passender Algorithmen bis hin zu der wirtschaftlichen Bereitstellung einer solchen Lösung reichen. Zwar ist dieser Forschungsbereich noch recht jung, dennoch gibt es bereits vielversprechende Forschungsergebnisse inklusive neuartiger, digitaler Geschäftsmodelle, die die verfügbaren Erkenntnisse einer breiten Masse von Medienunternehmen zugänglich machen sollen.

Wie lässt sich Hassrede durch rechtliche Regulierung eindämmen? Diese Frage wurde in der Öffentlichkeit schon häufig diskutiert. Der Gesetzgeber hat auf die zunehmende Verbreitung von Hassrede in sozialen Netzwerken reagiert, indem das Netzwerkdurchsetzungsgesetz (NetzDG) verabschiedet wurde. Aufgabe des NetzDG ist es nicht, den Nutzer*innen, die sich Hassrede bedienen, einer Strafe zuzuführen. Vielmehr reguliert es nur die Pflichten der Netzwerkbetreiber*innen, diese Inhalte zu überprüfen und gegebenenfalls von der Plattform zu löschen. Der Beitrag skizziert Entstehung und Inhalt des Gesetzes und diskutiert die zentralen Kritikpunkte daran.

David Kaye, Clinical Professor for Law an der University of California, Irvine, und ehem. UN-Sonderberichterstatter zum Schutz des Rechts auf freie Meinungsäußerung spricht im Interview über die Schwierigkeiten der Definition von Hate Speech und skizziert Ideen, welche regulatorischen Maßnahmen bei der Eindämmung helfen könnten.