Hass im Netz

Forscher entwickeln Programm zur Erkennung von Hassbotschaften

Seit dem 1. Januar gilt in Deutschland das Netzwerkdurchsetzungsgesetz. Nun haben Forscher ein Programm entwickelt, das Hassbotschaften in deutscher Sprache auf Twitter ermitteln kann.

23
02
2018
Twitter
Twitter © west.m @ flickr.com (CC 2.0), bearb. by iQ.

Forscher der Universitäten Antwerpen und Hildesheim haben ein Programm entwickelt, das Hassbotschaften in deutscher Sprache auf Twitter aufspüren kann. Die Software entstand im vergangenen Jahr als Teil eines Projektes, bei dem die politische Kommunikation vor der Bundestagswahl untersucht wurde, wie die Universität Hildesheim am Donnerstag mitteilte.

Dazu analysierten der Antwerpener Sprachtechnologe Tom De Smedt und die Hildesheimer Medienlinguistin Sylvia Jaki Polit-Talkshows und Kommentare in sozialen Medien. „Um ein besseres Verständnis zu gewinnen, wie politisch motivierte Hassbotschaften in den sozialen Medien aussehen, berücksichtigen wir auch nonverbale Elemente wie Bilder oder Emojis“, erklärte Jaki das Programm. Es spüre hetzerische Wörter und Wortkombinationen in Tweets in Echtzeit auf.

Laut De Smedt kann die Software auch damit umgehen, dass sich die Sprache des Hasses verändert. In Tests habe das Programm eine Trefferquote von 80 Prozent erreicht. Die Ergebnisse hätten ergeben, dass sich deutsche Hasskommentare häufig gegen afrikanische Flüchtlinge, Muslime und Juden richteten, aber auch gegen andere Bevölkerungsgruppen wie Obdachlose oder Frauen.

Künftig könnten sich die Forscher eine Zusammenarbeit mit deutschen Behörden vorstellen, so De Smedt. „Aber wir müssen gleichzeitig auch vorsichtig sein, wie wir als Gesellschaft solche Technologien nutzen. Die EU verfügt über keine rechtsgültige Definition, was genau unter Hate Speech zu verstehen ist.“

Inhalte, die als Hassbotschaften gelten können, müssen Soziale Medien seit Oktober innerhalb eines Tages entfernen. Das fordert das neue Netzwerkdurchsetzungsgesetz (NetzDG). (KNA, iQ)

© west.m @ flickr.com (CC 2.0), bearb. by iQ.

Leserkommentare

Kritika sagt:
L.S. Sprache nach vorgegebene Kriterien zu durchsuchen ist keine Forschungsaufgabe. Für jeden Jeden UniAbsolvent in Informatik ist es eine standard- IngenieursAgabe. Aber das nur nebenbei. Kritika würde brennend interessieren, ob über das Hass-Tiraden-Erkennungs-Programm schon - als Feuertaufe - über den heiligen Koran gelaufen ist. Hat es die Stellen gefunden, mit - - - und tötet sie, woimmer ihr sie findet und die Versen mit denen, - - - diese sind bei Allah schlimmer als das Vieh? Und hat der 'HassDetektor' die unzähligen Suren und Versen gefunden, die dankenswerterweise Frau Ute Fabel gelegentlich auffallen, und welche die "Friedfertigkeit" des Islam untermauern und welche hilfreich sind, das Markenzeichen des Islam « Selbstmmord Terror » zu erklären? Und Kann das Programm auch beanstandete Ausdrücke selber zurecht rücken? Könnte es zB ein heiliges Buch so keuschen, dass auch Kritiker, ja sogar Feinde des Islam beim Lesen des Koran kein Haar mehr in der Suppe finden? - - Das sogar Islamiqs Netiquette Vorschiften erfüllt würden? Kritika würde gerne mehr darüber lesen. Gruss, Kritika
23.02.18
20:50
Ute Fabel sagt:
Bei diesen gegen "Ungläubige" gerichteten Hassbotschaften schlägt diese Software hoffentlich auch an: Sure 9-5: „Sind aber die heiligen Monate verflossen, so erschlaget die Götzendiener, wo ihr sie findet, und packet sie und belagert sie und lauert ihnen in jedem Hinterhalt auf.“ Sure 4-56: „Wer da Unsere Zeichen verleugnet, den werden Wir im Feuer brennen lassen. Sooft ihre Haut gar ist, geben Wir ihnen eine andere Haut, damit sie die Strafe schmecken.“ Sure 8-12: „In die Herzen der Ungläubigen werfe Ich Schrecken. So haut ein auf ihre Hälse und haut ihnen jeden Finger ab.“ Sure 22-19ff: „Für die Ungläubigen sind Kleider aus Feuer geschnitten, gegossen wird siedendes Wasser über ihre Häupter, das ihre Eingeweide und ihre Haut schmilzt, und eiserne Keulen sind für sie bestimmt.“ Wie gesagt, das ist nur ein kleiner Teil der Freundlichkeiten, die der Koran für uns Ungläubige vorgesehen hat.  
26.02.18
12:46