Künstliche Intelligenz meldet Hass im Internet automatisch
Eine in #deutschland entwickelte KI kann automatisch #illegale Äußerungen im #internet erkennen und an eine öffentliche Meldestelle senden.
Darmstadt (Deutschland). Im Internet kommt es oft zu Beleidigungen, Volksverhetzung, #hatespeech und Gewaltandrohungen. Eine Studie des Potsdam-Instituts für Klimafolgenforschung (PIK) zeigte kürzlich, dass diese unerwünschten und oft illegalen #hasskommentare bei hohen Temperaturen zunehmen. Forscher der Hochschule Darmstadt (h_da) haben deshalb die #künstliche #intelligenz (KI) BoTox (Bot- und Kontexterkennung im Umfeld von Hasskommentaren) entwickelt, die Hatespeech automatisch erkennen und #melden kann.

Laut der Computerlinguistin Melanie Siegel werden die illegalen Äußerungen durch die KI nicht nur erkannt, sondern auch an die Meldestelle HessenGegenHetze weitergeleitet, damit die Behörde die entsprechenden rechtlichen Maßnahmen einleiten kann. Die KI #botox kann zudem unterscheiden, ob die strafrechtlich relevanten Hasskommentare von einem Menschen oder einem #bot stammen, obwohl dies ein großes Problem darstellt, weil diese Systeme zunehmend menschlicher schreiben können.

Ein Großteil der Hasskommentare bezieht sich jedoch ohnehin auf Themen wie Ausländerfeindlichkeit, Diskriminierung von Minderheiten, Antisemitismus und Migration. Um die Kommentare einzustufen, haben drei studentische Hilfskräfte diese in hinzunehmende Beleidigung und strafrechtlich relevante Äußerung unterteilt. Anschließend konnte die KI auf Basis dieser Trainingsdaten mit hoher Genauigkeit selbst entscheiden, welcher Typ von Kommentar vorliegt.
https://www.forschung-und-wiss....en.de/nachrichten/te