KI hält Schach-Diskussionen oft für Rassimus
Internet-Diskussionen über Schach kommen Künstlicher Intelligenz (KI) oft rassistisch vor. Sprachanalyse-Tools halten Begriffe wie „Schwarz gegen Weiß“ für Hasskommentare, was auf Plattformen wie YouTube sogar zu einer Verbannung führen kann. Zu diesem Ergebnis kommt eine Studie der Carnegie Mellon University.
26.02.2021
„Kontext ist Problem“
„Eines der größten Probleme von KI ist der Kontext. Diskussionen sind für Algorithmen viel komplexer als für Menschen. Sie können Schlüsselwörter für Hassrede erkennen, aber den Hintergrund bei ihrer Verwendung nicht. KI braucht Unmengen an Daten, um diese Herausforderung zu meistern. Deswegen dürfen wir einem Computer auch noch keine komplexen Entscheidungen, wie beispielsweise über den Anspruch auf Sozialhilfe, überlassen“, erklärt Zukunftsforscher Gerd Leonhard im pressetext-Interview.
Die Forscher haben für die Studie als Fallbeispiel den YouTube-Kanal „agadmator's Chess Channel“ verwendet, der im Juni für 24 Stunden aufgrund von scheinbar schädlichen Inhalten gesperrt wurde. Der Kanal beschäftigt sich lediglich mit Schach und YouTube hat den Bann nicht erklärt. Um herauszufinden, welche Inhalte die KI als schädlich einstuft, haben die Wissenschaftler mit einem eigenen Hassrede-Algorithmus mehr als 680.000 Kommentare bei fünf Schach-Kanälen analysiert.
KI liegt meist falsch
Insgesamt 1.000 vermeintliche Hass-Kommentare haben die Studienautoren als Stichprobe verwendet. Dabei stellte sich heraus, dass die KI in 82 Prozent der Fälle mit ihren Einschätzungen falsch lag. Die YouTube-Postings enthielten keine Hassrede. Das liege daran, dass der Algorithmus Wörter wie „Schwarz“, „Weiß“, „Angriff“ oder „Bedrohung“ automatisch als Anzeichen für Rassismus und schädliche Inhalte sieht.
