Erstellt am: 14. 3. 2017 - 13:26 Uhr
Bots auf Trolljagd
In immer mehr Anwendungsbereichen werden Künstliche Neuronale Netze eingesetzt, also Computer und Software, die die Funktionsweise der Neuronen des menschlichen Gehirns nachbilden. Solche KNN können etwas, das herkömmliche Software nicht kann: Lernen. Die selbstfahrenden Autos von Google haben durch Autofahren und Beobachtung immer besser Autofahren gelernt. Die Übesetzungsmaschine Google Translate lernt immer besser zu übersetzen, je öfter sie im Internet mehrsprachige Texte vergleicht und analysiert. Seit kurzem wirkt sich dieser Bereich der Neuroinformatik auch auf die Moderation von Userforen im Internet aus: KNN gehen auf Jagd nach Tollen.
„Menschliche Moderatoren müssen täglich ein paar Stunden schlafen“, sagt Çiler Ay Tek, Entwicklerin von Smart Moderation, „aber das Internet schläft nie.“ Für jemanden mit vielen Social-Media-Kontakten kann es eine Unmöglichkeit darstellen, Trolle selbständig im Zaum zu halten. Als Beispiel nennt sie Justin Bieber: der hatte 70 Millionen Instagram-Follower, voriges Jahr aber löschte er seinen Account - frustriert von zu vielen Hasskommentaren.
Smart Moderation
Noch unmöglicher ist die Aufgabe für Moderatoren von Userforen. Die Oldschool-Methode der Automatisierung? Eine Blackliste mit Keywords, die automatisch gefiltert werden. Das sei aber nicht sehr effektiv, sagt Çiler Ay Tek: „Nehmen wir an, du setzt das Wort fuck auf deine Blacklist. Was geschieht, wenn jemand postet you’re fucking great oder you’re a fucking beautiful woman? Eine Blacklist mit Keywords funktioniert nicht.”
Stattdessen haben Çiler Ay Tek und Mete Aktaş also ein Künstliches Neuronales Netz entwickelt, das auf Machine Learning menschlicher Sprache in Userkommentaren spezialisiert ist. Die App, die dabei herausgekommen ist, gibt es für Privatanwender und Firmen, und sie moderiert Kommentare auf Instagram, Facebook und Youtube. Wordpress soll demnächst dazukommen. Pro Plattform und Monat kostet Smart Moderation rund 50 Euro.
„Unsere Künstliche Intelligenz analysiert und denkt wie ein Mensch“, sagt Ay Tek. „Je mehr Kommentare sie liest, umso mehr lernt sie.“ Und sie arbeitet schnell: „Ein menschlicher Moderator reagiert im Durchschnitt innerhalb von 20 bis 30 Minuten. Smart Moderation reagiert innerhalb einer Minute.“
Über ein Interface für profesionelle Anwender und Firmen kann Smart Moderation in jede Website oder Plattform eingebunden werden. Es stellt sich die Frage, wie unsere Kommunikations-Kultur beeinflusst wird, wenn Künstliche Neuronale Netze unsere Diskussionen im Internet moderieren. Wer bestimmt die Regeln des Zensur-Algorithmus? Und wieviel Einfluss hat der Mensch, wenn die K.I. über die Fähigkeit zu lernen verfügt und sich ihr Sprachverständnis selbständig weiterentwickelt? Das Faszinierende und zugleich Beunruhigende ist, dass der Mensch ein Künstliches Neuronales Netzwerk, das Sprache versteht, Auto fährt oder den Go-Weltmeister besiegt, zwar bauen, aber dessen einzelne Entscheidungsprozesse nicht mehr nachvollziehen kann.