Standort: fm4.ORF.at / Meldung: "Bots auf Trolljagd"

Burstup

Physische Welt, virtuelle Realität. Politik und Kultur.

14. 3. 2017 - 13:26

Bots auf Trolljagd

Künstliche Intelligenz lernt, menschliche Sprache immer besser zu verstehen. Das wird auch bereits zur Moderation von Userforen benützt.

In immer mehr Anwendungsbereichen werden Künstliche Neuronale Netze eingesetzt, also Computer und Software, die die Funktionsweise der Neuronen des menschlichen Gehirns nachbilden. Solche KNN können etwas, das herkömmliche Software nicht kann: Lernen. Die selbstfahrenden Autos von Google haben durch Autofahren und Beobachtung immer besser Autofahren gelernt. Die Übesetzungsmaschine Google Translate lernt immer besser zu übersetzen, je öfter sie im Internet mehrsprachige Texte vergleicht und analysiert. Seit kurzem wirkt sich dieser Bereich der Neuroinformatik auch auf die Moderation von Userforen im Internet aus: KNN gehen auf Jagd nach Tollen.

„Menschliche Moderatoren müssen täglich ein paar Stunden schlafen“, sagt Çiler Ay Tek, Entwicklerin von Smart Moderation, „aber das Internet schläft nie.“ Für jemanden mit vielen Social-Media-Kontakten kann es eine Unmöglichkeit darstellen, Trolle selbständig im Zaum zu halten. Als Beispiel nennt sie Justin Bieber: der hatte 70 Millionen Instagram-Follower, voriges Jahr aber löschte er seinen Account - frustriert von zu vielen Hasskommentaren.

Çiler Ay Tek

Smart Moderation

Çiler Ay Tek

Noch unmöglicher ist die Aufgabe für Moderatoren von Userforen. Die Oldschool-Methode der Automatisierung? Eine Blackliste mit Keywords, die automatisch gefiltert werden. Das sei aber nicht sehr effektiv, sagt Çiler Ay Tek: „Nehmen wir an, du setzt das Wort fuck auf deine Blacklist. Was geschieht, wenn jemand postet you’re fucking great oder you’re a fucking beautiful woman? Eine Blacklist mit Keywords funktioniert nicht.”

Stattdessen haben Çiler Ay Tek und Mete Aktaş also ein Künstliches Neuronales Netz entwickelt, das auf Machine Learning menschlicher Sprache in Userkommentaren spezialisiert ist. Die App, die dabei herausgekommen ist, gibt es für Privatanwender und Firmen, und sie moderiert Kommentare auf Instagram, Facebook und Youtube. Wordpress soll demnächst dazukommen. Pro Plattform und Monat kostet Smart Moderation rund 50 Euro.

„Unsere Künstliche Intelligenz analysiert und denkt wie ein Mensch“, sagt Ay Tek. „Je mehr Kommentare sie liest, umso mehr lernt sie.“ Und sie arbeitet schnell: „Ein menschlicher Moderator reagiert im Durchschnitt innerhalb von 20 bis 30 Minuten. Smart Moderation reagiert innerhalb einer Minute.“

Über ein Interface für profesionelle Anwender und Firmen kann Smart Moderation in jede Website oder Plattform eingebunden werden. Es stellt sich die Frage, wie unsere Kommunikations-Kultur beeinflusst wird, wenn Künstliche Neuronale Netze unsere Diskussionen im Internet moderieren. Wer bestimmt die Regeln des Zensur-Algorithmus? Und wieviel Einfluss hat der Mensch, wenn die K.I. über die Fähigkeit zu lernen verfügt und sich ihr Sprachverständnis selbständig weiterentwickelt? Das Faszinierende und zugleich Beunruhigende ist, dass der Mensch ein Künstliches Neuronales Netzwerk, das Sprache versteht, Auto fährt oder den Go-Weltmeister besiegt, zwar bauen, aber dessen einzelne Entscheidungsprozesse nicht mehr nachvollziehen kann.

Haftungsausschluss

Die ORF.at-Foren sind allgemein zugängliche, offene und demokratische Diskursplattformen. Die Redaktion übernimmt keinerlei Verantwortung für den Inhalt der Beiträge. Wir behalten uns aber vor, Werbung, krass unsachliche, rechtswidrige oder beleidigende Beiträge zu löschen und nötigenfalls User aus der Debatte auszuschließen. Es gelten die Registrierungsbedingungen.

Forum

Zum Eingabeformular Kommentieren

  • spok | vor 192 Tagen, 22 Stunden, 47 Minuten

    Würde "chillamalheast" vom Bot als "Troll" eingestuft, oder gibt es die eigene Kategorie "Spammer"?

    Auf dieses Posting antworten
    • chillamalheast | vor 192 Tagen, 19 Stunden, 54 Minuten

      sagt der rechte schnösel der türken wegen ihrem kopftuch hetzt.
      eine person MUSS sich das durchlesen da man die subjektivität der zensur durchlesen kann haha genau darum gehts übrigens.
      btw dieses thema hier wurde übrigens vom alien-queen- obertroll(mir) schon dutzendemal vor monaten bei brodnig undco vorgepostet

      "
      du kannst zb schreiben
      1 " shit this is good" und das framework klassifizierts als lösch würdig
      und dann kannst schreiben
      2"die mutter des nazi- vorposters erschien recht wiederwillig in zeiten wo sie mit dir d.h. mit ihrem eigenen sohn fellatio betreiben musste um dem obersturmbannführer zu gefallen" etc das erste ist definitiv nicht so heftig wie das 2te wird aber trotzdem "eher" gelöscht usw ...https://www.technologyreview.com/.../if-only-ai-could.../"

      ENDLICH gibt es eine kenntnissnahme dazu..nichtnur mit kommentaren
      nein mit ganzen artikeln auf fm4( und thgap via hauskatzen-brodnig)
      uuu yea baby

      DAS ERSTEMAL BESCHÄFTIGEN SICH DEI LEUTE NICHTNUR MIT IHRER HASPOSTING ANGST (artikel die sich anhören wie"AUAAUA KEIN RESPEKT im internet! RESPEKT MUSS MAN SICH NICHT VERDIENEN NEIN ICH MUSS ES HABEN HASSPOSTING BÖSE BÖSE ANWALT ANWALT HAHA")
      ARTIKEL ZUR DYSTOPISCHEN ÜBERWACHUNG ERSTELLT :NEIN SIE HINTERFRAGEN ES
      und ich krieg nichtmal für den scheiss bezahlt ! wie ihr!
      haha
      TRIUMPH!!

      keuch krächz..endlich

    • chillamalheast | vor 192 Tagen, 19 Stunden, 42 Minuten

      http://tvthek.orf.at/profile/DialogForum/13886481/DialogForum-Die-Rueckkehr-des-Feudalismus-Die-neue-digitale-Weltordnung-Chance-oder-Gefahr-fuer-die-Demokratie/13920639

    • chillamalheast | vor 192 Tagen, 15 Stunden, 53 Minuten

      ich leb hier von nudeln ihr haisln!
      aber hauptsach unseren digitalen raum verpfuschen

    • chillamalheast | vor 192 Tagen, 15 Stunden, 51 Minuten

      kein geld bekommen ist nicht der tiumph.btw.
      aber das meine tiraden endlich langsam und halbert im mainstream angekommen sind

    • chillamalheast | vor 192 Tagen, 15 Stunden, 30 Minuten

      ich muss ja wie dieser neumann typ mit dem elektromotor wirken ..komplett irre haha

      ihr haisln

    • chillamalheast | vor 192 Tagen, 15 Stunden, 29 Minuten

      http://www.imdb.com/title/tt2198063/

      newman motor

      keiner nimmts ernst und dann schauts deppat haha

    • spok | vor 192 Tagen, 8 Stunden,

      nicht ein wort von dem was du geschrieben hast habe ich gelesen.

    • chillamalheast | vor 192 Tagen, 4 Stunden, 2 Minuten

      ich red auch mit den zensuradmins die sich das durchlesen müssen haha(oder fakenicks verwenden und voll lustig experimentieren)

    • chillamalheast | vor 192 Tagen, 4 Stunden, 2 Minuten

      haha...

      haha

    • chillamalheast | vor 192 Tagen, 4 Stunden,

      shitty stasi

    • chillamalheast | vor 192 Tagen, 3 Stunden, 54 Minuten

      haha

    • chillamalheast | vor 192 Tagen, 3 Stunden, 54 Minuten

      haha

      ...haha

  • chillamalheast | vor 193 Tagen, 12 Stunden, 50 Minuten

    seite kaputt

    die verlinkte seite hat schon beim ersten versuch nähere infos zu bekommen, einen 404-error https://www.smartmoderation.com/agency.html
    zudem wird nirgenst die herangehensweise erklärt sondern nur im broschüren-direktmarketing-lingu mit groben überbegriffen vereinfacht.ohne negative und positive keywörter einzuteilen kann man keinen code of conduct erfüllen(siehe cornell studie 2014).trolle leben ja von "negative emotional content" ..wenn die firma behauptet ohne "keywords" zu arbeiten muss sie das auch stichhaltig begründen können und die alternative form des "measurements" erklären.nichts zu finden.

    wie sie satire erkennen wollen, wäre nun die interessanteste frage!

    das größte problem ist die messung/beobachtung von semantic relatedness zwischen wörtern und bildern und zwischen metamodell und selbstmodell. d.h. "der aus dem input resultierende output wird zum neuen input für die höheren areale"(quelle: uni cardiff und matthias gruber weiter unten) jeder mensch stellt sich auch bei der wahrnehmung von wörtern keine eindeutigen buchstaben sondern subjektive images und symbole vor die wiederum neuen symbolketten und schnittstellen zugeordnet werden und ständig in neuen metarepräsentationen emergieren ohne dabei ein zusammenhängendes konsistentes modell/system wie der computer zu bilden(das kann der computer mit "moores law hardware" eben noch nicht faken da 2 beobachtungswelten aufeinanderprallen..was sagt uns das seit heisenberg ?) . die "qualia" des...

    Auf dieses Posting antworten
    • chillamalheast | vor 193 Tagen, 12 Stunden, 49 Minuten

      des menschen während er mit der realen umgebung interagiert und introspektiv als flüchtig emergierendes bewusstsein verarbeitet, um ein systemisches modell für ein codiertes programm zu bekommen, kann noch nichtmal ansatzweise mit nötigen biometrics gemessen werden(hormone, spannung der haut, tiefenschärfe und focus des metamodells etc).dazu bräuchte man nämlich BCI braincomputer-interfaces die direkt mittels fMRI an den menschlichen synapsen angezapft werden (quelle columbia univsersity) https://www.youtube.com/watch?v=4wm1kBhY1W8) BCIs können immerhin schon flecken der menschlichen gedanklichen vorstellungkraft erkennen aber sind genau wie conversationAI weit davon entfernt in der gesellschaft legit angewendet zu werden. geschweigedenn es schaffen den "code" von menschlicher satire zu knacken(lol).
      decoder frameworks können gut unscharfe bilder simulieren und vervollständigen, "bildpunkte in kartensystemen zuordnen", AI kann sich selbst reproduzieren.aber das schwierigste von allen ist verdammtnochmal zu verstehen was der mensch "zwischen den zeilen" im kontext der interaktion von sich gibt --also wozu zensieren wenns sowieso fremd ist?

      dazu fehlen dem programm noch schlichtweg daten für erweiterte perception egal wie gut die benchmarks im "entangelnden" possibilities zu symbolen und bildpunkten zugeordnet werden.

      "Bewusstsein ist das logische korrelat des inhalts einer erfahrung deren eigenart es ist, dass sich in ihr eine tatsache zeigt, also eine wahrnehmung von inhalt...

    • chillamalheast | vor 193 Tagen, 12 Stunden, 48 Minuten

      sich einstellt" laut william james entweder die addition oder die subtraktion von erfahrungen und alles dazwischen usw .d.h. philosophisch wie immer verschieden erfassbar, technisch bzw deterministisch so gut wie überhaupt nicht.
      funktionen wie bewusstsein und intelligenz sind holistischer und emergenter natur und man wird daher nie ein neuronales korrelat finden, das sich auf wenige kleine hirnareale und -kerne begrenzen lässt, ihre engramme sind über große teile des hirns verteilt.

      ...insofern können wir mit dem alten paradigma "sprache schafft wirklichkeit/formt bewusstsein" a priori keine aussagen über sprache bzw hatespeech treffen. sprache ist bekanntlich arbiträr bzw "in echtzeit ständig emergierend und korrelierend", vorallem seit systemische mit kognitiven und konnektivistischen(embodiment) ansätzen interdisziplinär verbunden wurden. seit minsky, varela undco sind alte sprachliche, semantische und diskursive normen komplett auf den kopf gestellt. haben weit weniger bedeutung für spekulative entitäten wie "bewusstsein"(im gegensatz zum visuellen und körperlicher motorik,prosodie, mimik etc die bekanntlich mehr wahrnehmung einnehmen https://mitpress.mit.edu/books/embodied-mind) ..somit sollte man auch aufpassen wenn grobe gesetzesnovellen zur hatespeech verlangt werden..die SJW-gutmensch-countertroll-mimimis rund um das antihatespeech-movement (aka EU kommission für gender und justice samt code of conduct.parallel in amerika dazu google jigsaw und FCC) grenzen dinge ein wovon sie (wie wir...

    • chillamalheast | vor 193 Tagen, 12 Stunden, 47 Minuten

      alle) keine deterministische ahnung haben.
      der systemische ansatz von metamodell und selbstmodell https://g.co/kgs/lG0uGC (daraus resultierend die neurokognitiven definitionen zum phänomenalen Bewusstsein;"der aus dem input resultierende output wird zum neuen input für die höheren areale " wie gesagt; siehe postheidegger subjekt nährt objekt; fürsich nährt ansich im ständigen vice versa dualistisch korrelierenend solange wir den fundamentalen satz vom ausgeschlossenen dritten verwenden) war lediglich eine kleine vereinfachung für die definition von bewusstsein aber im grunde nur eine nexus zwischen mensch und maschine um abläufe in neuronalen netzwerken zu vereinfachen. damit können AI bzw machinelearning frameworks nämlich die eigenen meta-repräsentationen "reflektieren" d.h. das metamodell kann die eigene beobachtung des selbstmodells abbilden ( bis hin zu luziden "träumen").mit stochastik und frameworks kann man künstliche vorstellungen (oder wenn man will" bewusstsein über sich selbst") probabilistisch annähern aka "skewed sampling" betreiben um "bilder" zu erzeugen https://arxiv.org/pdf/1611.05397.pdf
      https://www.bloomberg.com/.../google-deepmind-gives...
      wenn also die exakte definition von bewusstsein nicht exisitiert bzw ständig von "emergenter phänomenologie" trotz der "Synchronizität von neuronalen abläufen" abhängig ist, werden normen zur sprache natürlich erst in tieferen layern der perception(selbstmodell hirn+ umgebungssensoren fürs metamodell) ersichtlich werden; ohne unschärferelation kein Entanglement undso.salopp formuliert..

      kurzum: die sprache der maschine passt sich seit...

    • chillamalheast | vor 193 Tagen, 12 Stunden, 46 Minuten

      der industrialisierung der sprache des menschen an und umgekehrt .
      daran schneidet auch "upspeak" an. zuerst dachte man upspeak wäre die primitive form der schimpfenden simplifizierenden unbewussten unaufgeklärten workingclass, um draufzukommen dass prozessmusterwechsel bzw sprachliche "normabweichungen" auch von der elite oder kreativen verwendet wird da sich neue kreative emergenzen oft in spannungsverhältnissen und unordnung auftun. .sprache ist also dynamisch und im ständigen wandel.wer soll sie definieren und normieren dürfen? sobotka, falter und medienminister?
      http://matrix.berkeley.edu/research/whats-upspeak

      in der virtualität ist sprache verdammtnochmal vom staat zensurfrei zu lassen anstatt auf gefühligkeiten mit bewiesenermaßen ahnungslosen gesetzsnovellen zu reagieren. jeder hat eine löschfunktion in seinem interface wenn einem als individuum danach ist das reicht vollkommen aus um sich vor "negativem emotionalem bewusstsein" zu schützen.wozu die wie immer überforderte politik als staatszensur einschalten??
      vorallem mit einem feuilleton der bei schoppenhauers maulkorb(siehe "die hohe kunst der kränkung") und thomas manns kritik an der reinen vernunft stecken bleibt ohne sich mit aktuellerer forschung zu beschäftigen, und zu dem wird was sie eigentlich kritisieren wollten. nämlich die foucaultsche kontrollgesellschaft die sich den maulkorb praktischerweise selbst durch ideosynkrasiekredite undco anlegt. aka huxleys brave new world , "softpower" etc
      niemand darf als subjekt positive und negative...

    • chillamalheast | vor 193 Tagen, 12 Stunden, 43 Minuten

      wörter für das gesamte virtuelle kollektive bewusstsein ( https://en.wikipedia.org/.../Virtual_collective... ) einteilen als wäre man eine alte kirchengemeinschaft;zumindest ohne dabei wie der/die allerletzten behaviorism-sittenwächter zu wirken.
      hier die grundlagen für antihatespeech gesetze. grundlagenforschung die nichts behauptet aber derzeit für agendasetting der überwachung missbraucht wird
      http://www.pnas.org/content/111/24/8788.full.pdf
      https://www.theguardian.com/.../facebook-cornell-study..

    • spok | vor 192 Tagen, 20 Stunden, 17 Minuten

      das liest übrigens niemand

  • spok | vor 194 Tagen, 11 Stunden, 27 Minuten

    und wie lernt die app? woran sieht sie was ein gutes und was ein trollendes kommentar war??

    Auf dieses Posting antworten
    • chillamalheast | vor 193 Tagen, 11 Stunden, 59 Minuten

      sie lernt possibilities aber kann niemals kulturverständniss und subjektive vorstellungskraft mit derartig einfachen, synthax-gebundenen sensoren und hardware simulieren.

      wieso nicht wird unter anderem hier mit einem gedankenexperiment umschrieben
      https://en.wikipedia.org/wiki/Chinese_room#Strong_AI

      unsere computer sind alt geworden(binär ist begrenzt, qubit sind maybe eine lösung http://nyu.timbyrnes.net/research/quantum-information-using-bose-einstein-condensates/) und eine art blackbox die nicht viel von ihrer aussenwelt mitkriegt(wie das fenster im chinese room). brauchen also mehr perception bevor man markovchains und graphen numerisch krachen lässt.https://plato.stanford.edu/entries/chinese-room/

      im grunde nur damit wir alle denselben nivellierten scheiss schreiben ohne mal innerhalb einer virtualität auszucken zu dürfen

      sargnagl ist satire
      rechte trolle böse

    • chillamalheast | vor 193 Tagen, 11 Stunden, 58 Minuten

      ...anscheinend