Instagram KI appelliert an die Vernunft der User

Using a smartphone in the city at night

Schikane in den Social Media ist leider ein alltägliches Phänomen. Und es ist zudem ein großes Problem für die Betreiber sozialer Netzwerke und Messenger-Dienste. Vor allem Facebook musste deshalb seither immer tiefer in die Abgründe von Hate Speech und Verschwörungstheorien eintauchen und konsequenter dagegen vorgehen – mit Künstlicher Intelligenz und mit menschlichen Moderatoren. Die durchleben täglich eine Content-Hölle, was sowohl das Sichten, Bewerten und Blocken der Inhalte wie auch die teils widrigen Arbeitsverhältnisse bei denen als Facebook-Content-Cleaner agierenden Auftragnehmern angeht.

Facebooks Tochter Instagram will wohl auch daher einen anderen Weg beschreiten, um den hetzerischen Kommentaren und Posts auf seiner Plattform Herr zu werden. Daher kündigte die Foto-Sharing-App nun das Roll-out einer Künstlichen Intelligenz an, die ihrerseits an das Selbstreflexionsvermögen der User appelliert, also erst das zerebrale Zuckerbrot rausholt, bevor es die Peitsche und Keule schwingt. Das neue Feature will dabei zugleich zwei Probleme angehen:

  • Selbst-Zensur und Selbstkritik: Sobald ein User etwas postet, das Instragrams KI als anstößigen, hetzerischen oder anderweitig gegen die Nutzerrichtlinien verstoßenden Inhalt flaggt, versucht die Software, an die Vernunft des Nutzers zu appellieren, indem sie ihn via Pop-up fragt, ober er sich wirklich sicher ist, dass er dies veröffentlichen will. Ist er es daraufhin nicht mehr so ganz, kann er über einen „Undo“-Button den Post rückgängig machen, ohne dass irgendjemand außer Instagrams KI und vor allem auch nicht der Adressat des Kommentars etwas davon mitbekommt.

Andererseits bietet das Tool den Nutzern aber auch die Möglichkeit, Instagram zu kontaktieren, wenn ein Inhalt der User-Meinung nach zu Unrecht als anstößig geflaggt wurde. Das wiederum dient der Künstlichen Intelligenz auch als wertvolles Trainingsmaterial, kann damit doch die Datenbank gefüllt und die Software noch intelligenter werden und Situatives, Kontextuelles und auch Missverständliches künftig besser und schneller verstehen.

  • Restrict: Diese Anwendung ist in erster Linie dafür gedacht, dass User sich hetzende Kommentatoren und deren verbale Durchfälle vom Account halten. Zudem soll das Tool vor allem auch jüngere User schützen und deren Überwindung stärken, Anstößiges zu melden. Denn gerade, weil viele Teens ihre persönlichen Trolle auch im wahren Leben kennen, meiden sie häufig den Kontakt zu den Plattformen und melden solche Vergehen nicht. Restrict soll hierbei Abhilfe schaffen. Dank des Features ist dann nämlich jener Kommentarverfasser, den einen Nutzer „resticted“, der einzige, der seinen Kommentar noch sehen kann, ohne dies jedoch zu wissen. Zudem können Hater dann nicht mehr sehen, wann und ob die Opfer ihrer Hasstiraden online sind und ihnen auch keine direkten Nachrichten mehr schicken. Als Nutzer kann man andererseits immer entscheiden, die Restricted-Kommentare öffentlich sichtbar zu machen. Man kann den Kommentar zudem löschen oder auch das Restrict rückgängig machen.

Die Hoffnung auf einsichtige Nutzer

Instagram verwies in seinem Blogpost auch auf die Ergebnisse vorheriger Tests mit ähnlichen Features. Die Resultate, so Instagrams CEO Adam Mosseri, hätten gezeigt, dass das Einwirken der Künstlichen Intelligenz auf die Nutzer und die Appelle an deren Vernunft und Manieren mitunter dazu geführt hätten, dass User ihre Kommentare wirklich überdachten und zurückzogen.

Das ist zweifelsohne eine erfreuliche Nachricht. Andererseits könnte man weniger wohlmeinend behaupten, dass Instagram die Verantwortung für eine hassfreie, sichere und saubere Plattform zumindest teilweise und in Sachen Restrict auf die Schultern der User ablädt. Und klar: Überall wo Menschen mit Maschinen interagieren, kann es zu Missverständnissen und zum Missbrauch der Tools kommen. Will heißen: Die Gefahr, dass Kommentare durch die AI zu Unrecht geflaggt werden und man dann darlegen muss, warum man dies als nicht richtig empfindet oder auch, dass User andere Nutzer willkürlich mit einem Restrict-Bann belegen und damit „muten“, ist allgegenwärtig.

Zugunsten von Instagrams Artificial-Intelligence-Offensive und dem Appell an das Bewahren des guten Tons muss man andererseits aber auch erwähnen, dass durch das Einbeziehen der Nutzer und deren Interaktion mit der Plattform-KI die Selbstreflexion endlich wieder mehr Raum gegenüber dem impulsiven Posten wütender Kommentare gewinnen könnte.