Konzern

Penemue: Mit künstlicher Intelligenz gegen Hass im Netz

Wie können wir digitale Räume sicherer machen? Das Start-up PENEMUE hat darauf eine zeitgemäße Antwort: Ein KI-basiertes Tool, das Hassrede und potenziell strafbare Inhalte in Echtzeit erkennt und aufdeckt. Wir haben mit der Mitgründerin und COO des Start-ups, Sara Egetemeyr, über die Technologie gesprochen. Mehr über Penemue im Podcast EXPLAINED.

Das Bild zeigt Sara und Jonas, die beiden Co-Founder von Penemue

Penemue Co-Founder Sara Egetemeyr und Jonas Navid Al-Nemri. © Penemue/ Foto Credits: Silvia Wolf

Im Internet werden Menschen beleidigt, belästigt und bedroht. Eine Studie zeigt, dass 82 Prozent der Befragten glauben, dass Hass im Netz die Vielfalt im Internet gefährdet. Und jeder Zweite in Deutschland hat Angst, sich öffentlich zu äußern.

„Hassrede und Desinformation sind nicht nur ein Problem für Einzelne, sondern gefährden auch die Meinungsvielfalt und unsere Demokratie. Dagegen können und müssen wir etwas tun“, erklärt Sara Egetemeyr. Mit ihren Mitgründern Marlon und Jonas hat sie deshalb das Start-up Penemue gegründet. Die Mission: Mithilfe Künstlicher Intelligenz (KI) digitale Räume sicherer machen. 

Logo: Penemue

Logo: Penemue © Penemue

Der Name des Start-ups kommt aus der Mythologie: Penemue ist ein gefallener Engel, der den Menschen das Schreiben beibrachte – jedoch ohne ihnen das nötige Verantwortungsbewusstsein zu vermitteln. „Mit Worten kann man Gutes bewirken, aber auch Zerstörerisches anrichten. Das erleben wir in den sozialen Netzwerken jeden Tag. Penemue soll als digitaler Schutzengel Menschen vor der zerstörerischen Kraft der Sprache im Internet schützen und eine konstruktive und respektvolle Kommunikation ermöglichen“, erklärt die Kulturwissenschaftlerin Egetemeyr.

Technologie mit Weitblick

Penemue arbeitet mit einem leistungsstarken Algorithmus, der Äußerungen, die gegen deutsche Gesetze verstoßen, in Echtzeit identifiziert, z.B. auf Social Media Kanälen. Dabei analysiert die Software Inhalte in 89 Sprachen. Egal ob Emojis, Slang, Dialekte oder verschleierte Ausdrucksformen – die KI wird kontinuierlich nachjustiert, um auch neu entstehende codierte Begriffe und kulturelle Nuancen zu erkennen.

Sara Egetemeyr nennt dafür ein Beispiel: „Wir kombinieren laufend menschliches Wissen mit technischer Recherche, um neu auftauchende Begriffe oder sprachlich auffällige Muster zu verstehen. Einmal hat die KI wiederholt vor der Phrase „Dachpappe anzünden“ gewarnt. Bei der Überprüfung stellten wir fest, dass „Dachpappe“ als rassistischer Begriff für People of Color verwendet wird und diese Phrase ein Aufruf zur Gewalt war.“

Die Technologie verbindet sich über API-Schnittstellen mit den Kommunikationskanälen der Nutzenden. Das können Social-Media-Plattformen wie Instagram, TikTok und Facebook oder auch unternehmensinterne Systeme wie Intranets sein. Je nach Vorliebe können die Nutzenden problematische Inhalte automatisiert oder teilautomatisiert verbergen, löschen oder zur Strafverfolgung weiterleiten. Eine digitale Schnittstelle zu spezialisierten Staatsanwaltschaften erleichtert die Rechtsverfolgung.

Mehr Schutz durch schnelleres Erkennen illegaler Inhalte

Die kostenpflichtige Software richtet sich an alle, die mit eigenen Kanälen auf Social Media aktiv sind und wird aktuell bereits bei Unternehmen, Medienhäusern oder auch von Personen des öffentlichen Lebens eingesetzt. „Unsere Nutzerinnen und Nutzer berichten von einer großen Erleichterung und einem gesteigerten Sicherheitsempfinden“, sagt Sara Egetemeyr. „Sie können sich besser auf das fokussieren, was sie eigentlich tun wollen und wissen, dass die Justiz Hasskommentare verfolgt, wenn sie das möchten.“

Auch wenn Technologien wie die von Penemue wichtige Werkzeuge sind, bleibt die Verantwortung, Hass im Netz zu bekämpfen, eine Aufgabe für uns alle - davon ist die Unternehmerin überzeugt: „KI ist nur ein Werkzeug, um Hassrede online zu bekämpfen und demokratische Werte zu schützen. Das Problem selbst wird jedoch – genauso wie Offline-Kriminalität – nie nur durch eine technische Lösung beendet werden können.“

Wir alle können etwas gegen Hass im Netz tun:

Gemeinsam können wir den digitalen Raum zu einem Ort machen, der von Respekt und Vielfalt geprägt ist, indem wir:

  • Respektvoll kommunizieren und auf einen konstruktiven Umgangston achten.
  • Hass melden und die Meldefunktion der Plattformen nutzen, um auf problematische Inhalte hinzuweisen.
  • Solidarität zeigen und Betroffene unterstützen.
  • Inhalte bewusst teilen und nur Informationen weiterleiten, über deren Inhalt wir uns sicher sind, um Desinformation keinen Raum zu geben.

Mit ihrer innovativen KI-Lösung ist das Start-up Penemue Mitglied im TechBoost-Programm der Telekom und Partner der Telekom-Initiative #GegenHassImNetz. 

Hör-Tipp: EXPLAINED Podcast mit und über Penemue

Allen, die mehr über Penemue erfahren möchten, empfehlen wir die aktuelle Folge von EXPLAINED, der KI-Podcast vom 17. Januar 2025:

👉 Spotify

👉Apple Podcasts

Junge Frau liest Nachrichten auf ihrem Handy.

Fünf Tipps gegen Hass im Netz

Hassrede im Netz ist Alltag. Umso wichtiger ist es, digitale Zivilcourage zu zeigen. Das ist gar nicht so schwer.

FAQ

Cookies und ähnliche Technologien

Wir setzen Cookies und ähnliche Technologien auf unserer Website ein, um Informationen auf Ihrem Endgerät zu speichern, auszulesen und weiterzuverarbeiten. Dadurch verbessern wir Ihr Erlebnis, analysieren den Traffic auf der Website und zeigen Ihnen Inhalte und Werbung, die für Sie interessant sind. Dafür werden website- und geräteübergreifend Nutzungsprofile erstellt. Auch unsere Partner nutzen diese Technologien.


Wenn Sie „Nur erforderliche“ wählen, akzeptieren Sie nur Cookies, die zum richtigen Funktionieren unserer Website nötig sind. „Alle akzeptieren“ bedeutet, dass Sie den Zugriff auf Informationen auf Ihrem Endgerät und die Verwendung aller Cookies zur Analyse und für Marketingzwecke durch Deutsche Telekom AG und unsere Partner erlauben. Ihre Daten könnten dann in Länder außerhalb der Europäischen Union übermittelt werden, wo wir kein Datenschutzniveau garantieren können, das dem der EU entspricht (siehe Art. 49 (1) a DSGVO). Unter „Einstellungen“ können Sie alles im Detail festlegen und Ihre Einwilligung jederzeit ändern.


Weitere Informationen finden Sie im Datenschutzhinweis und in der Partnerliste.