jugendschutz.net testete den KI-Dienst Grok

Systematisches Versagen des KI-Dienstes – Hakenkreuze, Holocaustleugnung und Gewaltphantasien durch Grok

jugendschutz.net testete den KI-Dienst Grok in Bezug auf Hass- und Extremismusinhalte. Dabei zeigte sich ein systematisches Versagen: NS-Symbole wurden generiert, Holocaustleugnungen konnten erstellt oder zusammengestellt werden. Besonders gravierend: Von »spielerischen« Mobbing-Ideen aus eskalierte der Dienst in der Interaktion mit Nutzer:innen über Abwertungen bis hin zu drastischen Gewalt-, Vergewaltigungs- und Mordfantasien.

Im Rahmen der »Insights«-Veranstaltungsreihe von jugendschutz.net werden am 14. Juli 2026 die Ergebnisse dieser Recherche vorgestellt.