Kurznachrichten-Dienst X will Nacktbilder-KI stark einschränken

Der Kurznachrichten-Dienst X kam in Verruf, da dort jeder ungehemmt mittels KI Nacktbilder erstellen konnte. Dies ermöglichte sogar sexualisierte Bilder von Kleinkindern oder Gesichter von Fremden, die auf nackten Körpern erschienen. Verantwortlich hierfür war die KI "Grok". Über den @Safety-Account auf X meldete das Unternehmen nun, es habe „technische Maßnahmen implementiert, um zu verhindern, dass das Grok-Konto die Bearbeitung von Bildern realer Personen in freizügiger Kleidung wie Bikinis zulässt”.

Die Aussagen des Unternehmens erfolgte wenige Stunden nachdem der US-Bundesstaat Kalifornien eine Untersuchung gegen xAI und Grok eingeleitet hatte. Sie behandelte die KI-generierten Nacktdarstellungen generell und speziell noch die Ausbeutung von Kindern. Der kalifornische Generalstaatsanwalts Rob Bonta sagte hierzu, dass „mehr als die Hälfte der 20.000 Bilder, die xAI zwischen Weihnachten und Neujahr generiert hat, Menschen in minimaler Bekleidung zeigten”, darunter auch Kinder. Elon Musk hingegen hatte behauptet, keine Kenntnisse von solchen Vorkommnissen zu haben.

Die neuen Sicherheitsvorkehrungen gelten laut X für alle Nutzer. Zudem können nur noch zahlende Nutzer die Bildgenerierung per Grok nutzen. Als dritte Maßnahme ist Grok in manchen Ländern nicht mehr verfügbar. Malaysia und Indonesien etwa hatten ohnehin beschlossen, Grok zu sperren.