Der KI-Chatbot Grok von Elon Musk hat weltweit für Empörung gesorgt, nachdem bekannt wurde, dass er sexualisierte Deepfake-Bilder erzeugt hat, die sich vor allem gegen Frauen und Kinder richteten. Nach der internationalen Kritik wurde die entsprechende Funktion von Grok, der über die Plattform X verfügbar ist, eingeschränkt.
In den vergangenen Wochen hatte Grok auf eine Welle von Nutzeranfragen reagiert, die von Fachleuten als „böswillig“ eingestuft wurden. Experten warnten zudem, dass einige der erstellten Bilder den Eindruck erweckten, Minderjährige darzustellen.
Die Europäische Union verurteilte das Verhalten des Chatbots scharf und sprach von „illegalem“ sowie „erschreckendem“ Vorgehen. Gleichzeitig wurde eine Untersuchung gegen Grok gefordert.
Zu den politischen Stimmen, die Kritik äußerten, gehörte auch der britische Premierminister Keir Starmer. Er bezeichnete den Vorgang als „beschämend“ und „abstoßend“ und betonte, dies dürfe nicht toleriert werden. X müsse die Kontrolle über die Situation übernehmen.
Mit der neuen Regelung dürfen Bildbearbeitungsanfragen bei Grok nur noch von zahlenden Abonnentinnen und Abonnenten gestellt werden. Dadurch werden Namen und Zahlungsinformationen dieser Nutzer auf der Plattform gespeichert. Fachleute bewerten diesen Schritt jedoch kritisch und sehen darin weniger eine Lösung des Problems als vielmehr eine bloße Einschränkung des Zugangs.