\n Redaktion<\/span>\n 08.01.2026 18:29<\/time>\n <\/div>\n

\n <\/a>\n exxpress\/exxpress<\/span><\/span>\n <\/div>\n [vc_column_text]In den vergangenen Tagen tauchten auf X massenhaft Bilder auf, die echte Menschen in sexualisierten Situationen zeigten. Teilweise handelte es sich um Prominente, teilweise um Privatpersonen, in besonders heiklen F\u00e4llen sogar um Minderj\u00e4hrige. Die Bilder waren keine klassischen Fotomontagen, sondern vollst\u00e4ndig neu berechnete KI-Bilder. Beh\u00f6rden in mehreren L\u00e4ndern reagierten, Plattformen gerieten unter Druck und die Betreiber mussten einr\u00e4umen, dass Schutzmechanismen versagt hatten.<\/p>\n

Wichtig ist dabei eines: Die KI hat niemanden \u201eausgezogen\u201c. Sie hat ein neues Bild erfunden. Ein Bild, das es nie gab, das aber so realistisch aussieht, dass es als echt wahrgenommen wird. Und genau darin liegt die Gefahr.[\/vc_column_text]

Was wirklich hinter der Schlagzeile steckt<\/h2>[vc_column_text]Wie Sie wissen, ist es mir in meinen Kolumnen wichtig, nicht bei der Emp\u00f6rung stehen zu bleiben, sondern hinter die Schlagzeile zu blicken. Nachdem wir uns bereits mit KI-Bildgenerierung besch\u00e4ftigt haben, m\u00f6chte ich heute auf eine eng damit verbundene Frage schauen: Warum geben manche KI-Systeme nahezu alles aus, was man ihnen vorgibt, w\u00e4hrend andere strikte Grenzen setzen und bestimmte Inhalte konsequent verhindern?<\/p>\n
Die Antwort hat weniger mit Magie zu tun als mit Architektur und Entscheidungen. Moderne KI-Modelle bestehen nicht nur aus einem einzigen System. Man kann sie sich eher wie ein Auto vorstellen. Der Motor ist das eigentliche Modell, das Bilder oder Texte erzeugt. Doch entscheidend sind die Bremsen. Diese Bremsen hei\u00dfen in der Fachsprache Safety-Layer. Typischerweise gibt es drei Ebenen:<\/p>\n
Erstens, Filter vor der Anfrage. Bevor ein Bild \u00fcberhaupt erzeugt wird, pr\u00fcft ein Klassifikator, ob der Wunsch problematisch ist. Geht es um Nacktheit, Gewalt, reale Personen oder Minderj\u00e4hrige, sollte das System blockieren.<\/p>\n
Zweitens, das Training selbst. Viele Modelle werden mit Reinforcement Learning from Human Feedback trainiert. Menschen bewerten Ausgaben und bringen dem Modell bei, wann es sich verweigern soll. Das ist der Grund, warum manche Systeme sehr konsequent ablehnen und andere deutlich lockerer reagieren.<\/p>\n
Drittens, Filter nach der Erzeugung. Das fertige Bild wird nochmals gepr\u00fcft. Ist es sexualisiert, wird es verworfen oder unkenntlich gemacht.<\/p>\n
Wenn eine dieser Ebenen zu schwach ist oder falsch eingestellt wird, rutscht etwas durch.[\/vc_column_text]

Warum Schranken umgangen werden k\u00f6nnen<\/h2>[vc_column_text]Trotzdem gibt es immer wieder F\u00e4lle, in denen Nutzer bewusst versuchen, solche Schranken zu umgehen. Das ist kein neues Ph\u00e4nomen. Schon bei Text-KIs wurde fr\u00fch klar, dass Menschen kreative Wege finden, Verbote auszutesten.<\/p>\n
Der Grund, warum das \u00fcberhaupt m\u00f6glich ist, liegt in der Natur dieser Systeme. KI versteht keine Moral. Sie erkennt Muster. Wenn Regeln unscharf formuliert sind oder Kontexte mehrdeutig werden, versucht das System, trotzdem eine plausible Antwort zu liefern. Das ist kein b\u00f6ser Wille, sondern mathematische Optimierung. Deshalb ist Sicherheit bei KI kein Schalter, den man einmal umlegt. Sie ist ein permanentes Wettr\u00fcsten.[\/vc_column_text]

Der gesellschaftliche Wandel<\/h2>[vc_column_text]Der Skandal rund um Grok ist kein Randthema f\u00fcr Techniknerds. Er ber\u00fchrt Grundfragen unseres Zusammenlebens. Digitale Nacktbilder sind kein Spa\u00df. Sie k\u00f6nnen Ruf zerst\u00f6ren, Existenzen besch\u00e4digen und Menschen nachhaltig traumatisieren. Wenn diese Inhalte per Knopfdruck massenhaft erzeugbar werden, verschiebt sich die Machtbalance radikal. Was fr\u00fcher m\u00fchsam und technisch aufwendig war, wird pl\u00f6tzlich skalierbar. Und Skalierung ist immer der Punkt, an dem aus Einzelf\u00e4llen ein gesellschaftliches Problem wird.<\/p>\n
Nat\u00fcrlich braucht es klare Regeln. Europa hat mit dem Digital Services Act und dem AI Act m\u00e4chtige Instrumente geschaffen. Plattformen m\u00fcssen Verantwortung \u00fcbernehmen, Risiken minimieren und illegale Inhalte entfernen. Doch hier kommt der unbequeme Teil: Regeln auf Papier reichen nicht aus.<\/p>\n
Denn die eigentlichen Grenzen werden nicht in Verordnungen gezogen, sondern im Code. In Trainingsdaten. In Schwellenwerten. In Produktentscheidungen.<\/p>\n
Am Ende entscheidet nicht die Politik allein, wie sich KI verh\u00e4lt. Es entscheiden jene, die die Modelle entwickeln, trainieren und betreiben. Wer diese Systeme kontrolliert, definiert, was technisch m\u00f6glich ist und was nicht.<\/p>\n
Das ist vergleichbar mit dem V\u00f6lkerrecht, \u00fcber welches die Tage wieder hitzig debattiert wird. Regeln existieren, aber sie wirken nur, wenn man stark genug ist, sie durchzusetzen. Das sehen wir in der internationalen Politik genauso wie in der Technologie. Werte ohne Durchsetzungskraft bleiben Appelle.[\/vc_column_text]

Europas eigentliche Aufgabe<\/h2>[vc_column_text]Wenn Europa nicht nur reagieren will, sondern gestalten, dann m\u00fcssen wir mehr tun, als zu regulieren. Wir m\u00fcssen eigene KI-Systeme bauen. Eigene Sicherheitsstandards entwickeln. Eigene Infrastruktur betreiben. Nicht, weil wir anderen misstrauen sollten. Sondern weil man nur dann wirklich souver\u00e4n ist, wenn man selbst gestalten kann. Wer keine eigene KI entwickelt, \u00fcbernimmt am Ende fremde Werte, fremde Priorit\u00e4ten und fremde Risiken.<\/p>\n
Der Grok-Skandal ist kein technischer Ausrutscher, sondern ein Spiegel. Er zeigt, wie m\u00e4chtig KI geworden ist und wie zentral die Frage nach Kontrolle ist. KI wird bleiben, sie wird besser und sie wird \u00fcberall sein. Die eigentliche Entscheidung lautet deshalb nicht, ob wir das wollen, sondern wer bestimmt, wie sie eingesetzt wird. Denn eines ist sicher: Nur wer KI baut und innovativ vorangeht, setzt auch die Regeln. Wer nicht baut, hat auch kein Mitspracherecht dar\u00fcber, wie KI handeln darf.[\/vc_column_text][\/vc_column][vc_column width=”1\/3″]
<\/div><\/div>
<\/div><\/div>[\/vc_column][\/vc_row][vc_row][vc_column width=”1\/6″][\/vc_column][vc_column width=”5\/6″]

\n
Dein Beitrag z\u00e4hlt \u2013 jetzt spenden!<\/summary>\n
<\/div>\n
\n
<\/div>\n
Mit deinem Beitrag schaffen wir Raum f\u00fcr Journalismus, der einordnet, hinterfragt und sichtbar macht, was wirklich z\u00e4hlt.<\/p>\n
\n
\n
\n