Autor: Stojancho Gjorgjiev

KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz in Europa auszuschöpfen. 

Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden. 

Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: «KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein», teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit. 

Grok-Skandale und deutsche Debatte über digitale Gewalt 

Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt zu haben. 

In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Bei diesen Vorwürfen geht es nicht um Deepfakes. Fernandes wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.

Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen – und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.

EU legte bereits 2024 Richtlinie zum Thema vor 

Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll. 

Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, von Deutschland allerdings bisher nicht in nationales Recht übertragen worden. Dafür hat die Bundesrepublik noch bis zum Sommer nächsten Jahres Zeit. Zuletzt kündigte Justizministerin Stefanie Hubig (SPD) entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an. 

Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmer betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken. 

Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. 

Verpflichtende Wasserzeichen für KI-Inhalte verschoben

Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen forderten zuletzt aber immer wieder mehr Zeit, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen. 

An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen. 

Industrie befürchtet Doppelregulierung

Aus der Industrie kamen zuletzt Forderungen, Doppelregulierungen abzubauen, um Europas Wettbewerbsfähigkeit nicht zu untergraben. Auch Bundeskanzler Friedrich Merz (CDU) hatte sich zuletzt dafür ausgesprochen, die europäischen Regeln in diesem Bereich zu vereinfachen. Damit etwa die Maschinenbaubranche sich beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss, sollen Ausnahmen geschaffen werden. 

Für den CDU-Europaabgeordneten Axel Voss gehen diese Änderungen nicht weit genug: «Wir brauchen einen Rahmen, der Innovation ermöglicht und Schutz garantiert – nicht einen Flickenteppich aus sektoriellen KI-Sonderregeln», kommentierte der Parlamentarier.

KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz in Europa auszuschöpfen. 

Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden. 

Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: «KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein», teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit. 

Grok-Skandale und deutsche Debatte über digitale Gewalt 

Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt zu haben. 

In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Sie wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.

Seit Bekanntwerden der Vorwürfe gibt es bundesweit eine große Diskussion über digitale und sexualisierte Gewalt gegen Frauen – und breite Medienberichterstattung darüber. Tausende Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art kursiert schon seit Jahren im Netz.

EU legte bereits 2024 Richtlinie zum Thema vor 

Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll. 

Die entsprechende EU-Richtlinie ist zwar seit Mai 2024 in Kraft, von Deutschland allerdings bisher nicht in nationales Recht übertragen worden. Dafür hat die Bundesrepublik noch bis zum Sommer nächsten Jahres Zeit. Zuletzt kündigte Justizministerin Stefanie Hubig (SPD) entsprechende Verschärfungen im Strafrecht und mehr Rechte für Geschädigte an. 

Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmer betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken. 

Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. 

Verpflichtende Wasserzeichen für KI-Inhalte verschoben

Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen forderten zuletzt aber immer wieder mehr Zeit, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen. 

An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen. 

Industrie befürchtet Doppelregulierung

Aus der Industrie kamen zuletzt Forderungen, Doppelregulierungen abzubauen, um Europas Wettbewerbsfähigkeit nicht zu untergraben. Auch Bundeskanzler Friedrich Merz (CDU) hatte sich zuletzt dafür ausgesprochen, die europäischen Regeln in diesem Bereich zu vereinfachen. Damit etwa die Maschinenbaubranche sich beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss, sollen Ausnahmen geschaffen werden. 

Für den CDU-Europaabgeordneten Axel Voss gehen diese Änderungen nicht weit genug: «Wir brauchen einen Rahmen, der Innovation ermöglicht und Schutz garantiert – nicht einen Flickenteppich aus sektoriellen KI-Sonderregeln», kommentierte der Parlamentarier.

Kurz nach einer russischen Erklärung hat die Ukraine ebenfalls eine Waffenruhe angekündigt. «Wir verkünden eine Waffenruhe, beginnend ab 0.00 Uhr (23.00 Uhr MESZ) in der Nacht vom 5. auf den 6. Mai», teilte der ukrainische Präsident Wolodymyr Selenskyj mit.

US-Präsident Donald Trump will seine Initiative für eine sichere Durchfahrt von Schiffen durch die Straße von Hormus «für kurze Zeit» aussetzen. Während des Stopps von «Projekt Freiheit» solle geprüft werden, ob ein Abkommen zwischen Washington und Teheran abgeschlossen und unterzeichnet werden könne, teilte Trump auf seiner Plattform Truth Social mit. Die US-Seeblockade gegen Schiffe, die iranische Häfen anlaufen oder verlassen, bleibe hingegen in vollem Umfang in Kraft.

Der in Memmingen im Allgäu vermisste 14-Jährige ist mutmaßlich Opfer eines Gewaltverbrechens geworden. Nach dem Fund der Leiche des Jugendlichen sei der mutmaßliche Täter nach Polizeischüssen gestorben, teilten Polizei und Staatsanwaltschaft mit. Zuvor hatte die «Bild»-Zeitung berichtet.

Nach der tödlichen Amokfahrt durch die Leipziger Innenstadt wird der Täter in eine Psychiatrie eingewiesen. Ein Ermittlungsrichter habe die Unterbringung des 33-jährigen Deutschen in einem psychiatrischen Krankenhaus angeordnet, teilte die Staatsanwaltschaft Leipzig mit.

Bei dem Tatverdächtigen der tödlichen Fahrt von Leipzig handelt es sich um einen 33-jährigen Deutschen. «Es ist ein Amoktäter», sagte Sachsens Innenminister Armin Schuster in Leipzig.

Jens Spahn bleibt Vorsitzender der Bundestagsfraktion von CDU und CSU. Die Abgeordneten der größeren Regierungsfraktion bestätigten den CDU-Politiker ein Jahr nach seinem Amtsantritt mit großer Mehrheit bis zum Ende der Legislaturperiode im Amt, wie die Deutsche Presse-Agentur aus Teilnehmerkreisen erfuhr.

Der Impfstoffhersteller Biontech plant die Schließung mehrerer Produktionsstandorte. Insgesamt bis zu 1.860 Stellen könnten von den Einschnitten betroffen sein, kündigte das Management des Biopharma-Unternehmens in Mainz an.

Großaufträge haben Baden-Württembergs Maschinenbauern einen versöhnlichen Abschluss des schwierigen ersten Quartals beschert. Nach zwei verhaltenen Monaten kamen im März unerwartet viele neue Bestellungen herein, wie der Verband Deutscher Maschinen- und Anlagenbau (VDMA) in Stuttgart mitteilte. In den ersten drei Monaten des Jahres verbuchten die Unternehmen preisbereinigt um 7 Prozent höhere Auftragseingänge gegenüber dem entsprechenden Vorjahreszeitraum. Die Inlandsbestellungen legten um 11 Prozent zu. Im Auslandsgeschäft wurde ein Plus von 6 Prozent verbucht.

VDMA-Landeschef Dietrich Birk sagte, trotz der positiven Entwicklung im März könne bis jetzt nicht von einer Trendwende gesprochen werden. Vielmehr seien die aktuellen Zahlen auf einige wenige Einzelaufträge mit großem
Volumen zurückzuführen. «Die anhaltenden Unsicherheiten infolge der weiterhin schwer kalkulierbaren US-Zollpolitik sowie die weltweiten geopolitischen Krisen dämpfen weiter die Chancen einer nachhaltigen Erholung.»

Im März lag der Auftragseingang laut Mitteilung preisbereinigt um 24 Prozent über dem Wert des Vorjahresmonats. Die Bestellungen aus dem Inland legten um 46 Prozent zu, während auf den Auslandsmärkten ein Plus von 14
Prozent erzielt wurde.

In Baden-Württemberg ist der Maschinenbau – neben der Autoindustrie – einer der wichtigsten Wirtschaftszweige. Mehrere Hunderttausend Menschen sind in der Branche beschäftigt. Der VDMA im Land vertritt mehr als 800 Firmen. In den drei zurückliegenden Jahren hatten die Maschinen- und Anlagenbauer Auftragsrückgänge verzeichnet.