Die EU plant, den Missbrauch durch Deepfakes KI einzudämmen: Künstliche Intelligenz soll nicht mehr für die Erstellung sexualisierter Deepfakes verwendet werden dürfen. Vertreter der Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine entsprechende Anpassung des KI-Gesetzes geeinigt. Ziel ist es, die Verbreitung von Deepfake-Skandalen, wie sie beispielsweise auf der Plattform X vorkommen, in der EU zu verhindern.
Auf einen Blick
- EU-weite Verbot von KI-Anwendungen zur Erstellung missbräuchlicher, sexualisierter Deepfakes.
- Anpassung des KI-Gesetzes soll das wirtschaftliche Potenzial von KI in Europa fördern und gleichzeitig Missbrauch verhindern.
- Das Verbot soll ab dem 2. Dezember 2026 durch das KI-Amt der EU durchgesetzt werden.
- Die Einigung muss noch vom EU-Parlament und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden.
Das Verbot von Missbrauch Deepfakes KI im Detail
Die Europäische Union will mit dem neuen KI-Gesetz einen klaren Riegel vor die missbräuchliche Nutzung von Künstlicher Intelligenz schieben. Wie Stern berichtet, zielt die Einigung insbesondere auf Anwendungen ab, die zur Erstellung von sogenannten Deepfakes verwendet werden. Dabei handelt es sich um täuschend echte Fälschungen, bei denen beispielsweise das Gesicht einer Person in ein pornografisches Video eingefügt oder die Stimme täuschend echt nachgeahmt wird. Durch die rasanten Fortschritte im Bereich der KI ist die Erstellung solcher Inhalte deutlich einfacher und zugänglicher geworden, was das Risiko für Missbrauch und digitale Gewalt erhöht.
Das geplante Verbot erstreckt sich explizit auch auf die Erstellung von Inhalten, die sexuellen Kindesmissbrauch darstellen. Die EU-Kommission sieht hier dringenden Handlungsbedarf, um Kinder und Jugendliche vor den potenziell schwerwiegenden Folgen solcher Fälschungen zu schützen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung und betonte, dass KI kein Werkzeug für sexualisierte Gewalt gegen Kinder sein dürfe.
Die Europäische Kommission hat bereits im April 2021 einen Vorschlag für ein KI-Gesetz vorgelegt. Ziel ist es, einen Rechtsrahmen für Künstliche Intelligenz zu schaffen, der Innovationen fördert und gleichzeitig Risiken minimiert. Das Gesetz soll sicherstellen, dass KI-Systeme in der EU sicher, vertrauenswürdig und ethisch sind.
Warum ist dieses Verbot notwendig?
Die Notwendigkeit für ein Verbot von Missbrauch Deepfakes KI ergibt sich aus der potenziell verheerenden Wirkung solcher Fälschungen auf die Betroffenen. Deepfakes können dazu verwendet werden, Personen öffentlich zu demütigen, Rufschädigung zu betreiben oder sogar politische Kampagnen zu manipulieren. Insbesondere Frauen und Mädchen sind häufig Opfer von sexualisierten Deepfakes, die im Netz verbreitet werden und ihnen erheblichen Schaden zufügen können. (Lesen Sie auch: Digitale Gewalt: Einigung: EU will KI für…)
Ein Beispiel für die negativen Auswirkungen von Deepfakes ist der Fall des KI-Chatbots Grok, der von Tech-Milliardär Elon Musk entwickelt wurde. Ende letzten Jahres wurde bekannt, dass Nutzer die KI dazu aufforderten, Frauen in von ihnen ausgewählten Bildern zu entkleiden. Nachdem die US-Firma hinter der Software diese Funktion einschränkte, entschuldigte sich der Chatbot sogar dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt zu haben. Solche Vorfälle zeigen, wie schnell KI für missbräuchliche Zwecke eingesetzt werden kann und wie wichtig es ist, klare Regeln und Verbote zu schaffen.
Welche rechtlichen Grundlagen gibt es bereits?
Neben dem geplanten KI-Gesetz gibt es in der EU bereits andere rechtliche Instrumente, die im Kampf gegen digitale Gewalt und sexuelle Ausbeutung von Kindern eingesetzt werden können. Dazu gehört beispielsweise die Richtlinie zur Bekämpfung des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern sowie der Kinderpornografie, die darauf abzielt, Täter strafrechtlich zu verfolgen und Opfer zu schützen. Allerdings reichen diese Instrumente nicht aus, um die spezifischen Risiken von Deepfakes zu adressieren, da diese Technologie es ermöglicht, täuschend echte Fälschungen zu erstellen, die schwer von authentischen Inhalten zu unterscheiden sind.
Die Europäische Kommission hat zudem die Netz.EU ins Leben gerufen, um gegen illegale Inhalte im Internet vorzugehen.
Wie wird das Verbot umgesetzt und durchgesetzt?
Das geplante Verbot von Missbrauch Deepfakes KI soll ab dem 2. Dezember 2026 durch das KI-Amt der EU durchgesetzt werden. Dieses Amt wurde vor zwei Jahren geschaffen und ist für die Überwachung und Durchsetzung des KI-Gesetzes zuständig. Es wird die Aufgabe haben, KI-Anbieter zu kontrollieren und sicherzustellen, dass sie die neuen Regeln einhalten. Bei Verstößen drohen empfindliche Strafen, die bis zu einem bestimmten Prozentsatz des weltweiten Jahresumsatzes des Unternehmens betragen können.
Die konkrete Umsetzung des Verbots wird jedoch eine Herausforderung darstellen. Es ist technisch aufwendig, Deepfakes zu erkennen und von authentischen Inhalten zu unterscheiden. Zudem entwickeln sich die Technologien zur Erstellung von Deepfakes ständig weiter, was es den Behörden erschwert, mit den neuesten Entwicklungen Schritt zu halten. Eine effektive Durchsetzung des Verbots erfordert daher eine enge Zusammenarbeit zwischen den Strafverfolgungsbehörden, den KI-Anbietern und den Online-Plattformen. (Lesen Sie auch: Justin Baldoni Klage Beigelegt: Einigung mit Blake…)
Verbraucher können sich aktiv gegen die Verbreitung von Deepfakes einsetzen, indem sie verdächtige Inhalte melden und aufmerksam auf die Echtheit von Bildern und Videos achten. Es gibt auch verschiedene Tools und Technologien, die dabei helfen können, Deepfakes zu erkennen.
Was bedeutet das für Bürger?
Das Verbot von Missbrauch Deepfakes KI soll Bürgerinnen und Bürger vor den negativen Folgen dieser Technologie schützen. Es soll sicherstellen, dass niemand Opfer von Rufschädigung, Demütigung oder sexueller Ausbeutung durch Deepfakes wird. Das Verbot kann dazu beitragen, das Vertrauen in digitale Inhalte zu stärken und die Verbreitung von Falschinformationen zu bekämpfen.
Allerdings bedeutet das Verbot nicht, dass Deepfakes vollständig aus dem Internet verschwinden werden. Es wird weiterhin möglich sein, Deepfakes für legale Zwecke zu erstellen, beispielsweise für künstlerische Projekte oder für Satire. Das Gesetz zielt lediglich darauf ab, den Missbrauch von Deepfakes zu verhindern und die Rechte der Betroffenen zu schützen.
Wie können sich Bürgerinnen und Bürger vor Deepfakes schützen?
Es gibt verschiedene Maßnahmen, die Bürgerinnen und Bürger ergreifen können, um sich vor Deepfakes zu schützen. Dazu gehört beispielsweise, vorsichtig mit persönlichen Daten und Bildern im Internet umzugehen und darauf zu achten, wer Zugriff auf diese Daten hat. Zudem ist es wichtig, kritisch zu hinterfragen, ob ein Bild oder Video echt ist, und sich nicht von täuschend echten Fälschungen täuschen zu lassen. Es gibt auch verschiedene Tools und Technologien, die dabei helfen können, Deepfakes zu erkennen.
Kritik und Bedenken
Trotz der breiten Unterstützung für das Verbot von Missbrauch Deepfakes KI gibt es auch Kritik und Bedenken. Einige Experten warnen davor, dass das Verbot die Entwicklung von KI-Technologien in Europa behindern könnte. Sie argumentieren, dass das Gesetz zu bürokratisch sei und unnötige Hürden für Unternehmen schaffe. Zudem wird befürchtet, dass das Verbot schwer durchzusetzen sei und dass es den Tätern gelingen könnte, die Regeln zu umgehen. (Lesen Sie auch: Deepfakes Meloni: KI-Bild als Kampfansage gegen Fakes?)
Andere Kritiker bemängeln, dass das Gesetz nicht weit genug gehe und dass es nicht alle Formen von Deepfake-Missbrauch erfasse. Sie fordern eine umfassendere Regulierung von KI-Technologien, die auch andere Risiken wie Diskriminierung und Überwachung berücksichtige.
Die Europäische Kommission legt einen Vorschlag für ein KI-Gesetz vor, um einen Rechtsrahmen für Künstliche Intelligenz zu schaffen.
Das Verbot von KI-Anwendungen zur Erstellung missbräuchlicher Deepfakes soll in Kraft treten und durch das KI-Amt der EU durchgesetzt werden.
Wie geht es weiter?
Die Einigung über das Verbot von Missbrauch Deepfakes KI muss nun noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt dies als Formalie. Sollte die Reform durchgehen, würde das Verbot ab dem 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden. Es bleibt abzuwarten, wie sich die konkrete Umsetzung des Verbots gestaltet und welche Auswirkungen es auf die Entwicklung von KI-Technologien in Europa haben wird. Die Europäische Union will mit dem neuen Gesetz einen wichtigen Schritt im Kampf gegen digitale Gewalt und sexuelle Ausbeutung von Kindern gehen. Ob dies gelingt, wird sich in den kommenden Jahren zeigen.
📚 Das könnte Sie auch interessieren
