Was Erotik-Plattformen über das EU-KI-Gesetz wissen sollten

Das KI-Gesetz kann auch für Anbieter und Betreiber außerhalb der EU gelten, daher sollten amerikanische Erotik-Websites, die europäische Nutzer bedienen, nicht davon ausgehen, dass ihr Standort sie vor der Durchsetzung schützt. Die meisten Betreiber, die KI-Systeme von Drittanbietern nutzen, gelten als „Einsatzbetreiber“, während diejenigen, die Systeme entwickeln, unter eigenem Markennamen vertreiben oder wesentlich modifizieren, zu „Anbietern“ werden können, für die strengere Verpflichtungen gelten.

Das KI-Gesetz kann auch für Anbieter und Einsatzbetreiber außerhalb der EU gelten, daher sollten amerikanische Erotik-Websites, die europäische Nutzer bedienen, nicht davon ausgehen, dass ihr Standort sie vor der Durchsetzung der Vorschriften schützt.

Für eine Branche, die mit außerordentlich sensiblen Informationen umgeht, kann selbst die rechtmäßige Nutzung von KI ohne angemessene Offenlegung, Einwilligung, Sicherheitsvorkehrungen und menschliche Aufsicht zu erheblichen Haftungsrisiken führen.

KI-Inhalte müssen ordnungsgemäß gekennzeichnet werden

Nutzer, die mit KI-Chatbots, virtuellen Begleitern oder synthetischen Darstellern interagieren, müssen in der Regel zu Beginn der ersten Interaktion klar darüber informiert werden, dass sie es mit KI zu tun haben. Ein Hinweis, der in den Nutzungsbedingungen versteckt ist, reicht möglicherweise nicht aus. Deepfakes – definiert als KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die einer existierenden Person, einem Objekt, einem Ort, einer Einheit oder einem Ereignis ähneln und fälschlicherweise authentisch erscheinen könnten – erfordern in der Regel eine klare Offenlegung bereits bei der ersten Betrachtung durch den Betrachter; ein maschinenlesbares Wasserzeichen allein reicht nicht aus. Künstlerische, fiktionale und kreative Werke sind von diesen Transparenzanforderungen nicht ausgenommen, auch wenn die Offenlegungen so dargestellt werden können, dass sie den Genuss des Werks nicht beeinträchtigen.

Wie diese Verpflichtungen gelten, kann von der Rolle des Betreibers abhängen:

• Eine Plattform, die einen Deepfake erstellt, in Auftrag gibt oder veröffentlicht, agiert wahrscheinlich als Verbreiter und muss die Kennzeichnungspflicht erfüllen.
• Ein professioneller Urheber, der regelmäßig KI-generierte Inhalte monetarisiert, kann bereits für sich allein als Verbreiter gelten.
• Eine Plattform, die lediglich Inhalte hostet, die von einem Nutzer eigenständig erstellt wurden, wird dadurch nicht automatisch zum Verbreiter des Generators, kann aber dennoch Verantwortlichkeiten gemäß dem Gesetz über digitale Dienste, nationalem Recht, ihren eigenen Richtlinien und anderen EU-Vorschriften haben.

Selbst wenn ein synthetischer Darsteller keiner existierenden Person ähnelt und daher möglicherweise nicht der Definition eines Deepfakes entspricht, bleibt die freiwillige Kennzeichnung eine sinnvolle Maßnahme des Risikomanagements.

KI-Pornografie ohne Einwilligung ist ausdrücklich verboten

Das KI-Omnibusgesetz von 2026 hat das KI-Gesetz dahingehend geändert, dass KI-Systeme verboten sind, die dazu bestimmt sind, sexuell explizites oder intimes Material ohne Einwilligung zu erzeugen oder zu manipulieren, einschließlich sogenannter „Nudification“-Systeme. Das Verbot umfasst auch Systeme, die dazu bestimmt sind, Material über sexuellen Kindesmissbrauch (CSAM) zu erzeugen, einschließlich synthetischen Materials, und tritt am 2. Dezember 2026 in Kraft.

Unternehmen der Erotikbranche sollten nicht bis Dezember warten. Betreiber, die Generierungstools anbieten, sollten Kontrollmaßnahmen einführen, um Folgendes zu verhindern:

• Die Verwendung des Abbilds einer realen Person ohne dokumentierte Genehmigung.
• Die Veränderung eines gewöhnlichen Fotos, um Nacktheit oder sexuelle Handlungen ohne Einwilligung darzustellen.
• Die Erzeugung oder Sexualisierung von Personen, die minderjährig sind oder als solche erscheinen.
• Versuche, Sicherheitsvorkehrungen durch veränderte Eingabeaufforderungen, Rechtschreibfehler, Referenzbilder oder wiederholte Generierungsversuche zu umgehen.

Verstöße gegen verbotene KI-Praktiken können die höchsten Strafen des KI-Gesetzes nach sich ziehen. Betreiber sollten zudem die Freigabeerklärungen der Darsteller aktualisieren, da herkömmliche Freigabeerklärungen möglicherweise keine ausreichende Genehmigung für KI-Training, Gesichtsersetzung, Stimmklonierung, digitale Nachbildungen oder die zukünftige Erzeugung neuer Szenen enthalten. Diese Rechte sollten ausdrücklich, konkret und separat geregelt werden, anstatt in einer allgemeinen Standardklausel unterzugehen.

Leiten Sie niemals die sexuelle Orientierung aus biometrischen Daten ab

Der AI Act verbietet die Verwendung biometrischer Daten, um geschützte Merkmale abzuleiten, darunter das Sexualleben oder die sexuelle Orientierung einer Person. Plattformen für Erwachsene müssen daher Tools vermeiden, die sexuelle Interessen oder Verhaltensweisen aus Gesichtszügen, Stimme, Körperform oder anderen biometrischen Merkmalen ableiten, selbst wenn dies der Personalisierung oder Werbung dient.

Gewöhnliche Empfehlungssysteme, die auf dem Nutzungsverhalten basieren, sind nicht zwangsläufig verboten.

Allerdings können Browserverläufe und Nutzerverhalten Aufschluss über die sexuelle Orientierung oder das Sexualleben geben, wodurch diese Verarbeitung unter die Bestimmungen der Datenschutz-Grundverordnung (DSGVO) für Daten besonderer Kategorien fällt.

Die Altersschätzung anhand des Gesichts erfordert besondere Sorgfalt

Die KI-gestützte Altersschätzung anhand des Gesichts kann eine biometrische Kategorisierung darstellen. Obwohl dies nicht kategorisch verboten ist, müssen Betreiber die Nutzer darüber informieren, wenn diese Funktion aktiv ist, und die DSGVO, den Digital Services Act sowie nationale Gesetze zur Altersüberprüfung berücksichtigen.

Die Altersüberprüfung sollte notwendig, verhältnismäßig, genau und datenschutzkonform sein. Soweit möglich, sollten Betreiber lediglich eine Bestätigung „über 18“ erfassen, anstatt Ausweisdokumente, Gesichtsbilder und Geburtsdaten zu verlangen. Bei der Verwendung von Gesichtsscans sollten Betreiber wissen, wie Bilder und biometrische Daten gespeichert, verarbeitet oder für das Modelltraining genutzt werden, wie mit Fehlern und Einsprüchen umgegangen wird und ob weniger in die Privatsphäre eingreifende Alternativen verfügbar sind.

Die Altersüberprüfung sollte nicht als Vorwand dienen, eine permanente Datenbank aufzubauen, die die rechtlichen Identitäten der Nutzer mit ihren Gewohnheiten beim Konsum von Erwachseneninhalten verknüpft.

Moderations- und Empfehlungssysteme sind nicht automatisch „risikoreich“

KI, die zur Erkennung von CSAM, nicht einvernehmlichen Bildmaterialien, verbotenen Uploads, Spam oder Betrug eingesetzt wird, gilt gemäß dem KI-Gesetz nicht automatisch als risikoreich. Betreiber sollten jedoch Genauigkeit, Voreingenommenheit und vorhersehbare Schäden bewerten und bei Entscheidungen mit weitreichenden Folgen für die Beteiligten eine menschliche Überprüfung vorsehen.

Empfehlungsmaschinen fallen im Allgemeinen ebenfalls nicht unter die Kategorie „risikoreich“, obwohl ihre Datenpraktiken dennoch unter die DSGVO und den Digital Services Act fallen können.

KI, die für die Beschäftigung oder den Zugang zur Selbstständigkeit eingesetzt wird, kann als risikoreich eingestuft werden, darunter Systeme, die Arbeitskräfte rekrutieren oder bewerten, Arbeit zuweisen oder weitreichende Entscheidungen über Kreative und Auftragnehmer treffen.

Nach den AI-Omnibus-Änderungen sollen die wesentlichen Anforderungen für Hochrisikosysteme gemäß Anhang III ab dem 2. Dezember 2027 gelten.

Was Betreiber von Websites jetzt tun sollten

Betreiber von Websites für Erwachsene, die die EU bedienen, sollten folgende Schritte unternehmen:

• Erstellen Sie ein KI-Inventar. Identifizieren Sie jedes verwendete KI-System und stellen Sie fest, ob das Unternehmen als Anbieter, Betreiber, Vertreiber oder Kunde auftritt.
• Identifizieren Sie verbotene Verwendungszwecke. Beenden Sie biometrische Rückschlüsse auf die sexuelle Orientierung oder das Sexualleben und blockieren Sie Systeme, die in der Lage sind, nicht einvernehmliches intimes Material oder CSAM zu generieren.
• Kennzeichnen Sie KI-Interaktionen und -Inhalte. Kennzeichnen Sie KI-Chatbots, Begleiter, Avatare, virtuelle Darsteller und Deepfakes eindeutig und implementieren Sie bei Bedarf maschinenlesbare Herkunftsangaben oder Wasserzeichen.
• Upload-Verfahren aktualisieren. Von Urhebern verlangen, dass sie KI-generierte oder erheblich manipulierte Inhalte kennzeichnen und die erforderlichen Rechte hinsichtlich Ähnlichkeit, geistigem Eigentum und Einwilligung bestätigen.
• Freigabeverfahren modernisieren. Digitale Repliken, Stimmklonen, Modelltraining, Gesichtsersetzung, zulässige Verwendungszwecke, Dauer, Widerruf und Entschädigung regeln.
• Anbieter und Verträge überprüfen. Datenaufbewahrung und -training, Sicherheit, Verarbeitungsorte, Löschung, Zusammenarbeit mit Aufsichtsbehörden, Meldung von Vorfällen, Prüfungsrechte und angemessene Haftungsfreistellung regeln.
  Behalten Sie die menschliche Überprüfung bei. Geben Sie Darstellern und Nutzern eine sinnvolle Möglichkeit, weitreichende automatisierte Entscheidungen anzufechten.
• Schulen Sie Mitarbeiter und Auftragnehmer. Die im KI-Gesetz festgelegte Verpflichtung zur KI-Kompetenz ist bereits in Kraft, und die Schulungen sollten die Systeme widerspiegeln, die die jeweilige Person bedient.
• Führen Sie Aufzeichnungen. Die Aufsichtsbehörden erwarten Nachweise für die Einhaltung der Vorschriften und nicht nur Zusicherungen, dass ein Unternehmen KI verantwortungsvoll einsetzt.

Das finanzielle Risiko ist real

Verstöße im Zusammenhang mit verbotenen KI-Praktiken können mit Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden, während andere Verstöße, einschließlich Verstößen gegen die Transparenzpflicht, Strafen von bis zu 15 Millionen Euro oder 3 % nach sich ziehen können. Dieses Risiko kommt zu potenziellen Bußgeldern nach der DSGVO, der Durchsetzung des Digital Services Act, Ansprüchen aus geistigem Eigentum und von Darstellern sowie der Haftung nach dem Recht der Mitgliedstaaten hinzu.

Die Botschaft ist klar: KI ist in der Erotikbranche nicht verboten, aber Geheimhaltung, die Erstellung von Inhalten ohne Einwilligung und unkontrollierte biometrische Analysen werden rechtlich unhaltbar. Betreiber, die Transparenz, Einwilligung, Datenminimierung und eine sinnvolle menschliche Aufsicht in den Vordergrund stellen, sind am besten aufgestellt, um KI zu nutzen, ohne zum nächsten abschreckenden Beispiel zu werden.

Corey D. Silverstein ist geschäftsführender Gesellschafter und Gründungsmitglied von Silverstein Legal, einer Kanzlei, die alle Bereiche der Erotikbranche vertritt. Zu seinem Kundenstamm zählen Hosting-Unternehmen, Partnerprogramme, Content-Produzenten, Datenverarbeiter, Designer, Entwickler, Betreiber und viele mehr. Er ist in zahlreichen Rechtsordnungen als Rechtsanwalt zugelassen. Kontaktieren Sie ihn über MyAdultAttorney.com, Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein. oder unter der Telefonnummer 248-290-0655.