Umgang mit Deepfakes im geplanten KI-Gesetz

1. In welchem Umfang wird die Problematik der Deepfakes im geplanten KI-Gesetz berücksichtigt? 

2. Welche Bestimmungen sind vorgesehen, um missbräuchliche Anwendungen generativer KI zu adressieren, insbesondere im Zusammenhang mit nicht-einvernehmlichen sexualisierten Inhalten und Identitätsmissbrauch? 

3. Welche Instrumente zur Durchsetzung werden vorgesehen hinsichtlich der raschen Entfernung von rechtswidriger Inhalten und der Durchsetzung von Unterlassungsansprüchen?

4. Wird eine spezifische Haftungsregelung für Plattformen vorgesehen, insbesondere bei unzureichender Moderation?

5. Welche präventiven Massnahmen sind vorgesehen, um die Entstehung und Verbreitung missbräuchlicher Deepfakes frühzeitig zu verhindern?

6. Wie wird sichergestellt, dass Strafverfolgungsbehörden über geeignete Instrumente verfügen, um missbräuchliche synthetische Inhalte wirksam zu verfolgen, insbesondere bei rascher Verbreitung und grenzüberschreitenden Sachverhalten? 

7. Sind verbindliche Transparenz- oder Kennzeichnungspflichten für KI-generierte oder KI-manipulierte Inhalte vorgesehen? Falls ja, wie sollen diese ausgestaltet werden? 

8. Wie wird dem Schutz besonders schützenswerter Personen, insbesondere Minderjähriger, Menschen mit Beeinträchtigungen oder in anderen vulnerablen Situationen Rechnung getragen?

9. Wie stellt der Bundesrat sicher, dass das KI-Gesetz mit internationalen Entwicklungen kompatibel ist?

Der Bundesrat hat Ende 2023 beschlossen, die KI-Konvention des Europarats zu ratifizieren und bis Ende 2026 eine Vorlage für ein KI-Gesetz zu erarbeiten. In diesem Zusammenhang stellt sich die Frage, wie mit synthetischen Inhalten, insbesondere sogenannten Deepfakes, umgegangen wird. KI-gestützte Systeme ermöglichen die rasche Erstellung realistischer Bild-, Audio- und Videoinhalte, die reale Personen darstellen, ohne dass diese daran beteiligt waren. Solche Inhalte werden zunehmend missbräuchlich verwendet, insbesondere in Form nicht-einvernehmlicher sexualisierter Darstellungen oder im Kontext von Identitätsmissbrauch. Betroffen sind in besonderem Mass Frauen, Minderjährige sowie weitere Personen in vulnerablen Situationen. Die bestehende Rechtsordnung ist grundsätzlich technologieneutral ausgestaltet, weist jedoch im Zusammenhang mit synthetischen Inhalten erhebliche Vollzugs- und Durchsetzungsdefizite auf, insbesondere bei rascher und grenzüberschreitender Verbreitung.