Kalifornien verschärft Gesetze gegen KI-generierte Missbrauchsdarstellungen

Die rasante Entwicklung der künstlichen Intelligenz stellt die Strafverfolgungsbehörden vor große Herausforderungen. Wie Erik Nasarenko, Bezirksstaatsanwalt von Ventura County, Kalifornien, erklärte, ist es schwierig, mit dem technologischen Fortschritt Schritt zu halten. Umso wichtiger erscheint das jüngst von Gouverneur Gavin Newsom unterzeichnete Gesetz, das KI-generierte Darstellungen von Kindesmissbrauch in Kalifornien als illegal erklärt. Vor Inkrafttreten des neuen Gesetzes hatte das Büro von Nasarenko in acht Fällen auf eine Anklage verzichtet, da die bestehende Rechtslage verlangte, dass die dargestellten Bilder ein reales Kind abbilden mussten. Solche KI-generierten Inhalte können, so die Strafverfolgungsbehörden, zur Anbahnung von Übergriffen genutzt werden und traumatische Auswirkungen auf Kinder haben, selbst wenn sie nicht physisch missbraucht werden. Der Fall der 17-jährigen Kaylin Hayman, bekannt von der Disney Channel-Serie "Just Roll with It", zeigte deutlich das Ausmaß dieser Bedrohung auf. Sie wurde Opfer digital manipulierter Bilder und engagierte sich daraufhin für das kalifornische Gesetz. Bei einer bundesweiten Gerichtsverhandlung sagte sie gegen einen Straftäter aus, der ihre und die Bilder anderer Kinderdarsteller für sexuelle Darstellungen missbraucht hatte. Das Gericht verurteilte den Täter im Mai zu über 14 Jahren Haft. Experten warnen, dass offene KI-Modelle von Tätern bevorzugt genutzt werden, um missbräuchliche Inhalte zu erstellen. Eine Untersuchung des Stanford Internet Observatory zeigte, dass einige Datensätze, die KI-Tools wie Stable Diffusion trainieren, Links zu solchem Material enthielten. Technologieunternehmen wie Google, OpenAI und Stability AI arbeiten inzwischen mit der Organisation Thorn zusammen, um die Ausbreitung solcher Darstellungen zu bekämpfen. Allerdings wird kritisiert, dass die Maßnahmen zu spät kommen, um den Missbrauch älterer Versionen dieser Werkzeuge vollständig zu verhindern. Die Herausforderung für Ermittler bleibt groß, da sie oft viel Zeit aufbringen müssen, um zwischen realen und KI-generierten Bildern zu unterscheiden. Das überarbeitete Gesetz bietet jedoch neue rechtliche Mittel, um gegen diese Vergehen vorzugehen, ungeachtet der Tatsache, dass kein reales Kind abgebildet wird. Die Justiz zeigt sich entschlossen, gegen solche Vergehen vorzugehen und die bestehenden Gesetze umfassend zu nutzen.