New Yorker Gesetzesentwurf fordert Transparenz bei KI-Modellen

Der Staat New York hat einen bedeutenden Schritt in Richtung KI-Sicherheit getan, indem ein neues Gesetz verabschiedet wurde, das die Risiken von fortschrittlichen KI-Modellen minimieren soll. Ziel des sogenannten RAISE Acts ist es, Katastrophenszenarien zu verhindern, die durch KI verursacht werden könnten und die zu Todesfällen oder Verletzungen von mehr als 100 Personen oder Schäden in Höhe von mehr als 1 Milliarde US-Dollar führen könnten. Die Verabschiedung des RAISE Acts markiert einen wichtigen Sieg für die Bewegung zur KI-Sicherheit, die in den letzten Jahren durch die Priorisierung von Innovation unter der Trump-Administration und in Silicon Valley an Boden verloren hatte. Dabei wird das Gesetz von renommierten Persönlichkeiten wie dem Nobelpreisträger Geoffrey Hinton und dem KI-Pionier Yoshua Bengio unterstützt. Sollte es Gesetz werden, wäre dies der erste rechtlich vorgeschriebene Transparenzstandard für KI-Labore in den USA. Die Gesetzgebung beinhaltet Ähnlichkeiten zu einem umstrittenen kalifornischen Gesetzesentwurf, SB 1047, das letztlich abgelehnt wurde. Senator Andrew Gounardes, Mitinitiator des RAISE Acts, betont jedoch, dass der Entwurf so gestaltet ist, dass Innovationen von Start-ups und akademischen Forschern nicht gehemmt werden. Ein Hauptkritikpunkt an früheren Entwürfen. Das Gesetz liegt nun auf dem Schreibtisch der Gouverneurin von New York, Kathy Hochul, die es entweder unterzeichnen, zur Überarbeitung zurücksenden oder ablehnen kann. Bei einer Unterzeichnung müssen die weltweit größten KI-Labore umfassende Sicherheits- und Sicherheitsberichte zu ihren KI-Modellen veröffentlichen. Außerdem müssen Vorfälle gemeldet werden, bei denen es zu problematischen Verhaltensweisen der KI-Modelle oder Diebstählen durch böswillige Akteure kommt. Werden diese Standards nicht eingehalten, können Zivilstrafen bis zu 30 Millionen Dollar verhängt werden. Ziel ist es, die größten Unternehmen der Welt zu regulieren, unabhängig davon, ob sie in Kalifornien wie OpenAI und Google oder in China wie DeepSeek und Alibaba ansässig sind. Die Transparenzanforderungen gelten für Unternehmen, deren KI-Modelle mit mehr als 100 Millionen Dollar an Computerressourcen trainiert wurden und in New York zur Verfügung stehen. Trotz der Bedenken und Kritik, unter anderem von prominenten Stimmen aus Silicon Valley, hält der Co-Sponsor des Gesetzes, Alex Bores, an der Ansicht fest, dass der RAISE Act die Innovation nicht behindern wird. Während einige in der Tech-Industrie negative Auswirkungen befürchten, betont Bores, dass der wirtschaftliche Nutzen des drittgrößten BIP-Staates der USA Firmen nicht dazu veranlassen dürfte, sich aus New York zurückzuziehen.