Globale KI-Riesen bekennen sich zu Sicherheitsstandards

Führende Unternehmen im Bereich der künstlichen Intelligenz haben sich unter dem Dach des Vereinigten Königreichs und Südkoreas auf eine neue Runde freiwilliger Verpflichtungen zur Sicherheit von KI-Systemen geeinigt. Zu den signierenden Giganten zählen Amazon, Google, Meta, Microsoft sowie die von Sam Altman geführte OpenAI, Elon Musks xAI und der chinesische Entwickler Zhipu AI. Sie haben zugesichert, Rahmenwerke zu publizieren, die darlegen, wie sie die Risiken ihrer fortschrittlichen KI-Modelle bewerten werden. Die Gruppen bekräftigten das Versprechen, die Entwicklung oder den Einsatz eines Modells komplett zu unterlassen, sollten sich gravierende Risiken nicht abwenden lassen. Diese Erklärung erfolgte im Lichte der anstehenden globalen KI-Gipfels in Seoul, den die beiden Nationen am Dienstag ankündigten. Diese Ankündigung knüpft an die sogenannte Bletchley-Deklaration an, die auf dem ersten KI-Sicherheitsgipfel unter der Gastgeberschaft des britischen Premierministers Rishi Sunak im November formuliert wurde. Premierminister Sunak kommentierte: 'Diese Verpflichtungen garantieren, dass die führenden KI-Unternehmen der Welt Transparenz und Rechenschaft über ihre Pläne zur Entwicklung sicherer KI ablegen. Dies setzt einen Maßstab für weltweite Standards im Bereich der KI-Sicherheit und wird die Vorteile dieser transformativen Technologie freisetzen.' Gemäß der abgesteckten Kommuniqué werden die beteiligten KI-Unternehmen 'die Risiken bewerten, die von ihren Grenzmodellen oder -systemen ausgehen... einschließlich vor deren Einsatz und, wenn angebracht, vor und während des Trainings.' Es wurde ebenso dargelegt, bei welchen Risikoschwellen ein Modell oder System ohne angemessene Abmilderung als unannehmbar gelten würde und wie solche Milderungen umgesetzt werden sollen. Anna Makanju, Vizepräsidentin für globale Angelegenheiten bei OpenAI, bekundet: 'Das Gebiet der KI-Sicherheit entwickelt sich rasant, und wir begrüßen insbesondere das Bekenntnis zu Verfeinerungen der Ansätze in Einklang mit der Wissenschaft.' Die Ankündigung am Dienstag spiegelt freiwillige Verpflichtungen wider, die im Juli vergangenen Jahres im Weißen Haus von Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft und OpenAI 'um sich dem sicheren, gesicherten und transparenten Entwickeln von KI-Technologie anzunähern', übernommen wurden. Wie Unternehmen jedoch für die Einhaltung ihrer Verpflichtungen zur Verantwortung gezogen werden können, bleibt unklar. Gemäß dem Kommuniqué vom Dienstag werden die 16 Unternehmen 'öffentliche Transparenz' über die Implementierung ihrer Versprechen bieten, 'außer insofern, als dies das Risiko verstärken oder sensible kommerzielle Informationen in einem Ausmaß preisgeben würde, das zum gesellschaftlichen Nutzen unverhältnismäßig wäre'. Die britische Wissenschaftsministerin Michelle Donelan äußerte sich in Seoul gegenüber der Financial Times, dass die Bletchley-Vereinbarungen funktionieren würden. 'Wir glauben daher, dass auch diese Abkommen weiterhin Früchte tragen werden,' sagte Donelan. Sie bestätigte zudem, dass die chinesische Regierung an den Treffen am zweiten Gipfeltag am Mittwoch teilnehmen werde. Dan Hendrycks, Sicherheitsberater bei xAI, meinte, die freiwilligen Verpflichtungen würden 'die Grundlage für konkrete nationale Regulierungen legen'. Dennoch betonte Donelan erneut die Position des Vereinigten Königreichs, dass es noch zu früh sei, um Gesetze zur Durchsetzung der KI-Sicherheit in Erwägung zu ziehen. 'Wir müssen die Risiken besser verstehen', sagte sie und verwies darauf, dass die britische Regierung bis zu £8,5 Millionen an Zuschüssen für die Untersuchung von mit KI verbundenen Risiken wie Deepfakes und Cyberangriffen bereitstellen werde. Darüber hinaus merkte sie an, dass falls die britische Regierung im letzten Jahr Gesetze zu diesem Thema initiiert hätte, 'diese bis zu ihrer Veröffentlichung wahrscheinlich bereits überholt wären'.