Meta-CEO wegen Erwägung der Verfügbarkeit von KI auf menschlichem Niveau als open source als "verantwortungslos" bezeichnet. Mark Zuckerberg gerät in die Kritik, indem er sich dazu verpflichtet, ein leistungsstarkes KI-System auf menschlichem Niveau zu entwickeln. Der Facebook-Gründer hat außerdem die Möglichkeit in Betracht gezogen, es für die Öffentlichkeit frei zugänglich zu machen.

Der CEO von Meta verkündete, dass das Unternehmen versuchen werde, ein "allgemeines KI-System" zu bauen und es als open source anzubieten, was bedeutet, dass es für Entwickler außerhalb des Unternehmens zugänglich sein wird. Es solle "so weit wie möglich für alle zugänglich" gemacht werden, fügte er hinzu.

In einem Facebook-Beitrag erklärte Zuckerberg, dass es offensichtlich sei, dass die nächste Generation von Technologiediensten den Bau von vollumfänglicher allgemeiner Intelligenz erfordere. "AGI" ist kein klar definierter Begriff, aber er bezieht sich im Allgemeinen auf ein theoretisches KI-System, das eine Vielzahl von Aufgaben auf einem Intelligenzniveau ausführen kann, das dem von Menschen entspricht oder übertrifft.

Das mögliche Entstehen von AGI beunruhigt Experten und Politiker auf der ganzen Welt, die befürchten, dass ein solches System oder eine Kombination mehrerer AGI-Systeme der menschlichen Kontrolle entfliehen und die Menschheit bedrohen könnten. Zuckerberg bestätigte, dass Meta in Betracht ziehen würde, seine AGI als open source zur Verfügung zu stellen, damit Entwickler und die Öffentlichkeit sie nutzen und anpassen können, ähnlich wie das Modell "Llama2" des Unternehmens.

"Diese Technologie ist so wichtig und die Chancen sind so groß, dass wir sie als open source zur Verfügung stellen sollten, damit jeder davon profitieren kann", sagte er. Dame Wendy Hall, Professorin für Informatik an der Universität Southampton und Mitglied des Beratungsgremiums der UN zu KI, sagte, die Aussicht auf open-source AGI sei "wirklich sehr beängstigend" und es sei unverantwortlich von Zuckerberg, darüber nachzudenken.

"Der Gedanke, dass open-source AGI freigegeben wird, bevor wir geregelt haben, wie man solche mächtigen KI-Systeme reguliert, ist wirklich sehr beängstigend", sagte sie. "In den falschen Händen könnte eine Technologie wie diese großen Schaden anrichten.

Es ist so unverantwortlich von einem Unternehmen, dies zu erwägen." Hall fügte hinzu: "Zum Glück glaube ich, dass es noch viele Jahre dauern wird, bevor solche Ziele [AGI] in irgendeiner bedeutsamen Weise erreicht werden können, also haben wir immer noch Zeit, um Regulierungssysteme zu schaffen.

Aber es geht um die öffentliche Sicherheit, dass wir diese Arbeit mit Dringlichkeit vorantreiben." Meta war eines von mehreren Tech-Unternehmen bei einem globalen Gipfel zur KI-Sicherheit im vergangenen Jahr in Großbritannien, das sich verpflichtet hat, Regierungen die Möglichkeit zu geben, KI-Werkzeuge vor und nach ihrer Veröffentlichung zu überprüfen.

Ein weiterer Experte aus Großbritannien meinte, dass die Entscheidung, eine AGI als open source anzubieten, nicht allein in den Händen eines Tech-Unternehmens liegen sollte. "Es gibt tiefe und komplexe Argumente über die Vorzüge von open-source aktuellen KI-Modellen. Im Bereich von AGI könnte dies jedoch entweder rettend oder katastrophal sein", sagte Dr. Andrew Rogoyski, Direktor des Instituts für menschenzentrierte KI an der Universität von Surrey.

"Diese Entscheidungen müssen durch internationalen Konsens getroffen werden, nicht in einem Sitzungssaal eines Tech-Riesen." In einem Interview am Donnerstag mit der Tech-Nachrichten-Website "The Verge" sagte Zuckerberg, dass er sich für Open-Source entscheiden würde, solange es sinnvoll und eine "sichere und verantwortungsvolle" Entscheidung sei. Metas Entscheidung im letzten Jahr, "Llama2" als Open Source freizugeben, wurde von einigen Experten, einschließlich Hall, kritisiert, die sagten, es sei "ein bisschen wie das Bereitstellen einer Vorlage zum Bau einer Nuklearwaffe".

Das in Kalifornien ansässige Unternehmen OpenAI, der Entwickler von "ChatGPT", baut ebenfalls AGI, das es als "KI-Systeme, die im Allgemeinen intelligenter als Menschen" definiert. Demis Hassabis, der Leiter von Googles KI-Abteilung Google DeepMind, hat erklärt, dass AGI in weniger als zehn Jahren möglich sein könnte.

Der CEO von OpenAI, Sam Altman, gab auf dem Weltwirtschaftsforum in Davos, Schweiz, in dieser Woche eine Warnung aus, indem er sagte, dass weitere Fortschritte in der KI unmöglich wären ohne einen Durchbruch in der Energiebereitstellung wie z.B. der Kernfusion.

Zuckerberg nannte keinen Zeitrahmen für die Entwicklung eines AGI-Systems, erwähnte jedoch, dass Meta eine "absolut massive Menge an Infrastruktur" aufgebaut habe, um neue KI-Systeme zu schaffen. Das Unternehmen hat einen bedeutenden Bestand an AI-Prozessorchips bestellt. Zuckerberg fügte hinzu, dass an einer Fortsetzung von "Llama2" gearbeitet werde.