AI

オープンソースAI:透明性と安全性の間のバランスの取り方

オープンAIシステムの開発は進展を見せているものの、透明性と安全性に関する課題に直面している。

Eulerpool News

オープンソース人工知能(AI)の開発はここ数ヶ月で大きな勢いを増した。

以下はMetaのLlamaの顕著な例です。モデルの応答を決定する「ウェイト」は公開されていますが、そのトレーニングデータは非公開のままです。これにより、開発者はモデルをカスタマイズすることができますが、モデルを最初から再構築するための透明性が欠けています。

以下の見出しを日本語に翻訳してください:
「Für Entwickler hat diese eingeschränkte Offenheit dennoch Vorteile. Sie können quasi-offene Modelle anpassen und auf ihre eigenen Daten trainieren, ohne sensible Informationen an Drittunternehmen weitergeben zu müssen. Doch diese Einschränkungen haben ihren Preis. Ayah Bdeir, eine Senior-Beraterin der Mozilla Foundation, betont, dass nur wirklich offene Technologien ein umfassendes Verständnis der Systeme ermöglichen, die zunehmend alle Bereiche unseres Lebens beeinflussen. Zudem könnten nur wirklich offene Systeme sicherstellen, dass Innovation und Wettbewerb nicht von einigen wenigen dominanten KI-Unternehmen erstickt werden。」

以下の通りです:

開発者にとって、限定的なオープンネスにも利点があります。準オープンモデルをカスタマイズして独自のデータでトレーニングすることができ、第三者企業に機密情報を渡す必要がありません。しかし、これらの制約には代償が伴います。Mozilla FoundationのシニアコンサルタントであるAyah Bdeirは、本当にオープンな技術だけが私たちの生活のあらゆる面にますます影響を与えるシステムについて包括的な理解を可能にすると強調しています。また、本当にオープンなシステムだけが、一部の支配的なAI企業によってイノベーションと競争が阻害されることを防ぐことができるとも述べています。

それに対する反応として、20年以上前にオープンソースソフトウェアの定義を制定したOpen Source Initiativeは、ほぼ最終版となるオープンソースAIの定義を発表しました。この定義は、「Weights」の公開だけでなく、トレーニングデータと基礎となるコードに関する十分な情報を提供し、モデルを再現できるようにすることを求めています。

以下の見出しを日本語に翻訳してください:
「この動きはすでにAIの世界で強化されたセグメンテーションを引き起こしています。多くの企業は法的な争いを避けるために用語の使用に慎重になっています。そのため、ミストラルはそのモデルNemoを「オープンウエイト」と呼び、「オープンソース」という用語を意図的に避けています。」

部分的にオープンなシステムが普及する中、Allen Institute for AIのOlmo言語モデルのような完全にオープンなモデルも登場しています。しかし、これらがオープンソースソフトウェアが技術業界に与えた影響と同様の影響をAIの世界に与えるかどうかは、まだ不明です。

オープンAIモデルのブレークスルーには2つの要素が必要です。

次に、オープンAIの支持者はその安全性についてもっと説得力のある議論を提出すべきです。

しかし、AI技術のオープンな提供による潜在的なリスクと利点がさらに詳しく調査されるまで、懸念は残り続けるでしょう。

一目で過小評価された株を認識します。
fair value · 20 million securities worldwide · 50 year history · 10 year estimates · leading business news

2ユーロ/月の定期購読

ニュース