メタ・プラットフォームズ（旧名フェイスブック）は、人工知能による見分けがつきにくい最先端のビデオとオーディオファイルについて、今後ユーザーに警告すると発表しました。

ユーザーがこれを怠ると、メタの最高ポリシーオフィサーであるニック・クレッグが火曜日のブログ記事で強調したように、彼らには結果が脅かされます。企業は、そのような内容をサービス内でマークするためにヒントを使用する予定です。

この措置は必要です。ビデオや音声記録のAIソフトウェアに不可視のウォーターマークを組み込むことがまだ一般的でないためです、とクレッグは説明しました。しかし、彼はこれらのウォーターマークを取り除く方法があることも認めました。

メタはこの問題をより困難にするために取り組んでいます。そのアイデアは、ファイル生成の段階で直接ウォーターマークを組み込むことで、それらを無効にすることができなくなります。また、この企業は自動的にAIが生成したコンテンツを識別する技術も開発しています。

アメリカで起きた自動音声通話が波紋を呼ぶ： まるで本物のようなジョー・バイデン大統領の声の模倣
呼びかけは、ニューハンプシャー州の民主党予備選に参加しないようにとのもの

この事件は、11月の大統領選の結果を見事にリアルなAI偽造を用いて影響を与えようとする試みが今後数ヶ月間に行われるのではないかという懸念を引き起こしました。

業界連合の一員として、メタはAIにより生成されたファイルを明確に識別するための技術を確立したいと考えています。この企業は、サポートされているすべての言語で、自社のアプリであるFacebook、Instagram、およびThreads内のAI画像をマークすることを目標にしています。

また、Metaはテキストの指示に基づいた画像を作成するAIソフトウェアも提供しています。これらのファイルには、目に見えるマーキングと目に見えない透かしの両方が含まれています。

ナスダックでメタ・プラットフォームズの株式は一時的に0.79パーセント下落し、455.76米ドルになりました。