MSGエンターテインメント（伝説的なマディソン・スクエア・ガーデンなどの会場を運営）が、人工知能で話題をさらったのはもう2年前のことだ。ある巧妙な顔認識システムが、同社に対して訴訟を起こしている法律事務所を代表する弁護士の入場を拒むために使用された。その結果？弁護士はショーやスポーツイベントに参加できず、民事訴訟が迅速に展開された。弁護士たちは訴えた—当然のことだ。そして、ある観客がこの騒動を見てほほ笑んだのに対し、あるCEOは皮肉を込めて「そうだ、それでいいんだ」と言った。

しかし、一見些細なことのように思えるものが、現代の中心的な議論の扉を開ける。人工知能は、個人の自由、社会の進歩、経済的利益の微妙なバランスにどのように影響するのか？そして、我々はまだこの発展の主体であるのか、それともすでにただの脇役なのか？

自由でない自由

LinkedInの共同創設者であり技術投資家のリード・ホフマンは、最近ロンドンでの講演でこれらの問題を取り上げました。その中で彼は哲学者アイザイア・バーリンの有名な概念、「消極的自由」（外部の制約からの自由）と「積極的自由」（自己決定的に行動する能力）について言及しました。バーリンによれば、この二つはしばしば対立しています。民主主義は妥協を通じて解決策を見つけようと試みますが、その成否はさまざまです。

ホフマンは警告します：以前の技術が主にツールであったのに対し、AIは根本的に新しいものです。AIは独立して決定し、創造し、評価します。これにより、私たちに自由を与えることもあれば、奪うこともあります。ユーリ・ノア・ハラリは彼の著書「ネクサス」で、AIを「地球外知能」と呼びます。これは原子爆弾とは異なり、自律的に行動することができるのです。ハラリは陰鬱なシナリオを描いています：攻撃対象を自ら決めるドローンや、社会的不正を固定化するアルゴリズム、そして見えない檻の世界です。

Doch Hoffman hält dagegen. KI, so seine These, könne nicht nur ein Bedrohungsszenario sein. Sie könnte auch zur ultimativen „Superagentin“ des Menschen werden – wenn wir sie richtig einsetzen.

日常生活のためのスーパーパワー

Stellen Sie sich vor, KI wäre Ihr persönlicher Assistent: Sie hilft Ihnen, komplexe Verträge zu verstehen, unterrichtet Ihre Kinder in Mathe oder macht Sie zum kompetenteren Arbeitnehmer. Mit Systemen wie ChatGPT, so Hoffman, könnten Menschen ihre individuellen „Superkräfte“ entdecken – kreativ, innovativ und selbstbestimmt.

ホフマンが呼ぶこのポジティブな自由は、分散型で柔軟な社会の中で各自が最善を尽くすことを可能にします。「ChatGPTのようなツールは情報のためのGPSのようなものです」と彼は説明します。強制ではなくサポートです。

しかし、この楽観的な見方は重要な問いを見落としている：これらの技術をどのように設計するかを誰が決定するのか？そして、自由が管理に変わるのをどのように防ぐのか？

中国：「スーパーエージェンシー」の暗黒面

どうあるべきでないかを見たい人は中国を見ればいい。そこでは政府がAIを使って市民を監視し、権威主義的な体制を強化している。顔認識とビッグデータは、専門家が「見えない檻」と呼ぶ世界を作り出している。ホフマンにとってのポジティブな自由が、ここでは修辞的な殻となっており、集団の利益は少数のエリートのみに役立っている。

情報技術・革新財団の報告書は、もしまだそうでないなら、中国がまもなくAIの開発で米国を追い越す可能性があると警告している。その時どうするのか？権威主義的な体制がAIを利用して自由を抑圧する場合、民主主義社会はどのようにして自らの価値を守るのか？

見えない戦争

AIに関する議論は技術哲学以上のものです。それは価値と権力に関する闘いです。問題はAIが私たちの未来を決定するかどうかではなく、どのように決定するかです。我々はデザイナーであり続けるのか、それとも単なる観察者であるのか？

民主主義が妥協を通じて苦労する中、中国はAIがいかに迅速に悪用され得るかを証明している。しかし、ホフマンの楽観主義は示している：代替案が存在する。もしAIを利用して人々を強化し、同時に明確な規則を設定すれば、AIは実際に「スーパーエージェント」になる可能性がある。それは私たちの個々の自由を促進し、同時に私たちを結びつける手段だ。

Am Ende ist KI weder Freund noch Feind. Sie ist ein Spiegel unserer Entscheidungen. Und die Frage bleibt: Was werden wir sehen?