仁者は人を愛す、マスク？Hintonから効果的利他主義まで

皆さん、引き続き『オルトマン伝』の著者である周恒星との対談をお届けします。先ほど話に出たヒントンについてですが、彼とアルトマンにもある程度の接点があります。ヒントンは最近、アルトマンがAIの安全性よりも利益を重視していると批判しましたが、この利益と安全性のトレードオフについてどうお考えですか？ これは二つの価値観の衝突だと思います。ヒントンはアカデミアの人間で、アカデミアはカリフォルニアの一部の大学にとても似ていて、多くの人がリベラル左派の影響を受け、環境保護や反戦の時代に育った世代です。アカデミアにはビジネスに対する認識が欠けているという問題があります。一方、起業家の視点から言えば、会社や起業家にとって最大の競争は、まず競争の中で生き残らなければならないということです。 アルトマンにとって、彼も安全性が非常に重要だと認識しているはずです。彼は当時アイリャにスーパーアライメントのために20%の計算資源を提供すると約束しました。いわゆるスーパーアライメントとは、AIの感情的価値観を人間と一致させることです。しかしその後、おそらくグーグルやアンソロピックとの競争が激しくなりすぎて、すべてのリソースを大規模モデルの開発に投入しなければならなくなり、その後の矛盾がどんどん大きくなったのでしょう。 実はどちらの立場も理解できます。私はアルトマンを理解します。CEOとして、彼はまず競争に勝ち、この戦争に勝たなければならず、そのプレッシャーが最大のはずです。安全性を考慮しているか？もちろんしていると思いますが、ヒントンのように安全性をそれほど高い優先順位に置いているわけではないでしょう。 マスクもよく安全性について考えています。少なくとも彼が口にするのは、人類の未来が心配だ、早く規制しろということです。しかし私が本の中でも書いたように、彼のOpenAI時代、特に2018年の発言のいくつかは明らかに有効な加速主義者でした。当時彼はチームに「君たちは遅すぎる、もっと速く、もっと早くリリースしろ」と批判し続けていました。これは明らかにアルトマンと同じで、資本家やCEOの立場からチームをできるだけ早く前進させ、他人に追い越されないようにするということです。しかしOpenAIを離れてから安全性の問題を語り始めたのは、より競争戦略だと思います。 本の中にシリコンバレーの宗教についての章があります。実はこの本を書く前、ずっと前に私も彼らについて書いたことがあり、確かに宗教のようなものです。しかしご存知のように、歴史上の宗教戦争も宗教そのもののためではなく、現実に絡む利益のために理由を探しただけであり、立場は変えられるものです。マスクのように、オックスフォード大学のマクアスキルは私の哲学に合っている、私の哲学は彼とよく似ていると言いますが、先ほども言ったように彼も実は加速主義で、ピーター・ティールらとよく似ており、実はかなり柔軟な道徳観なのです。 マスクのいわゆる理論や描く青写真の多くを見ると、実は変化しており、彼が言うように大学時代から電気自動車やグリーンエネルギー、宇宙をやろうと思っていたわけではなく、後から形成された一連のストーリーテリングの論理です。この論理によれば、彼の最終目標は火星に行くことで、電気自動車は火星での輸送のため、ロケットは地球から火星への中間輸送、Xは当時想定された火星での通信、そしてあのBoring Companyの大きなトンネル掘り——ただしこれは今ほとんど話題にならず、失敗と見なされています——さらに脳機インターフェースもあります。確かに一連の論理があり、そこには彼の理想と信念もありますが、多くは実はストーリーテリングのためです。 彼の効果的利他主義（EA）について、アメリカでは科技報道でも時政報道でも多く書かれています。その一つがロングタームイズム（長期主義）です。ピーター・シンガーは最初に効果的利他主義を唱えた人で、『飢饉、富裕と道徳』の中で、玄関先で餓死しそうな人を救う義務と、何千里も離れたアフリカの難民を救う義務は同じだと言いました。つまり人の生命の価値は抽象的な平均値であり、人を数学化したのです。そうなると現在の人の価値と一万年後の人の価値は同じになります。だからマスクはよく火星に行ける、子供を何人作るか、性的マイノリティになって子供を作らないな、文明が滅びるぞと言います——彼は未来の人類人口の繁栄を確保しようとしており、これはすでに惑星間種族かもしれません。この価値観を逆算すると、かなり社会工学的な考え方です。 初めてマスクに会った時、驚いたのは彼が中国の人口を計算し、もし中国がずっと一人っ子政策を続ければ人口構造がすぐに崩壊する、collapseすると言ったことです。どうして知っているのかと聞くと、計算したと言いました。あれは2013年で、彼はその時すでにこれを計算していました。彼は数理論理が得意で、かなり冷徹で、私も数理論理で話し、あまり感情を混ぜないと言います。だからカリフォルニアの左派的なもの、彼が荒唐無稽と感じる価値観を混ぜすぎるのを嫌い、近年の「ウェイク・マインド・ウイルス」もそうです。彼の息子が娘になったこともあります。 その後マスクとはメールで交流を続け、主に私たちが書いた英語の記事を送って見せ、中国の電気自動車や中国の宇宙について話しました。彼は時々興味を持ち、コメントをくれました。北斗衛星の打ち上げの時、記事を送ると「北斗おめでとう」と言いました。月探査車嫦娥の記事も送り、彼も祝意を表し、中国があなたたちより先に火星に行くと思うかと聞くと、game on、勝負しようと言いました。 ですから、ヒントンからアルトマン、そしてマスクまで、表面的にはAIの安全性を争っていますが、その底では競争、利益、そして立場に応じて調整可能なナラティブが回っているのです。