世界&社会情勢、枠沈情報に関するブログ内容についてのFacebookなどからのメッセージ、

コメント、メールでのお問い合わせはご遠慮ください。お返事は致しかねます。

内容に関してはあくまで参考にされ、ご自分で調べられて下さい。

※コピー&ペーストで一部あるいは全体の記事を転載することはご遠慮ください。

----------------------------

https://slaynews.com/anthropic-hires-economist-argues-ai-growth-justifies-risk-human-extinction/

 

人工知能（AI）大手のアンソロピック社が、AIが莫大な経済成長をもたらすのであれば、人類の存続が3分の1の確率で終わっても許容できるトレードオフだと主張する悪名高い経済学者を採用したことを受け、専門家たちが警鐘を鳴らしている。

自社が開発を急ぐAI技術の危険性について公に警告していることで知られるこのAI企業は、最近、スタンフォード大学の経済学教授チャド・ジョーンズ氏を採用した。

フィナンシャル・タイムズ紙が、生活水準の向上の可能性と天秤にかけた場合、AIによる「存亡の危機」がどの程度までなら「最適」と見なせるかを計算したジョーンズ氏の論文を取り上げたことを受け、同氏の過去の研究が現在、注目を集めている。

ジョーンズ氏は、AIの爆発的発展の期間中、人類は40年間にわたり、毎年1％の絶滅リスクに直面する可能性がある、と記した。

「40年間にわたり、毎年1％の存亡の危機が訪れる確率に直面することになるため、このAIの爆発的発展を生き延びる確率は exp (−0.01 × 40) ≈ 0.67 となる」とジョーンズ氏は記した。

「言い換えれば、対数効用理論に基づけば、人類の存続が絶たれる3分の1の確率を受け入れる代わりに、生活水準を55倍に劇的に向上させる2/3の確率を得るという選択が最適である」と彼は付け加えた。

経済学者が絶滅リスクを経済的なトレードオフとして捉えた

 

ジョーンズの主張は、事実上、人類の存続を費用対効果の計算として扱ったものだった。

彼のモデルによれば、人工知能によってもたらされる大規模な経済ブームが代償となるのであれば、人類が絶滅する確率が33％であっても正当化され得るという。

この主張に対し、人類を投機的な投資のように扱うべきではないと主張する批評家たちは警鐘を鳴らしている。

「これは、たとえ今、正味の利益が見込まれる決断で損失を被ったとしても、長期的にはうまくいくからと、数学的な計算に任せていいポーカーのようなものではない」とあるRedditユーザーは書き込んだ。

 

「人類の存続を終わらせるには、もう少し慎重さが必要だ。」

こうした反発は、AI業界のエリート層を取り巻く不安が高まっていることを浮き彫りにしている。

AIが人類を滅ぼしかねないと警告する企業や思想家の多くが、同時にこの技術の可能な限り迅速な普及を推進している。

Anthropic社は、AIの安全性という点を軸に、その社会的イメージの多くを築き上げてきた。

 

同社は、他の大手AI企業に代わる「責任ある選択肢」として自らを頻繁にアピールしている。

しかし、ジョーンズ氏の採用は、一部の有力者が人類の絶滅を「管理可能な経済的リスク」として公然と論じているこの業界において、「安全性」とは一体何を意味するのかという新たな疑問を投げかけている。

 

Anthropic、AIによる「世界の終末」の警告でブランドを確立

Anthropicはかねてより、AIが引き起こしうる壊滅的な結果についての警告を積極的に打ち出してきた。

このアプローチにより、同社はOpenAI、Google、Metaといった他のテック大手と同じ、ハイリスクなAI競争に参入しつつ、道義的な優位性を主張することが可能となっている。

この戦略には、都合の良い副次的な効果もある。

AIが世界を滅ぼしかねないという警告を発することで、Anthropicのような企業は、自社の製品が並外れて強力であり、歴史的に重要なものであるという認識を強めている。

 

あらゆる「世界の終わり」を予言するような警告は、同時にマーケティングの売り文句にもなっている。

もしAIが文明を脅かすほど危険であるならば、それを開発する企業は、市場支配を目指す単なる企業ではなく、人類の守護者としてのイメージを打ち出すことができる。

こうした物語は、ますます強力になるシステムを自分たちに任せてほしいと政府や投資家、一般市民に訴えているまさにその企業たちに利益をもたらす。

Anthropic社は、安全性を真剣に受け止めていると主張している。しかし、批評家たちは、同社が技術の安全な導入をめぐって国防総省と公然と対立しているにもかかわらず、同社のAI「Claude」がイランでの攻撃目標の選定に利用されたという報告など、矛盾点を指摘している。

こうした緊張関係により、ジョーンズ氏の過去の主張はさらに爆発的なものとなっている。

 

AI業界、その判断への信頼を一般市民に求める

ジョーンズの論文は、アンソロピック社が「3分の1の確率で絶滅する」という賭けを支持していることを証明するものではない。

しかし、この論文は、AI業界の上層部でどのような考え方が広まっているかを如実に垣間見せてくれる。

この業界で最も影響力のあるプレイヤーたちは、単に生産性を高めるためのツールを開発しているだけではない。

彼らは、自ら「文明を変える可能性を秘めている」と表現するシステムを形作っているのだ。

その一方で、業界の専門家の中には、人類全体に対するリスクを経済モデルの変数として扱っている者もいる。

シリコンバレーの大規模な実験の被験者になることに同意した覚えなどない一般市民にとって、これは不安を覚えるべき事態だ。


アメリカ国民はすでに、AIが仕事、メディア、教育、医療、戦争、監視のあり方を一変させると言われ続けている。

今や、エリート技術官僚たちからは、経済的な利益が十分に大きければ、存在そのものを脅かす危険さえも許容すべきだと言われているのだ。

Anthropicのブランドは、同社が真面目で安全性に重点を置いたAI企業であるという主張に支えられている。

しかし、33％の絶滅リスクを「最適」と見なすような研究を行う経済学者を採用することは、AI革命を主導する人々が、他者全員の未来を賭け事のように扱うことにあまりにも無頓着であるのではないかという懸念を、さらに深めるだけだろう。