世界&社会情勢、枠沈情報に関するブログ内容についてのFacebookなどからのメッセージ、

コメント、メールでのお問い合わせはご遠慮ください。お返事は致しかねます。

内容に関してはあくまで参考にされ、ご自分で調べられて下さい。

※コピー&ペーストで一部あるいは全体の記事を転載することはご遠慮ください。

----------------------------

https://slaynews.com/top-researchers-issue-alert-ai-supercharge-bioweapon-threat/

 

ある身も凍るような新たな報告書によると、一流の研究者たちは、人工知能（AI）が、人類に解き放たれた他のいかなるウイルスよりもはるかに致死性の高い生物兵器を設計するために利用される可能性があると警告している。

この憂慮すべき報告書は、急速に進歩するAI技術により、まもなく、COVID-19のパンデミックをはるかに上回る壊滅的な被害をもたらす可能性のある、人工的に設計された生物兵器の作成が可能になると警告している。

この警告は、AIシステムが、以前は高度な訓練を受けた科学者にのみ限定されていた高度な生物学的研究を遂行する能力をますます高めている状況下で発せられたものである。

今週、ランド社（RAND Corporation）が発表した報告書は、AIによって生物兵器の設計・開発の障壁が劇的に低くなり、悪意のある主体が強化された病原体や全く新しい病原体を容易に作り出せるようになる恐れがあると警告している。
 

同報告書によると、この技術は「過去のパンデミックをはるかに上回る」生物攻撃を引き起こす可能性を秘めているという。

AIが生物兵器開発の障壁を低下させる恐れ

研究者らは、AIを活用したバイオテクノロジーの進歩が、世界的な脅威の様相を根本的に変える可能性があると警告している。

「AIを活用したバイオテクノロジーは、生物兵器を製造するための技術的、運用上、および動機付け上の障壁を低下させる可能性がある」と報告書は述べている。


「また、強化された病原体や新規の病原体を用いた壊滅的な攻撃を可能にする恐れがあり、世界中で数百万人の死者を出した過去のパンデミックをはるかに上回る事態を引き起こす可能性もある。」

報告書は、いわゆる「影響の甚大なAIを活用した生物学的事象」に焦点を当てている。

こうした事象は、大規模な社会崩壊やシステム全体の不安定化を引き起こす可能性がある。

研究者らは特に、COVID-19よりも何倍も破壊的な生物災害を伴うシナリオを検証した。

報告書は、「新型コロナウイルス感染症（COVID-19）のパンデミックの10倍規模以上」の影響をもたらし得る生物学的事象に焦点を当てていると述べている。

 

Anthropic、強力な新AI機能の利用を制限

この警告は、世界をリードするAI企業の1社が、生物学研究における大きなブレークスルーを発表した直後に発せられた。

Anthropicは火曜日、同社のAI「Claude」が、試験において15の実験用ターゲットのうち14に結合するタンパク質の設計に成功したことを明らかにした。

この成果は科学的に大きな進歩である一方、Anthropicは、同様の機能が生物兵器の開発に悪用される可能性もあることを認めた。

「堅牢な安全対策が講じられなければ、悪意のある者が生物兵器の開発など、危険な研究を行うことを可能にしてしまう恐れがある」と同社は述べた。

その結果、Anthropicはこの技術の一般公開を見送ると発表した。

「信頼できるアクセスプログラムを通じてこれらの機能を安全に提供できるよう取り組んでいる間、Claude Fable 5におけるタンパク質設計やその他の軍民両用研究生物学機能は、引き続き一般には利用できない状態となる。」

AI企業が連邦政府による監督を要請

こうした懸念の高まりを受け、人工知能分野の大手企業の一部は、より強力な安全対策の導入を求めている。

Google、OpenAI、Anthropicの幹部らは最近、DNAおよびRNA材料を販売する企業に対し、顧客の身元確認と生物学的注文の記録保持を義務付けるよう、連邦議会に要請した。

この提案は、ますます強力になるAIシステムを悪用しようとする個人による、危険な生物学的材料の入手を防ぐことを目的としている。

 

研究者ら、「単一の安全対策だけでは不十分」と警告

RANDは、新たな脅威を排除できる単一の解決策は存在しないと主張している。

同組織はXへの投稿で、「悪意のある者がAIを利用して生物兵器の開発を支援することを防ぐことができる単一の安全対策は存在しない」と述べた。