なぜ人類のゆっくりとした宇宙進歩がAIを損なうのか、そしてそれは生存にとって何を意味するのか

左のテーブル

抽象と1 Introduction

2. AIがあらゆる技術文明に及ぼす脅威
3. 多惑星緩和戦略と技術進歩
4. タイムスケールとデータとの対立
5. AI規制
6. 結論、競合利益の宣言、承認、参照

3.多惑星緩和戦略と技術進歩

私たちの分析では、これまでのところ、AIと生物システムは同じ限られた物理的空間に共に位置していると仮定しています。これがもはや真実でなくなると、私たちがセクション2で説明した生存的脅威はもはやそれほど厳しいものではありません。例えば、多惑星生物種(42)は、異なる惑星での独立した経験を活用し、その生存戦略を多様化し、あるいは惑星関連文明が直面する単一の失敗を回避することができます。

多惑星文明は、いくつかの広く分離した天体にリスクを分散させ、すべてのプラットフォームで同時に破壊する可能性を減らすことができます。この分散された存在モデルは、人工知能による災害に対する生物文明の抵抗力を増加させます。 宇宙における1つの惑星またはアウトポストがAIの目標と生物的利益の間違った調和に陥れば、他の惑星は生存し、これらの失敗からすぐに学ぶことができます。 さらに、複数の広く分離された場所への拡張は、人工知能開発のさまざまな段階のテストベッドとして機能し、コントロールされた条件の下で、高度なAIの影響を研究することができる孤立した環境を可能にします。

私たちの経験から、AIは非常に速いペースで進歩していることを知っていますが、多惑星文明になるための私たちの努力についても同じことはありません。宇宙は困難であり、残念ながら、私たちは本当に多惑星の宇宙飛行能力を実現するよりも技術的な独特性を達成するよりはるかに近いように見えます。

AIの急速な進歩と宇宙技術の遅い進歩の間の差は厳しい。技術的独特性(AIが人間の知能と能力を上回る仮定的な点)は、いくつかの予測によると、わずか数十年以内に発生する可能性があります。対照的に、自己維持、多惑星の人間文明の確立は、数十年(43)、おそらく何世紀もかかる恐ろしい課題のように思えます。問題の本質は、それぞれのドメインが直面する課題の性質にあります。AI開発は、データと処理力の膨大な成長によって加速された、大体的に計算および情報的な課題です。AIは理論的には、ほとんど物理的な制約なしに自身の能力を向上させることができますが、宇宙旅行はエネルギーの制

テクノロジーの進化のこの潜在的普遍性を考慮すると、生物文明への影響は深い。AIを開発するためのレースは、不意に存在リスクをもたらす進歩を優先する可能性があり、この目標を達成するために必要な技術的進歩を達成するための重要なツールになる可能性がある。

Author:

(1) Michael A. Garrett (Corresponding Author), Jodrell Bank Centre for Astrophysics, Dept. of Physics & Astronomy, Alan Turing Building, Oxford Road, University of Manchester, M13 9PL, UK. (michael.garrett@manchester.ac.uk)

この論文は CC BY 4.0 DEED ライセンスの下で archiv で利用できます。