Prečo pomalý vesmírny pokrok ľudstva spomaľuje AI a čo to znamená pre prežitie

Stôl vľavo

Abstrakt a 1 úvod

2. Hrozba, ktorú predstavuje AI pre všetky technické civilizácie
3. Multiplanetárne stratégie zmierňovania a technologický pokrok
4. Časové rozpätie a konfrontácia s údajmi
5. A regulácia
6. Závery, vyhlásenie o konkurenčnom záujme, uznania a referencie

Multiplanetárne stratégie zmierňovania a technologický pokrok

V našej doterajšej analýze sme predpokladali, že umelá inteligencia a biologické systémy sú spolu umiestnené v tom istom obmedzenom fyzickom priestore. Akonáhle to už nie je pravda, existenčné hrozby, ktoré sme opísali v oddiele 2, už nie sú také prísne. Napríklad, multiplanetárny biologický druh [42] by mohol ťažiť z nezávislých skúseností na rôznych planétach, diverzifikovať svoje stratégie prežitia a prípadne vyhnúť sa jednorazovému zlyhaniu, ktorému čelí planétovo viazaná civilizácia.

Tento distribuovaný model existencie zvyšuje odolnosť biologickej civilizácie voči katastrofám spôsobeným umelou inteligenciou tým, že vytvára redundanciu. Ak jedna planéta alebo predposchodie vo vesmíre spadne do nesúladu cieľov umelej inteligencie s biologickými záujmami, iní môžu prežiť a okamžite sa z týchto zlyhaní naučiť. Okrem toho expanzia do viacerých široko oddelených miest poskytuje širší rozsah na experimentovanie s umelou inteligenciou. Umožňuje izolované prostredia, kde možno študovať účinky pokročilej umelej inteligencie bez okamžitého rizika globálneho zničenia. Rôzne planéty alebo predposchodia vo vesmíre môžu slúžiť ako testovacie lôžka pre rôzne štádiá vývoja umelej inteligencie, za kontrolovaných podmienok

Vieme z vlastnej skúsenosti, že umelá inteligencia postupuje dych berúcim tempom. Avšak to isté nie je pravda o našich vlastných snahách stať sa multiplanetárnou civilizáciou. vesmír je ťažký a, bohužiaľ, zdá sa, že sme oveľa bližšie k dosiahnutiu technickej singularity ako k realizácii skutočne multiplanetárnej, vesmírnej schopnosti.

Technická singularita – hypotetický bod, kde AI prevyšuje ľudskú inteligenciu a schopnosti – by sa mohla vyskytnúť len za niekoľko desaťročí, podľa niektorých predpovedí. Na rozdiel od toho, vytvorenie sebestačnej, multiplanetárnej ľudskej civilizácie sa zdá byť monumentálnou úlohou, ktorá môže trvať mnoho desaťročí [43], možno storočí. Podstata problému spočíva v povahe výziev, ktorým čelí každá doména. Vývoj AI je vo veľkej miere výpočtovou a informačnou výzvou, urýchlenou exponenciálnym rastom dát a spracovateľskej sily. Zatiaľ čo AI môže teoreticky zlepšiť svoje vlastné schopnosti takmer bez fyzických obmedzení, vesmírne cestovanie musí čeliť energetickým obmedzeniam

Vzhľadom na túto potenciálnu univerzálnosť technologického vývoja sú dôsledky pre biologické civilizácie hlboké. závod na vývoj umelej inteligencie by mohol neúmyselne uprednostniť pokroky, ktoré vedú k existenciálnym rizikám, zatieniac pomalšie, ale pravdepodobne životne dôležitejšie úsilie stať sa multiplanetárnym druhom.

Author:

(1) Michael A. Garrett (korespondent), Jodrell Bank Centre for Astrophysics, Dept. of Physics & Astronomy, Alan Turing Building, Oxford Road, University of Manchester, M13 9PL, UK. (michael.garrett@manchester.ac.uk).

Tento dokument je k dispozícii na archive pod licenciou CC BY 4.0 DEED.