Nový dokument ukazuje, ako môžu vlády zabrániť vzostupu nepriateľskej, superinteligentnej AI

(Westworld/HBO)

Vynález umelej superinteligencie bol ústrednou témou sci-fi prinajmenšom od 19. storočia. Z poviedky E.M.Forsterovej Stroj sa zastaví (1909) k nedávnemu televíznemu seriálu HBO Westworld, spisovatelia majú tendenciu vykresľovať túto možnosť ako nezmiernenú katastrofu.

Ale tento problém už nie je fikciou. Poprední súčasní vedci a inžinieri sa teraz obávajú, že super-AI by jedného dňa mohla prekonať ľudskú inteligenciu (udalosť známa ako „singularita“) a stať sa „ľudskou“ najhoršia chyba '.

Súčasné trendy naznačujú, že sme pripravení vstúpiť na medzinárodný trh preteky v zbrojení pre takúto technológiu. Ktorákoľvek technologická firma alebo vládne laboratórium uspeje pri vynájdení prvej super-AI, získa potenciálne svetovo dominantnú technológiu. Je to víťaz – berie všetku cenu.



Pre tých, ktorí chcú zastaviť takúto udalosť, je teda otázkou, ako odradiť tento druh pretekov v zbrojení, alebo aspoň motivovať konkurenčné tímy, aby neškrtili zákruty s AI bezpečnosťou.

Super-AI predstavuje pre svojich vynálezcov, ako filozofa, dve základné výzvy Nick Bostrom a iní poukázali. Jedným z nich je problém kontroly, ktorý spočíva v tom, ako zabezpečiť, aby super-AI mala rovnaké ciele ako ľudstvo.

Bez toho by inteligencia mohla úmyselne, náhodne alebo zanedbaním zničiť ľudstvo – „katastrofa AI“.

Druhým je politický problém, ktorým je, ako zabezpečiť, aby výhody superinteligencie neprichádzali len k malej elite, čo by spôsobovalo masívne sociálne a majetkové nerovnosti.

Ak dôjde k pretekom v zbrojení super-AI, mohlo by to viesť k konkurenčným skupinám ignorujte tieto problémy s cieľom rýchlejšieho rozvoja ich technológie. To by mohlo viesť k nekvalitnej alebo nepriateľskej super-AI.

Jedno navrhované riešenie je použiť verejnú politiku na sťaženie vstupu do pretekov s cieľom znížiť počet súťažiacich skupín a zlepšiť schopnosti tých, ktorí sa prihlásia. Čím menej ľudí bude súťažiť, tým menší bude tlak na to, aby sme škrtali, aby sme vyhrali.

Ale ako môžu vlády týmto spôsobom znížiť konkurenciu?

Moja kolegyňa Nicola Dimitri a ja sme nedávno uverejnil príspevok ktorý sa pokúsil odpovedať na túto otázku. Najprv sme ukázali, že v typickom preteku víťaz berie všetky, ako je napríklad zostavenie prvej super-AI, sa zúčastnia len tie najkonkurencieschopnejšie tímy.

Je to preto, že pravdepodobnosť skutočného vynájdenia super-AI je veľmi malá a vstup do závodu je veľmi drahý kvôli veľkým investíciám do výskumu a vývoja, ktoré sú potrebné.

Zdá sa, že toto je súčasná situácia s vývojom jednoduchšej „úzkej“ AI. Patentové prihlášky pretože tomuto druhu AI dominuje niekoľko firiem a veľká časť výskumu AI sa vykonáva tri regióny (USA, Čína a Európa). Zdá sa tiež, že je ich veľmi málo, Ak nejaký skupiny, ktoré v súčasnosti investujú do budovania super-AI.

To naznačuje, že zníženie počtu súťažiacich skupín nie je v súčasnosti najdôležitejšou prioritou. Ale aj pri menšom počte pretekárov v pretekoch môže intenzita konkurencie viesť k vyššie uvedeným problémom.

Aby sa teda znížila intenzita konkurencie medzi skupinami, ktoré sa snažia vybudovať super-AI a zvýšili svoje schopnosti, vlády by sa mohli obrátiť na verejné obstarávanie a dane.

Verejné obstarávanie sa vzťahuje na všetko, čo vlády platia súkromným spoločnostiam za poskytovanie, od softvéru na použitie vo vládnych agentúrach až po zmluvy na poskytovanie služieb. Vlády by mohli uvaliť obmedzenia na akéhokoľvek dodávateľa super-AI, ktorý by od neho vyžadoval, aby riešil potenciálne problémy a podporoval doplnkové technológie na zlepšenie ľudskej inteligencie a jej integráciu s AI.

Vlády by však mohli ponúknuť aj kúpu menej ako najlepšej verzie super-AI, čím by sa v pretekoch v zbrojení stala „druhá cena“ a zabránilo by sa tomu, aby sa stala súťažou víťaz berie všetko.

Vďaka strednej cene, ktorá by mohla byť za vynájdenie niečoho blízkeho (ale nie presne) super-AI, budú mať konkurenčné skupiny motiváciu viac investovať a spolupracovať, čím sa zníži intenzita konkurencie. Druhá cena by tiež znížila riziko zlyhania a odôvodnila by viac investícií, čo by pomohlo zvýšiť schopnosti súťažiacich tímov.

Pokiaľ ide o dane, vlády by mohli stanoviť daňovú sadzbu pre skupinu, ktorá vynájde super-AI podľa toho, do akej miery je AI priateľská alebo nepriateľská. Dostatočne vysoká daňová sadzba by v podstate znamenala znárodnenie super-AI. To by silne odradilo súkromné ​​firmy od škrtov v obave, že stratia svoj produkt v prospech štátu.

Verejné dobro, nie súkromný monopol

Táto myšlienka môže vyžadovať lepšiu globálnu koordináciu zdaňovania a regulácie super-AI. Ale nebolo by potrebné, aby boli zapojené všetky vlády. Teoreticky a jediná krajina alebo región (ako je EÚ) by mohol znášať náklady a úsilie spojené s riešením problémov a etiky super-AI.

Z toho by však profitovali všetky krajiny a super-AI by sa stala skôr verejným statkom než nezastaviteľným súkromným monopolom.

To všetko samozrejme závisí od toho, že super-AI je v skutočnosti hrozbou pre ľudstvo. A niektorí vedci si myslia, že ani nebude. Mohli by sme prirodzene inžinier preč riziká super-AI v priebehu času. Niektorí si myslia, že aj ľudia spojiť sa s AI .

Nech je to akokoľvek, naša planéta a jej obyvatelia budú mať obrovský úžitok z toho, že sa o nás postaráme získať to najlepšie od AI, technológie, ktorá je stále vo svojom detstvo . Na to potrebujeme lepšie pochopiť, akú úlohu môže zohrávať vláda.

Wim Naudé , profesor, Maastrichtský ekonomický a sociálny výskumný inštitút pre inovácie a technológie (UNU-MERIT), Univerzita Spojených národov .

Tento článok je znovu publikovaný z Konverzácia pod licenciou Creative Commons. Čítať pôvodný článok .

O Nás

Publikácia Nezávislých, Osvedčených Skutočností O Správach O Zdraví, Priestore, Prírode, Technológii A Životnom Prostredí.