Algoritmy už robia rozhodnutia za ľudí a je to stále čudné

(Jurij Parmenov/iStock)

Stále si pamätám moje prekvapenie, keď kniha evolučného biológa Petra Lawrencea nazvala Tvorba muchy cena na Amazone bola 23 698 655,93 dolárov (plus poštovné 3,99 USD).

Zatiaľ čo moji kolegovia na celom svete museli byť dosť deprimovaní, že akademická kniha môže dosiahnuť taký výkon, vysoká cena bola v skutočnosti výsledkom toho, že sa algoritmy navzájom napájali a vymkli kontrole. Ukázalo sa, že kreatívny nebol len predajný personál: do hry vstúpili algoritmy.

Tento pútavý príklad bol zaznamenaný a opravený. Ale čo ak k takémuto algoritmickému rušeniu dochádza neustále, vrátane spôsobov, ktoré si ani nevšimneme? Ak je naša realita čoraz viac konštruovaná pomocou algoritmov, kde to opúšťa nás ľudí?



Inšpirovaný takýmito príkladmi, môj kolega Profesor Allen Lee a nedávno som sa rozhodol preskúmať hlbšie účinky algoritmickej technológie v papieri v Vestník Asociácie pre informačné systémy .

Náš prieskum nás priviedol k záveru, že postupom času sa úlohy informačných technológií a ľudí obrátili. V minulosti sme my ľudia používali technológiu ako nástroj. Teraz technológia pokročila do bodu, keď nás využíva a dokonca aj ovláda.

My ľudia nie sme len odrezaní od rozhodnutí, ktoré za nás robia stroje, ale sme nimi hlboko ovplyvnení nepredvídateľnými spôsobmi. Namiesto toho, aby sme boli stredobodom systému rozhodnutí, ktoré nás ovplyvňujú, sme vyvrhnutí do jeho prostredia.

Postupne sme obmedzili našu vlastnú rozhodovaciu kapacitu a umožnili sme algoritmom, aby prevzali kontrolu. Stali sme sa umelými ľuďmi alebo ľudskými artefaktmi, ktoré sú vytvorené, tvarované a používané technológiou.

Príkladov je veľa. V práve, právni analytici sa postupne nahrádzajú podľa umela inteligencia , čo znamená, že úspešná obhajoba alebo stíhanie prípadu sa môže čiastočne spoliehať na algoritmy.

Softvér to bolo dokonca povolené predpovedať budúcich zločincov , ktorá v konečnom dôsledku kontroluje ľudskú slobodu formovaním spôsobu, akým sa väzňom zamieta alebo udeľuje podmienečné prepustenie. Týmto spôsobom sú mysle sudcov formované rozhodovacími mechanizmami, ktorým nerozumejú kvôli tomu, aký zložitý je proces a koľko údajov zahŕňa.

Prílišné spoliehanie sa na technológie viedlo na trhu práce k niektorým z najväčších svetových spoločností na filtrovanie životopisov cez softvér , čo znamená, že ľudskí náboroví pracovníci sa nikdy ani nepozrú na detaily niektorých potenciálnych kandidátov. Nielenže to vystaví živobytie ľudí na milosť a nemilosť strojom, ale môže to viesť aj k zaujatostiam pri prijímaní zamestnancov, ktoré spoločnosť nechcela implementovať. stalo s Amazonom .

V správach, čo je známe ako automatizovaná analýza sentimentu analyzuje pozitívne a negatívne názory na spoločnosti na základe rôznych webových zdrojov. Na druhej strane ich používajú obchodné algoritmy, ktoré robia automatické finančné rozhodnutia bez toho, aby ľudia museli skutočne čítať správy.

Neúmyselné následky

Algoritmy fungujúce bez ľudského zásahu hrajú v súčasnosti na finančných trhoch významnú úlohu. Napríklad, 85 percent všetkých obchodov na devízových trhoch sa riadi iba algoritmami.

Rastúci algoritmické preteky v zbrojení vyvinúť stále zložitejšie systémy, aby mohli konkurovať na týchto trhoch, znamená, že sa prideľujú obrovské sumy peňazí podľa rozhodnutí strojov.

V malom meradle môžu ľudia a spoločnosti, ktoré vytvárajú tieto algoritmy, ovplyvňovať to, čo robia a ako to robia.

Ale pretože veľká časť umelej inteligencie zahŕňa programovanie softvéru, aby zistil, ako dokončiť úlohu sám, často neviem presne to, čo stojí za rozhodovaním. Ako pri všetkých technológiách to môže viesť k nezamýšľaným následkom, ktoré môžu ďaleko presahovať čokoľvek, čo si kedy dizajnéri predstavovali.

Vezmite si 'Flash Crash' z roku 2010 indexu Dow Jones Industrial Average. Činnosť algoritmov pomohla vytvoriť najväčší pokles indexu v jeho histórii, stieranie takmer 9 percent z hodnoty v minútach (hoci väčšinu z nich na konci dňa opäť získal). A päťmesačné vyšetrovanie mohol len naznačiť, čo vyvolalo pokles (a rôzne iné teórie boli navrhnuté ).

Ale algoritmy, ktoré zosilnili počiatočné problémy, neurobili chybu. V programovaní nebola žiadna chyba. Správanie sa vynorilo z interakcie miliónov algoritmických rozhodnutí, ktoré sa navzájom pohrávali nepredvídateľnými spôsobmi, podľa vlastnej logiky spôsobom, ktorý vytvoril klesajúcu špirálu trhu.

Podmienky, ktoré to umožnili, nastali preto, že v priebehu rokov ľudia prevádzkujúci obchodný systém začali vnímať ľudské rozhodnutia ako prekážku efektívnosti trhu. V roku 1987, keď americký akciový trh klesol o 22,61 percenta, niektorí makléri z Wall Street jednoducho prestali dvíhať telefóny, aby nedostali príkazy svojich zákazníkov na predaj akcií.

Tým sa začal proces, ktorý, ako to uviedol vo svojej knihe autor Michael Lewis Flash Boys „skončila tým, že počítače úplne nahradili ľudí“.

Finančný svet investoval milióny do superrýchlych káblov a mikrovlnná komunikácia znížiť rýchlosť, ktorou môžu algoritmy prenášať svoje inštrukcie, len o milisekúndy. Keď je rýchlosť taká dôležitá, ľudská bytosť, ktorá potrebuje obrovských 215 milisekúnd na kliknutie na tlačidlo, je takmer úplne zbytočná.

Naším jediným zostávajúcim účelom je prekonfigurovať algoritmy zakaždým, keď systém technologických rozhodnutí zlyhá.

Keďže sa medzi ľuďmi a technológiou vytvárajú nové hranice, musíme sa dôkladne zamyslieť nad tým, kam nás naša extrémna závislosť od softvéru zavedie. Keďže ľudské rozhodnutia sú nahradené algoritmickými a my sa stávame nástrojmi, ktorých životy sú formované strojmi a ich nezamýšľanými dôsledkami, staviame sa na technologickú nadvládu.

Musíme sa rozhodnúť, kým ešte môžeme, čo to znamená pre nás ako jednotlivcov aj ako spoločnosť.

Dionysios Demetis , lektor systémov riadenia, University of Hull .

Tento článok je znovu publikovaný z Konverzácia pod licenciou Creative Commons. Čítať pôvodný článok .

Názory vyjadrené v tomto článku nemusia nevyhnutne odrážať názory redakcie Energyeffic.

O Nás

Publikácia Nezávislých, Osvedčených Skutočností O Správach O Zdraví, Priestore, Prírode, Technológii A Životnom Prostredí.