Výskumníci vyvinuli AI, ktorá oddeľuje skutočné konšpirácie od konšpiračných teórií

(Tarik Haiga/Unsplash)

Zvuk na inak roztrasený zábery z telovej kamery je nezvyčajne jasné. Keď policajti prehľadávajú spútaného muža, ktorý pred chvíľou vystrelil v pizzerii, policajt sa ho pýta, prečo tam bol.

Muž hovorí, že treba vyšetriť pedofilný kruh. Neveriacky sa policajt pýta znova. Ďalší dôstojník sa prihlási: „Pizzagate. Hovorí o Pizzagate.“

V tejto krátkej, mrazivej interakcii v roku 2016 je jasné, že konšpiračné teórie, ktoré boli dlho odsúvané na okraj spoločnosti, sa dostali do reálneho sveta veľmi nebezpečným spôsobom.



Konšpiračné teórie, ktoré majú potenciál spôsobiť značné škody , našli a vitajte doma na sociálnych sieťach , kde fóra bez moderovania umožňujú konverzovať rovnako zmýšľajúcim jednotlivcom. Tam môžu rozvíjať svoje teórie a navrhovať kroky na boj proti hrozbám, ktoré „odhalia“.

Ako však môžete zistiť, či vznikajúci príbeh na sociálnych sieťach je nepodložená konšpiračná teória? Ukazuje sa, že pomocou použitia je možné rozlíšiť medzi konšpiračnými teóriami a skutočnými konšpiráciami strojové učenie nástroje na zobrazenie prvkov a súvislostí rozprávania. Tieto nástroje by mohli tvoriť základ systému včasného varovania, ktorý by upozorňoval orgány na online príbehy, ktoré predstavujú hrozbu v reálnom svete.

Kultúrna analytická skupina na Kalifornskej univerzite, ktorá ja a Vwani Roychowdhury lead, vyvinula automatizovaný prístup k určovaniu, kedy konverzácie na sociálnych médiách odrážajú výpovedné znaky konšpiračných teórií.

Tieto metódy sme úspešne aplikovali na štúdium Pizzagate , Pandémia ochorenia covid-19 a protivakcinačné hnutia . V súčasnosti používame tieto metódy na štúdium QAnon .

Vyrobené v spolupráci, rýchlo sa formuje

Skutočné sprisahania sú zámerne skryté, skutočné činy ľudí, ktorí spolupracujú pre svoje vlastné škodlivé účely. Na rozdiel od toho sú konšpiračné teórie konštruované a rozvíjané otvorene.

Konšpiračné teórie sú zámerne zložité a odrážajú všeobjímajúci svetonázor. Namiesto toho, aby sa konšpiračná teória snažila vysvetliť jednu vec, snaží sa vysvetliť všetko, pričom objavuje súvislosti naprieč doménami ľudskej interakcie, ktoré sú inak skryté – väčšinou preto, že neexistujú.

Zatiaľ čo populárny obraz konšpiračného teoretika je osamelého vlka, ktorý spája záhadné spojenia s fotografiami a červenou šnúrkou, tento obraz už vo veku sociálnych médií neplatí. Konšpiračné teoretizovanie sa presunulo online a teraz je to konečný produkt kolektívneho rozprávania . Účastníci vypracúvajú parametre naratívneho rámca: ľudí, miesta a veci príbehu a ich vzťahy.

Online povaha konšpiračných teórií poskytuje výskumníkom príležitosť sledovať vývoj týchto teórií od ich počiatkov ako série často nesúvisiacich fám a príbehov až po komplexný príbeh. Pre našu prácu predstavil Pizzagate perfektnú tému.

Pizzagate sa začal rozvíjať koncom októbra 2016 v období pred prezidentskými voľbami. V priebehu mesiaca sa úplne sformoval s kompletným obsadením postáv zo série inak nesúvisiacich oblastí: demokratická politika, súkromný život bratov Podestovcov, neformálne rodinné stolovanie a satanské pedofilné obchodovanie.

Spojujúcim naratívnym vláknom medzi týmito inak odlišnými doménami bola fantastická interpretácia uniknutých e-mailov Demokratického národného výboru vyhodila WikiLeaks v posledný októbrový týždeň 2016.

Naratívna analýza AI

Vyvinuli sme model – sadu strojové učenie nástroje – to môže identifikovať príbehy na základe súborov ľudí, miest a vecí a ich vzťahov. Algoritmy strojového učenia spracúvajú veľké množstvo údajov, aby určili kategórie vecí v údajoch a potom identifikovali, do ktorých kategórií konkrétne veci patria.

Analyzovali sme 17 498 príspevkov od apríla 2016 do februára 2018 na fórach Reddit a 4chan, kde sa diskutovalo o Pizzagate. Model považuje každý príspevok za fragment skrytého príbehu a chystá sa odhaliť príbeh. Softvér identifikuje ľudí, miesta a veci v príspevkoch a určuje, ktoré sú hlavné prvky, ktoré sú vedľajšie a ako sú všetky prepojené.

Model určuje hlavné vrstvy rozprávania – v prípade Pizzagate, demokratickú politiku, bratov Podestovcov, neformálne stolovanie, satanizmus a WikiLeaks – a to, ako sa vrstvy spájajú, aby vytvorili naratív ako celok.

Aby sme zabezpečili, že naše metódy prinesú presný výstup, porovnali sme naratívny rámcový graf vytvorený naším modelom ilustrácie publikované v The New York Times . Náš graf bol v súlade s týmito ilustráciami a ponúkal aj jemnejšie úrovne detailov o ľuďoch, miestach a veciach a ich vzťahoch.

Pevná pravda, krehká fikcia

Aby sme zistili, či dokážeme rozlíšiť medzi konšpiračnou teóriou a skutočným sprisahaním, skúmali sme Bridgegate , operáciu politickej odplaty, ktorú spustili zamestnanci administratívy republikánskeho guvernéra Chrisa Christieho proti demokratickému starostovi mesta Fort Lee v štáte New Jersey.

Keď sme porovnávali výsledky nášho systému strojového učenia pomocou dvoch samostatných kolekcií, vynikli dve charakteristické črty naratívneho rámca konšpiračnej teórie.

Po prvé, zatiaľ čo vývoj naratívneho grafu pre Bridgegate trval od roku 2013 do roku 2020, Pizzagateov graf bol úplne vytvorený a stabilný do jedného mesiaca. Po druhé, Bridgegateov graf prežil po odstránení prvkov, čo znamená, že politika v New Jersey bude pokračovať ako jediná prepojená sieť, aj keby boli kľúčové postavy a vzťahy zo škandálu vymazané.

Na rozdiel od toho, graf Pizzagate sa dal ľahko rozdeliť na menšie podgrafy. Keď sme odstránili ľudí, miesta, veci a vzťahy, ktoré pochádzali priamo z interpretácií e-mailov WikiLeaks, graf sa rozpadol na to, čo boli v skutočnosti neprepojené oblasti politiky, príležitostné stolovanie, súkromný život Podestovcov a zvláštny svet. satanizmu.

Na obrázku nižšie sú zelené plochy hlavnými vrstvami rozprávania, bodky sú hlavnými prvkami rozprávania, modré čiary sú spojenia medzi prvkami vo vrstve a červené čiary sú spojenia medzi prvkami naprieč vrstvami.

Fialová rovina zobrazuje všetky vrstvy spojené a ukazuje, ako sú všetky bodky spojené. Odstránením roviny WikiLeaks vznikne fialová rovina s bodkami spojenými iba v malých skupinách.

(Tangherlini a kol., CC BY 4.0)

Hore: Vrstvy konšpiračnej teórie Pizzagate sa spájajú a vytvárajú príbeh, vpravo hore. Odstráňte jednu vrstvu, fantazijné interpretácie e-mailov zverejnených WikiLeaks a celý príbeh sa rozpadne, vpravo dole.

Systém včasného varovania?

Naša práca prináša jasné etické výzvy. Naše metódy by sa napríklad mohli použiť na generovanie ďalších príspevkov do diskusie o konšpiračnej teórii, ktoré zapadajú do naratívneho rámca v koreni diskusie. Podobne, ak vezmeme do úvahy akúkoľvek skupinu domén, niekto by mohol použiť tento nástroj na vytvorenie úplne novej konšpiračnej teórie.

Ako ukazuje naša štúdia fór sociálnych médií, táto zbraň v rozprávaní príbehov už prebieha bez automatických metód. Úlohou výskumnej komunity je pomôcť ostatným pochopiť, ako dochádza k zbrojeniu, a vyvinúť nástroje pre ľudí a organizácie, ktoré chránia verejnú bezpečnosť a demokratické inštitúcie.

Vyvinutie systému včasného varovania, ktorý sleduje vznik a zosúladenie príbehov konšpiračných teórií, by mohlo upozorniť výskumníkov – a úrady – na akcie, ktoré by ľudia mohli na základe týchto príbehov podniknúť v reálnom svete.

Možno, že s takýmto systémom by zatýkajúci dôstojník v prípade Pizzagate nebol zmätený reakciou ozbrojenca na otázku, prečo sa objavil v pizzeri vyzbrojený puškou AR-15.

Timothy R. Tangherlini , profesor dánskej literatúry a kultúry, Kalifornská univerzita, Berkeley .

Tento článok je znovu publikovaný z Konverzácia pod licenciou Creative Commons. Čítať pôvodný článok .

O Nás

Publikácia Nezávislých, Osvedčených Skutočností O Správach O Zdraví, Priestore, Prírode, Technológii A Životnom Prostredí.