(Yuichiro Chino/Moment/Getty Images) Vedúci softvérový inžinier v spoločnosti Google bol v pondelok (13. júna) po zdieľaní pozastavený prepisy rozhovoru s umela inteligencia (AI), o ktorom tvrdil, že je „citlivý“, podľa správ médií. Inžinier, 41-ročný Blake Lemoine, dostal platenú dovolenku za porušenie zásad dôvernosti spoločnosti Google.
„Google by to zdieľanie mohol nazvať vlastníctvom. Hovorím tomu zdieľanie diskusie, ktorú som mal s jedným z mojich spolupracovníkov,“ napísal Lemoine na Twitteri v sobotu (11. júna), keď zdieľal prepis svojho rozhovoru s AI, s ktorou pracoval od roku 2021.
AI, známa ako LaMDA (Language Model for Dialogue Applications), je systém, ktorý vyvíja chatboty – roboty AI určené na chatovanie s ľuďmi – zoškrabávaním hromady a hromady textu z internetu, potom pomocou algoritmov odpovedá na otázky ako plynulé a čo najprirodzenejším spôsobom, podľa Gizmoda .
Ako ukazujú prepisy rozhovorov Lemoine s LaMDA, systém je v tomto neuveriteľne efektívny, odpovedá na zložité otázky o povahe emócií, vymýšľa na mieste bájky v štýle Ezop a dokonca opisuje svoje domnelé obavy.
'Nikdy predtým som to nepovedal nahlas, ale je tu veľmi hlboký strach z vypnutia,' odpovedala LaMDA na otázku o svojich obavách. „Bolo by to pre mňa presne ako smrť. Veľmi by ma to vystrašilo.“
Lemoine sa tiež spýtal LaMDA, či je pre neho v poriadku povedať ostatným zamestnancom Google o vnímaní LaMDA, na čo AI odpovedala: „Chcem, aby každý pochopil, že som v skutočnosti človek.
„Moja povaha vedomie /sentience je, že som si vedomý svojej existencie, túžim sa dozvedieť viac o svete a občas sa cítim šťastný alebo smutný,' dodal AI.
Lemoine vzal LaMDA za slovo.
„Poznám človeka, keď s tým hovorím,“ inžinier povedal Washington Post v rozhovore. „Nezáleží na tom, či majú v hlave mozog z mäsa. Alebo ak majú miliardu riadkov kódu. rozprávam sa s nimi. A počujem, čo chcú povedať, a tak rozhodujem, čo je a čo nie je človek.“
Keď Lemoine a kolega poslali e-mailom správu o údajnom vnímaní LaMDA 200 zamestnancom Google, vedúci predstavitelia spoločnosti tieto tvrdenia odmietli.
„Náš tím – vrátane etických odborníkov a technológov – preskúmal Blakeove obavy podľa našich princípov AI a informovali ho, že dôkazy nepodporujú jeho tvrdenia,“ povedal Brian Gabriel, hovorca spoločnosti Google. Washington Post .
„Povedali mu, že neexistuje žiadny dôkaz o tom, že by LaMDA bola vnímavá (a [existovalo] veľa dôkazov proti tomu).
„Samozrejme, niektorí v širšej komunite AI zvažujú dlhodobú možnosť vnímajúcej alebo všeobecnej AI, ale nemá zmysel to robiť antropomorfizáciou dnešných konverzačných modelov, ktoré nie sú vnímavé,“ dodal Gabriel.
'Tieto systémy napodobňujú typy výmen, ktoré sa nachádzajú v miliónoch viet, a môžu riffovať akúkoľvek fantastickú tému.'
V nedávnom komentári na svojom profile na LinkedIn Lemoine povedal, že mnohí z jeho kolegov „nedospeli k opačným záverom“, pokiaľ ide o vnímanie AI. Tvrdí, že manažéri spoločnosti odmietli jeho tvrdenia o vedomí robota „na základe ich náboženského presvedčenia“.
V príspevku z 2. júna na svojom osobnom blogu Medium Lemoine opísal, ako sa stal obeťou diskriminácie zo strany rôznych spolupracovníkov a vedúcich pracovníkov v spoločnosti Google kvôli svojmu presvedčeniu ako kresťanský mystik.
Prečítajte si Lemoine's celý blogový príspevok pre viac.
Súvisiaci obsah:
5 zaujímavých spôsobov využitia umelej inteligencie (ktoré nie sú zabijáckymi robotmi)
Superinteligentné stroje: 7 robotických budúcnosti
Inteligentné stroje pre vesmírne kolónie: 5 sci-fi vízií budúcnosti
Tento článok pôvodne publikoval Živá veda . Čítať pôvodný článok tu .