Science Fiction Eller Fakta: Kunne En 'Robopocalypse' Udslette Mennesker?

{h1}

Hvis hollywood har det rigtigt, vil maskiner en dag "dræbe alle mennesker." men er dette resultat overhovedet plausibelt? Livets små mysterier undersøger den nuværende teknologi, og om menneskeheden vil kunne undgå de fejl, der kunne føre til en "robopokalypse".

I denne ugentlige serie udforsker Life's Little Mysteries plausibiliteten af ​​populære sci-fi-koncepter. Advarsel: Nogle spoilere foran!

Hvis en flok sci-fi-flicks har det rigtigt, vil en krigsspitende menneskehed mod maskiner en dag ødelægge civilisationen. To populære filmserier baseret på en sådan "robopocalypse", "Terminator" og "Matrix" franchisen, er blandt dem, der tyder på at give større autonomi til kunstigt intelligente maskiner, ender med at dæmpe vores art. (Kun midlertidigt, selvfølgelig takket være John Connor og Neo.)

I betragtning af det nuværende tempo inden for teknologisk udvikling, ser "robopokalypse" scenariet mere udforsket eller profetisk? Verdens skæbne kunne tipe i begge retninger, afhængigt af hvem du spørger.

Mens forskere inden for datalogi er uenige om vejen frem for maskiner, siger de, at vores forhold til maskiner sandsynligvis vil være harmoniske og ikke morderiske. Alligevel er der en række scenarier, der kan føre til ikke-biologiske væsener med det formål at udrydde os.

"Teknologien eksisterer allerede for at opbygge et system, der vil ødelægge hele verden med vilje eller utilsigtet, hvis det bare opdager de rigtige forhold," sagde Shlomo Zilberstein, professor i datalogi ved University of Massachusetts.

Maskiner på vores kommando

Lad os først overveje det optimistiske synspunkt: at maskiner altid vil fungere som vores tjenere, ikke omvendt.

"En tilgang er ikke at udvikle systemer, der kan være så farlige, hvis de er ude af kontrol," sagde Zilberstein.

Noget som Skynet - det computeriserede forsvarsnetværk i "Terminator", der beslutter at udslette menneskeheden - er allerede muligt. Så hvorfor er et sådant system ikke bygget? En stor grund: Nukleare væbnede nationer som USA vil ikke gerne vende noget af ansvaret for at lancere warhead til en computer. "Hvad hvis der er en fejl i systemet? Ingen vil tage den risiko," sagde Zilberstein. [Hvad hvis der var en anden teknologisk avanceret art?]

På en mindre skala er der imidlertid givet en høj grad af autonomi til rovdyr droner, der flyver i Mellemøsten. "Antallet af robotsystemer, som faktisk kan trække udløseren selvstændigt, vokser allerede," sagde Zilberstein.

Alligevel overvåger en menneskelig operatør en drone og får det sidste spørgsmål om at fortsætte med en missil strejke. Det er bestemt ikke tilfældet med Skynet, som i "Terminator" -filmene får kontrol over Amerika's samlede atomvåben.

I "Terminator" opretter militæret programmet med det formål at reducere menneskelig fejl og langsommelighed af respons i tilfælde af et angreb på USA

Når menneskelige controllere kommer rundt for at indse faren som en almindelig Skynet udgør, forsøger de at lukke den ned. Skynet fortolker denne handling som en trussel mod sin eksistens, og for at modvirke den opfattede menneskelige fjende, udleder Skynet Amerikas nukesat Rusland og provokerer en gengældelsesstrejke. Milliarder dør i en nuklear holocaust.Skynet fortsætter derefter med at opbygge fabrikker, der kæler robotter til at eliminere resten af ​​menneskeheden.

I et rigtigt scenarie mener Zilberstein, at enkle sikkerhedsforanstaltninger forhindrer et autonomt system i at true flere mennesker, end det er designet til, for eksempel ved at bevogte landets grænser. Derudover vil der ikke programmeres systemer med evnen til at lave brede strategiske beslutninger, som Skynet gør.

"Alle de systemer, vi sandsynligvis vil bygge i den nærmeste fremtid, vil have særlige evner," sagde Zilberstein. "De vil være i stand til at overvåge en region og måske skyde, men de vil ikke erstatte en [menneskelig] generel."

Roboter overskrider vores forståelse

Michael Dyer, computerforsker ved University of California, Los Angeles, er mindre optimistisk. Han mener "mennesker vil i sidste ende blive erstattet af maskiner" og at overgangen måske ikke er fredelig. [Amerikanerne vil have robotter, og de er villige til at betale]

De fortsatte fremskridt inden for kunstig intelligensforskning vil føre til, at maskinerne er så kloge, som vi er i de næste par hundrede år, fortaler Dyer. "Avancerede civilisationer når et punkt med tilstrækkelig intelligens til at forstå, hvordan deres egen hjerne virker, og så bygger de syntetiske versioner af sig selv," siger han.

Ønsket om at gøre det kan komme fra forsøg på at etablere vores egen udødelighed - og denne mulighed kan være for meget for menneskeheden at modstå. (Hvemville ikke ønsker at tilbringe deres evigt efter med deres bevidsthed at gå rundt i en robotskal?)

Måske går den slags overgang fra biologi til teknologi relativt let. Andre scenarier med stigende maskiner er mindre glatte.

Dyer foreslår, at et nyt våbenløb af robotsystem kan resultere i, at den ene side løber voldsomt. "I tilfælde af krigsførelse har fjenderne pr. Definition ingen kontrol over robotterne, der forsøger at dræbe dem," sagde Dyer. Ligesom Skynet kan den fremstillede vende sig mod producenterne.

Eller en uskadelig situation for overhængighed på robotter spiraler ude af kontrol. Antag en fabrik, der gør robotter, ikke følger menneskelige kommandoer, så en ordre udstedes for at slukke strømmen til fabrikken."Men desværre opstår robotter at styre kraftværket, og derfor nægter de. Så en kommando udstedes af mennesker for at stoppe lastbilerne fra at levere nødvendige materialer til fabrikken, men driverne er robotter, så de nægter også," siger Dyer.

Måske bruger internettet robotkendskaberne kontrol over et samfund, der afhænger for meget af sin automat. ("The Animatrix", en samling af korte tegnefilm i 2003, herunder nogle tilbagehistorier til "The Matrix" -filmene, beskriver en sådan situation.)

Alt i alt ville en vis visdom forhindre menneskeheden i at falde ind i fælderne, der blev drømt af Hollywood-skribenter. Men overskudsmotivet hos virksomheder har helt sikkert skabt mere automatisering, og den kolde krigs forudsigelse om truslen om indbyrdes sikret ødelæggelse påpeger, at rationalitet ikke altid vinder.

"Doomsday scenarier er ret nemme at skabe, og jeg ville ikke udelukke den slags mulighed," sagde Zilberstein. "Men jeg er ikke personligt bekymret."

Plausibility rating: Militære ledere og virksomheder vil sandsynligvis ikke være så dumme at tilføje høje niveauer af programmeret autonomi til katastrofalt stærke våbensystemer og kritiske industrisektorer. Vi giver "robopocalypse" to ud af fire Rocketboys.

Denne historie blev leveret af Livets små mysterier, et søsters websted til WordsSideKick.com. Følg Life's Little Mysteries på Twitter @ llmysteries, og følg med os på Facebook.


Video Supplement: .




DA.WordsSideKick.com
All Rights Reserved!
Reproduktion Af Materialer Tilladt Kun Prostanovkoy Aktivt Link Til Webstedet DA.WordsSideKick.com

© 2005–2019 DA.WordsSideKick.com