Taber Kontrol: Farerne Ved Morderobotter (Op-Ed)

{h1}

Maskiner, der kan målrette og dræbe mennesker uden menneskelig indgriben eller ansvarlighed, udgør en moralsk trussel mod verden.

Ny teknologi kan føre mennesker til at opgive kontrol over beslutninger for at bruge dødelig kraft. Efterhånden som kunstig intelligens udvikler sig, kan muligheden for, at maskinerne selvstændigt vælger og brand på mål, nærme sig hurtigt. Fuldt autonome våben, også kendt som "killer robotter", flytter hurtigt fra science fiction til realitet.

Disse våben, som kunne operere på land, i luften eller til søs, truer med at revolutionere væbnet konflikt og retshåndhævelse på alarmerende måder. Proponenter siger, at disse morderobotter er nødvendige, fordi moderne kamp bevæger sig så hurtigt, og fordi robotter gør kampene, ville de holde soldater og politibetjente ude af skade. Men truslen mod menneskeheden ville opveje eventuelle militære eller retshåndhævende fordele.

Fjernelse af mennesker fra målretningsbeslutningen ville skabe en farlig verden. Maskiner ville gøre liv og død afgørelser uden for menneskelig kontrol. Risikoen for uforholdsmæssig skade eller fejlagtig målretning af civile vil stige. Ingen person kunne holdes ansvarlig.

I lyset af de moralske, juridiske og ansvarlige risici for fuldt autonome våben, kan de ikke forventer deres udvikling, produktion og brug. Den bedste måde at håndtere denne trussel på er et internationalt, juridisk bindende forbud mod våben, der mangler meningsfuld menneskelig kontrol.

Bevare empati og dømmekraft

Mindst 20 lande har i U.N.-møder udtrykt troen på, at mennesker bør diktere valg og engagement af mål. Mange af dem har gentaget argumenter fremlagt i en ny rapport, hvoraf jeg var hovedforfatteren. Rapporten blev udgivet i april af Human Rights Watch og Harvard Law School International Menneskerettighedsklinik, to organisationer, der har kæmpet for et forbud mod fuldt autonome våben.

At bevare menneskelig kontrol over våben er et moralsk imperativ. Fordi de har empati, kan folk føle den følelsesmæssige vægt af at skade en anden person. Deres respekt for menneskelig værdighed kan - og bør - tjene som en kontrol med drab.

Roboter mangler derimod ægte følelser, herunder medfølelse. Desuden kunne livløs maskiner ikke virkelig forstå værdien af ​​ethvert menneskeliv, de valgte at tage. At give dem mulighed for at bestemme, hvornår man skal bruge magt, ville undergrave den menneskelige værdighed.

Den menneskelige kontrol fremmer også overholdelse af international lov, som er designet til at beskytte både civile og soldater. For eksempel forbyder lovens krig uforholdsmæssige angreb, hvor forventede civile skader opvejer forventet militær fordel. Mennesker kan anvende deres dom, baseret på tidligere erfaringer og moralske overvejelser, og træffe sag-for-tilfælde afgørelser om proportionalitet.

Det ville imidlertid være næsten umuligt at gentage denne dom i fuldt autonome våben, og de kunne ikke forprogrammeres til at håndtere alle scenarier. Som følge heraf ville disse våben ikke kunne fungere som "rimelige kommandanter", den traditionelle retlige standard for håndtering af komplekse og uforudsete situationer.

Desuden ville tabet af menneskelig kontrol true et måls ret til ikke at være vilkårligt berøvet liv. At opretholde denne grundlæggende menneskerettighed er en forpligtelse under retshåndhævende såvel som militære operationer. Domsopkald er nødvendige for at vurdere nødvendigheden af ​​et angreb, og mennesker er bedre placeret end maskiner til at gøre dem.

Fremme ansvarlighed

At holde et menneske i løkken om beslutninger om at bruge magt sikrer yderligere, at ansvaret for ulovlige handlinger er muligt. I henhold til international strafferet vil en menneskelig operatør i de fleste tilfælde undslippe ansvaret for den skade, der er forårsaget af et våben, der handlede uafhængigt. Medmindre han eller hun med vilje har brugt et fuldt autonomt våben til at begå en forbrydelse, ville det være uretfærdigt og juridisk problematisk at holde operatøren ansvarlig for handlinger fra en robot, som operatøren hverken kunne forhindre eller straffe.

Der er yderligere hindringer for at finde programmerere og producenter af fuldt autonome våben, der er ansvarlige i henhold til civilret, hvor et offer indgiver en retssag mod en påstået forseelse. For eksempel etablerer USA immunitet for de fleste våbenproducenter. Det har også høje standarder for at bevise et produkt var defekt på en måde, der ville gøre en producent juridisk ansvarlig. Under alle omstændigheder vil ofre fra andre lande sandsynligvis mangle adgang og penge til at sagsøge en udenlandsk enhed. Gabet i ansvarlighed ville svække afskrækkelsen af ​​ulovlige handlinger og forlade ofre utilfredse med at nogen blev straffet for deres lidelse.

En mulighed for at gribe

På et U.N.-møde i Genève i april anbefalede 94 lande at indlede formelle diskussioner om "dødelige autonome våbensystemer". Forhandlingerne ville overveje, om disse systemer skulle begrænses under konventionen om konventionelle våben, en nedrustningstraktat, der har reguleret eller forbudt flere andre typer våben, herunder brandvåben og blændende lasere. De nationer, der har tiltrådt traktaten, vil mødes i december til en revisionskonference for at sætte deres dagsorden for fremtidigt arbejde. Det er afgørende, at medlemmerne er enige om at starte en formel proces om dødelige autonome våbensystemer i 2017.

Nedrustning lov giver præcedens for at kræve menneskelig kontrol over våben. Eksempelvis vedtog det internationale samfund de vidt accepterede traktater, der forbyder biologiske våben, kemiske våben og landminer i vid udstrækning på grund af menneskers manglende evne til at udøve tilstrækkelig kontrol over deres virkninger.Lande bør nu forbyde fuldt autonome våben, hvilket vil udgøre en lige eller større humanitær risiko.

På konferencen i december skal lande, der har tiltrådt konventionen om konventionelle våben, tage konkrete skridt hen imod dette mål. De bør indlede forhandlinger om en ny international aftale om at behandle fuldt autonome våben, der går ud over generelle udtryk, der vedrører specifikke handlinger. De bør afsætte tilstrækkelig tid i 2017 - i mindst flere uger - til indholdsmæssige overvejelser.

Mens processen med at skabe international ret er notorisk langsom, kan landene bevæge sig hurtigt for at imødegå truslen om fuldt autonome våben. De bør benytte lejligheden fremlagt af revisionskonferencen, fordi alternativet er uacceptabelt: At give teknologi til at overskride diplomati ville skabe alvorlige og uovertrufne humanitære konsekvenser.

Bonnie Docherty, Lektor for Ret, Senior Klinisk Instruktør ved Harvard Law School's International Human Rights Clinic, Harvard University

Denne artikel blev oprindeligt offentliggjort på The Conversation. Læs den oprindelige artikel.


Video Supplement: .




Forskning


Opfindelsen Tillader Mennesker At Trække Vejret Som Fisk
Opfindelsen Tillader Mennesker At Trække Vejret Som Fisk

Peak Oil: Teori Eller Myte?
Peak Oil: Teori Eller Myte?

Videnskab Nyheder


Vulkanen I 1600 Forårsagede Globale Forstyrrelser, Undersøgelse Foreslår
Vulkanen I 1600 Forårsagede Globale Forstyrrelser, Undersøgelse Foreslår

Din Hukommelse Kunne Gemme Op Til 10.000 Ansigter Eller Mere
Din Hukommelse Kunne Gemme Op Til 10.000 Ansigter Eller Mere

Trove Af Blændende Bronzealdervåben, Der Er Opdelt I Skotland
Trove Af Blændende Bronzealdervåben, Der Er Opdelt I Skotland

Mennesker, Der Er Usikre På Tro, Er Mere Tætte
Mennesker, Der Er Usikre På Tro, Er Mere Tætte

Støjforurening Truer Fugle
Støjforurening Truer Fugle


DA.WordsSideKick.com
All Rights Reserved!
Reproduktion Af Materialer Tilladt Kun Prostanovkoy Aktivt Link Til Webstedet DA.WordsSideKick.com

© 2005–2019 DA.WordsSideKick.com