Fordi mennesket er ufullkommen, følger det at alt mennesket skaper er ufullkommen også, inkludert dataprogrammene som er ment å drive alt i livene våre. Videre antyder loven om Entropy at alt mennesket skaper vil være mer ufullkommen enn skaperen. Å stole på livene våre og formuen til hemmelige algoritmer er tåpelig og farlig. ⁃ TN Editor
I 1603, Engelske tjenestemenn arresterte Sir Walter Raleigh. De siktet ham for forræderi. Han var angivelig involvert i et komplott for å styrte og drepe den nye kongen, James I.
På rettssaken hans gikk aktorene inn bare ett bevis. Det var et tilståelsesbrev skrevet av mannen som angivelig planla tomtenHerre Cobham. Brevet heter Raleigh a medsammensvorne.
Sir Walter Raleigh sa tilståelsen alene ikke var pålitelig. Hvis han kunne ha med Cobham å vitne i retten, ville han i det minste ha en sjanse til kryssundersøk det eneste vitnet mot ham.
Men de engelske domstolene ved tiden var ikke spesielt interessert i rett prosess. De dømte Raleigh viddhout slik at han kan konfrontere eller undersøke vitnet.
Han ble fengslet og til slutt henrettet.
Spol frem til USA, 2017. En mann står overfor drapsanklager. Og hovedvitnet mot ham er en datamaskinalgoritme.
Algoritmen analyser komplekse DNA-prøver. Den bestemmer segif siktedes DNA er til stede i en prøve.
Naturlig, tiltalte vil vite hvordan algoritmen fungerer nøyaktig.
Og det har han god sak å lure på. Hans tidligere domfellelse for det samme drapet hadde stolt på a annen DNA-testmaskin.
Men scientists seinere bestemte algoritmen var ikke helt riktig. Tbevisene for at domfelte ham ble endret fra positivt til ufullstendig.
Han hadde sittet i fengselet, dømt for drap, basert på en feil algoritme!
Så ved den nye rettsaken, forsvaret spør til undersøke tden nye maskinens algoritme.Men selskapet som utformetalgoritmen liker ikke den ideen.
De algoritme er en handelshemmelighet. Det var kostbart å utvikle seg, aog de vil ikke at den hemmeligheten skal komme seg ut.
Vi er levendein alderen på algoritmer.
En algoritme velger hvilken musikk du lytter til. Og Spotify gjør en ganske god jobb ... A feil algoritme kan tvinge deg til å lytte til en gospel-sang i stedet for gangster rap. Ikke den største avtalen ...
Men hva skjer når en algoritme for en selvkjørende bil må bestemme mellom å treffe en gruppe eller fotgjengere, eller stuper seg selv - og du—Fra en klippe?
Algoritmen blir et spørsmål om liv og død.
Før du setter deg inn i en selvkjørende bil, duNavn inneholder Tilbakestill vil vite litt om algoritmen.
Hva slags beslutninger om delt sekund har det blitt programmert å ta?
Hvilke datainnganger vurderes?
Og Who skrev nøyaktig algoritmen? Husk, algoritmer fortsattha en menneskelig komponentt. Og mennesker er iboende partiske. Deres subjektive meninger vil uunngåelig gjøre det til algoritmen.
Når en algoritme dømmer tiltalte i en drapsforsøk ... det er det også liv eller død.
Noen barnevernstjenester bruker en algoritme for å bestemme hvilke barn som skal ta. Algoritmen tildeler a risikoscorebasert på innspill som hvor mange samtaler avdelingen har mottatt, og om foreldrene er fiendtlige overfor saksbehandlere.
Annen domstolene bruker allerede en algoritme for å finne ut av recidivism risiko - hvis en kriminell sannsynligvis vil fornærme på nytt. Jo høyere risiko, jo lenger er straffen.
Hvis jeg røykte en ledd eller fikk kjempe på videregående, er jeg 40% mer sannsynlig forpliktea forbrytelse?
WiJeg blir antatt skyldig basert på sannsynlighet alene? Hvordan kan jeg være sikker på at algoritmen ikke er partisk?
Når ProPublica analysert tilbakefall algoritmen, fant de ut at det var rasistisk partisk.
O'Neil Risk Consulting & Algorithmic Auditing er en annen organisasjon som ser på hvor rettferdige algoritmene som brukes av rettssystemet. Men de innrømmer at til og med tilsynene i en grad er subjektive.
Det er ganske skummelt å ha algoritmer som styrer det strafferettslige systemet. Grunn prosess kan erstattes av datamaskinprosessorer.
Men algoritmer er ikke nødvendigvis en dårlig ting. De kan analysere enorme og sammensatte datasett. Det krever mye arbeid å bygge en god algoritme. Du kan forstå hvorfor et selskap ønskers å beskytte det er hemmelighetene.
wpDiscuz