Technocrats henvender seg til etikere for å "redde sjelen deres"

SokratesWikipedia Commons, Greg O'Beirne
Del denne historien!
image_pdfimage_print
Technocrats skaper fordi de kan, ikke fordi det er en moralsk eller etisk sak å gjøre det. I deres sinn er teknologi ikke etisk eller moralsk og fortjener derfor ikke en vurdering under utviklingsprosessene. ⁃ TN Editor

Femogtyve etasjer under toppen av Salesforce Tower møter jeg Paula Goldman i et konferanselokale med glasspanel der ordene KVIKALITETSKONTOR er stavet ut på et lappeteppete banner, den typen dekorasjon du kanskje kjøper til et bursdagsfest for et barn.

Goldman har en mastergrad fra Princeton og en doktorgrad. fra Harvard, hvor hun studerte hvordan kontroversielle ideer blir mainstream. Hun ankom Salesforce for et drøyt år siden å bli den førstnevnte Chief Ethical and Humane Use Officer, og påtar seg en enestående og desidert tvetydig tittel som ble opprettet spesielt for hennes enestående, tvetydige, men likevel svært spesifikke jobb: se til at Salesforce gjør verden bedre, ikke verre.

"Jeg tror vi er et øyeblikk i bransjen der vi er på dette bøyningspunktet," forteller Goldman. “Jeg tror teknologibransjen var her før, med sikkerhet på 80-tallet. Plutselig var det virus og ormer, og det måtte være en helt ny måte å tenke på det og takle det på. Og du så en sikkerhetsindustri vokse opp etter det. Og nå er det bare standardprotokoll. Du vil ikke sende et hovedprodukt uten å slå det sammen, eller sørge for at de riktige sikkerhetstiltakene er i det. "

"Jeg tror vi er i et lignende øyeblikk med etikk," sier hun. “Det krever ikke bare å ha et sett med verktøy for å utføre arbeidet, men også et sett med normer, for at det er viktig. Så hvordan skalerer du disse normene? ”

Jeg spør henne hvordan disse normene avgjøres i utgangspunktet.

"På sett og vis er det milliardspørsmålet," sier hun. ”Alle disse spørsmålene er ekstremt kompliserte, og det er veldig få av dem der svaret bare er helt klart. Ikke sant? Mye av det kommer til, hvilke verdier holder du høyest i kalkulaturen din? ”

···

I kjølvannet av Cambridge Analytica-skandalen, walkouts av ansatte og andre politiske hendelser og personvernhendelser, sto teknologiselskaper overfor en bølge av samtaler til leie hva forskere ved Data & Society Research Institute kaller "Etiske eiere," mennesker som er ansvarlige for å operasjonalisere "de gamle, domenehoppende og uoppløselige debattene om menneskelige verdier som ligger til grunn for etisk undersøkelse" på praktiske og påviselige måter.

Salesforce leide Goldman bort fra Omidyar Network som kulminasjonen av en syv måneder lang krisehåndteringsprosess som kom etter at Salesforce-ansatte protesterte selskapets engasjement i Trump-administrasjonens innvandringsarbeid. Andre selskaper, som reagerer på sine egne kriser og bekymringer, har ansatt en liten kader med lignende fagpersoner - filosofer, politiske eksperter, lingvister og kunstnere - alt for å sikre at når de lover å ikke være onde, faktisk har de en sammenhengende ide om hva det innebærer.

Så hva skjedde?

Mens noen teknologifirmaer har tatt konkrete grep for å sette etisk tankegang inn i prosessene sine, sier Catherine Miller, midlertidig administrerende direktør for det etiske konsulentfirmaet Doteveryone, at det også har vært mye "bladd rundt" emnet.

Kritikere avviser det som “Etikk-vask, ”Praksisen med bare å kowe i retning av moralske verdier for å avverge regjeringens regulering og mediekritikk. Begrepet hører til det voksende leksikon rundt teknologietikk, eller "tetikk", en forkortelse som begynte som satire på TV-showet "Silicon Valley", men som siden har gått over til tidvis alvorlig bruk.

"Hvis du ikke bruker disse tingene i faktisk praksis og i dine incentivstrukturer, hvis du ikke har gjennomgangsprosesser, vel, da blir det som moralsk vaporware," sier Shannon Vallor, en teknologifilosof ved Markkula Center for anvendt etikk ved Santa Clara University. "Det er noe du har lovet og ment å levere, men det kom aldri til."

Google opprettet beryktet et AI-råd og deretter, i april i fjor, oppløst den etter ansatte protesterte inkludering av en anti-LHBTQ talsmann. I dag inkluderer Googles tilnærming til etikk bruken av "Modellkort”Som har som mål å forklare AI-en.

"Det er ikke noe som har tenner," sier Michael Brent, dataetiker ved Enigma og filosofiprofessor ved University of Denver. "Det er akkurat som," Her er et veldig vakkert kort. "

Selskapet har gjort en betydelig innsats: Vallor fullførte nettopp en plikturs på Google, hvor hun underviste i etiske seminarer for ingeniører og hjalp selskapet med å implementere styringsstrukturer for produktutvikling. "Når jeg snakker om etikk i organisasjonsmessige omgivelser, er måten jeg ofte presenterer det på at det er kroppen av moralsk kunnskap og moralsk dyktighet som hjelper mennesker og organisasjoner til å oppfylle deres ansvar overfor andre," forteller Vallor.

Mer enn 100 Google-ansatte har deltok etikkopplæringer utviklet ved Markkula sentrum. Selskapet utviklet også en rettferdighetsmodul som en del av sitt Machine Learning Crash Course, og oppdateringer listen over "ansvarlige AI-praksiser" kvartalsvis. "De aller fleste som utgjør disse selskapene ønsker å bygge produkter som er bra for folk," sier Vallor. "De ønsker virkelig ikke å bryte demokratiet, og de ønsker virkelig ikke å skape trusler mot menneskelig velferd, og de ønsker virkelig ikke å redusere leseferdighet og bevissthet om virkeligheten i samfunnet. De vil lage ting de er stolte av. Så skal jeg gjøre det jeg kan for å hjelpe dem å oppnå det? Ja."

···

Markkula-senteret, der Vallor jobber, er oppkalt etter Mike Markkula Jr.ukjent”Apple-grunnlegger som, i 1986, ga senteret et startfrøstilskudd på samme måte som han ga den unge Steve Jobs et innledende lån. Han ville aldri at navnet hans skulle være på bygningen - det var en overraskelse, et tegn på takknemlighet, fra universitetet.

Markkula har trukket seg tilbake for å leve et rolig liv, og jobbet fra sin spredte gated eiendom i Woodside. I disse dager har han ikke så mye kontakt med selskapet han startet - "bare når jeg har noe galt med datamaskinen min," forteller han meg. Men da han ankom Santa Clara-campus for en orientering med datteren sin på midten av 80-tallet, var han Apples styreformann, og han var bekymret for hvordan ting skulle gå i dalen. "Det var klart for oss begge, Linda [kona] og jeg, at det var ganske mange mennesker som var i beslutningsstillinger som bare ikke hadde etikk på radarskjermen," sier han. "Det var ikke slik at de var uetiske, de hadde ikke noen verktøy å jobbe med."

Les hele historien her ...

Bli med på vår adresseliste!


avatar
3 Kommentar tråder
0 Tråd svar
0 Følgere
Mostïve kommentar
Hotteste kommentar tråd
2 Kommentarforfattere
Steve Prewittbare nevner det Nylig kommenterte forfattere
Abonner
Nyeste eldste de fleste stemte
Varsle om
bare nevner det
Gjest
bare nevner det

"Alle disse problemene er ekstremt kompliserte," sier hun. Verdiene er opp den enkelte. I en gang forstand ja, det er opp til oss individuelt, men problemet er ikke komplisert. De har tatt agnet, og det fungerer. De er selv viktige og har som sådan gjort seg til små guder til å vite godt og ondt, ikke bare for seg selv, men har også valgt det for oss. Etikk og rettsvitenskap brukes til å bli undervist på skolen, men det er blitt kastet ut med Bibelen. Bare se på alle advokatene som annonserer på TV. Sannheten er at vi ALLE er syndere. Ja det... Les mer "

Steve Prewitt
Gjest
Steve Prewitt

Hele denne artikkelen slo meg som "vaporware". Etikk er en vits når bransjens største aktør jobber hånd i hanske med Kina og skaper en nasjonal teknokratisk gulag (og nei, jeg snakker ikke om "reeducation" -leirene for muslimer som definerer ondskap).