Teknokrater henvender seg til etikere for å 'redde sjelen'

Femtito etasjer under toppen av Salesforce Tower, møter jeg Paula Goldman i et konferanserom med glasspanel der ordene LIKESTILLINGSKONTOR er stavet på et lappeteppe, det slags dekor du kan kjøpe til et barns bursdagsfest.

Goldman har en mastergrad fra Princeton og en doktorgrad. fra Harvard, hvor hun studerte hvordan kontroversielle ideer blir mainstream. Hun ankom Salesforce for et drøyt år siden å bli den førstnevnte Chief Ethical and Humane Use Officer, og påtar seg en enestående og desidert tvetydig tittel som ble opprettet spesielt for hennes enestående, tvetydige, men likevel svært spesifikke jobb: se til at Salesforce gjør verden bedre, ikke verre.

"Jeg tror vi er et øyeblikk i bransjen der vi er på dette bøyningspunktet," forteller Goldman. “Jeg tror teknologibransjen var her før, med sikkerhet på 80-tallet. Plutselig var det virus og ormer, og det måtte være en helt ny måte å tenke på det og håndtere det. Og du så en sikkerhetsindustri vokse opp etter det. Og nå er det bare standardprotokoll. Du vil ikke sende et større produkt uten å samle det eller sørge for at de riktige sikkerhetsforanstaltninger er i det. ”

"Jeg tror vi er i et lignende øyeblikk med etikk," sier hun. “Det krever ikke bare å ha et sett verktøy for å utføre arbeidet, men også et sett med normer som det er viktig. Så hvordan skalerer du disse normene? "

Jeg spør henne hvordan disse normene avgjøres i utgangspunktet.

"På en eller annen måte er det milliardspørsmålet," sier hun. “Alle disse problemene er ekstremt kompliserte, og det er veldig få av dem der svaret bare er helt klart. Ikke sant? Mye av det kommer ned til, hvilke verdier holder du høyest i beregningen? "

···

I kjølvannet av Cambridge Analytica-skandalen, walkouts av ansatte og andre politiske hendelser og personvernhendelser, sto teknologiselskaper overfor en bølge av samtaler til leie hva forskere ved Data & Society Research Institute kaller "Etiske eiere," mennesker som er ansvarlige for å operasjonalisere "de eldgamle, domenehoppende og uoppløselige debattene om menneskelige verdier som ligger til grunn for etisk etterforskning" på praktiske og påviselige måter.

Salesforce leide Goldman bort fra Omidyar Network som kulminasjonen av en syv måneders krisehåndteringsprosess som kom etter at Salesforce-ansatte protesterte over selskapets involvering i Trump-administrasjonens innvandringsarbeid. Andre selskaper, som responderer på sine egne kriser og bekymringer, har ansatt en liten kader av lignende fagpersoner - filosofer, politiske eksperter, lingvister og kunstnere - alle for å sikre at når de lover å ikke være onde, har de faktisk en sammenhengende ide hva det innebærer.

Så hva skjedde?

Mens noen teknologibedrifter har tatt konkrete skritt for å sette inn etisk tenkning i prosessene sine, sier Catherine Miller, midlertidig administrerende direktør i det etiske konsulentfirmaet Doteveryone, at det også har vært mye å "blafre rundt" emnet.

Kritikere avviser det som “Etikkvask, ”Praksis med å bare kowtowing i retning av moralske verdier for å avverge myndighetsregulering og mediekritikk. Begrepet tilhører det voksende leksikonet rundt teknologietikk, eller "tethics", en forkortelse som begynte som satire i TV-showet "Silicon Valley", men som siden har gått over til tidvis alvorlig bruk.

"Hvis du ikke bruker disse tingene i praksis og i dine insentivstrukturer, hvis du ikke har gjennomgangsprosesser, vel, så blir det som moralsk dampvare," sier Shannon Vallor, en teknologfilosof ved Markkula Center. for anvendt etikk ved Santa Clara University. "Det er noe du har lovet, og du mente å levere, men det kom faktisk aldri."

Google opprettet beryktet et AI-råd og deretter, i april i fjor, oppløst den etter ansatte protesterte inkludering av en advokat mot LGBTQ. I dag inkluderer Googles tilnærming til etikk bruken av “Modellkort”Som tar sikte på å forklare AI.

"Det er ikke noe som har tenner," sier Michael Brent, dataetiker ved Enigma og professor i filosofi ved University of Denver. "Det er akkurat som:" Her er et veldig vakkert kort. ""

Selskapet har gjort mer omfattende innsats: Vallor fullførte nettopp en pliktomvisning hos Google, hvor hun underviste etiske seminarer for ingeniører og hjalp selskapet med å implementere styringsstrukturer for produktutvikling. "Når jeg snakker om etikk i organisatoriske omgivelser, er måten jeg ofte presenterer det på, at det er kroppen av moralsk kunnskap og moralsk dyktighet som hjelper mennesker og organisasjoner til å møte deres ansvar overfor andre," forteller Vallor.

Mer enn 100 Google-ansatte har deltok etikkopplæringer utviklet ved Markkula sentrum. Selskapet utviklet også en rettferdighetsmodul som en del av sitt Machine Learning Crash Course, og oppdateringer sin liste over “ansvarlig AI-praksis” kvartalsvis. "De aller fleste som utgjør disse selskapene ønsker å bygge produkter som er bra for mennesker," sier Vallor. “De vil virkelig ikke bryte demokratiet, og de vil virkelig ikke skape trusler mot menneskers velferd, og de vil virkelig ikke redusere leseferdighet og bevissthet om virkeligheten i samfunnet. De vil lage ting de er stolte av. Så skal jeg gjøre det jeg kan for å hjelpe dem med å oppnå det? Ja."

···

Markkula-senteret, der Vallor jobber, er oppkalt etter Mike Markkula Jr., “ukjent”Apple medstifter som, i 1986, ga senteret et startfrøstilskudd på samme måte som han ga den unge Steve Jobs et innledende lån. Han ville aldri at navnet hans skulle være på bygningen - det var en overraskelse, et tegn på takknemlighet, fra universitetet.

Markkula har trukket seg tilbake til å leve et rolig liv og jobbet fra sin viltvoksende inngjerdede eiendom i Woodside. I disse dager har han ikke mye kontakt med selskapet han startet - "bare når jeg har noe galt med datamaskinen min," forteller han. Men da han kom til Santa Clara-campus for en orientering med datteren sin på midten av 80-tallet, var han Apples styreleder, og han var bekymret for hvordan det gikk i dalen. "Det var tydelig for oss begge, Linda [hans kone] og jeg, at det var ganske mange mennesker som var i beslutningsposisjoner som bare ikke hadde etikk på radarskjermen," sier han. "Det er ikke det at de var uetiske, de hadde bare ingen verktøy å jobbe med."

Les hele historien her ...