Når AI blir sjefen din, blir du roboten

Kritikere har anklaget selskaper for å bruke algoritmer til lederoppgaver og sagt at automatiserte systemer kan dehumanisere og urettferdig straffe ansatte.

Når Conor Sprouls, en kundeservicerepresentant i kundesenteret til forsikringsgiganten MetLife, snakker med en kunde over telefon, holder han ett øye på nedre høyre hjørne av skjermen. Der, i en liten blå boks, forteller AI ham hvordan han har det.

Snakker du for fort? Programmet blinker et ikon for et hastighetsmåler, som indikerer at han burde bremse.

Høres søvnig ut? Programvaren viser en "energikue" med et bilde av en kaffekopp.

Ikke empatisk nok? Et hjerteikon dukker opp.

I flere tiår har folk fryktelig forestilt seg hærstyrker av hypereffektive roboter som invaderer kontorer og fabrikker, og surrer opp jobber en gang gjort av mennesker. Men i all bekymring for potensialet til kunstig intelligens for å erstatte rangere-og-fil-arbeidere, har vi kanskje oversett muligheten for at den også vil erstatte sjefene.

Sprouls og de andre call center-arbeiderne på kontoret hans i Warwick, Rhode Island, har fremdeles mange menneskelige tilsynsførere. Men programvaren på skjermene deres - laget av Cogito, et AI-selskap i Boston - har blitt en slags tilleggsansvarlig, som alltid ser på dem. På slutten av hver samtale blir Sprouls 'Cogito-varsler opplyst og lagt til et statistikkdashbord som hans veileder kan se. Hvis han skjuler Cogito-vinduet ved å minimere det, varsler programmet sin veileder.

Cogito er et av flere AI-programmer som brukes i kundesentre og andre arbeidsplasser. Målet, ifølge Joshua Feast, administrerende direktør i Cogito, er å gjøre arbeidere mer effektive ved å gi dem tilbakemeldinger i sanntid.

"Det er variasjon i menneskelig ytelse," sa Feast. "Vi kan utlede hvordan folk snakker med hverandre om det går bra eller ikke."

Målet med automatisering har alltid vært effektivitet, men på denne nye typen arbeidsplasser ser AI på menneskeheten seg selv som tingen som skal optimaliseres. Amazon bruker komplekse algoritmer for å spore arbeidernes produktivitet i sine oppfyllingssentre, og kan automatisk generere papirene til brannarbeidere som ikke oppfyller sine mål, slik The Verge avdekket i år. (Amazon har bestridt at det avfyrer arbeidere uten menneskelige innspill, og sier at ledere kan gripe inn i prosessen.) IBM har brukt Watson, AI-plattformen, under medarbeidersamtaler for å forutsi fremtidig ytelse og hevder at den har en nøyaktighetsgrad på 96%.

Så er det oppstartene. Cogito, som jobber med store forsikringsselskaper som MetLife og Humana, samt finans- og detaljhandelsselskaper, sier det har 20,000-brukere. Percolata, et Silicon Valley-selskap som teller Uniqlo og 7-Eleven blant sine klienter, bruker sensorer i butikken for å beregne en “ekte produktivitetspoeng” for hver arbeider, og rangere arbeidere fra mest til minst produktive.

Styring etter algoritme er ikke et nytt konsept. På begynnelsen av 20th århundre revolusjonerte Frederick Winslow Taylor produksjonsverdenen med sin "vitenskapelige ledelse" -teori, som prøvde å vri ineffektivitet ut av fabrikker ved å timing og måle hvert aspekt av en jobb. Nylig har Uber, Lyft og andre plattformer på forespørsel tjent milliarder av dollar ved å outsourcere konvensjonelle oppgaver med menneskelige ressurser - planlegging, lønn, evaluering av ytelser - til datamaskiner.

Men å bruke AI til å styre arbeidere i konvensjonelle, 9-til-5-jobber har vært mer kontroversielt. Kritikere har anklaget selskaper for å bruke algoritmer til lederoppgaver og sagt at automatiserte systemer kan dehumanisere og urettferdig straffe ansatte. Og selv om det er klart hvorfor ledere ønsker AI som kan spore alt arbeidere gjør, er det mindre klart hvorfor arbeidere ville.

Det er surrealistisk å tro at ethvert selskap kan skyte av sine egne arbeidere uten noe menneskelig engasjement, sier Marc Perrone, presidenten for United Food and Commercial Workers International Union, som representerer mat- og detaljarbeidere, i en uttalelse om Amazon i april.

Les hele historien her ...