Šefovi uvode špijunski softver s umjetnom inteligencijom koji stalno nadzire radnike

U Ujedinjenom Kraljevstvu tvrtka Co-op, koja se bavi pravnim uslugama, navodno koristi AI modele kako bi stalno snimala i nadzirala što njezini zaposlenici govore te procjenjivala njihove interakcije s kupcima. Prema ekskluzivnom tekstu The Guardiana, sustav koji je jedan zviždač nazvao opresivnim i distopijskim oslanja se na OpenAI model osposobljen da ocjenjuje više od 50 različitih aspekata svakog telefonskog razgovora i daje prolazne ili neprolazne ocjene. Riječ je o još jednom primjeru kako AI dramatično mijenja radno mjesto.

Ovisno o tome koliko vremena provedu razgovarajući s kupcima, radnici su ponekad pod AI nadzorom i po nekoliko sati dnevno, rekao je jedan zaposlenik. “Nadziru vas,” rekao je zaposlenik Co-opa za The Guardian. Dodao je da to nije isto kao povremeno slušanje radi usklađenosti, nego da se nadzire baš svaka izgovorena riječ. Opisao je to kao distopijsko i kao tanki kraj klina. U SAD-u, prema jednoj anketi, oko 61 posto radnih mjesta već koristi AI analitički softver za mjerenje produktivnosti zaposlenika. Ranije ove godine Burger King je počeo prisiljavati zaposlenike da nose AI slušalice koje prate ljubaznost u interakcijama s kupcima i šalju im naredbe putem chatbota Patty.

Meta je ovog ljeta zamalo izazvala mini-pobunu kada je uvela alat za praćenje tipkanja i zaslona radnika te korištenje tih podataka za treniranje svojih AI modela, prije nego što ga je pauzirala nakon što su otkriveni intimni podaci.

Kontekst

Co-op je u izjavi za The Guardian umanjio distopijske opise i nazvao AI ključnim aspektom svojih procesa osiguranja kvalitete. Tvrtka tvrdi da se AI koristi samo kao potpora, a ne kao donositelj odluka. Pojmovi poput AI analitičkog softvera označavaju programe koji podatke o radu pretvaraju u mjerljive pokazatelje, dok zviždač znači osobu koja upozorava na nepravilnosti. OpenAI model je sustav umjetne inteligencije koji je netko osposobio za određeni zadatak, u ovom slučaju ocjenjivanje razgovora. Nadzor nad zaposlenicima tako se opisuje kao stalno praćenje njihovih riječi i interakcija, a ne samo povremena provjera.

Ključne brojke

Više od 50 različitih aspekata svakog telefonskog razgovora ocjenjuje OpenAI model. Radnici su ponekad pod AI nadzorom i po nekoliko sati dnevno. Oko 61 posto radnih mjesta u SAD-u već koristi AI analitički softver za procjenu produktivnosti. Burger King je ranije ove godine uveo AI slušalice, a Meta je ovog ljeta pauzirala alat za praćenje tipkanja i zaslona.

Što to znači

Slučaj Co-opa pokazuje da AI ne služi samo zamjeni ili automatizaciji poslova, nego pojačava rad tako što svaku interakciju pretvara u podatak koji nadređeni mogu ocijeniti. To može pojačati pritisak na zaposlenike i učiniti nadzor stalnim. Stručnjaci nisu uvjereni da je prisutnost AI-ja na radnom mjestu bezopasna. John Chadfield iz Sindikata komunikacijskih radnika rekao je za The Guardian da se AI prodaje kao rješenje za svaki problem, ali ovakvi primjeri pokazuju da može oslabiti razumne prakse i pojačati radni život. Dodao je da sustavi bez odgovornosti ne bi smjeli biti menadžeri ljudima.

Što slijedi

Očekuje se daljnja rasprava o granicama AI nadzora na radnom mjestu, posebno nakon slučajeva poput Co-opa, Burger Kinga i Mete. Nije jasno hoće li tvrtke poput Co-opa mijenjati svoje alate ili će se pojaviti novi pritisci da se takvi sustavi ograniče. The Guardian je objavio priču, a Co-op je dao izjavu u kojoj brani svoju praksu. Daljnji razvoj ovisit će o reakcijama radnika, sindikata i nadzornih tijela, no iz izvornog teksta nije poznato što će konkretno uslijediti.