Sider

onsdag den 30. november 2016

Hvordan virker jobbet som 'klikarbejder' på dem der udfører 'indholdsmoderation' i it-virksomheder, og hvorfor kan det være en alvorlig mental belastning?

http://startearningonlinenow.com/clickworker-review
En stor artikel - 3 siders opslag - i Information (25/11) fanger min opmærksomhed. I avisudgaven har den denne citat-rubrik:
'Det er ikke et fysisk krævende eller farligt job. Men der er andre farer' 
I netversionen har den en kortere og mere slagkraftige overskrift:
Mit liv som klikarbejder
Den lidt længere manchetten i avisudgaven lyder:
Tusinder af asiater fjerner billeder af døde mennesker og porno fra dine feeds på Facebook. Det er ’vor tids samlebåndsarbejde’, siger en forsker, som sammenligner fænomenet med outsourcing af hårdt og underbetalt arbejde inden for industrien. Information har taget et job som klikarbedjer for at undersøge bagsiden af det digitale arbejdsmarked - og har blandt andet arbejdet for en danskbaseret virksomhed.
Artiklen er skrevet af Otto Lerche Kristiansen, en journalist hvis artikler i Information jeg husker at have læst flere af. Og er blevet klogere af at læse.
   Plottet og opbygningen er sådan set velkendt fra moderne journalistisk reportage: en blanding af 1) en fortløbende - fortællende - personlig oplevelses- og erfaringshistorie  med journalisten selv som subjekt, 2) interviewskvenser fra interviewpersoner som har erfaringe med, ansvar for eller har ekspertviden om historiens emne, 3) baggrundsinformationer - historie, statistik - hentet fra skrevne kilder.
   Det er i artikelformat samme plot-mix som den bedste danske videnskabsjournalist Lone Frank har brugt i de fleste af sine velskrevne og flot anmeldte bøger, fx 'Mit smukke genom' og 'Lystens pioner'.

Som oprindelig lingvist er jeg en hund efter nye ord - især hvis de refererer til noget virkeligt nyt - og ikke bare er eufemismer fra spindoktorernes og politikernes retoriske værksteder.
   I manchetten er det ordet...
''KLIKARBEJDER"
Jeg ved ikke hvad det betyder, det må være oversat fra engelsk,  og jeg gætter lidt diffust: en person hvis rutineprægede arbejde er at klikke på noget på internettet.
   Åbenbart er det noget der i de senere år er blevt outsourcet til udlandet - nærmere bestemt Fjernøsten, ligesom tidligere industrielt samlebåndsarbejde er blevet det.
   Men hvem, hvad, hvor, hvornår og hvorfor? Og hvilke farer skulle der ligge i det?
   
Ganske rigtigt: det engelske ord er 'clickworker' eller 'crowd worker' og det arbejde de udfører, er en form for intern censur, kaldet 'commercial contentmoderation' som der skulle være mindst 100.000 mennesker over hele verden der arbejdede med.
   Arbejdet som 'indholdsmoderator' er som sådan omgærdet med konventionelt kommercielt hemmelighedskræmmeri og tavshedklausuler.
   Så journlisten kan kun finde en udvej for at undersøge forholdene for denne arbejdstyrke nærmere:
 Ved at blive en del af den.
   »Vi er hele tiden på udkig efter nye folk til at løse opgaver,« skriver Crowdflower på deres hjemmeside.
  »Kom med på holdet.«
   Jeg sad foran min computerskærm på Informations redaktion og overvejede, hvordan jeg kunne komme i kontakt med nogle af de anslået 100.000 online moderatorer, da jeg læste om Crowdflower.
   Den amerikanske virksomhed formidler millioner af mindre opgaver mellem arbejdsgivere og såkaldte crowd workers eller clickworkers over hele verden. Det kan være alt fra transskribering af tekst over vurdering af kommentarer på sociale medier og indsamling og kategorisering af data til vurdering af relevansen af søgemaskineresultater. Deraf navnet microtasking.
   Crowdflower laver også indholdsmoderation og bliver ifølge virksomhedens hjemmeside brugt af blandt andre Youtube og IBM – og en danskbaseret virksomhed.
   Jeg tilmeldte mig på Crowdflowers hjemmeside og modtog kort efter en velkomstmail.
Arbejdet går ud på at se en masse 'problematiske' hjemmesider igennem og klassificere dem efter hvor meget (=high risk) eller lidt (=low risk) 'upassende' deres indhold er, fx hvad angår pornografisk indhold - eller fx nazi-indhold og hate speech. Og derrmed hvor risikablet det er at formidle for fx et socialt medie som Facebook.
   Og man får betaling for hver fem hjemmesider man klassificerer: 21 ører. 
   Men først skal man gennemgå en test for at firmaet kan afgøre om man er egnet til - dvs. har sanseapperat og hjerne som er kvalificeret til hurigt at ettikettere indholdet i tvivsomme hjemmesider.
   Sådan en test gennemgår Otto Lerche Kristiansen også. Og består.


En forsker i området 'indholdsmoderation' fra University of California, Sarah Roberts, bliver interviewet. Hun har udspurgt en række klik-arbejdere om hvhvorfor de har valgt det arbejde, hvad deres løn var, hvordan de er blevet pyskik påvirket af det. Og især spørgsmålet om ...
Hvilken type af stødende indhold stødte de på i deres arbejde?
   Det korte svar er:
   »Alt.«
   Det lange svar giver Sarah Roberts over telefonen fra Los Angeles. Det kan være patriotisk hadtale eller nazipropaganda, angreb på homoseksuelle eller meget voldsomme kommentarer:
   »Død over jøderne! Død over muslimer! Den slags,« siger hun.
   »Det er også videooptagelser af overgreb: voksne, der misbruger andre voksne; slåskampe; voksne, der misbruger børn fysisk eller seksuelt; folk, der mishandler dyr for at få en fornøjelse ud af det; optagelser fra krigszoner i hele verden.   Internettet har det hele.«
    Det kan være svært at forstå, hvorfor nogen skulle bruge tid på at lægge den slags billeder eller tekst på nettet, men som Sarah Roberts siger:
   »Internettet indeholder alt det bedste og alt det værste ved os mennesker, og der er altid nogen, som vil sende det ud og distribuere det.«
   – Hvad siger moderatorerne om deres reaktioner?
   »Det er nok ikke svært at forestille sig, at det er et hårdt arbejde.«
   – Hvorfor er det hårdt?
   »Hvis man tænker på det materiale, som jeg lige har beskrevet, hvis man er nødt til at se det igen og igen og igen, fordi det er dit arbejde, er det meget svært.«
   – På hvilken måde er det hårdt?
   »Det er hårdt psykisk. De fysiske forhold er ofte fine – det er sådan set bare et kontorjob og på den måde ikke hårdt på samme måde, som det er hårdt at stå ved et samlebånd, hvor man måske mister en finger.
   Det er ikke et fysisk krævende eller farligt job, men der er andre farer, og det er følelsesmæssigt drænende at kigge på den her type indhold uden at kunne se nogen ende på det.«
   – Hvad er konsekvenserne for arbejderne?
   »Det kan være problemer med at sove eller indgå i sociale sammenhænge. Man kan ikke lægge arbejdet fra sig efter arbejdstid.
   Men ingen har lavet længerevarende undersøgelser af den her type arbejde, fordi det er forbundet med en høj grad af hemmeligholdelse. Vi ved faktisk ikke, hvad de langsigtede konsekvenser kan blive.«
Nogle former for klik-arbjede er ikke så emotionelt og mentalt hårdt, fx det at transkribere fra tale til skrift. 
   Men I slutningen af artiklen får vi så en konkret, men anonym case til at illustrere problemet hvor 'psykisk belastende' dette klik-arbejde kan være:
En indholdsmoderator fra Italien, som ønsker at være anonym, siger til Information, at hun i en periode arbejdede med at moderere kommentarsporet i en større italiensk avis, men måtte stoppe efter mindre end tre måneders arbejde.
   »Jeg var på arbejde fire timer af gangen og læste måske 3.000 eller 4.000 beskeder i løbet af sådan en dag,« siger hun til Information.
   »Det var typisk sådan noget: »Hvis min datter var lesbisk, ville jeg slå hende«, »Hvis Mussolini havde levet, ville han vide, hvordan man skulle håndtere alle de sigøjnere«, »Jeg ville ønske, at alle de migranter kunne dø i Holocaust.«
   Det var kun fire timer om dagen, men jeg tænkte på de beskeder hele døgnet. Kan du forestille dig at være i et miljø fuldt af disse mennesker hele tiden?« spørger hun. 
Forskeren Sarah Roberts fortæller om to typiske mentale reaktioner: "burn out" og "total følelsesløshed."

Her et link til den glimrende artikel, hvis vinkel først og fremmest er kritisk i forhold til de arbejdsmiljøskader som 'indholdsmoderation' af voldelige, barske, hadske eller pornografiske hjemmesider kan give.
Jeg kommer under læsningen imidlertid til at tænke på et andet, mere dybereliggende og grundlæggende spørgsmål som artiklen jo indirekte rejser, nemlig dette:

Hvorfor er den slags samlebånds-censur-internet-arbejde så belastende at det kan give samme emotionelle og mentale symptomer som man ellers kender fra det arbejde som stressede sygeplejersker, lærere, pædagoger og fængselsbetjente udfører: et arbejde hvor det der belaster og slider i det lange løb, er tæt og personlig ansigt-til-ansigt omgang med andre mennesker hvis adfærd, liv og velfærd man har et professionelt ansvar for. 
   I øvrigt er det også typisk den slags psykiske arbejdsmiljøskader som pressede og stressede nyhedsjournalister relativt ofte bliver ramt af, minder jeg lige om.


Her vender jeg tilbage til nogle af de grundspørgsmål som i de første år drev mange af mine indlæg her på bloggen:
   Hvad foregår der i hjernen (og i kroppen)  når vi læser en historie, eller hører en radiofortælling, eller ser film og tv-indslag?
   Spørgsmålet pressede sig på for mig når jeg kastede erindringens spørgende blik tilbage på det arbejde jeg en stor del af min faglige karriere har haft - at undervise i hvordan man så effektivt og virksomt som muligt kunne skrue tekster historier og (levende) billeder sammen så de fængede, fangede og fastholdt publikum. Og altså mærkede publikum mentalt  ved hjælp af greb og teknikker fra retorik, fortælleteknik og dramaturgi og æstetik.
    Det var spørgsmålet om der var videnskabelig empirisk evidens for sandheden i påstandene om den mentale 'impact' - virkningen - hos publikum, påstande som jeg  med stor autoritet og succes havde fremført igennem et langt livs kurser for lærere, journalister, mediefolk - og i en række velanskrevne fagbøger og artikler.

Det overordnede begreb er 'simulering' eller 'simulation'.
   Vores hjerne oplever og forstår hvad andre mennesker har skrevet, hvad andre mennesker fortæller, og hvad de ser andre mennesker gøre, ved i bestemte dele - 'netværk' - at simulere de verbale, lydlige og visuelle input de får som har disse andre menneskers adfærd som sensorisk og perceptionel kilde.
   Men hvad betyder simulering eller simulation så i den her forbindelse? -Ordborgen siger:
Simulation er en imitation (efterligning) af noget virkeligt, tingenes tilstand eller en proces. At simulere er at lade som om, forstille sig, foregive, skrømte.
'Simuleringen' sker dels i det neurale netværk i hjernen som er udgøres af såkaldte 'spejlneuroner', og som aktiveres både når man ser andre udføre en handling, når man selv udfører den - og også - ikke mindst - når man selv tænker på den og taler om den. 
   Den version af 'simulering' menes at forklare den umiddelbare empati som de fleste mennesker oplever ved mødet med et andet menneske som man ellers ikke kender.
   Og dels sker 'simuleringen'  i det netværk i hjernen som har flere forskelige faglige betegnelser: 'default mode', 'task negative', men som i de senere år har fået betegnelsen 'imagination network':
The functions of the imagination network form the core of human experience. Its three main components are personal meaning-making, mental simulation, and perspective taking.
    This allows us to construct meaning from our experiences, remember the past, think about the future, imagine other people’s perspectives and alternative scenarios, understand stories, and reflect on mental and emotional states—both our own and those of others.
Søger man på nettet efter 'simulation theory' så får man mange forskellige hits der helt klart trækker på den moderne neurologiske hjerneforskning.
   Dels én der i Wikipedia findes under betegnelsen "Simulation theory of empathy", og dels én der findes under betegnelsen "Simulation theory of cognition - eller ligefrem "bodied cognition".

'Simulation theory of empathy' har også og ikke mindst med følelser at gøre. Og den sammenhæng udlægger Wikipedia det sådan her, med afsæt i hvordan spejlneuroner fungerer i hjernen - gennem automatisk neurologisk imitation af set eller omtalte eller tænkte handlinger (='motor behavior'):
Shared neural representation for a motor behavior and its observation has been extended into the domains of feelings and emotions. Not only movements but also facial expressions activate the same brain regions that are activated by direct experiences.
   In an fMRI study, same brain regions on action representation found to be activated when people both imitated and observed emotional facial expressions such as happy, sad, angry, surprise, disgust, and afraid.
   Observing video clips that displayed facial expression of feeling disgust activated the neural networks typical of direct experience of disgust.
   Similar results have been found in the case of touch.
   Watching movies that someone touched legs or faces activated the somatosensory cortex for direct feeling of the touch.
   A similar mirror system exists in perceiving pain. When people see other people feel pain, people feel pain not only affectively, but also sensorially.
   These results suggest that understanding other's feelings and emotions is driven not by cognitive deduction of what the stimuli means but by automatic activation of somatosensory neurons. 
Sammenfattet:
    Vi kan ikke lade være med at helt fysisk at 'føle med' når vi ser andre mennesker udtrykke følelser gennem adfærd, herunder ansigtsudtryk, mimik og sprog, fordi den slags iagttagelser via spejlneuronerne aktiverer de følelser vi selv ville have haft hvis vi havde udtrykt os på lignende måde.

Så til 'simulation theory of embodied cognition': 
   Hvad siger den - specielt når det handler om at opleve og forstå indholdet i sproglige udsagn? 
   Det forklarer professor Benjamin Bergen, professor ved University og California, San Diego:
Embodied simulation refers to the possibility that we understand the meaning of language by simulating in our minds the experience that the language describes through memories of our own experiences of that event.
   Bergen points at that we simulate constantly, when we imagine faces of friends or relatives, sounds, music, tastes, smells, and actions through conscious mental imagery. He explains that embodied simulation is a slightly deeper process and the images that we conjure up are ‘just the tip of the iceberg;’ when we simulate we create mental experiences of sense perceptions and actions without them being present.
   The processes that we consciously activate to do this are actually busy even when we are not aware of them. When we practice ‘embodied simulation’ research shows we ‘prod’ those areas of the brain that deal with actions and perceptions that have unconsciously collected all our experiences and actions and reawaken them.
   Meaning and Sensory Perception and Experience are necessary in Language Processing.
Der refereres ikke til det i den her artikel, men de neurologiske processer som aktiveres i hjernen, er - ifølge teksten her - dem der varetages af 'the imagination network', et hjerne-netværk som jo kører derudaf - både når det gælder om at fremkalde erindringer om oplevede situationer i fortiden, om at fremkalde forestillinger om andres bevidsthed som ligner en selv ('theory of mind'), om at aktivere moralske overvejelser og tanker om fremtiden og bedømmelse af andres adfærd. 
   Og ikke mindst når vi sover og drømmer, når vi dagdrømmer, når vi mediterer - og når vi generelt ikke gør spor andet end at lade sindet få utøjlet frit løb ud over sindets stepper vist på den indre skærm:
Bergen said that we understand words partly by creating mental simulations of what it would be like to experience the things being described. We do this by activating previously stored knowledge and emotions about an action or event. 
Her et andet citat der - mere generelt - forsøger at forklare den teori jeg for nogle år siden faldt for, og som - med et lidt belastet begreb - handler om at man kan læse tanker og føleser hos et andet menneske som man jævnligt omgås gennem følsom og åben simulering - og deler erfaringer og 'kultur' med; det centrale begreb ar 'mentalization' eller 'mentalizing': 
S(imulation)T(herory) (...) (in its original form) says that people employ imagination, mental pretense, or perspective taking (‘putting oneself in the other person’s shoes’) to determine others’ mental states.
   A mentalizer simulates another person by first creating pretend states (e.g., pretend desires and beliefs) in her own mind that correspond to those of the target. She then inputs these pretend states into a suitable cognitive mechanism, which operates on the inputs and generates a new output (e.g., a decision).
   This new state is taken ‘off line’ and attributed or assigned to the target. 
Lad os så vende tilbage til vores klik-arbejdere der får betaling for at gennemgå en masse hjemmesider for at se om de i en eller anden forstand er pornografiske, og skal gennemgå en masse kommentarspor på de sociale medier for at vurdere om de er udtryk for 'hate speach'. Og som efter et stykke tid kan oplev mentalt "burn out og total følelsesløshed."
   For at minut efter minut, time efter time, dag efter dag mentalt at kunne udføre disse afkodnings- og kontrolfunktioner, så må disse arbejdere  mobilisere, aktivere og veksle mellem to  former for simuleringsmekanismer i hjernen: én type der helt automatisk forbinder andres fysiske handlinger, intentioner og følelser som de kommer til udtryk og kan ses og høres, med vores egne tilsvarende adfælrd (via spejlneuron-netværket), og en type der mere bevidst forbinder vores forestillinger om os selv og vores episodiske erindringer med vores forestillinger om andre og deres perspektiv på sig selv og verden (via default mode-/imginationsnetværket).
   Herfra er det ikke svært at forstå hvad det kan bevirke over tid at skulle arbejde på den måde og løbende at blive eksponeret for den slags kommunikativt krævende input, nemlig det fagfolk omtaler som kognitiv, emotionel og sensorisk overbelastning (='overload'): "mental burn out og total følelsesløshed.
   Et type arbejde jeg kun kan fraråde man påtager sig i længere tid, selv om det umiddelbart kan se ud som et relativt nemt arbejde.
   Reaktionerne og effekten kan minde om det man professionelt omtaler som "stress overload" som er en fysiologisk konsekvens af at kroppen og hjernen hele tiden er i en slags alarmtilstand:
Stress Overload is caused when pressures at work or home become so intense, or last so long, that you begin to feel overwhelmed and out if control. This happens when the hypothalamus continually releases adrenaline and cortisol into the bloodstream, which causes the body to react by increasing blood pressure and heart rate, opening blood vessels wider to allow more blood to be pumped to major organs, and large muscle groups, and glucose to be released by the liver to increase energy and stamina due to ongoing stress in one’s life.
http://1st4stress.com/Stress/What-Is-Stress-Overload.html