Algocrazia (democrazia degli algoritmi): chi controlla i “controllori”?


di Mario Bozzi Sentieri

L’anno scorso, Deutsche Bank, il primo istituto bancario tedesco e tra i leader in Europa, ha usato l’Intelligenza artificiale e gli algoritmi più sofisticati per rimpiazzare posti di lavoro. A sparire 18 mila dipendenti, che sono stati sostituiti da robot ed algoritmi destinati a svolgere attività di rendicontazione, invio di e-mail e report ai clienti del segmento azionario.

Nel settore della finanza e delle assicurazioni sono già attivi i robo-advisor, in servizi di consulenza e di investimento. Anche nei prestiti l’utilizzo degli algoritmi è già presente per rilevare il livello di rischio di un cliente e dell’opportunità quindi di concedere un finanziamento.
Nelle fabbrica 4.0 sono gli algoritmi a controllare la produzione, l’orario, il ritmo delle linee, le pause, i carichi di lavoro. A dettare legge è il Mes, “Manufacturig Execution System”, un modello matematico che consegna gli ordini di lavoro alle linee e tiene traccia di ogni azione dell’operaio attraverso scanner ottici, codici a barre, tablet. Il programma è matematico, “neutrale” e quindi indiscutibile.
Ed ancora, è l’algoritmo a selezionare i manager, attraverso colloqui con un computer che “spia” mimica e tono di voce. E’ la realtà di HireVue un programma, già operativo negli Stati Uniti presso grandi aziende e multinazionali, in grado di monitorare circa 15 mila tratti di una persona, compresi la scelta del linguaggio, i movimenti dell’occhio, la velocità di risposta e il livello di stress. Domina la macchina, ai cui “parametri” i candidati debbono adeguarsi, senza possibilità d’appello: tutti uguali e standardizzati, secondo gli orientamenti di software che riflettono i pregiudizi di chi li ha creati e si alimentano di big data forniti dagli stessi.

Sono solo alcuni esempi, tra i tanti, che rendono evidente come la nuova rivoluzione tecnologica, stia già condizionando le forme e le modalità del lavoro, senza che ciò comporti le doverose contromisure operative, i contrappesi politico-sociali necessari per evitare che il potere logaritmico dilaghi senza controlli.
Anche perché è del tutto evidente come dietro l’astrazione dei numeri si nascondano interessi di parte e chiare ragioni aziendali, seppure mimetizzate, fino a fare intravvedere una vera e propria algocrazia (un modello di organizzazione senza controlli burocratici classici ma guidata da codici e algoritmi) così come teorizzato, già nel 2006, da Aneesh Aneesh, nel saggio “Virtual Migration”.
“L’algocrazia – ha scritto Aneesh – tende ad appiattire tutte le gerarchie burocratiche perché non necessita di alcun livello di gestione intermedio o centralizzato che sia”. L’algocrazia non è definita da elementi come la gerarchia, la documentazione, la dominanza delle posizioni di certe persone rispetto ad altre. Le regole burocratiche tradizionali devono essere ‘interiorizzate’ da chi le deve seguire e rispettare mentre “un sistema algocratico struttura il possibile campo di operation senza richiedere ad una persona alcuno sforzo di adattamento alle regole; gli algoritmi incorporati nel sistema stessa avviano o bloccano una operazione senza chiedere a nessuno di ‘interiorizzare’ le policy”.
Occorre allora “prevenire”, facendo dell’algoritmo, applicato all’organizzazione del lavoro, l’oggetto di un chiaro confronto sociale e conseguentemente di norme equilibratrici, che partano dalla consapevolezza degli interessi in gioco.

Proteste contro gli algoritmi (Amazon e Uber)


Dietro la “tirannia” degli algoritmi non ci sono le sorti e progressive di un’umanità affrancata dalla fatica, ma c’è un sistema di potere, funzionale alla volontà di massimizzare il profitto abbattendo i costi di produzione, innalzando i livelli produttivi, imponendo un controllo stringente sui lavoratori. Per questi motivi occorre svelarne l’intrinseca ingiustizia, facendo crescere un senso di responsabilità condivisa a livello politico, sociale e culturale, impegnandosi a trasformare l’innovazione tecnologica in un reale strumento di progresso e di integrazione sociale.


Fonte: Mario Bozzi Sentieri

12 Commenti

  • Farouq
    28 Gennaio 2021

    Anche il medico sarà sostituito da un distributore automatico a gettoni che distribuirà pillole dopo aver sentito il paziente al microfono

    • atlas
      29 Gennaio 2021

      “tutto quello che non so l’ho imparato a scuola” Longanesi

  • giorgio
    28 Gennaio 2021

    I luddisti distruggevano le macchine che sostituivano la forza lavoro ….. cambiano i tempi, gli aspetti esteriori, ma la sostanza è sempre la stessa ….. e il nemico sempre quello, solo molto più raffinato ……

    • atlas
      29 Gennaio 2021

      nella prima immagine siamo in Congo. Giovani africani si infilano ogni giorno in un cunicolo sotterraneo dove si respira a fatica, la temperatura è altissima e si sta con l’acqua fino alle ginocchia. Armati di martello e scalpello cercano nella roccia delle pietruzze di COLTAN. Lavorano 10 ore al giorno tutti i giorni, non per guadagnare ma per sopravvivere. Quando sono fortunati guadagnano 50 euro al mese.

      Davvero poche persone sanno cos’è il coltan, eppure tutti oggi ne fanno un uso enorme. Il Coltan è un metallo raro presente in ogni smartphone, in ogni tablet, in ogni computer, in ogni apparecchio elettronico. Senza il Coltan non esisterebbe alcuna “era digitale”, nessuna “smart city”, nessuna transizione “verde”.

      Questo materiale così prezioso, così indispensabile per la nostra epoca, è un metallo raro. Nel Congo è concentrata circa l’80% dell’esistenza di Coltan dell’intero pianeta.

      Il processo di estrazione del materiale grezzo è fatto con metodi medioevali, sfruttando esseri umani come bestie da soma. Il processo di raffinazione invece consiste nel trattare il metallo raro con agenti chimici altamente tossici ed inquinanti.

      Le fabbriche dove viene trattato e trasformato il Coltan per produrre i componenti elettronici producono scorie che inquinano terre e fiumi, fino a comprometterne la vegetazione e addirittura la presenza umana.

      Il Coltan trasformato viene poi assemblato da aziende cinesi che producono materiali e componenti elettronici. Così nascono gli iphone, gli smartphone della samsung, huawei, xiaomi. Su questi apparecchi made in China le big tech fanno girare i loro software: google, facebook, amazon, whatsapp, instagram e così via.

      Utilizziamo cellulari e computer per ore e ore, tutti i giorni dell’anno. Senza sosta. Esattamente come senza sosta lavorano i ragazzini congolesi per estrarre il Coltan.

      Nella seconda foto invece siamo in Ghana, nella discarica di rifiuti elettronici di Agbogbloshie. Ce ne sono tantissimi di discariche di “e-waste” in Africa, ma quella di Agbogbloshie è la più grande del mondo. Qui finisce il ciclo vitale del Coltan: estratto in Africa, trasformato in Cina, consumato in occidente fino ad essere rispedito in Africa sotto forma di rifiuto non smaltibile.

      Il disastro ambientale e i processi di sfruttamento che si nascondono dietro all’era digitale, rappresentano il lato oscuro della tanto decantata “transizione verde”. Quella che servirebbe a salvare il mondo dai cambiamenti climatici. Quella su cui stanno puntando tantissimo gli USA di Biden e l’Europa della Merkel. Via il petrolio che inquina! Spazio alle energie verdi!

      Pannelli solari, pale eoliche, batterie per mezzi meccanici, reti elettriche intelligenti e tutti i computer e i relativi software della cosiddetta “green economy”, sono parti di un edificio che ha le fondamenta piene di sangue.

      No, non sentiremo mai parlare Greta e i gretini di questi vergognosi scandali, del lato oscuro della transizione verde che piace ai potenti.

      E so bene che questo post è pubblicato e pubblicabile solo grazie agli strumenti e al paradigma che ho provato a descrivere. Ma credo sia giusto che la nostra civiltà, sempre più tesa ad erigere “totem” da idolatrare, prenda coscienza di cosa è diventato il mondo. Francesco Filini

      https://vk.com/id561511741?w=wall-183775946_4142

  • Eugenio Orso
    28 Gennaio 2021

    Se la democrazia, nella sua mutazione finale e più pericolosa, è diventata la “democrazia degli algoritmi”, come si sostiene non a torto nell’articolo, vorrei ricordare i versi ottocenteschi di Rimbaud:

    Démocratie

    « Le drapeau va au paysage immonde, et notre patois étouffe le tambour.
    « Aux centres nous alimenterons la plus cynique prostitution. Nous massacrerons les révoltes logiques.
    « Aux pays poivrés et détrempés ! — au service des plus monstrueuses exploitations industrielles ou militaires.
    « Au revoir ici, n’importe où. Conscrits du bon vouloir, nous aurons la philosophie féroce ; ignorants pour la science, roués pour le confort ; la crevaison pour le monde qui va. C’est la vraie marche. En avant, route ! »

    Cari saluti

    • atlas
      29 Gennaio 2021

      in poche parole la merda, senza scomodare Rimbaud (a me basta solo Hitler, poi anche Mussolini)

  • atlas
    29 Gennaio 2021

    in un anno vi siete bevuti:

    – I cinesi che muoiono per strada in preda alle convulsioni
    – Il plexiglas in spiaggia
    – Le onde del mare che, infrangendosi sugli scogli, spargono il virus in un aerosol contagioso
    – Che chi ha la zeppola è più contagioso
    – Che certi dialetti sono più contagiosi
    – Gli Stati Generali
    – L’asfalto da sanificare
    – Le spiagge da sanificare
    – Il virus contagioso a orari
    – Il virus che contagia nel tragitto dall’ingresso al tavolo o dal tavolo alla cassa ma non al tavolo
    – Il virus che contagia in piedi ma non da seduti
    – Il virus che si annida nei testicoli
    – Il virus che contagia di più quelli alti oltre 1,80
    – Le varianti di paesi invisi all’UE (attendiamo quella bielorussa)
    – La Cina ci sta aiutando
    – Il paziente 1 che non era il paziente 1
    – Le mascherine non ci sono e quindi non servono ma ora ci sono e quindi servono
    – Gli assembramenti nemmeno con la mascherina, a meno che tu non sia un giornalista o un politico
    – La mascherina solo a favore di telecamera
    – Di non prendere FANS per prevenire una sindrome infiammatoria
    – Di curarvi a Tachipirina
    – Il virus che si propaga se tiri lo sciacquone
    – Il virus che si propaga tramite le flatulenze
    – Il virus sui surgelati
    – I militari fra la gente che poi si è ammesso essere usati come propaganda
    – Che la stampa dia notizie vere quando prende soldi per promuovere le notizie sul Covid
    – Che un DPCM valga più della legge
    – Che si possa vivere in emergenza a vita
    – Che un vaccino vi salverà
    – Che la vita sia sopravvivenza
    – Che le T.I. sono piene per il virus e non per il taglio dei posti letto
    – Che Burioni sia uno competente
    – Che bisognava uscire pure con gli occhiali protettivi
    – Che il vento propaga il virus
    – Che uno in uno studio televisivo al chiuso senza mascherina possa dire a uno che sta all’aperto senza mascherina che se non se la mette gli toglie il collegamento senza chiamarla censura
    – Che sia legale non poter vedere i propri parenti e non sapere che fine facciano e non poter vedere in che condizioni sono quando vengono dichiarati morti e messi nelle bare
    – Il papa e la sua sceneggiata di Pasqua
    – Il papa e la sua sciatalgia a Natale
    – I banchi a rotelle
    – L’influenza scomparsa grazie a distanziamento e mascherine
    – Il covid che continua a esserci perché non si rispetta il distanziamento e non si portano le mascherine
    – Che sia meno pericoloso per un anziano fare la fila fuori al freddo con la pioggia o con la neve in attesa di entrare alla posta o al supermercato
    – Che stare in casa faccia meglio che uscire
    – La sanificazione dei cimiteri
    – Che è normale essere inseguiti da un drone
    – Che in sei è sicuro, in sette no
    – Che se metti la mascherina in macchina da solo è una forma di galateo
    – La mascherina anche in casa
    mi sono stancato di continuare, non immaginavo di arrivare a scrivere un elenco tanto lungo, e potrebbe andare avanti ancora …
    da Ragione Critica

    • Dewa
      29 Gennaio 2021

      A lei atlas manca la Tunisia e i tunisini sopratutto …. ORMAI VIVE di RICORDI ah ah ah !
      Comunque Casalino glieli portera’ sul suolo italico non si preoccupi,
      Mi raccomando la museruola la indossi sempre ci guadagna in bellezza ah ah ah

      • atlas
        30 Gennaio 2021

        ogni regola imposta impone una mancanza di libertà

        (chiudo con la Tunisia, è impossibile viaggiare alle loro condizioni, devo solo farmi rimborsare l’ultimo vaucher. Sì, è stato bello. Molto belle. Molte)

  • atlas
    29 Gennaio 2021

    pezze in faccia democratiche a vita. Nelle Nazioni Socialiste (Russia, Cina) i sani di mente riprendono a respirare liberamente

  • giorgio
    29 Gennaio 2021

    Perfetto elenco della idiozia umana caro Atlas …..

Inserisci un Commento