Algocrazia (democrazia degli algoritmi): chi controlla i “controllori”?


di Mario Bozzi Sentieri

L’anno scorso, Deutsche Bank, il primo istituto bancario tedesco e tra i leader in Europa, ha usato l’Intelligenza artificiale e gli algoritmi più sofisticati per rimpiazzare posti di lavoro. A sparire 18 mila dipendenti, che sono stati sostituiti da robot ed algoritmi destinati a svolgere attività di rendicontazione, invio di e-mail e report ai clienti del segmento azionario.

Nel settore della finanza e delle assicurazioni sono già attivi i robo-advisor, in servizi di consulenza e di investimento. Anche nei prestiti l’utilizzo degli algoritmi è già presente per rilevare il livello di rischio di un cliente e dell’opportunità quindi di concedere un finanziamento.
Nelle fabbrica 4.0 sono gli algoritmi a controllare la produzione, l’orario, il ritmo delle linee, le pause, i carichi di lavoro. A dettare legge è il Mes, “Manufacturig Execution System”, un modello matematico che consegna gli ordini di lavoro alle linee e tiene traccia di ogni azione dell’operaio attraverso scanner ottici, codici a barre, tablet. Il programma è matematico, “neutrale” e quindi indiscutibile.
Ed ancora, è l’algoritmo a selezionare i manager, attraverso colloqui con un computer che “spia” mimica e tono di voce. E’ la realtà di HireVue un programma, già operativo negli Stati Uniti presso grandi aziende e multinazionali, in grado di monitorare circa 15 mila tratti di una persona, compresi la scelta del linguaggio, i movimenti dell’occhio, la velocità di risposta e il livello di stress. Domina la macchina, ai cui “parametri” i candidati debbono adeguarsi, senza possibilità d’appello: tutti uguali e standardizzati, secondo gli orientamenti di software che riflettono i pregiudizi di chi li ha creati e si alimentano di big data forniti dagli stessi.

Sono solo alcuni esempi, tra i tanti, che rendono evidente come la nuova rivoluzione tecnologica, stia già condizionando le forme e le modalità del lavoro, senza che ciò comporti le doverose contromisure operative, i contrappesi politico-sociali necessari per evitare che il potere logaritmico dilaghi senza controlli.
Anche perché è del tutto evidente come dietro l’astrazione dei numeri si nascondano interessi di parte e chiare ragioni aziendali, seppure mimetizzate, fino a fare intravvedere una vera e propria algocrazia (un modello di organizzazione senza controlli burocratici classici ma guidata da codici e algoritmi) così come teorizzato, già nel 2006, da Aneesh Aneesh, nel saggio “Virtual Migration”.
“L’algocrazia – ha scritto Aneesh – tende ad appiattire tutte le gerarchie burocratiche perché non necessita di alcun livello di gestione intermedio o centralizzato che sia”. L’algocrazia non è definita da elementi come la gerarchia, la documentazione, la dominanza delle posizioni di certe persone rispetto ad altre. Le regole burocratiche tradizionali devono essere ‘interiorizzate’ da chi le deve seguire e rispettare mentre “un sistema algocratico struttura il possibile campo di operation senza richiedere ad una persona alcuno sforzo di adattamento alle regole; gli algoritmi incorporati nel sistema stessa avviano o bloccano una operazione senza chiedere a nessuno di ‘interiorizzare’ le policy”.
Occorre allora “prevenire”, facendo dell’algoritmo, applicato all’organizzazione del lavoro, l’oggetto di un chiaro confronto sociale e conseguentemente di norme equilibratrici, che partano dalla consapevolezza degli interessi in gioco.

Proteste contro gli algoritmi (Amazon e Uber)


Dietro la “tirannia” degli algoritmi non ci sono le sorti e progressive di un’umanità affrancata dalla fatica, ma c’è un sistema di potere, funzionale alla volontà di massimizzare il profitto abbattendo i costi di produzione, innalzando i livelli produttivi, imponendo un controllo stringente sui lavoratori. Per questi motivi occorre svelarne l’intrinseca ingiustizia, facendo crescere un senso di responsabilità condivisa a livello politico, sociale e culturale, impegnandosi a trasformare l’innovazione tecnologica in un reale strumento di progresso e di integrazione sociale.


Fonte: Mario Bozzi Sentieri

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Quello che gli altri non dicono

© 2024 · controinformazione.info · site by GDM