Ranking
| Anno | 2021 |
| Autore | Kate Crawford |
| Genere | Saggio |
| Livello | Per tutti |
| Scorrevolezza | 7 / 10 |
| Originalità | 9 / 10 |
| Valutazione | 8 / 10 |
Recensione
Il rapporto che ho avuto con questo libro è stato abbastanza conflittuale: non è sempre scorrevole nella lettura, presenta tantissimo dati e riferimenti storici e mantenere l’attenzione non è stato facile.
A parte questo livello di dettaglio sulle modalità di scrittura -che chiaramente cambiano a seconda della penna che scrive-, sicuramente presenta alcuni spunti interessanti: cosa si nasconde dietro ad un’apparente dichiarazione di intenti sul mantenere una serie di sistemi “sostenibili”, ma anche cosa si nasconde dietro ai più famosi sistemi di IA, partendo dalle risorse naturali che servono ad alimentare i diversi server fino al costo “nascosto” dei dati utilizzati per il training.
Quello che l’autrice rende chiaro è che sistemi come ChatGPT hanno un costo altissimo, in termini economici, ma anche sociali, politici e umani.
Non è stato facile arrivare in fondo al libro senza fermarsi di tanto in tanto a riflettere su quanto, nel settore tech, una serie di azioni abbiano impatti ben più a lungo termine di quanto si possa immaginare: quando parliamo di sistemi super veloci e a disposizione di tutti, non pensiamo mai ai costi che servono a sostenere questo tipo di progetti.
L’autrice infatti si concentra per buona parte del libro sullo sfruttamento di risorse umane (come con il sistema del “turco meccanico” di Amazon) e naturali (come nel caso di Tesla e simili). Il libro, più che un libro, è una vera e propria inchiesta condotta personalmente da chi scrive e corredata di diverse note bibliografiche che rimandano ad articoli, libri e pubblicazioni di voci autorevoli sul tema.
L’autrice ha infatti compiuto diversi viaggi nei posti di cui si parla, per poter vedere con i propri occhi quanto raccontato poi successivamente in prima persona.
È un volume non tecnico, ma volto a creare un terreno fertile per discutere di diverse tematiche, dove la parte dedicata ad algoritmi e dati da un punto di vista più pratico è sicuramente limitata.
Questo volume è consigliato per approfondire una prospettiva sulla sostenibilità economica, sociale e ambientale di una serie di sistemi di AI, soprattutto per poter allargare la propria visione del mondo, anche se quel che traspare è una forte critica ad una serie di sistemi e aziende, più che una discussione a due. Interessante per approfondire, un po’ faticoso da completare.
Una riflessione importante, per concludere, c’è: il modo in cui i dati che utilizziamo vengono raccolti, utilizzati e interpretati è un atto demagogico, dove l’utente cerca di plasmare il mondo attraverso delle informazioni che ha a disposizione e che rappresentano una porzione di mondo certamente molto ridotta. Certo è che, per molte aziende, la raccolta di questi dati ad uso “benevolo” è solo l’ultimo degli obiettivi: dietro molti dei dati raccolti ad oggi c’è una vera e propria dichiarazione di potere, che protegge in maniera forte coloro che ne traggono i maggiori benefici, soprattutto in termini economici.
Lezione imparata
- Il turco meccanico, un automa risalente agli inizi del 1700, è stato di grande ispirazione per un servizio Amazon definito da Lilly Irani “automazione a combustibile umano”
- Come il turco, anche il reCAPTCHA di Google rappresenta un esempio di automazione in cui noi lavoriamo per supportare la big tech company: “selezioniamo diligentemente più caselle contenenti numeri civici, automobili o case. Educhiamo gratuitamente gli algoritmi di riconoscimento delle immagini di Google”.
- Esiste una logica che è permeata nel quotidiano in maniera quasi silenziosa: “la convinzione incrollabile che tutto si traduca in dati e che questi dati siano a disposizione per esser presi. Non importa dove sia stata scattata la fotografia o se questa rifletta un momento di vulnerabilità o dolore, […]”, perché la normalità è che pochi mettono in discussione come certi dati vengano acquisiti.
Quotes
Tutte queste cose fanno parte di quello che è l’intelligenza artificiale: una combinazione di due parole su cui è mappato un insieme complesso di aspettative, ideologie, desideri e paure.