Il punto cieco dell'Intelligenza Artificiale
Come restare responsabili in un mondo che funziona senza comprenderci
Non viviamo più sotto uno sguardo umano. Viviamo dentro sistemi che vedono, calcolano e prevedono. L'Intelligenza Artificiale non è soltanto una tecnologia: è una forma di sguardo che trasforma il mondo in dati e i dati in decisioni automatiche.
Questo libro esplora il punto cieco dei sistemi intelligenti — ciò che ogni modello deve necessariamente escludere per poter funzionare, e che diventa invisibile nel momento stesso in cui la previsione prende il posto della scelta.
Attraverso un percorso che intreccia storia dello sguardo, analisi del controllo predittivo e riflessione sulla responsabilità, scopriamo come il potere algoritmico non si eserciti più attraverso l'imposizione, ma attraverso la normalizzazione di ciò che appare probabile, efficiente, inevitabile.
Da quale momento la capacità di osservare si trasforma in una forma di potere automatico? Come lo sguardo perde il volto umano.
Il passaggio dal controllo reattivo a quello predittivo. Come la probabilità diventa norma quando guida l'azione.
Ogni modello che funziona deve escludere. Quando quel punto cieco diventa invisibile, la responsabilità scompare.
Il momento preciso in cui uno strumento smette di essere consultato e inizia a funzionare come orizzonte inevitabile.
Rendersi invisibili ai sistemi è una strategia difensiva, non trasformativa. I veri spazi di resistenza risiedono altrove.
Per la prima volta, gli strumenti che usiamo per decidere producono soluzioni che eccedono la comprensione umana.
Come riprendere responsabilità senza pretendere un controllo totale. Una postura possibile fra automazione e arbitrio umano.
Una figura concettuale che rende visibili i criteri, espone i modelli, mostra ciò che è stato escluso per poter decidere.
La consapevolezza non nasce spontaneamente. È una costruzione culturale che richiede tempo, spazi e linguaggi condivisi.
Il ciclo si chiude: sistemi che generano altri sistemi. Come restare presenti e responsabili quando il controllo diventa cognitivamente fragile.
Come il modo di vedere determina il modo di governare nel nostro tempo.
Ciò che ogni modello deve escludere per funzionare diventa invisibile e, di conseguenza, indiscusso.
Come mantenere l'imputabilità delle decisioni quando il sistema funziona senza essere compreso.
Il momento in cui la probabilità sostituisce la scelta, e come questo ridefinisce il potere.
Quando i sistemi funzionano meglio di prima, ma diventano sempre meno comprensibili.
Una pratica collettiva per interrogare il funzionamento senza demonizzare la tecnica.