Dal Panopticon all’IA: il controllo digitale era stato previsto 200 anni fa

Il controllo digitale non nasce con l'intelligenza artificiale. Ripercorrendo le teorie di Bentham, Foucault, Deleuze e Zuboff, l'articolo mostra come il Panopticon abbia anticipato la sorveglianza basata su Big Data, algoritmi e IA. Un viaggio alle radici del dominio cibernetico per capire come dati e comportamenti siano oggi al centro del potere.

Il controllo pervasivo che caratterizza il dominio cibernetico mi ha spinto ad approfondire i prodromi di questa forma di sorveglianza, quasi trasformandosi in un antropologo della cybersicurezza.

Oggi si parla continuamente di intelligenza artificiale, Big Data e algoritmi e proprio da qui è nata una mia curiosità: molte delle domande sulla gestione dei nostri dati non sono affatto nuove. Quei dati vengono spesso affidati ai fornitori di servizi digitali quasi senza pensarci e il loro utilizzo per finalità economiche, sociali o politiche pone questioni che esistevano ben prima dell’era digitale.

Nel precedente articolo, Il dominio cognitivo: la più importante infrastruttura critica è la mente umana, avevo sostenuto che nella c.d.cyber warfare ilvulnus non riguardasse più soltanto le infrastrutture informatiche, ma anche l’uomo e la possibilità di condizionarne la capacità di percepire, interpretare e decidere.

Proprio quella riflessione mi ha portato a chiedermi da dove abbia origine la nostra idea di controllo, oggi che gli algoritmi analizzano dati, formulano previsioni e influenzano sempre più spesso i processi decisionali.

Per cercare una risposta sono tornato a rileggere autori come Jeremy Bentham, Michel Foucault e Gilles Deleuze, che sebbene appartengano alla filosofia politica e alla sociologia, sembrano offrire ancora oggi attraverso le loro riflessioni pionieristiche una chiave di lettura sorprendentemente attuale.

Le radici del controllo

Proseguendo questa sorta di ricerca cyber-antropologica, mi è tornato alla mente Jeremy Bentham che, alla fine del XVIII secolo, immaginò il Panopticon. Un solo sorvegliante avrebbe potuto osservare tutti senza essere visto, ma la vera forza di quell’idea era un’altra: non occorreva essere controllati continuamente, era sufficiente sapere che ciò poteva accadere. E questa semplice consapevolezza finiva per condizionare i comportamenti.

Circa due secoli più tardi Michel Foucault, rileggendo l’intuizione di Bentham in Sorvegliare e punire, comprese che il Panopticon rappresentava molto più di un semplice modello carcerario, ma la metafora di una società nella quale il controllo finisce per estendersi ben oltre le mura della prigione, raggiungendo scuole, caserme, ospedali e fabbriche, forgiando modelli comportamentali.

Continuando a scavare tra gli appunti e i testi affrontati durante gli studi universitari, sono tornato anche su Gilles Deleuze, il quale, nel Post-scriptum sulle società di controllo, introduce un’intuizione che oggi sembra trovare piena cittadinanza nel dominio cibernetico, dove l’individuo non è più soltanto una persona, ma diventa anche l’insieme dei dati che produce, che possono essere raccolti, classificati, correlati e analizzati.

Più andavo avanti nella ricerca, più mi rendevo conto che quel filo non si era spezzato, ma arrivava fino al dominio cibernetico. A quel punto mi restava da capire quando il dato avesse cominciato ad avere un valore proprio, indipendentemente dal comportamento che lo aveva generato.

Quando il dato acquista valore

Ne Il capitalismo della sorveglianza di Shoshana Zuboff ho ritrovato, in una cornice diversa, qualcosa che avevo imparato sul campo: da informazioni apparentemente scollegate possono emergere comportamenti, previsioni e, naturalmente, anche interessi economici.

Il caso Cambridge Analytica è la manifestazione plastica di come l’elaborazione dei dati possa incidere non soltanto sulle dinamiche economiche, ma anche sulla comunicazione politica e sulla formazione del consenso.

È su questa enorme quantità di informazioni che oggi lavora anche l’intelligenza artificiale, attraverso sofisticati algoritmi capaci di mettere insieme dati, trovare relazioni e ricavarne previsioni che diventano via via più precise.

Dal Panottico di Bentham alla data economy (immagine creata con IA)

Conclusioni

Giunto al termine di questo percorso di ricerca multidisciplinare, ho avuto la sensazione di aver trovato una risposta diversa da quella che cercavo. Pensavo di ricostruire le radici del controllo contemporaneo e, invece, ho scoperto che molte delle domande che oggi ci poniamo sui dati, sugli algoritmi e sulla capacità di orientare i comportamenti erano già state formulate, con linguaggi diversi, molto tempo fa.

Alla fine è questa la convinzione che mi è rimasta: dalla torre del Panopticon al dominio dei dati sono cambiati gli strumenti e le forme del controllo, ma al centro resta sempre l’uomo, con la sua capacità di comprenderle, interpretarle criticamente e scegliere in autonomia.

Fabio Toscano

Ha conseguito la Laurea magistrale in Scienze Politiche e si interessa di cybersecurity, infrastrutture critiche e analisi delle minacce nel dominio cibernetico.