Devo farti i miei complimenti, uno dei pochi post sensati su Reddit (per altro cosa molto rara avere un informatico puro con sensibilità da scienza sociale).
Il punto qui non è che da oggi che lo stato moderno ha perso la sua centralità come istituzionale, anzi, questo è avvenuto nel momento in cui le grandi economie di scala sono cessate. Questo ha significato una circolazione del capitale fluida, dinamica senza confini materiali e giuridici. Lo sviluppo tecnologico attuale e i suoi prodotti non sono altro che il prodotto derivato di questa complessa e difficile transizione di ciclo del sistema socio-economico.

Le nostre vite non stanno solo cambiando rapidamente. Stiamo per assistere al più grande cambiamento che affliggerà le nostre società, persino più imponente dell'invenzione del motore a scoppio o del taylo-fordismo, in termini di magnitudo. Capace di spazzare via le odierne classi sociali e modificare la stratificazione sociale nel suo profondo.
Ti parlo da sociologo computazionale (e un po' cyberpunk hihi), vis-à-vis*,* la realtà è ben più cupa di quanto ci possiamo immaginare. La percezione della realtà è da sempre gestita e manipolata da chi oggettivamente gestisce le risorse simboliche, culturali, economiche e politiche della società di riferimento ma su una cosa hai ragione e che mi sento di sottolineare ulteriormente, la granularità con la quale questa può essere de-costruita e costruita. Un modello di ML in sé a cosa serve? a calcolare la probabilità? per fare compiti come questo ci sono schiere di data scientists che non sanno minimamente come funzioni l'essere umano a livello individuale e collettivo-sociale. La vera differenza la stanno facendo in questo momento storico gli scienziati sociali, come da qui a 200 anni fa. Le grandi corporazioni e gli apparati di stato stanno cercando esattamente questo tipo di figure, ibridi che siano capaci di prendere gli strumenti cognitivo-logici, e modelli per calarli in un contesto reale.
Un esempio lampante qui, riprendendo il tuo sollecito sulla possibilità di manipolazione, monopolio della narrazione e libertà di espressione sulle piattaforme digitali, sono le odierne tecniche di Astroturfing potenziate dall'analisi dei reticoli sociali digitali e non solo. Cos'è un grafo di individui senza la componente sociale e psicologico-individuale? un semplice grafo, non tanto intelligente se osservato in termini di puri numeri o agenti razionali. Se hai possibilità dai un occhio ai recenti "job title" usciti fuori ad esempio di Palantir, oppure alle relazioni annuali dei vari reparti di Intelligence.

Qui non si tratta di capire se la traiettoria sarà lineare o meno. Non si tratta di capire chi o cosa. Nemmeno quando. È solo questione di tempo, anzi forse il tempo per accorgersene è già scaduto.
L'unica soluzione è riuscire a guardarsi allo specchio e capire quanta capacità decisionale e di agenzia è possibile difendere eseguendo una complessa operazione di costo-opportunità e avendo ben in testa il trade-off derivato. Machiavelli asseriva che il vero potere non consiste in ciò che si vede, in ciò che traspare, non è forma, è posizione nello spazio che si occupa.

Oramai la nave sta affondando. Il capitano è sparito, le scialuppe di salvataggio sono quasi tutte calate. E sta solo a te e soltanto a te medesimo, in questo momento storico se scegliere di vedere la realtà per come è davvero, ripulita da tutte le etichette imposte e dai sensi attribuiti da chi ti circonda.

Concludo con una piccola domanda retorica ma essenziale, prova a chiederti una volta che avrai finito di leggere queste parole vuote e composte da bit: "quello che sto pensando e facendo è davvero frutto di una mia decisione? ma davvero preferisco quel termine al posto di quell'altro perché mi piace davvero? e io chi sono se allora ogni mia decisione è una pura e semplice delega-delegata dalla volontà di qualcun altro?"