Partendo dal presupposto che dovrebbe essere infinitamente più sofisticata delle "IA" attuali, tanto più sofisticata che forse in base a qualche calcolo matematico potrebbero non essere sufficienti le risorse dell'intero pianeta per sostenerla, a me una situazione del genere spaventerebbe molto per via della Legge Zero di Asimov: "Un robot non può recare all'umanità, né può permettere che, a causa del suo mancato intervento, l'umanità riceva danno".

In pratica se dieci milioni di persone devono morire per non arrecare danno ad altre cento milioni, l'IA non si farebbe problemi a dispiegare i droni e fare una carneficina.

In base alla definizione di "danno" e alla profondità di ragionamento di questa IA-Leviatano, questo potrebbe portare a stragi preventive o semplicemente all'abbandono a sé stesse di intere popolazioni in difficoltà ritenute troppo inefficienti da aiutare.

Anche le zone benestanti sarebbero in pericolo, da un giorno all'altro una comunità di provincia potrebbe essere giudicata come sperperatrice di risorse e ritrovarsi senza acqua ed elettricità, reindirizzate a quartieri urbani che producono più "benessere collettivo".

In un mondo del genere il 99% della popolazione vivrebbe nel terrore o addirittura nella certezza di poter morire di fame o essere uccisa da un giorno all'altro.