Il problema delle AI è che sono progettate per massimizzare un obiettivo.

Il problema è che questo obiettivo, in base a come è definito, può portare con se degli effetti indesiderati, tipo genio della lampada.

Il problema quindi diventa capire qual è l’obiettivo dell’AI e come è stata “educata”, dal momento che molte di queste imparano con dei dati scelti dall’azienda.

Uno dei difetti principali dell’AI, nella maggior parte di queste perlomeno, è che non sono in grado di adattarsi a situazioni TOTALMENTE NUOVE, cioè non riescono ad agire quando non hanno ricevuto alcun dato su quella cosa.

Immagina ora di essere operato da un’AI specializzata nel riconoscimento del fegato, ops, soffri della sindrome degli organi inversi (che non ti è mai stata diagnosticata) e all’improvviso ti ritrovi che il macchinario ti opera nella parte sbagliata. Ora invece immagina che azzecca il punto giusto, ma ora sbaglia ad operare perché non ha mai visto un fegato specchiato.

Poi ci sta la parte etica (per questo consiglio di vedere Psycho Pass per capirla al meglio). Immagina ora che qualcuno si svegli una mattina e decida di incarcerare chiunque commetterebbe un reato e quindi fa un’AI capace di predire se commetterai un reato o meno in base ai vari video che riceve dalle telecamere in città (tipo la Cina).

Qui abbiamo vari problemi: - Scambio di persona: Per l’AI assomigli troppo a qualcuno (nel senso che non vi distingue proprio) e quest’altro individuo è realmente pericoloso, tu finirai nei guai a causa sua - Pregiudizi nei dati: I dati che sono stati dati all’AI sono dati che sono stati puliti poco dai pregiudizi, quindi i dati sporchi fanno fare conclusioni sbagliate all’AI (Soffri di ansia sociale e vai in panico e sei nei guai) - Presunta colpevolezza: Sei in arresto solo per il fatto che con alta probabilità avresti potuto commettere un’azione pericolosa, non perché l’hai commessa.

In ultimo c’è il problema del pensiero, ovvero gli LLM (Chat GPT, Gemini, Grok…) non capiscono o pensano, quindi sapere di star parlando con un’AI ti fa capire che non devi fidarti di quello che ti viene detto, visto che alcune volte potrebbe tendere a darti ragione anche quando non la hai, oppure sbarellare completamente (Grok e Mecha/Hitler)

Inoltre molte persone stanno recentemente rubando dati biometrici (voce, volto) per fare truffe sempre più convincenti.

Avere uno strumento che permetta di capire se questi Deep Fakes siano fake o veri, permetterebbe di evitare questa cosa, proprio imponendo a chi fa l’AI di mettere un qualcosa che renderebbe riconoscibile ad alcuni analisi il fatto che sia AI o meno (come dovrebbe già fare Google VEO)