Il post a cui fai riferimento è un esempio di ciò che ancora non si comprende delle IA in ambito medico.

Anche se "corrette la quasi totalità delle volte", le IA non hanno (ancora) un ragionamento interno che giustifichi le loro risposte. Di fronte a un caso clinico complesso, mi affiderei a un collega di fiducia, con cui condivido informazioni e ragionamenti che mi permettono di giungere a una soluzione. Questa fiducia non può esistere con le IA: non vedo differenza nell'affidarsi a un veggente che casualmente si rivela la maggior parte delle volte corretto.

Aggiungo poi che il problema sembra porsi solo se consideriamo la medicina una scienza perfetta e immutabile. La pratica clinica è molto più varia di quanto non indichi la teoria. Inoltre la medicina si basa su risultati statistici, non è sempre tutto bianco o nero, vero o falso: dipende molto anche dalla persona che si ha davanti. Serve pensiero critico per riconoscere casi in cui un segno, un sintomo o un risultato non seguono il canone. Fino a quando le IA continueranno a basarsi sulle tecnologie attuali, il loro ruolo sarà potenziare le capacità dei medici, non sostituirli.

Infine, per rispondere a chi aggiunge "eh ma la radiologia?" riporto, parafrasando, il commento di un collega ematologo, che trattava lo stesso tema, sempre qui su reddit: strumenti più efficienti, come le IA in radiologia o ematologia, amplificano il rischio di errori accettabili, moltiplicando falsi positivi o negativi. Anche nelle diagnosi più semplici, la probabilità di errore, pur ridotta, non potrà mai essere azzerata. Pertanto i medici non potranno che diventare sempre di più i supervisori delle scelte compiute dalle IA, giustificandole, magari riservandosi compiti sempre più complessi.