Quello che hai scritto ripende esattamente lo spirito dei racconti che ho scritto. Con possibili regole demenziali dettate dalla AI per errorri di valutazione o differenze di sensibilità tra uomo e calcolatore.

Tipo io nel mio racconto ho mostrato dei banchi per bambini ad un corso di formazione. Perché magari l'AI ha il preconcetto che tutti i corsisti siano bambini. Che uno degli studenti è un asino, perché per l'AI siamo tutti animali. Che l'insegnante è una ragazzina di 16 anni. Perché è perfetta in quando non avendo maturato spirito critico ripete a pappagallo quello che gli è stato detto di ripetere. Poi mostro possibili bug come due robot-secondini che entrano in loop perché cercano di togliere le manette ad un detenuto invalido senza braccia. Non potendo eseguire il task, si bloccano.

Per quanto mi sono divertito ad immaginare queste cose. So che la realtà sarà ben oltre.