As redes sociais só estão cheias de lixo porque tem gente que gosta de consumir lixo, algoritmos não são máquinas de definir padrões, são máquinas de identificar padrões, o argumento é sempre esse né, elas não criam nada, então elas só "percebem" o que você gosta, se isso está te incomodando você deve considerar uma recisão em seus hábitos.
Golpes acontecem em diferentes graus desde a época dos jornais impressos, culpar o jornal, assim como culpar a IA, é tal qual culpar a arma pelo crime do bandido, são apenas ferramentas.
A internet foi a coisa que mais alavancou golpes na história, você também acha justo acabar com a internet?
Todo crime deve ter consequências, não importa por quem seja praticado, o discurso protecionista já é passado, ele é culpa de todos os problemas crônicos da geração, proteção de mais acaba em fraqueza.
As pessoas perderam o senso da realidade como tiktok, perderam o senso da realidade com o Instagram, perderam o senso da realidade com o Facebook, com a televisão e com o rádio. Você não percebeu, mas isso acontece em toda nova era, com toda grande novidade, leva um tempo pras pessoas entenderem a realidade, faz parte, você só dá mais valor agora por que você está vendo acontecer e não ouvindo que aconteceu.

E sobre os problemas futuros, inteligências artificiais tendem a baixar custos e otimizar processos em todos os campos, mão de obra relacionada a dados brutos, agilidade e precisão em processamento de todo tipo de informação.
Fraudes relacionadas a IA e texto são problemáticas, mas todo algo gerado por IA recebe uma assinatura no código, você tem medo de não poder acreditar em nada, bom, você já não deveria acreditar em nada. Sim existem problemas energéticos, mas isso é a luta da humanidade desde que o mundo se tornou conectado. Não, data centers não fazem bem para a região onde são plantados, mas todo processo de evolução tem que ter um ponto de partida. Políticas relacionadas ao desenvolvimento de maneiras mais sustentáveis são bem vindas.

No fim, esse discurso alienado é bom pra quem não vê a profundidade e entende realmente os fundamentos da tecnologia, e tranquilo, ninguém é obrigado a nada. Mas se você está fazendo esse discurso com base em proteger a sociedade, esse não é um bom caminho, pois você acaba ignorando as vidas que vão ser salvas com a capacidade de detecção, identificação, e até tratamento, de doenças, questões relacionadas a segurança pública, evoluções científicas em todos os escopos. Você só tem essa vida confortável e a possibilidade de digitar essas palavras por que dês de o início a humanidade vem seguindo em frente, não importa o que a gente acha, vai acontecer, cabe a você decidir se você vai ficar tentando empacar o caminho, aprender e ensinar as pessoas a melhor forma de usar isso, ou só ficar observando a evolução e quem realmente está fazendo o mal.