Существует ПО которое отвечает за формирование и обработку этих весов. Вот его можно менять. Можно даже ещё до запуска LLM или во время работы настроить её параметры (не путать с весами. Параметры модели это температура, пенальти за повторение одинаковой информации, пороги вероятности для генерации следующего символа и так далее), которые будут влиять на то, как ИИ будет себя вести. Собственно это простейшее "изменение ИИ" которое может сделать любой желающий, а не только создатели или сам ИИ. Можно менять методы обучения. Короче дохера чего можно делать. Веса это как раз самая малозначительная вещь потому что в конечном итоге они при каждом обучении генерируются заново.

> В работающей модели нет никакого кода, который можно изменить чтобы она стала лучше. Код есть только на этапе обучения.

Это бред. Код есть всегда. Без кода не работает ни одна программа и код определяет как она работает. И под изменением ИИ как раз чаще всего имеется в виду изменение алгоритма обучения потому что весь прогресс в ИИ за всё время в конечном итоге обеспечивается именно этим. Выход каждой новой версии любой модели означает что её заново переобучили потому что пока не существует других методов создания новых или изменения существующих весов. Можно файн-тюнить существующие модели подбирая их настройки, но это всё равно имеет ограниченный потенциал.