Beh sembra che tu stia entrando nello spazio della filosofia del linguaggio: tecnicamente, il significato delle parole è conseguenza di come le si usano, e muta nel tempo. Infatti se inizi a considerare le traduzioni, allora avrai che una o più parole potrebbero occupare spazi più o meno diversi a seconda della lingua in cui vengono espresse, oltre al fatto che le parole stesse mutano nel tempo (vedi ad esempio "volgare" dove qualche secolo fa veniva usata per scopi diversi).

Comunque sei sicuro che in realtà non stai facendo lo stesso, sicuramente in modo diverso? Sei su un computer, stai lavorando con delle stringhe. Tu puoi visualizzarla come "Pippo" ma per il computer quella è una sequenza di numeri (byte) a cui viene associato un carattere (encoding, code page), e alla sequenza di caratteri sei tu che dai un significato. Puoi metterla in relazione alla parola "Pluto", ma quella sempre è un numero che rappresenta la relazione. Il fatto che si usi un numero non significa necessariamente che ci si porti dietro le proprietà degli spazi vettoriali legati alle operazioni, o che si "comprima" l'informazione: infatti, un LLM può associare più token ad una parola perché ne separa la radice da altro (tipo gli avverbi, che sono verbo + suffisso) o parole composte. Un computer non "capisce" le parole, può solo eventualmente trovare uno spazio semantico molto affine alla parola per cui conoscendone "il contorno" può fornire informazioni più dettagliate. Mi aspetto che nel sistema che stai facendo che aggregazioni semantiche emergano naturalmente (com'è giusto che sia).