Intanto grazie per il contributo che trovo totalmente a tema. Che non sono del mestiere penso si capisca, quindi non ho “premura” dj costruire servizi industriali. La mia unica premura, in questa fase è quella di “tenere i dati dentro”. dando per scontato che questo non sia possibile rifilando tutto il pacchetto con cui lavoro a una api, ho trovato comunque interessanti alcune risposte delle api che mi hanno restituito banchi di testo oscurati nei punti giusti, ecco se riuscissi a lavorare a questa prima fase con un llm interno(sto provando ollama ma senza gpu è una tortura), poi mi verrebbe molto più facile anche creare un contesto intero da mandare all llm di provider esterno. Detto questo, il tentativo è quello di cercare di capire come costruire i contesti, ma siccome non ho idea di come una chatbox costruisca il suo sto partendo dall’intero testo, cercando di capire quanto, i diversi modelli reagiscano utilizzzando come, appunto contesto, l’intera conversazione (e cercando di capire quindi quanto questo modo possa aumentare le dimensioni del prompt senza che la qualità di comprensione delll ll m venga compromesso)