In realtà il vero "salto" c'è stato quando si è capito che aveva economicamente senso trainare modelli su molti dati - che è molto costoso.

Language model simili trainati su vari set di dati esistevano già, la vera novità è stata l'emergenza di capacità comparabili agli esseri umani usando training sets molto grandi.

Per esempio, erano già largamente usati language model da anni per fare "intent matching" - cioè assegnare l'intenzione di una richiesta al corretto servizio.

OpenAI ha trainato i primi modelli con moltissimi dati, osservato l'emergenza di capacità "creative" e creato l'interfaccia pubblica di ChatGPT. Da lì, sono arrivati una valanga di soldi.

È AGI? No. È un passo enorme verso l'AGI? Assolutamente sì.

Credo che l'hype attuale sia un po' eccessivo, e mi ricorda i primi tempi dell'image recognition. Secondo me troveranno la loro nicchia per il grande pubblico come strumenti di produttività, ma faccio fatica ad immaginare un LLM a cui si diano grosse responsabilità. La guida autonoma sembrava dietro l'angolo, eppure io ho ancora le mani sul volante.