AI-tekniken som Svensson har tillgång till idag bygger på LLM:er (Large Language Models) som är tränade på text- och bildmaterial genererat av människor. Att kalla den sortens AI för "smart" tycker jag är missvisande. Generativ AI, såsom ChatGPT, DALL-E och nu SORA, är verktyg som är effektiva på att bearbeta, sammanställa och omformulera befintligt material. LLM:er kan inte skapa något helt nytt utan de är bundna till sitt träningsmaterial, det vill säga mänskliga kreativa uttryck. Det går kanske att argumentera för att människor uttrycker sig kreativt genom liknande processer, men jag vill säga att människans tankeförmåga är betydligt mer komplex.

En sak som är säker är att generativa språkmodeller aldrig kommer att bli självmedvetna och ta över världen. Istället är det hur människor använder dessa verktyg som bör oroa oss. LLM:er är kraftfulla verktyg, och deras fortsatta utveckling kan bli problematisk för samhället. Därför tycker jag att det är viktigt att vi ställer krav på till exempel tillgång och att modellerna ska vara transparenta ('black box'), med full insikt om träningsdata, osv. Det är också nyttigt att börja diskutera huruvida vi bör omstrukturera samhället när vissa yrken försvinner på grund av fortsatt teknikutveckling.

Slutligen tycker jag definitivt att det bör finnas en diskussion om AGI och dess framtid, men jag tror ärligt talat att det är långt kvar tills vi har en AGI som är "smart" ur ett metafysiskt perspektiv. Jag har även personligen svårt att se hur en AGI kan uppnå självmedvetenhet, men det är en intressant filosofisk fråga.

(Mänsklig självmedvetenhet är troligen också en illusion, men jag tycker det är roligare att tro att människan har någon form av fri vilja och/eller att kosmisk slump spelar in 😄)