Udemy
Turn what you know into an opportunity and reach millions around the world.
Learn More
Your cart is empty.
Keep shopping
WebLLM: un LLM nel browser con WebGPU e JavaScript
New

WebLLM: un LLM nel browser con WebGPU e JavaScript

Esegui Llama 3.2 nel browser con WebLLM e WebGPU e crea una chat AI completa in JavaScript, senza server e senza API
Created byGiovanni Pace
Last updated 10/2026
Italian

What you'll learn

  • Capire LLM, token, prompt, tokenizer, addestramento e inferenza
  • Verificare WebGPU in Chrome e leggere adapter, device e memoria disponibile
  • Creare il motore di inferenza WebLLM e caricare Llama 3.2 1B nel browser
  • Costruire un'interfaccia di chat con JavaScript e Bootstrap
  • Gestire la sequenza dei messaggi e il system prompt
  • Salvare lo storico in LocalStorage e gestire più sessioni di chat con UUID
  • Proteggere il codice JavaScript e mostrare le risposte in streaming

Explore related topics

Course content

5 sections • 11 lectures • 2h 55m total length

  • Far girare un LLM nel browser, senza server e senza API16:35

    Cosa permette WebLLM, perché eseguire un modello lato client e cosa costruiremo nel corso.

  • LLM, token, prompt, tokenizer, addestramento e inferenza16:23

    I concetti chiave dei modelli linguistici spiegati in modo semplice prima di passare al codice.

    Materiale del corso: tra le risorse di questa lezione trovi lo zip con il codice di tutte le lezioni (intro, chat, navigazione e streaming).

  • Quiz: i concetti

Requirements

  • Conoscenza di base di HTML e JavaScript
  • Google Chrome aggiornato con supporto WebGPU
  • Un PC con una scheda grafica recente (anche integrata) e qualche GB di memoria libera

Description

Far girare un modello linguistico direttamente nel browser, senza server, senza API a pagamento e senza che i dati lascino il computer dell'utente: con WebLLM e WebGPU oggi è possibile, e in questo corso impari a farlo passo dopo passo con JavaScript.

Si parte dai concetti: cos'è un LLM, cosa sono token, prompt e tokenizer, che differenza c'è tra addestramento e inferenza. Poi verifichi il supporto WebGPU in Chrome, interroghi adapter e device e controlli la memoria disponibile, per capire quali modelli puoi davvero eseguire sulla macchina dell'utente.

Poi costruisci un'applicazione reale: crei il motore di inferenza, carichi Llama 3.2 1B nel browser e realizzi un'interfaccia di chat con Bootstrap. Gestisci la sequenza dei messaggi e il system prompt, salvi lo storico in LocalStorage, crei sessioni di chat indipendenti con UUID e identificativo nell'URL e costruisci la lista delle conversazioni con la navigazione tra le sessioni.

Infine metti in sicurezza il codice JavaScript e attivi lo streaming delle risposte, per una chat che mostra il testo mentre il modello lo genera.

Alla fine avrai una chat AI completa che funziona interamente lato client: privata, gratuita da usare e senza backend, una base perfetta per assistenti offline, prototipi e applicazioni che rispettano la privacy.

Il docente

Giovanni Pace è formatore e consulente IT, autore di centinaia di videolezioni su sviluppo web, intelligenza artificiale e DevOps. Da anni insegna programmazione con un approccio pratico, costruendo progetti reali passo dopo passo.

Who this course is for:

  • Sviluppatori web che vogliono integrare un LLM senza backend
  • Chi vuole creare assistenti AI privati che funzionano offline
  • Studenti e appassionati curiosi di capire come gira un modello linguistico
  • Chi vuole evitare i costi delle API dei modelli in cloud

Report abuse