NEO - AI nel Browser
Assistente AI che gira interamente nel tuo browser via WebGPU, ispirato a Brave Leo.
Nessun server, nessun dato inviato — privacy totale.
Caratteristiche
- 🧠 Modelli AI nel browser — SmolLM2, Qwen2.5, Llama 3.2, Phi 3.5, Gemma 2
- 💬 Chat libera — Conversa liberamente come con ChatGPT
- ✨ Operazioni testo — Riepilogo, parafrasi, traduzione, post social e altro
- 🔒 Privacy totale — Tutto gira in locale, zero dati al cloud
- 📱 Responsive — Funziona su desktop e mobile
- ⚡ WebGPU — Accelerazione hardware per inferenza veloce
- 🎨 Design premium — UI dark elegante ispirata a Brave Leo
Come Usare
Server locale (consigliato)
NEO usa moduli ES, un service worker e i worker dei modelli: servono http://localhost o https, non file://.
# Python
python3 -m http.server 8080
# Node.js
npx serve .
# Windows: start.bat
Poi apri http://localhost:8080 (Chrome 113+, Edge 113+, Firefox 139+).
Deploy
È un sito statico: basta pubblicare la cartella (ad esempio su Vercel).
Documentazione
Guida completa in docs/: guida utente, modelli, privacy e dati, uso offline, architettura, sviluppo e rilascio, fine-tuning, crediti.
Requisiti
- Browser con supporto WebGPU (Chrome 113+, Edge 113+, Firefox 139+)
- ~200MB-2GB di RAM libera (dipende dal modello scelto)
- GPU consigliata per prestazioni migliori
Modelli Disponibili
| Modello | Dimensione | Caratteristiche |
|---|
| SmolLM2-360M | ~200MB | Velocissimo, funziona ovunque |
| Qwen2.5-0.5B | ~350MB | Multilingua, buon compromesso |
| SmolLM2-1.7B | ~1GB | Qualità bilanciata |
| Llama 3.2-1B | ~700MB | Versatile, buon inglese |
| Qwen2.5-1.5B | ~900MB | Alta qualità multilingua |
| Gemma 2-2B | ~1.3GB | Google, buone prestazioni |
| Phi 3.5 Mini | ~2GB | Ragionamento avanzato |
Modelli personalizzati
Dalla schermata di scelta modello, + Modello personalizzato:
- MLC (WebGPU): URL dei pesi +
.wasm (oppure @modello-del-catalogo per riusarne uno), o una cartella MLC dal disco.
- Senza WebGPU (accelerazione hardware spenta, driver, VM): i modelli non partono e NEO lo segnala con i passi per attivarla.
Ricerca web (🌐)
Senza chiave usa Wikipedia (italiana). Con una chiave gratuita di Serper (risultati Google, 2500 ricerche gratis) usa Google: si inserisce al primo clic su 🌐, e si cambia con Maiusc+clic. La query viene prima ripulita dai dati personali (Redact, in locale). Altri provider (Tavily, Brave, Exa) non accettano chiamate dal browser e DuckDuckGo blocca i server Vercel.
Memoria e spazio
- ⏏ Espelli (piè della sidebar): scarica il modello da RAM/GPU e torna alla scelta; le chat restano.
- 🧹 Spazio e memoria: elenca i modelli scaricati nel browser (WebLLM, cartelle importate), con la dimensione, e permette di eliminarli uno a uno o tutti.
Uso offline (PWA)
Un service worker (sw.js) tiene in cache l'app e le librerie da CDN. Apri NEO una volta online da https o localhost (non da file://), scarica il modello, e dopo funziona senza rete; si può anche installare come app dal browser. La ricerca web 🌐 richiede internet. Ad ogni rilascio che cambia i file, aumenta VERSION in sw.js.
Struttura e test
index.html (markup), style.css, app.js (logica, modulo ES), ops.js (prompt delle operazioni sul testo), format.js (formattazione dei messaggi), skills.js (installazione skill da GitHub), sw.js (service worker offline).node test/smoke.mjs avvia l'app in Chromium headless con WebLLM simulato e controlla che parta senza errori (serve playwright).
Tech Stack
- WebLLM — Inferenza LLM nel browser via WebGPU
- MLC-AI — Compilazione modelli per il browser
- Vanilla HTML/CSS/JS — Nessun framework né build; le librerie arrivano da CDN con versioni fissate (vedi
index.html)
Crediti
Sviluppato da scobru — codice sorgente: github.com/scobru/neo.
Costruito sopra WebLLM, MLC-AI, Redact e Gist di Desert Ant Labs, PDF.js e Tesseract.js. I modelli appartengono ai rispettivi autori (Hugging Face, Alibaba, Meta, Microsoft, Google, Sapienza NLP, OpenBMB).
Licenza
MIT © scobru
