L'intelligenza artificiale on-premise è un sistema di AI che gira su server di proprietà dell'azienda o in un datacenter che l'azienda controlla, senza inviare documenti, contratti o dati dei clienti a un fornitore cloud esterno. Per un'impresa, uno studio legale o una struttura ricettiva il risultato dipende meno dal modello scelto e più dal progetto. Contano quali processi vengono affidati all'AI, con quali dati, collegata a quali software già in uso e con quali controlli. Per questo un progetto di AI locale parte dalla mappatura dei processi reali e non dall'acquisto di un server: è l'approccio con cui EMPV progetta i propri sistemi di AI locale e privata.
In breve
- Un sistema di AI on-premise viene eseguito su un'infrastruttura controllata dall'organizzazione: i dati restano entro un perimetro definito, compresi log, cache e backup.
- Il vantaggio economico cresce con l'uso. Secondo un'analisi accademica, per i modelli piccoli il pareggio dei costi rispetto al cloud arriva in pochi mesi.
- Il quadro normativo europeo e italiano (AI Act, legge 132/2025, GDPR) premia chi sa dimostrare dove sono i dati e chi li tratta.
- Studi legali, strutture ricettive e aziende con documentazione riservata ottengono i risultati migliori quando l'AI viene integrata nei gestionali esistenti, non affiancata come strumento isolato.
- Il percorso corretto è questo: mappatura dei processi, scelta del modello, dimensionamento dell'hardware, integrazione, verifica prima della produzione, manutenzione.
Indice
- 01 / Definizione: on-premise, locale e cloud
- 02 / Perché le aziende portano l'AI in locale
- 03 / Casi d'uso per aziende, studi legali e strutture ricettive
- 04 / Infrastruttura, hardware e competenze
- 05 / Costi: come si calcola il costo totale
- 06 / Protezione dei dati e quadro normativo
- 07 / Percorso di introduzione in sei fasi
- Il servizio AI locale e privata di EMPV
- Il punto di vista di EMPV
- Domande frequenti
- Fonti
01 / Definizione: on-premise, locale e cloud
Le FAQ del bando regionale sull'intelligenza artificiale del Friuli Venezia Giulia danno una distinzione chiara. È "on-premise" un sistema di IA installato in un datacenter controllato dall'azienda; è "cloud" un sistema basato su risorse informatiche erogate via Internet da provider esterni. Lo stesso documento indica che l'AI in locale può eseguire modelli open-source su server, workstation o mini-PC, con hardware dedicato e GPU adeguate. Raccomanda inoltre di seguire i dati lungo tutto il percorso, cache, log e backup inclusi, per verificare che la soluzione resti davvero locale.
Nell'uso comune i termini si sovrappongono. Conviene quindi definirli con precisione:
| Modalità | Dove viene eseguito il modello | Chi controlla i dati | Caso tipico |
|---|---|---|---|
| AI on-premise | Server nel datacenter o nella sala macchine aziendale | L'azienda | Elaborazione di documenti riservati, integrazione con ERP e gestionali |
| AI locale su postazione | Workstation o mini-PC dedicato | L'azienda o il singolo reparto | Assistenti interni per uffici e studi di piccole dimensioni |
| Cloud privato dedicato | Infrastruttura riservata presso un datacenter terzo | L'azienda, con vincoli contrattuali | Carichi variabili con requisiti di isolamento |
| AI in cloud pubblico via API | Infrastruttura del fornitore del modello | Il fornitore, secondo le sue condizioni | Prototipi e attività senza dati sensibili |
Il fattore decisivo non è la collocazione fisica della macchina ma il grado di controllo sull'ambiente che elabora i dati. Chi decide quali modelli girano, dove finiscono i prompt (cioè le richieste inviate al modello), per quanto tempo vengono conservati i log e chi può accedervi. Un'AI on-premise ben progettata risponde a tutte queste domande con una sola parola: l'azienda.
02 / Perché le aziende portano l'AI in locale
Le motivazioni ricorrenti sono cinque, e in genere più d'una vale per la stessa organizzazione.
- Controllo dei dati. Contratti, cartelle cliente, documenti dei clienti, dati di prenotazione e informazioni commerciali non escono dal perimetro aziendale. Questo semplifica la documentazione richiesta dal GDPR e riduce i soggetti terzi coinvolti nel trattamento.
- Costi prevedibili. Con un'infrastruttura propria il costo non cresce con il numero di richieste. Dopo l'investimento iniziale, l'uso intensivo abbassa il costo per singola elaborazione.
- Latenza e continuità. Il modello risponde dalla rete interna, senza dipendere dalla connessione Internet o dalla disponibilità di un servizio esterno.
- Personalizzazione. Il modello può essere adattato a terminologia, modulistica e procedure dell'azienda, e collegato direttamente alle basi dati interne.
- Indipendenza dal fornitore. Le condizioni d'uso, i prezzi e le versioni dei modelli non cambiano per decisione di terzi.
La disponibilità di modelli open-weight europei di grandi dimensioni ha ampliato le opzioni. I pesi di questi modelli sono pubblicati e si possono eseguire su infrastruttura propria. L'evoluzione è descritta nella nota su Mistral Large 4 e i modelli open-weight. Per molti processi aziendali, però, un modello di dimensioni contenute, scelto e configurato sul compito specifico, è sufficiente e molto più economico da gestire.
03 / Casi d'uso per aziende, studi legali e strutture ricettive
L'AI locale rende di più quando lavora su informazioni riservate, ripetitive e già presenti nei sistemi aziendali. Alcuni esempi per i settori più interessati:
Studi legali
- ricerca semantica, cioè per significato e non per parola esatta, nell'archivio di atti, pareri e contratti dello studio;
- estrazione di scadenze, parti e clausole da documenti ricevuti, con inserimento nel gestionale di studio;
- prima stesura di sintesi e bozze, sempre soggette alla revisione del professionista;
- coordinamento delle informazioni tra professionisti che seguono la stessa pratica.
Strutture ricettive
- classificazione e risposta assistita alle richieste ricevute via email e modulo;
- collegamento tra richieste, disponibilità e sistema di gestione delle prenotazioni;
- previsione della domanda su dati storici di occupazione, a supporto delle decisioni sulle tariffe e sul personale.
Aziende di produzione e servizi
- assistenti interni che rispondono su procedure, manuali tecnici e documentazione di qualità;
- lettura automatica di ordini, DDT e fatture, con passaggio dei dati all'ERP;
- analisi di ticket, non conformità e segnalazioni per individuare cause ricorrenti.
Sulle previsioni da serie storiche esiste un filone specifico di modelli, diversi da quelli che generano testo, illustrato nella nota Timestral, l'AI che prevede.
In tutti i casi l'AI produce valore solo se riceve i dati giusti e restituisce il risultato nel punto in cui serve: il gestionale, il CRM, il sistema di prenotazione. Per questo l'integrazione con il software esistente è parte del progetto fin dall'inizio. Spesso conviene integrare un gestionale invece di sostituirlo.

04 / Infrastruttura, hardware e competenze
Il dimensionamento dipende da tre variabili: la dimensione del modello (il numero di parametri), la quantizzazione (una tecnica di compressione che riduce la memoria necessaria mantenendo una qualità adeguata al compito) e il numero di utenti o di richieste contemporanee. La risorsa più critica è la memoria della GPU, la VRAM, che deve contenere il modello e i dati in elaborazione.
| Scenario | Infrastruttura indicativa | Uso tipico |
|---|---|---|
| Studio professionale o ufficio | Workstation o mini-PC con GPU dedicata | Assistente documentale, ricerca nell'archivio, sintesi |
| Media impresa, più reparti | Server con una o più GPU professionali in rete interna | Assistenti per reparto, elaborazione documentale, automazioni collegate all'ERP |
| Grande organizzazione o volumi elevati | Cluster di GPU per datacenter | Modelli di grandi dimensioni, molti utenti simultanei |
Oltre all'hardware servono componenti software e competenze precise:
- motore di inferenza, cioè il software che esegue il modello e lo espone ad altri programmi tramite API;
- livello di recupero documentale (RAG), che indicizza i documenti aziendali e fornisce al modello solo i passaggi pertinenti alla domanda;
- integrazioni con gestionali, CRM, sistemi documentali e di prenotazione;
- autenticazione e permessi, perché ogni utente veda solo i documenti che è autorizzato a vedere;
- registrazione e monitoraggio, per ricostruire quali richieste sono state fatte, con quali dati e con quale esito;
- competenze sistemistiche per aggiornamenti, backup e sicurezza.
Questo insieme di attività spiega perché un progetto di AI on-premise è anzitutto un progetto di integrazione e di processo, e solo in seconda battuta un acquisto di hardware.
05 / Costi: come si calcola il costo totale
Il confronto corretto non mette a fronte il canone di un servizio cloud e il prezzo di una GPU. Mette a confronto il costo totale di gestione dello stesso carico di lavoro per l'intero ciclo di vita. Le voci da considerare sono le seguenti:
| Voce | On-premise | Cloud via API |
|---|---|---|
| Investimento iniziale | Hardware, installazione, configurazione | Assente |
| Costo d'uso | Energia e raffreddamento, indipendenti dal numero di richieste | Proporzionale ai token elaborati |
| Manutenzione | Aggiornamenti, backup, sicurezza | Inclusa nel servizio |
| Integrazione e sviluppo | Necessaria | Necessaria |
| Ammortamento | Su più anni | Non applicabile |
Il token è l'unità minima di testo elaborata da un modello, all'incirca una parte di parola. Sul costo per token i dati disponibili sono netti. Uno studio Lenovo sul costo totale dell'AI generativa, edizione 2026, riportato da TI INSIDE, indica per un milione di token circa 2,00 dollari in cloud contro 0,11 dollari con infrastruttura propria. Negli scenari di uso intensivo il risparmio arriva fino a 18 volte e il pareggio in meno di quattro mesi.
Un'analisi costi-benefici pubblicata su arXiv quantifica i tempi di rientro in base alla dimensione del modello: pochi mesi per i modelli piccoli, circa due anni per quelli medi e circa cinque anni per quelli grandi. I casi più favorevoli sono le organizzazioni con volumi elevati, nell'ordine di almeno 50 milioni di token al mese, o con obblighi stringenti di residenza dei dati.
Ne derivano due indicazioni operative:
- scegliere il modello più piccolo che svolge il compito con la qualità richiesta, perché è la leva che accorcia di più i tempi di rientro;
- concentrare l'AI sui processi ad alto volume e ripetitivi, dove ogni elaborazione ha un costo marginale prossimo allo zero.
Un confronto più dettagliato tra le due modalità si trova nella nota AI on-premise o cloud: quando conviene.
06 / Protezione dei dati e quadro normativo
Il quadro di riferimento comprende norme europee e italiane. Secondo la ricostruzione delle scadenze dell'AI Act in Italia:
- l'AI Act (Regolamento UE 2024/1689) si applica dal 2 febbraio 2025 per i divieti e le disposizioni generali, e dal 2 agosto 2025 per i modelli di IA per finalità generali e per parte della governance;
- l'AI Omnibus (Regolamento UE 2026/1744), in vigore dal 27 luglio 2026, ha rinviato al 2 dicembre 2027 una parte degli obblighi per i sistemi ad alto rischio dell'allegato III;
- l'articolo 20 della legge italiana 132/2025 designa AgID e ACN (Agenzia per la Cybersicurezza Nazionale) come autorità nazionali per l'intelligenza artificiale;
- il rinvio di alcuni obblighi dell'AI Act non sospende il GDPR.
Sul GDPR, il breviario normativo dell'Ordine degli Avvocati di Torino ricorda un punto preciso. Quando un sistema di IA può presentare un rischio elevato per i diritti e le libertà delle persone, è necessaria una valutazione d'impatto ai sensi dell'articolo 35, la DPIA (Data Protection Impact Assessment). La classificazione di un sistema come ad alto rischio secondo l'AI Act fa presumere un rischio elevato anche ai fini del GDPR, se vengono trattati dati personali.
Lo stesso documento, rivolto agli studi legali, raccomanda misure che valgono per qualunque installazione on-premise:
- crittografia dei dati in transito e a riposo;
- backup regolari degli output e dei dati usati per l'addestramento;
- firewall e sistemi di rilevamento e prevenzione delle intrusioni (IDS/IPS);
- test di penetrazione almeno ogni sei mesi;
- analisi periodica dei log di accesso;
- una policy interna sull'uso dell'IA e la formazione regolare del personale.
L'AI on-premise facilita l'applicazione di queste misure, perché log, backup e accessi sono sotto il controllo diretto dell'organizzazione. Resta però necessario progettarle e documentarle. Per i trattamenti che possono rientrare tra quelli ad alto rischio, la valutazione va condotta con il responsabile della protezione dei dati (DPO) o con il legale di riferimento.
07 / Percorso di introduzione in sei fasi
- Mappatura dei processi. Si individuano le attività in cui l'AI produce un beneficio misurabile, i dati coinvolti, i software interessati e i rischi. L'errore più comune è partire dal modello o dall'hardware anziché dal processo. EMPV Discovery è il servizio con cui EMPV analizza il funzionamento effettivo dell'azienda e individua inefficienze, rischi e opportunità prima di proporre qualsiasi soluzione.
- Classificazione dei dati e requisiti normativi. Si stabilisce quali dati possono essere elaborati, da chi, e se il trattamento richiede una DPIA. Questa fase determina anche quali componenti devono restare rigorosamente in locale.
- Scelta del modello. Si confrontano più modelli sul compito reale, con documenti e casi rappresentativi. Se il modello viene scelto in base alle classifiche generali e non al compito specifico, il risultato è spesso un sistema sovradimensionato.
- Dimensionamento dell'infrastruttura. Hardware e configurazione si derivano dal modello scelto e dal numero di utenti. Si definiscono anche backup, monitoraggio e continuità di servizio.
- Integrazione con i sistemi esistenti. Il modello viene collegato a gestionali, archivi documentali, CRM o sistemi di prenotazione, con gestione dei permessi per utente. È la fase che trasforma un prototipo in uno strumento di lavoro: EMPV progetta queste integrazioni partendo dagli strumenti già in uso, senza imporre stack preconfezionati.
- Verifica prima della produzione e manutenzione. Si misurano accuratezza, tempi di risposta e comportamento sui casi limite, poi si pianificano aggiornamenti dei modelli, controlli dei log e revisioni periodiche. Il metodo è descritto nella nota su come valutare un LLM locale prima della produzione.
Il servizio AI locale e privata di EMPV
EMPV sviluppa soluzioni AI locali e on-premise per imprese, studi professionali e strutture ricettive. Il lavoro parte dalla mappatura dei processi operativi e prosegue con la progettazione di software su misura, automazioni e integrazione dei sistemi già presenti in azienda, con gestione locale dei dati dove necessario.

I servizi disponibili (EMPV Discovery, Software su misura, Automazioni e integrazioni, AI per le aziende, AI locale e privata) sono descritti nella pagina Cosa facciamo. La ricerca applicata sui modelli eseguibili in locale è documentata nel Local AI Capability Lab.
Il punto di vista di EMPV
Nei progetti di intelligenza artificiale on-premise la variabile che determina il risultato raramente è il modello. È la comprensione del processo in cui il modello viene inserito: quali documenti arrivano, chi li tratta, in quale software confluiscono, quali decisioni ne dipendono.
Per questo partiamo dalla mappatura del funzionamento effettivo dell'azienda e non da uno stack tecnologico predefinito. Un'installazione locale progettata in astratto rischia di restare un esercizio tecnico; un sistema progettato sui processi reali e integrato con gli strumenti già in uso diventa parte del lavoro quotidiano.
Riteniamo che la gestione locale dei dati sia, per molte organizzazioni, la base più solida su cui costruire l'uso dell'AI: per gli studi legali che devono coordinare informazioni riservate, per le strutture ricettive che gestiscono dati di ospiti e prenotazioni, per le aziende che lavorano su documentazione tecnica e commerciale. Adattiamo ogni soluzione alle priorità specifiche del cliente, con l'obiettivo di migliorare il flusso delle informazioni e ridurre i costi operativi.
EMPV
Domande frequenti
Che differenza c'è tra AI on-premise e AI locale?
AI on-premise indica di norma un sistema installato su server nel datacenter controllato dall'azienda. AI locale è un termine più ampio che comprende anche l'esecuzione su workstation o mini-PC. In entrambi i casi il modello gira su hardware sotto il controllo dell'organizzazione e i dati non vengono inviati a un fornitore esterno.
Si può installare un'AI on-premise senza un datacenter?
Sì. Per un ufficio o uno studio professionale può bastare una workstation o un mini-PC con GPU adeguata, collocato nella rete interna. Il dimensionamento dipende dal modello scelto e dal numero di utenti contemporanei.
L'AI on-premise risolve da sola gli obblighi del GDPR?
Riduce i soggetti terzi coinvolti e semplifica il controllo di log, backup e accessi, ma gli obblighi restano: base giuridica, misure di sicurezza e, quando il rischio è elevato, la valutazione d'impatto prevista dall'articolo 35. Per i trattamenti potenzialmente ad alto rischio la valutazione va condotta con il DPO o con il legale di riferimento.
Quanto tempo serve per rientrare dall'investimento?
Dipende dalla dimensione del modello e dal volume d'uso. Secondo l'analisi pubblicata su arXiv, il pareggio arriva in pochi mesi per i modelli piccoli e in circa due anni per quelli medi. Per questo la scelta del modello più piccolo adatto al compito è la decisione economica più importante.
Un'AI on-premise si collega ai gestionali già in uso?
Sì, ed è la condizione perché produca valore. Il modello viene esposto tramite API interne e collegato a gestionali, archivi documentali, CRM o sistemi di prenotazione, con permessi definiti per ciascun utente.
Fonti
Regione Friuli Venezia Giulia, FAQ bando Intelligenza Artificiale A Cost-Benefit Analysis of On-Premise Large Language Model Deployment, arXiv TI INSIDE, studio sul costo dell'AI generativa con infrastruttura propria AI Act in Italia: scadenze aggiornate e percorso operativo Ordine degli Avvocati di Torino, breviario normativo sull'uso dell'IA
