I tuoi dati aziendali dentro un modello AI: dove finiscono davvero

C'è una domanda che arriva sempre, in genere a metà riunione e in tono un po' più basso del resto: «ma se ci mettiamo dentro i nostri documenti, quei dati dove vanno a finire?».

È la domanda giusta. Il problema è che di solito riceve una risposta rassicurante e generica — «è tutto sicuro», «i dati restano tuoi» — che non aiuta nessuno a decidere. La risposta vera è più semplice di quello che sembra, e dipende da tre scelte che si fanno all'inizio del progetto.

Prima cosa: il modello non impara da te

È il fraintendimento più diffuso, e vale la pena toglierlo subito di mezzo. Quando scrivi a un modello, quello che gli mandi non entra nel modello. Il modello è già addestrato: è un oggetto congelato, identico prima e dopo la tua domanda.

Quello che mandi finisce nella conversazione — un contesto temporaneo che il modello legge per rispondere e che poi non esiste più. La differenza è netta:

• Addestramento: i dati entrano stabilmente nel modello e possono in teoria riaffiorare. Succede solo se qualcuno lo fa deliberatamente, e nei contratti aziendali è escluso.
• Inferenza: i dati passano, vengono letti, la risposta esce. Nessuna traccia nel modello.

Quasi tutto quello che si fa in azienda è inferenza. Il timore di «ritrovarsi il bilancio nelle risposte date a un altro» nasce da una confusione fra le due cose.

Seconda cosa: conta il contratto, non la tecnologia

Se i dati non entrano nel modello, il punto si sposta: chi tiene quel testo, per quanto tempo, e cosa può farci.

Qui la differenza non è fra un modello e un altro, è fra un account personale e un contratto aziendale. Sono due mondi diversi dello stesso servizio:

• Il piano consumer è pensato per una persona. Spesso prevede che le conversazioni possano essere usate per migliorare il servizio, salvo disattivarlo a mano.
• Il piano business o l'accesso via API parte dal presupposto opposto: nessun utilizzo per addestramento, conservazione limitata a un tempo breve per motivi di abuso, cancellazione su richiesta.

Il rischio reale in azienda, nove volte su dieci, non è il fornitore: è la persona che incolla un contratto in un account personale perché era più veloce. Non è un problema di tecnologia, è un problema di strumenti dati e regole scritte. Si risolve dando alle persone lo strumento giusto, non vietando l'AI.

Terza cosa: dove tieni i documenti

Il pezzo che quasi nessuno racconta è che nei progetti seri i documenti non si mandano al modello. Restano dove sono.

Il meccanismo è questo: i tuoi file vivono in un archivio tuo, indicizzato. Quando qualcuno fa una domanda, un sistema cerca nell'archivio i pochi paragrafi che servono e manda al modello solo quelli, insieme alla domanda. Il modello risponde su quel materiale e non ha mai visto il resto.

Il vantaggio non è solo la riservatezza. È che il perimetro diventa governabile:

• Puoi limitare per persona: chi non vede una cartella non ottiene risposte su quella cartella.
• Puoi tracciare: ogni risposta è collegata ai documenti che l'hanno prodotta, e si verifica.
• Puoi cambiare modello senza rimettere in gioco l'archivio, perché i due pezzi sono separati.

Le domande da fare a chi ti propone un progetto

Non servono competenze tecniche per capire se una proposta sta in piedi. Bastano quattro domande, e le risposte devono essere precise:

• I dati vengono usati per addestrare? Deve essere un no scritto, non a voce.
• Per quanto tempo restano sui server del fornitore? Un numero di giorni, non «poco».
• Dove stanno fisicamente i documenti? Se la risposta è «li carichiamo tutti nel servizio», è un progetto fatto male.
• Chi vede cosa? Se non c'è una risposta sui permessi, il sistema non ne ha.

Se chi ti parla risponde a queste quattro senza esitare, stai parlando con qualcuno che ha già fatto il lavoro. Se sfuma, la riservatezza non è l'unica cosa che manca al progetto.

Se stai valutando di portare l'AI sui documenti della tua azienda e vuoi capire dove finiscono davvero i dati prima di firmare qualcosa, parliamone.