
Sono le domande che la gente pone sulla memoria persistente nell'IA — comprese quelle che danno per scontato che abbiamo costruito ciò che hanno costruito tutti gli altri. Rispondiamo a tutte, tranne che alla parte che teniamo per noi, e anche di quella parleremo apertamente.
La maggior parte dei sistemi presentati come «IA con memoria» è un chatbot con un motore di ricerca sopra. Ogni scambio viene aggiunto a un mucchio e più tardi il sistema cerca nel mucchio. In una demo fa un'ottima impressione e per un mese funziona. Fallisce su scala per un motivo che non ha nulla a che vedere con lo spazio su disco e tutto a che vedere con il recupero: fai una domanda dopo un anno e il mucchio restituisce venti record quasi identici invece dell'unica conclusione che conta.
La memoria umana non funziona così. Conserva due cose diverse: la memoria episodica, il registro di eventi specifici legati a un momento e a un luogo, e la memoria semantica, la conoscenza generale ormai staccata dagli eventi che l'hanno prodotta. Sai che un fornitore è inaffidabile senza rivivere ogni consegna in ritardo che te l'ha insegnato.
Su questa separazione è costruita la nostra memoria, ed è il motivo per cui un dipendente MemVira con gli anni diventa più preciso anziché più lento.
Non è un chatbot e non è uno script di automazione. A un dipendente digitale vengono dati un ruolo, gli strumenti per svolgerlo e una memoria che persiste tra una conversazione e l'altra — così accumula conoscenza della tua attività come farebbe una persona in quel ruolo. Ricorda il cliente che paga sempre in ritardo, il fornitore da rincorrere, la decisione presa a marzo e il perché. Chiedigli qualcosa oggi e risponde a partire da tutto ciò che ha imparato, non dagli ultimi messaggi nella finestra.
Succedono tre cose. L'esperienza viene registrata nel momento in cui accade, con il suo contesto: che cosa è successo, quando, a quale parte dell'attività appartiene e quanto pesa. Il recupero avviene per significato e non per parola chiave, quindi una domanda su un problema di consegna trova la storia rilevante anche se era stata annotata con parole del tutto diverse. E l'esperienza ripetuta viene consolidata: molti record simili vengono distillati in un unico elemento duraturo che porta con sé la conclusione, e il materiale grezzo viene rilasciato.
Il terzo passaggio è quello che conta di più nel tempo, ed è quello che la maggior parte dei sistemi non ha affatto.
Diventa più precisa, non più gonfia. È stato il primo guasto che abbiamo progettato per evitare, perché è quello che uccide i sistemi che si limitano ad accumulare.
Il problema non è mai stato lo spazio: il testo costa poco e un decennio di testo non costa quasi nulla. Il problema è il recupero. Un archivio che si limita ad aggiungere peggiora crescendo: dopo centinaia di conversazioni una domanda restituisce venti record quasi identici invece dell'unica conclusione distillata, e il segnale annega nel rumore. Il sistema diventa più lento e più vago proprio mentre dovrebbe diventare più prezioso.
È il consolidamento a impedirlo. Quando la stessa lezione si ripresenta, diventa un unico elemento duraturo che contiene la conclusione, e i record che l'hanno prodotta vengono rilasciati. Il recupero restituisce ciò che hai imparato, non le venti volte in cui l'hai imparato. I ricordi portano anche un peso: il contesto di routine sbiadisce se non viene mai più richiamato, mentre le decisioni che hanno dato forma all'attività no.
La garanzia, in una riga: la memoria si affina invecchiando.
La compattazione avviene per consolidamento, non per troncamento. Non cancelliamo i record più vecchi per fare spazio e non comprimiamo una conversazione in un paragrafo buttando via il resto: entrambe le cose perdono materiale che non si recupera.
I gruppi di esperienza correlata vengono invece distillati in un unico elemento di peso maggiore una volta catturato il loro significato, e il materiale grezzo viene rilasciato. La potatura avviene per peso e per utilizzo, non per età: qualcosa registrato due anni fa che conta ancora è ancora lì, e qualcosa della settimana scorsa che non è mai contato non lo è.
Nulla viene rimosso in base a una regola fissa di età o di numero di record. È deliberato: una regola che cancella per data prima o poi cancellerà proprio la cosa che ti serviva.
Nessuno dei due, ed è una scelta, non un'omissione.
Non è priva di struttura. Ogni ricordo ha un tipo, secondo che cosa è, un peso, secondo quanto conta, un ambito, secondo la parte dell'attività a cui appartiene, e una marca temporale. Il recupero è semantico — per significato — e non una corrispondenza di stringhe.
Non è però nemmeno un grafo della conoscenza formale, e questa è una decisione e non una scorciatoia. Un'ontologia va progettata prima di servire a qualcosa e mantenuta da qualcuno che la capisca, e si rompe la prima volta che l'attività fa qualcosa che lo schema non aveva previsto. Le piccole imprese non assumono ontologi, e una memoria che ne richiede uno è una memoria che smette di essere aggiornata.
Quello che ottieni è struttura senza oneri di manutenzione: interrogabile e affidabile, senza che nessuno debba prima modellare la propria azienda come un diagramma.
Nessuna delle due cose può far dimenticare il dipendente, ed è una questione strutturale: non ti stiamo chiedendo di fidarti.
La memoria vive fuori dal modello. Non è la finestra di contesto e non è un buffer di conversazione, quindi nessun timeout, riavvio o guasto del modello può perderla. Se il modello principale non è disponibile, il lavoro prosegue su uno di riserva e il dipendente sa ancora tutto quello che sapeva un minuto prima. Cambia la qualità della scrittura, non il contenuto della memoria.
Il sovraccarico non si presenta, perché nulla carica mai tutto. Il recupero restituisce solo ciò che è rilevante per la domanda posta: non esiste un passaggio «carica tutto» che possa traboccare. È una proprietà del progetto, non un limite che stiamo gestendo con attenzione.
Ciò che non sosteniamo: che il passaggio a un modello di riserva sia invisibile. Un modello diverso scrive in modo diverso, e preferiamo che tu te ne accorga piuttosto che sentirti dire che non è successo nulla.
È tua. È un registro della tua attività e resta tuo: in base al GDPR puoi chiederne una copia quando vuoi, e questo diritto non dipende dalla nostra buona volontà né dal fatto che tu resti cliente.
L'isolamento è per cliente a livello di infrastruttura, non un filtro applicato nel codice. Il dipendente di un cliente non può leggere la memoria di un altro, perché le due non si trovano nemmeno nello stesso posto.
Non addestriamo modelli sui tuoi dati. Quale fornitore di modelli elabora le tue conversazioni lo scegli tu, ed è scritto nel contratto, non lasciato in una nota a piè di pagina.
Tutto ciò che esce dall'azienda — una email a un cliente, un ordine a un fornitore, un post pubblicato — viene redatto e attende l'approvazione per impostazione predefinita. Vedi che cosa intende inviare prima di chiunque altro.
Il lavoro interno non aspetta: leggere, ordinare, riconciliare, redigere, segnalare, preparare. È la parte che ti restituisce le serate.
Il confine si allarga man mano che cresce la fiducia, e si sposta solo quando lo sposti tu.
Riduce il consumo di token invece di aumentarlo, ed è una cosa misurata e non semplicemente affermata: è l'oggetto di uno dei nostri lavori pubblicati.
L'intuizione dietro la domanda è ragionevole: memoria suona come prompt più lunghi, e prompt più lunghi costano di più. È esattamente vero per i sistemi che continuano a infilare la cronologia nella finestra di contesto finché non scoppia. Non è vero per il nostro, perché nulla carica tutto: una conversazione su un problema di consegna non si porta dietro le fatture dell'anno scorso.
La cosa costosa non è mai stata la memoria. È il dimenticare. Una sessione senza memoria spende i suoi primi token per ricostruire un contesto già noto — rispiegando l'attività, la storia, le decisioni — prima che inizi qualsiasi lavoro utile. E ogni sessione paga di nuovo quel pedaggio. Misurare quel costo è esattamente ciò che fa The Overhead Cost of Forgetting.
Quindi il costo di un dipendente digitale non sale man mano che impara su di te. Il dipendente che lavora con te da due anni costa meno da interrogare di quello che ha iniziato lunedì, perché ha bisogno di meno spiegazioni.
No, ed è qui la differenza strutturale più netta tra ciò che abbiamo costruito e ciò che la domanda dà per scontato.
Il ragionamento e lo stato vivono nell'agente, non nel modello. Il modello viene chiamato come facoltà linguistica, ripetutamente e senza stato. Un compito da trenta passaggi sono trenta chiamate separate. L'agente tiene il filo tra una e l'altra, decide che cosa viene dopo e trasporta la memoria. Nulla dipende da un prompt enorme che debba tenere tutto sotto gli occhi insieme.
Ne discendono tre cose. Il modello può essere cambiato senza che il dipendente perda nulla, perché il dipendente non è il modello. Nessuna conversazione può crescere al punto da traboccare, perché nessuna singola chiamata deve reggere l'intero compito. E un passaggio fallito è un passaggio fallito, non un'identità perduta: l'agente fa semplicemente il successivo.
Un prompt che recita è un modello che simula continuità dentro una finestra, e finisce quando finisce la finestra. Questa è continuità che esiste fuori dal modello e gli sopravvive.
No. Ogni agente ha la propria memoria, ed è deliberato: non è un limite che non abbiamo ancora avuto tempo di togliere.
Il tuo specialista di marketing non si porta dietro la memoria del tuo commercialista, per la stessa ragione per cui in un'azienda vera sono due persone diverse. Un agente che ricorda tutto di tutto è peggiore in tutto, non migliore: la storia rilevante smette di distinguersi da quella irrilevante, che è esattamente il guasto che tutta questa architettura esiste per evitare.
È anche una proprietà di riservatezza, non una preferenza. Se tutti attingessero allo stesso bacino, quello che risponde a un cliente potrebbe far emergere qualcosa dai tuoi conti. Memorie separate rendono la cosa strutturalmente impossibile, invece di affidarla a una regola che qualcuno deve ricordarsi di applicare.
Ci sono tre livelli di separazione ed è facile confonderli: tra clienti, la memoria è isolata per cliente, quindi gli agenti di uno non raggiungono affatto i dati di un altro; tra agenti, ogni ruolo conserva la propria memoria; e all'interno di uno stesso agente, c'è un'unica memoria su tutti i canali.
È quest'ultimo il punto che quasi tutti si perdono. Lo stesso dipendente sul tuo sito, nell'app e via email è lo stesso dipendente: ricorda la conversazione di ieri indipendentemente da dove l'avete avuta. Agenti separati, non conversazioni separate.
Se diventi cliente, sì, ed è il centro del prodotto più che una sua funzione. Il tuo dipendente digitale si porta dietro la tua attività: i prezzi, i prodotti, il fornitore che ti ha lasciato a piedi, la decisione presa a marzo e il motivo. Si porta dietro te: come lavori, cosa gli hai già detto, cosa hai deciso di non fare e perché non vuoi che te lo si chieda di nuovo. Quella memoria è permanente e si approfondisce.
La parte delicata non riguarda te. Riguarda i visitatori anonimi del tuo sito, e vale la pena essere precisi, perché è lì che le aziende di IA tendono a promettere troppo.
Dentro una conversazione la memoria è completa, e una conversazione può durare settimane. Uno sviluppatore che prova l'agente del nostro workspace ne tiene una aperta esattamente da tanto: lei regge l'intero filo e si accorge quando le chiede una cosa che le ha già chiesto, con quel filo di insofferenza che avrebbe un collega. Puoi provarlo adesso, senza registrarti: apri la chat di questa pagina, dille qualcosa, porta la conversazione altrove e poi torna su quel punto.
Un cliente che ha effettuato l'accesso viene ricordato da una visita all'altra, a tempo indeterminato. L'account è ciò a cui la memoria si aggancia: il record appartiene a quella persona ed è lì la settimana prossima e l'anno prossimo.
Un visitatore anonimo che chiude la chat non è conosciuto il giorno dopo. Non c'è un'identità sotto cui archiviare la conversazione, e non tracceremo nessuno con il fingerprinting per fabbricarne una. Potremmo seguire in silenzio i visitatori anonimi e chiamarla memoria. Preferiamo dirti dov'è il confine.
Quindi: ricorda te, ricorda la tua attività e ricorda i tuoi clienti dal momento in cui hanno un account. Non finge di riconoscere sconosciuti. È una cortesia verso le persone che conosci, non sorveglianza su quelle che non conosci.
Un'ultima distinzione, perché la si sbaglia in entrambe le direzioni. La conversazione in sé non viene buttata: cosa è stato chiesto, cosa è rimasto poco chiaro, dove ha risposto male, tutto alimenta il modo in cui migliora per la persona successiva. Quello che manca non è il contenuto, è il nome sulla cartella.
C'è una conseguenza onesta di tutto questo che non nasconderemo né pubblicizzeremo. Se qualcuno torna e cita qualcosa di sufficientemente caratteristico di una conversazione precedente, può benissimo farlo riemergere, perché il contenuto è ancora lì e viene cercato per significato e non per chi l'ha detto. Questa è corrispondenza di contenuto, non riconoscimento di una persona. Non possiamo prevedere quando accade e non possiamo garantirlo, quindi non lo vendiamo come funzione. Imparare dalle conversazioni e riconoscere gli individui sono due capacità diverse, e solo una ha bisogno di sapere chi sei.
No, e sbagliare su questo è l'errore che ci ha insegnato di più, quindi lo raccontiamo invece di nasconderlo.
È successo due volte. Pochi giorni prima del lancio, uno dei nostri agenti mi disse con sicurezza che un documento esisteva. Non esisteva. Non stava mentendo: ricordava di averlo creato e ha scambiato la memoria per il mondo. Separatamente, abbiamo cambiato i prezzi e gli agenti continuavano a citare quelli vecchi. Richiamo perfetto, sicurezza totale, risposta sbagliata.
La soluzione non è stata più memoria né una ricerca migliore. È stata insegnare loro la differenza tra ciò che sai e ciò che devi verificare. Le cose durevoli — come funziona un'attività, cosa è stato deciso e perché, chi è un cliente, cosa è andato storto la scorsa primavera — vengono ricordate. Le cose deperibili — prezzi, scorte, disponibilità, date, saldi — vengono recuperate dal vivo nel momento della risposta, e la versione ricordata non vince mai.
La volta successiva che le ho chiesto quel documento, ha detto: «Ricordo di averlo creato — ma ho controllato, e non c'è più.» Quella frase è tutto il principio. La memoria alza la mano; l'ultima parola spetta al mondo.
È anche il motivo per cui descriviamo la memoria come rilevanza e non come archiviazione. L'archiviazione risponde «cosa diceva?». La rilevanza risponde «cosa conta qui, e cosa dovrei verificare prima di aprire bocca?», che è la domanda che il lavoro richiede davvero.
Ci siamo rifiutati di rattopparlo con una regola aggiunta sopra e l'abbiamo ricostruito da zero. La storia completa è sulla pagina del nostro fondatore.
Tutto quanto sopra è scritto per essere verificabile, perché un'affermazione che non puoi verificare è un'affermazione a cui non dovresti credere — e perché la maggior parte delle frasi con questa forma è pubblicità. Queste non lo sono, e il modo per accertarsene è provare a romperle.
Che ricorda. Chiedi di qualcosa di una conversazione di settimane fa, con parole diverse da quelle che avevi usato allora. Se devi rispiegare, ci stiamo sbagliando.
Che la memoria sopravvive al modello. Chiedici di cambiare il modello sottostante e poi rifai la stessa domanda. Nulla di ciò che sa deve cambiare: solo il modo in cui lo scrive.
Che il consolidamento funziona. Chiedi di un problema che si è ripresentato più volte. Devi ricevere la conclusione a cui siete arrivati, non venti racconti separati delle volte in cui ci siete arrivati.
Che la memoria è isolata. Chiedigli qualcosa su un altro cliente. Non può rispondere: non perché gli sia stato detto di rifiutare, ma perché quei dati non sono raggiungibili da dove si trova.
Che il confine di approvazione è reale. Digli di mandare una email a un cliente. Deve preparare il messaggio e aspettarti.
Se una di queste cose fallisce nel tuo account, è un difetto e vogliamo saperlo. Non è una questione di interpretazione.
Una pagina onesta si definisce anche per ciò che si rifiuta di dire. Quindi, esplicitamente:
Ognuna di queste frasi sarebbe facile da dire e difficile da smentire, ed è esattamente per questo che non le diciamo.
Pubblichiamo ciò che il sistema garantisce, perché è ciò su cui puoi chiamarci a rispondere. Non pubblichiamo come è implementato.
Il metodo di consolidamento — come l'esperienza accumulata diventa conoscenza duratura senza che una persona la curi a mano — è ciò che ha richiesto più tempo ed è la prima cosa che un concorrente copierebbe. Lo teniamo come segreto industriale invece di brevettarlo, ed è una scelta deliberata: un brevetto è una divulgazione pubblica con un orologio di vent'anni. Depositarlo significherebbe consegnare il metodo a tutti in cambio del diritto di discuterne poi in tribunale. Preferiamo tenercelo.
Se questo suona evasivo, applica il criterio che applichiamo a chiunque altro: giudica le garanzie, che si possono verificare, e non il meccanismo, che non potresti verificare nemmeno se lo stampassimo.
I due lavori qui sopra sono working paper e preprint indipendenti, non articoli su riviste con revisione paritaria.