Modello e dati: quale sistema stai usando

Modello e applicazione

Un modello di apprendimento automatico è un sistema informatico addestrato con dati per fare previsioni o generare contenuti. Non è un componente hardware: è il sistema che svolge queste attività.

Parametri e dati di addestramento

I parametri sono valori numerici che fanno parte di un modello di apprendimento automatico. Nei modelli linguistici, il sistema usa questi valori per stimare le probabilità di sequenze di token e produrre previsioni o testo.

Un modello può generare risposte coerenti sfruttando schemi statistici appresi, ma questo non dimostra che abbia coscienza o comprensione umana. È utile distinguere una produzione linguistica convincente da una conoscenza verificata: una risposta ben formulata può comunque contenere errori.

Addestramento, inferenza e fine-tuning

Addestramento e inferenza

L’addestramento è il processo con cui si adatta un modello usando dati. L’inferenza consiste nel generare un risultato o una previsione con un modello già addestrato, a partire da un input. Quando una persona pone una domanda a un chatbot, usa il modello per ottenere una risposta; il fine-tuning, invece, richiede ulteriore addestramento.

Che cosa significa fine-tuning?

Il fine-tuning, o adattamento fine, è un addestramento aggiuntivo che adatta un modello a un’attività o a un tipo di dati specifici. Non equivale ad aggiungere un’istruzione alla conversazione. Scrivere «riassumi questo testo» modifica la richiesta ricevuta dal sistema; le istruzioni possono personalizzare il risultato senza cambiare i parametri del modello.

Questa distinzione conta anche quando si valuta la privacy: l’inferenza descrive come si ottiene un risultato, non che cosa farà poi il fornitore con i dati inviati. Uso durante la richiesta e trattamento successivo sono aspetti distinti; per sapere se input o registri vengono conservati, occorre controllare condizioni, impostazioni e politiche del servizio specifico.

LLM, token, contesto e memoria

LLM e tokenizzatore

LLM è l’acronimo inglese di Large Language Model, cioè modello linguistico di grandi dimensioni: un modello che stima la probabilità di token o sequenze di token e può essere usato per generare testo. Un token può corrispondere a una parola, a una parte di parola o a un carattere, a seconda del metodo di segmentazione. Il tokenizzatore trasforma il testo in token e poi in identificatori numerici che il modello può elaborare. Non esiste un’equivalenza universale tra token, parola e carattere; la segmentazione varia anche in base alla lingua.

Finestra di contesto e memoria

La finestra di contesto è l’insieme limitato di token fornito a un modello linguistico quando genera un risultato. Può includere istruzioni, cronologia dei messaggi, strumenti e dati esterni. Gestire il contesto significa selezionare le informazioni da presentare al modello; con contesti molto estesi, la capacità di recuperare dati con precisione può diminuire.

La memoria può essere una funzionalità aggiunta a un modello, insieme a strumenti o sistemi di recupero delle informazioni; il suo funzionamento dipende dal sistema che la integra. Il contesto presente non equivale a un ricordo permanente, e recuperare informazioni non significa riaddestrare il modello.

Prompt: formulare una richiesta con il contesto

Un prompt è un input che può includere istruzioni ed esempi per orientare la risposta di un modello. Per esempio: «Riassumi questo testo fittizio in tre punti e indica quale dato resta da chiarire». È un modo per personalizzare il risultato, non una formula che ne garantisce la correttezza.

Le istruzioni aiutano a precisare il compito e a orientare la risposta, ma non ne assicurano l’accuratezza. Anche gli esempi possono chiarire il tipo di risultato atteso. La qualità dipende da come viene organizzato il contesto e dalla capacità del modello di svolgere il compito.

Embedding, ricerca semantica e RAG

Embedding e ricerca semantica

Un embedding è una rappresentazione numerica di dati. Nella ricerca semantica, gli embedding possono rappresentare elementi e consentire di confrontarli in base a relazioni apprese, come la somiglianza tra concetti.

RAG: recuperare prima di rispondere

RAG significa Retrieval-Augmented Generation, cioè generazione aumentata dal recupero. Il sistema recupera informazioni da una fonte esterna e le aggiunge al contesto ricevuto dal modello per generare una risposta. In questo modo può integrare dati esterni senza riaddestrare il modello. Il recupero può avvalersi di metodi diversi, tra cui la ricerca semantica.

RAG può fornire documenti che non facevano parte del contesto iniziale del modello, senza riaddestrarlo né modificarne i parametri. Questo lo distingue dal fine-tuning. Tuttavia, recuperare un passaggio non garantisce di interpretarlo correttamente: la risposta può riassumerlo male, omettere una condizione o mescolarlo con informazioni che il documento non contiene. È quindi utile controllare la fonte e il passaggio pertinente.

Agenti, strumenti e flussi di lavoro

Strumenti e agenti

Uno strumento amplia le capacità di un modello, per esempio consentendogli di recuperare informazioni o eseguire un’azione. Di solito si parla di agente quando un modello dirige dinamicamente i propri passaggi e l’uso degli strumenti per completare un compito. Il termine si applica anche a sistemi con flussi predefiniti, quindi il suo significato può variare a seconda del contesto.

Flusso di lavoro e autonomia

Un flusso di lavoro organizza modelli e strumenti in passaggi definiti in anticipo. In un agente, il modello può decidere dinamicamente quali azioni svolgere e quali strumenti utilizzare. La differenza pratica riguarda chi determina i passaggi; le azioni possibili dipendono dagli strumenti e dai permessi integrati nel sistema.

Quanto più un sistema può agire, tanto più è importante controllarne permessi e punti di verifica. Per le operazioni sensibili, è opportuno limitare l’accesso ad account e dati e richiedere una conferma prima di inviare, pubblicare, acquistare o cancellare qualcosa. Un agente può sbagliare o concatenare errori: l’etichetta non certifica un’autonomia affidabile e non sostituisce la supervisione.

Illustrazione di un modello di IA collegato a dati e strumenti, con una persona che ne supervisiona l’uso.
Illustrazione editoriale di BytePreview

IA generativa e sistemi multimodali

L’IA generativa produce contenuti — per esempio testo, immagini, audio o video — sulla base di schemi appresi dai dati e di un input. Altri sistemi di apprendimento automatico possono invece concentrarsi sulla classificazione o sulla previsione di un valore, come stabilire se un’immagine appartiene a una categoria.

Un sistema multimodale può elaborare più di un tipo di contenuto, come testo e immagini. Per esempio, alcuni modelli accettano un’immagine insieme a una domanda scritta. I formati supportati dipendono dal modello: la documentazione di Transformers descrive modelli che ricevono testo e immagini e alcuni che supportano anche video.

La multimodalità non implica né la capacità di svolgere più compiti né l’accesso automatico a Internet. Un sistema può combinare immagini e testo senza collegarsi al web, oppure svolgere più compiti usando solo testo. Per valutare una funzione, occorre verificare quali formati accetta, quali risultati genera e a quali servizi esterni, se presenti, può accedere.

Allucinazioni, bias e valutazione

Allucinazione o confabulazione

Si parla di allucinazione — o confabulazione — quando il sistema presenta con sicurezza una risposta errata o falsa, oppure non supportata dal contesto fornito. Un esempio ipotetico è attribuire un’affermazione a una fonte inesistente. La fluidità non dimostra l’accuratezza: è opportuno verificare citazioni, nomi, date e affermazioni importanti.

Bias, valutazione e benchmark

Un bias è una tendenza sistematica che può influire sui risultati o sulle loro conseguenze. Nei sistemi di IA può manifestarsi come una differenza di prestazioni tra gruppi o come la riproduzione di distorsioni presenti nei dati. Per questo non basta provare una domanda generica: conta osservare come il sistema risponde a casi e gruppi pertinenti all’uso previsto.

Un benchmark misura e confronta le prestazioni dei modelli applicando metriche a compiti o insiemi di dati. Le metriche appropriate dipendono dall’attività e dai dati valutati.

Per valutare uno strumento, usa esempi rappresentativi del compito e controlla accuratezza, errori, limiti, accessibilità e costi, secondo necessità. Distingui un risultato misurato in una prova dalle prestazioni nell’uso quotidiano: il primo descrive condizioni specifiche, ma non garantisce il secondo. Nessuna singola verifica elimina tutti i rischi.

Privacy, dati, diritto d’autore e licenze

Dati e privacy

L’inferenza descrive come un modello produce un risultato a partire da un input, ma non determina di per sé come verranno trattati i dati personali. Prima di condividere informazioni, controlla quali dati richiede il servizio e quali strumenti di controllo offre.

Per precauzione, evita di inserire dati personali o sensibili quando non sono necessari e usa esempi fittizi per provare le funzioni.

Diritto d’autore e licenze

La US Copyright Office esamina la protezione delle opere create con l’intelligenza artificiale e il ruolo del contributo umano. Nel suo rapporto sui risultati generati dall’IA, analizza la paternità umana e il grado di controllo creativo che una persona può esercitare.

Negli Stati Uniti, la US Copyright Office conclude che la protezione dei risultati generati con l’IA dipende dal contributo umano e va valutata caso per caso. Il rapporto rileva che le sole istruzioni non bastano a determinare la paternità dell’opera. Questa analisi riguarda il quadro giuridico statunitense, non costituisce una regola mondiale.

Le differenze essenziali a colpo d’occhio

Concetti Differenza pratica
Modello / applicazione Il modello è un sistema addestrato con dati per fare previsioni o generare contenuti; un’applicazione può utilizzare i suoi risultati.
Addestramento / inferenza L’addestramento adatta il modello; l’inferenza lo usa per generare un risultato.
Token / parola Il token è un’unità del tokenizzatore e può essere una parola, una sua parte o un altro frammento.
Contesto / memoria Il contesto raccoglie le informazioni fornite al modello per generare un risultato; la memoria può essere una funzionalità aggiuntiva del sistema.
RAG / fine-tuning RAG recupera informazioni e le aggiunge al contesto; il fine-tuning riaddestra il modello per adattarlo.
Agente / flusso Un agente può decidere passaggi e strumenti; un flusso segue passaggi definiti in anticipo.
Multimodale / multitasking Multimodale si riferisce ai tipi di dati; multitasking, ad attività diverse.
Benchmark / risultato reale Un benchmark misura prestazioni in condizioni specifiche; non garantisce risultati in ogni situazione.

Per capire se uno strumento fa al caso tuo, chiarisci quale modello o quali funzioni usa, quali dati devi inviare, quali documenti o servizi può consultare, quali azioni è autorizzato a compiere e quali condizioni si applicano a privacy e diritti. Se una risposta incide su una decisione importante, verifica le informazioni con una fonte adeguata anziché considerare la sicurezza o la fluidità della risposta una garanzia.