Ia, bisio engineering group: intelligenza deve trattenere il patrimonio cognitivo

L’intelligenza artificiale sta diventando un tema centrale per aziende e istituzioni, soprattutto quando si parla di controllo dei dati, trasparenza e sostenibilità nell’impiego dei modelli. Nel contesto dell’incontro “AI Italia. L’AI tra innovazione e sovranità digitale”, svolto a Roma, Aldo Bisio, amministratore delegato di Engineering Group, ha delineato i principali punti su cui si costruisce un’AI sovrana, capace di valorizzare il patrimonio conoscitivo senza disperderlo e con caratteristiche operative progettate per rispondere alle esigenze concrete di imprese e pubbliche amministrazioni.

intelligenza sovrana e controllo del patrimonio cognitivo

La cornice di riferimento è quella dell’intelligenza sovrana, definita come un’intelligenza artificiale governata con l’obiettivo di evitare la dispersione del patrimonio cognitivo di aziende e istituzioni. Il principio illustrato riguarda il funzionamento dei sistemi basati sull’apprendimento dai dati: i modelli, alimentati dalle informazioni disponibili, imparano e possono trasformarle in capacità operative.

Secondo quanto espresso, se un modello viene riutilizzato da altri soggetti, il risultato può portare questi ultimi ad arricchirsi del know-how originario, sfruttando il valore associato ai dati e alle conoscenze acquisite. Per questo motivo diventa determinante che l’AI mantenga il nucleo dentro l’organizzazione, impedendo la condivisione con concorrenti o con persone non autorizzate.

Durante l’intervento è stato inoltre richiamato l’obiettivo dell’incontro, orientato al dialogo tra istituzioni, industria e mondo accademico per costruire un’Intelligenza Artificiale Made in Italy capace di essere sicura e sostenibile.

open weights e trasparenza delle decisioni

Un secondo asse di lavoro riguarda la trasparenza, richiamata tramite il concetto di open weights (pesi aperti). I pesi sono descritti come i parametri numerici con cui opera la funzione dell’intelligenza artificiale: il punto critico evidenziato riguarda la natura tipica dei grandi modelli descritti come “scatole chiuse”. In tale scenario, sarebbero noti input e output, mentre risulterebbe non comprensibile il perché una specifica decisione venga presa e venga prodotta una determinata risposta.

L’adozione di open weights viene quindi associata a un vantaggio operativo: avere il controllo completo della parte dei dati pertinente all’esigenza di trasparenza legata al processo decisionale del modello.

proporzionalità nell’uso dei modelli e consumi energetici

All’interno dell’approccio delineato emerge anche un’esigenza di proporzionalità: l’intelligenza artificiale deve essere impiegata in funzione della dimensione e dell’articolazione dei problemi da affrontare. I grandi modelli, secondo quanto riportato, richiedono un consumo elevato di energia. Per questo motivo, alcuni modelli possono essere destinati a problemi più generali, mentre altri sarebbero più adatti a questioni specializzate, con un utilizzo energetico inferiore.

Il messaggio complessivo non esclude l’impiego di grandi modelli, ma ne raccomanda l’uso solo quando serve. In particolare, viene indicato che quando non esistono un patrimonio cognitivo o un intellectual property da difendere, l’impiego può essere meno vincolato; al contrario, quando è a rischio il know how di aziende o istituzioni, oppure i dati di clienti o cittadini, diventa necessario un approccio più attento.

architettura del progetto, agenti e compliance con il gen ai act

Le indicazioni fornite includono anche un riferimento a una nuova architettura collegata al progetto. L’amministratore delegato spiega che questa architettura mira a colmare le esigenze delle imprese, costruendo una struttura per aiutare a costruire agenti e garantire visibilità sulla compliance.

Viene inoltre precisato che il modello e l’intera architettura sarebbero nativamente compliant con il Gen Ai Act europeo. L’impostazione viene presentata come una modalità per dare risposta alle diverse necessità richiamate nel corso dell’intervento.

protezione degli ip, ispezionabilità dei modelli e regole di comportamento

Guardando al futuro, l’attenzione viene posta su due fronti principali. Il primo riguarda la protezione degli IP (proprietà intellettuale) e l’evoluzione della normativa in tema di data leaks, considerando sia l’accesso ai modelli di intelligenza artificiale sia la protezione dei contenuti.

Il secondo fronte riguarda chi stabilisce le regole: i modelli devono risultare perfettamente ispezionabili, mantenendo la richiesta che l’ispezionabilità non sia solo teorica o parziale. Viene indicato che non devono essere chiari soltanto i parametri del modello, ma anche i dati di training su cui il modello è stato allenato. Questo perché, secondo quanto riportato, in funzione dei dati acquisiti il modello sviluppa modi di pensare e comportamenti.

L’orientamento finale collega la governance non solo alla “meccanica” del modello, ma al suo tipo di comportamento. Secondo l’impostazione descritta, è necessario definire un insieme di set di regole e fornire supporto a chi le utilizzerà e a chi sarà oggetto delle decisioni generate da queste macchine.

Figure citate:

• Aldo Bisio