Rafforzare la fiducia nella macchina

Jan 15, 2024

Immagine precedente Immagine successiva

I metodi probabilistici di apprendimento automatico stanno diventando strumenti sempre più potenti nell’analisi dei dati, informando una serie di decisioni critiche in tutte le discipline e applicazioni, dalla previsione dei risultati elettorali alla previsione dell’impatto dei microprestiti sulla lotta alla povertà.

Questa classe di metodi utilizza concetti sofisticati della teoria della probabilità per gestire l'incertezza nel processo decisionale. Ma i calcoli sono solo una parte del puzzle per determinarne l’accuratezza e l’efficacia. In una tipica analisi dei dati, i ricercatori fanno molte scelte soggettive, o potenzialmente introducono errori umani, che devono essere valutati anche per coltivare la fiducia degli utenti nella qualità delle decisioni basate su questi metodi.

Per affrontare questo problema, la scienziata informatica del MIT Tamara Broderick, professoressa associata presso il Dipartimento di Ingegneria Elettrica e Informatica (EECS) e membro del Laboratory for Information and Decision Systems (LIDS), e un team di ricercatori hanno sviluppato un sistema di classificazione – una “tassonomia della fiducia” – che definisce dove la fiducia potrebbe venir meno in un’analisi dei dati e identifica strategie per rafforzare la fiducia in ogni fase. Gli altri ricercatori del progetto sono la professoressa Anna Smith dell’Università del Kentucky, i professori Tian Zheng e Andrew Gelman della Columbia University e la professoressa Rachael Meager della London School of Economics. La speranza del team è quella di evidenziare le preoccupazioni già ben studiate e quelle che necessitano di maggiore attenzione.

Nel loro articolo, pubblicato a febbraio su Science Advances, i ricercatori iniziano descrivendo in dettaglio le fasi del processo di analisi dei dati in cui la fiducia potrebbe venir meno: gli analisti scelgono quali dati raccogliere e quali modelli, o rappresentazioni matematiche, rispecchiano più da vicino la realtà. -problema della vita o domanda a cui intendono rispondere. Selezionano gli algoritmi per adattarsi al modello e utilizzano il codice per eseguire tali algoritmi. Ciascuno di questi passaggi pone sfide uniche per quanto riguarda la creazione di fiducia. È possibile verificare l'accuratezza di alcuni componenti in modi misurabili. "Il mio codice ha dei bug?", ad esempio, è una domanda che può essere testata rispetto a criteri oggettivi. Altre volte i problemi sono più soggettivi, senza risposte chiare; gli analisti si confrontano con numerose strategie per raccogliere dati e decidere se un modello riflette il mondo reale.

"Quello che penso sia bello nel creare questa tassonomia, è che mette davvero in evidenza dove le persone si stanno concentrando. Penso che molte ricerche si concentrino naturalmente su questo livello di 'i miei algoritmi stanno risolvendo un particolare problema matematico?' in parte perché è molto obiettivo, anche se è un problema difficile," dice Broderick.

"Penso che sia davvero difficile rispondere 'è ragionevole matematizzare un importante problema applicato in un certo modo?' perché in qualche modo sta entrando in uno spazio più difficile, non è più solo un problema matematico."

Catturare la vita reale in un modello

Il lavoro dei ricercatori nel classificare i punti in cui la fiducia viene meno, sebbene possa sembrare astratto, è radicato nell'applicazione del mondo reale.

Meager, coautore dello studio, ha analizzato se la microfinanza può avere un effetto positivo in una comunità. Il progetto è diventato un caso di studio sui punti in cui la fiducia potrebbe venir meno e sui modi per ridurre questo rischio.

A prima vista, misurare l’impatto della microfinanza potrebbe sembrare un’impresa semplice. Ma come ogni analisi, i ricercatori affrontano sfide in ogni fase del processo che possono influenzare la fiducia nel risultato. La microfinanza – in cui individui o piccole imprese ricevono piccoli prestiti e altri servizi finanziari al posto dei servizi bancari convenzionali – può offrire servizi diversi, a seconda del programma. Per l’analisi, Meager ha raccolto set di dati provenienti da programmi di microfinanza in paesi di tutto il mondo, tra cui Messico, Mongolia, Bosnia e Filippine.