Voglio raccontarvi una storia
su intelligenza artificiale e agricoltori.
Ora, che strana combinazione, vero?
Due argomenti non potrebbero sembrare più diversi l’uno dall’altro.
Ma lo sapevate che l'agricoltura moderna richiede in realtà molta tecnologia?
Quindi la visione artificiale viene utilizzata per prevedere i raccolti.
E l’intelligenza artificiale viene utilizzata per trovare,
identificare ed eliminare gli insetti.
L’analisi predittiva aiuta a capire condizioni meteorologiche estreme
come siccità o uragani.
Ma questa tecnologia è anche alienante per gli agricoltori.
E ciò è arrivato al culmine nel 2017
quando l’azienda di trattori John Deere ha introdotto i trattori intelligenti.
Quindi, se prima il trattore si rompeva, l’agricoltore
poteva semplicemente ripararlo da solo o portarlo da un meccanico.
Beh, l’azienda aveva proprio reso illegale
per gli agricoltori riparare le proprie attrezzature.
Dovevi rivolgerti a un tecnico autorizzato
e gli agricoltori dovevano aspettare settimane
mentre i raccolti marcivano e i parassiti proliferavano.
Quindi hanno preso in mano la situazione.
Alcuni hanno imparato a programmare
e hanno collaborato con hacker creando patch per riparare i propri sistemi.
Nel 2022,
in occasione di una delle più grandi conferenze di hacker al mondo, DEFCON,
un hacker di nome Sick Codes e il suo team
hanno mostrato a tutti come entrare in un trattore John Deere,
dimostrando, prima di tutto, che la tecnologia era vulnerabile,
ma anche che si può e si deve essere padroni della propria attrezzatura.
Per essere chiari, questo è illegale,
ma c’è chi cerca di cambiarlo.
Ora quel movimento si chiama «diritto alla riparazione».
Il che funziona più o meno così.
Se possiedi una cosa tecnologica,
come un trattore, uno spazzolino intelligente,
una lavatrice,
dovresti avere il diritto di ripararla in caso di rottura.
Perché vi sto raccontando questa storia?
Il diritto alla riparazione deve estendersi all’intelligenza artificiale.
Ora sembra che ogni settimana
ci sia una nuova e strabiliante innovazione nell’IA.
Ma sapevate che la fiducia pubblica è in diminuzione?
Un recente sondaggio del Pew ha mostrato che gli americani sono
più preoccupati che entusiasti della tecnologia.
Questo risuona in tutto il mondo.
Il World Risk Poll mostra
che gli intervistati in Sud e Centro America e in Africa hanno
affermato tutti di ritenere che l’IA gli causerà più danni che benefici.
In qualità di sociologa e sviluppatrice di IA,
questo mi frustra.
Sono un’ottimista della tecnologia
perché credo fermamente possa portare del bene.
Allora, qual è il divario?
Beh, ho parlato con centinaia di persone negli ultimi anni.
Architetti e scienziati, giornalisti e fotografi,
autisti di car sharing e medici,
dicono tutti la stessa cosa.
Le persone si sentono come se fossero secondarie.
Sanno tutti che i loro dati vengono raccolti spesso senza il loro permesso
per creare questi sistemi sofisticati.
Sanno che questi sistemi determinano le loro opportunità.
Sanno anche che nessuno si è mai preso la briga di chiedergli
come andrebbe costruito il sistema
e sicuramente non hanno idea di dove andare se qualcosa va storto.
Anche se non possediamo sistemi di IA,
stanno lentamente dominando le nostre vite.
Serve un miglior ciclo di feedback
tra chi realizza questi sistemi
e chi è nella posizione di dirci
come dovrebbero interagire nel loro mondo.
Un passo in questa direzione è un processo chiamato red teaming.
Si tratta di una pratica iniziata nell’esercito
utilizzata nella sicurezza informatica.
In una tradizionale esercitazione di red-teaming,
vengono chiamati esperti esterni per entrare in un sistema,
un po’ come ha fatto Sick Codes con i trattori, ma legalmente.
Il red teaming serve quindi a mettere alla prova le proprie difese
e quando si riesce a capire dove qualcosa può andare storto,
si può capire come risolvere il problema.
Ma quando i sistemi di IA si disgregano,
non si tratta solo di un hacker che fa irruzione.
Il modello potrebbe non funzionare correttamente o travisare la realtà.
Quindi, ad esempio, non molto tempo fa,
abbiamo visto un sistema di IA tentare la diversità
mostrando foto storicamente imprecise.
Chiunque con una conoscenza base della storia occidentale
saprebbe che né i Padri Fondatori
né i soldati nazisti avrebbero mai potuto essere neri.
In tal caso, chi è l’esperto?
Voi.
Sto lavorando con migliaia di persone in tutto il mondo
su diversi esercizi di red teaming,
grazie ai quali abbiamo trovato e corretto errori nei modelli di IA.
Collaboriamo anche con alcune delle più grandi aziende tecnologiche al mondo:
OpenAI, Meta, Anthropic, Google.
E abbiamo così fatto sì che i modelli funzionassero meglio per più persone.
Ecco un po' di ciò che abbiamo imparato.
Abbiamo collaborato con la Royal Society a Londra per organizzare un evento
di mala- e disinformazione con scienziati delle malattie.
Questi scienziati hanno scoperto
che i modelli di IA avevano effettivamente molte protezioni
contro la disinformazione sul COVID.
Ma per altre malattie come morbillo, parotite e influenza,
le stesse protezioni non si applicavano.
Lo abbiamo segnalato,
sono state corrette e ora siamo tutti protetti meglio
dalla disinformazione scientifica.
Abbiamo fatto un esercizio molto simile con architetti dell’Università Autodesk
ponendo loro una semplice domanda:
l’intelligenza artificiale vi lascerà senza lavoro?
O più specificamente,
immaginate un moderno sistema
di IA in grado di progettare un museo d’arte moderna?
La risposta, clamorosamente, è stata no.
Ecco perché: gli architetti non si limitano a disegnare edifici.
Devono comprendere la fisica e la scienza dei materiali,
conoscere i codici di costruzione
e devono farlo
mentre creano qualcosa che evochi emozioni.
Gli architetti volevano un sistema di IA
che interagisse con loro, che fornisse loro feedback
e magari offrisse proattivamente consigli di progettazione.
E i sistemi di IA di oggi non ci sono ancora arrivati.
Ma questi sono problemi tecnici.
Chi costruisce IA è molto intelligente
e forse potrebbe risolvere tutto questo in pochi anni.
Ma non era questa la loro maggiore preoccupazione.
La maggior preoccupazione era la fiducia.
Ora gli architetti sono responsabili se qualcosa va storto nei loro edifici.
Potrebbero perdere la licenza,
potrebbero essere multati, e persino andare in prigione.
E gli errori possono avvenire in un milione di modi diversi.
Ad esempio, porte che si aprono nella direzione sbagliata,
con schiacciamento delle persone durante una crisi di evacuazione,
o vetri rotti che cadono sui pedoni
perché il vento soffia troppo forte e frantuma le finestre.
Allora perché un architetto dovrebbe affidare a un’IA il suo lavoro,
la sua libertà vera e propria,
se non può intervenire per correggere un errore che trova?
Dobbiamo risolvere questi problemi oggi e vi dirò perché.
La prossima ondata di IA, chiamata IA agentica,
è un vero punto di svolta
tra il mantenimento o meno del libero arbitrio umano
o il fatto che i sistemi di IA prendano o meno decisioni al posto nostro.
Immaginate un agente di IA come un assistente personale.
Quindi, ad esempio, un agente medico potrebbe decidere
se la tua famiglia ha bisogno di appuntamenti dal medico,
ricaricare farmaci soggetti a prescrizione medica o, in caso di emergenza
inviare cartelle cliniche all'ospedale.
Ma gli agenti di IA non possono e non devono esistere
se non abbiamo reale diritto di riparazione.
Quale genitore affiderebbe la salute dei propri figli a un sistema di IA
a meno che non possano eseguire verifiche di base?
Quale professionista si affiderebbe a un sistema di IA per le decisioni lavorative,
a meno che non possa formarlo come farebbe con uno stagista?
Ora, il diritto alla riparazione potrebbe funzionare così.
Potreste avere una scheda diagnostica
in cui eseguire test da voi progettati
e, se qualcosa non va, potreste segnalarlo all’azienda
e ricevere risposta quando è risolto.
Oppure potreste lavorare, ad esempio con hacker etici,
che creano patch per sistemi come facciamo oggi.
Da scaricare e utilizzare per migliorare il sistema
come desideri.
Oppure, come questi intrepidi agricoltori, potreste imparare a programmare
e mettere a punto i vostri sistemi.
Non otterremo i benefici promessi dell’IA
se non capiamo come coinvolgere le persone nel processo di sviluppo.
Ho dedicato la mia carriera all’IA responsabile
e in questo campo ci poniamo la domanda:
cosa possono costruire le aziende per far sì che le persone si fidino dell’IA?
Ora, grazie a questi esercizi di squadra e parlando con voi,
mi sono resa conto che abbiamo sempre posto la domanda sbagliata.
Avremmo dovuto chiederci quali strumenti possiamo creare
affinché le persone possano rendere l’IA utile a loro stesse?
I tecnici non possono farlo da soli.
Possiamo farlo solo con voi.
Grazie.
(Applausi)