Je voudrais vous raconter une histoire
sur l’intelligence artificielle et les agriculteurs.
Certes, une étrange combinaison.
Ces deux sujets ne peuvent pas sembler plus éloignés l’un de l’autre.
Mais saviez-vous que l’agriculture moderne implique en fait beaucoup de technologie ?
La vision par ordinateur est utilisée pour prévoir les rendements des cultures,
et l’intelligence artificielle est utilisée pour trouver,
identifier et éliminer les insectes.
L’analyse prédictive permet de déterminer les conditions météorologiques extrêmes,
telles que la sécheresse ou les ouragans.
Cependant cette technologie a aussi un effet aliénant pour les agriculteurs.
Et tout cela a atteint son paroxysme en 2017
quand l’entreprise de tracteurs John Deere a lancé ses tracteurs intelligents.
Avant cette date, si le tracteur d'un fermier tombait en panne,
il pouvait simplement le réparer lui-même ou le confier à un mécanicien.
Eh bien, l’entreprise a dorénavant interdit aux agriculteurs
de réparer leur propre équipement.
Les agriculteurs doivent maintenant faire appel à un technicien agréé
et attendre des semaines,
laissant leurs récoltes pourrir, ou être dévorées par les insectes.
Les fermiers ont donc pris les choses en main.
Certains ont appris à programmer
et ont créé des correctifs pour leurs systèmes avec des hackers.
En 2022,
lors de l’une des plus grandes conférences de hackers au monde, la DEFCON,
un hacker du nom de Sick Codes et son équipe ont montré à tout le monde
comment pirater le système d’un tracteur John Deere,
prouvant que, tout d’abord, la technologie est vulnérable,
mais aussi que l’on peut, et doit, posséder son propre équipement.
Pour être clair, c'est illégal,
mais il y a des gens qui essaient de changer cela.
Aujourd’hui, ce mouvement s’appelle le « droit à la réparation ».
Illustrons le droit à la réparation.
Si on possède une technologie,
un tracteur, une brosse à dents intelligente,
ou une machine à laver,
on devrait avoir le droit de la réparer si elle tombe en panne.
Pourquoi vous raconter cette histoire ?
Le droit à la réparation doit s’étendre à l’intelligence artificielle.
Chaque semaine semble apporter son lot
de nouvelles innovations époustouflantes dans le domaine de l’IA.
Mais saviez-vous que la confiance du public est en train de diminuer ?
Pew a réalisé un sondage récemment qui met en lumière le fait
que l’IA inquiète davantage les Américains qu’elle ne les enthousiasme.
Le monde entier reflète le même sentiment.
Dans le World Risk Poll,
les personnes interrogées en Amérique centrale et du Sud et en Afrique
déclarent toutes qu’elles pensent que l’IA fera plus de mal que de bien
à leur population.
En tant que sociologue et développeuse d’IA, cela me frustre.
Je suis une optimiste de la technologie
parce que je crois sincèrement que l’IA peut agir pour le bien supérieur.
Alors, où se situe la faille ?
Eh bien, j’ai parlé à des centaines de personnes ces dernières années.
Architectes et scientifiques, journalistes et photographes,
chauffeurs VTC et médecins,
tous disent la même chose.
Les gens ont l’impression d’être quantité négligeable.
Ils savent tous que leurs données sont collectées souvent sans leur autorisation
pour créer ces systèmes sophistiqués.
Ils savent que ces systèmes déterminent leur quotidien.
Ils savent également que personne n’a jamais pris la peine de les consulter
sur l’architecture du système,
et ils ignorent certainement où s’adresser en cas de problème.
Nous ne possédons certes pas les IA,
mais elles dominent progressivement nos vies.
Il faut une meilleure boucle de rétroaction
entre les personnes qui fabriquent ces systèmes
et les personnes les plus à même de nous dire
comment ces IA devraient interagir dans leur monde.
Une étape dans ce sens est un processus appelé « red team ».
La red team est une pratique née dans l’armée
et utilisée aussi dans la cybersécurité.
Dans un exercice traditionnel d’une red team,
des spécialistes externes sont recrutés pour pénétrer un système,
un peu comme Sick Codes l’a fait pour les tracteurs, mais en toute légalité.
La red team est donc un moyen de tester nos défenses,
car quand on peut déterminer où quelque chose va mal tourner,
on peut trouver des solutions pour y remédier.
Mais quand des IA deviennent corrompues,
ce n’est pas simplement un hacker qui s’introduit par effraction.
Le modèle peut mal fonctionner ou déformer la réalité.
Ainsi, par exemple, il y a peu de temps,
nous avons vu la tentative d’une IA de promouvoir la diversité
en affichant des photos historiquement inexactes.
N’importe qui connaissant l’histoire occidentale
aurait pu dire que les Nazis n’étaient pas noirs.
Dans ce cas, qui peut être qualifié de spécialiste ?
Vous.
Je travaille avec des milliers de personnes dans le monde
sur des exercices en mode red team à grande et petite échelle.
Grâce à elles, nous avons découvert et corrigé des erreurs dans les modèles d’IA.
Je travaille aussi avec les plus grandes entreprises technologiques du monde :
OpenAI, Meta, Anthropic, Google.
Grâce à ça, nous améliorons les modèles pour un plus grand nombre de personnes.
Voici un aperçu de ce que nous avons appris.
Avec la société royale de Londres,
nous avons organisé un événement scientifique
sur la propagande et la désinformation avec des pathologistes.
Ces scientifiques ont découvert
que les modèles d’IA offraient de nombreuses protections
contre la désinformation sur le COVID.
Mais pour d’autres maladies comme la rougeole, les oreillons ou la grippe,
les mêmes protections ne s’appliquaient pas.
Nous avons signalé ces différences
qui sont corrigées depuis et nous sommes désormais mieux protégés
contre la propagande et la désinformation scientifiques.
Nous avons fait un exercice très similaire
avec des architectes de l’université Autodesk
en leur posant une question simple :
l’IA va-t-elle les mettre au chômage ?
Ou plus précisément,
pourraient-ils imaginer une IA
capable de concevoir les spécifications d’un musée d’art moderne ?
La réponse a été catégorique : non.
Pourquoi ? Parce que les architectes ne se contentent pas de dessiner des bâtiments.
Ils doivent comprendre la physique et la science des matériaux.
Ils doivent connaître la réglementation,
tout en créant des espaces qui éveillent des émotions.
Les architectes souhaitaient une IA
qui interagisse avec eux, qui leur donne des commentaires,
voire propose des recommandations de conception proactivement.
Mais les IA actuelles ne sont pas encore au point,
pour des raisons techniques.
Les développeurs d’IA sont très intelligents,
et peut-être pourront-ils résoudre ça en quelques années.
Mais là n’était pas leur plus grande préoccupation.
Leur problème, c’est la confiance.
Les architectes sont responsables en cas de problème avec leurs bâtiments.
Ils risquent de perdre leur licence,
de se voir infliger une amende, voire d’être incarcérés.
Or les défaillances peuvent se produire de mille manières différentes.
Par exemple, des portes qui s’ouvrent dans le mauvais sens,
causant l’écrasement de personnes lors d’une évacuation,
ou des vitres brisées qui tombent sur les piétons dans la rue
parce que le vent souffle trop fort et fait voler les vitres en éclats.
Alors pourquoi un architecte confierait-il son travail à une IA,
sa liberté, au sens premier,
s’il ne peut pas intervenir et corriger une erreur s’il en trouve ?
Nous devons donc résoudre ces problèmes aujourd’hui,
et je vais vous expliquer pourquoi.
La prochaine vague d’IA, reposant sur des agents « intelligents »,
constitue un point de bascule
entre la question de savoir si nous conservons le libre-arbitre humain,
ou si les IA prennent des décisions à notre place.
Imaginez un agent d’IA comme une sorte d’assistant personnel.
Ainsi, par exemple, un agent médical peut déterminer
si votre famille a besoin d’un rendez-vous chez le médecin.
Il peut renouveler vos prescriptions, ou, en cas d’urgence,
envoyer des dossiers médicaux à l'hôpital.
Mais les agents d’IA ne peuvent pas exister et n’existeront pas
sans que nous n’ayons de véritable droit de réparation.
Quel parent confierait la santé de son enfant à une IA
sans pouvoir effectuer quelques diagnostics de base ?
Quel professionnel ferait confiance à une IA
pour prendre des décisions,
à moins de pouvoir le former, exactement comme un employé junior ?
Le droit de réparation pourrait ressembler à ceci.
Cela pourrait être un tableau de diagnostic
sur lequel exécuter les tests de base que l’on conçoit,
et s’il y a un bug, on peut le signaler à l’entreprise
et recevoir une réponse après la correction.
On peut travailler avec des tiers, tels que des hackers éthiques,
qui créent des correctifs, comme nous le faisons déjà.
On les télécharge pour améliorer notre système
exactement comme on le souhaite.
On peut être comme ces fermiers intrépides et apprendre à programmer
et à ajuster nos propres systèmes.
Nous n'obtiendrons pas les avantages promis de l'intelligence artificielle
sans trouver comment associer les gens au processus de développement.
J'ai consacré ma carrière à l'IA responsable,
et dans ce domaine, nous nous posons la question suivante :
quel système développer pour s’assurer que les gens font confiance à l’IA ?
Grâce à ces exercices avec les red team, et en m’adressant à vous,
je m’aperçois que nous nous posions la mauvaise question.
Nous devrions nous demander quels outils développer
pour que les gens puissent tirer parti de l’IA, pour eux-mêmes.
Les technologues ne peuvent pas y parvenir seuls.
Nous ne pouvons le faire qu'avec vous.
Merci.
(Applaudissements)