Quiero contarles una historia
sobre la inteligencia artificial y los agricultores.
Qué extraña combinación, ¿verdad?
No existen dos temas más diferentes.
Pero, ¿sabían que la agricultura moderna en realidad requiere mucha tecnología?
La visión artificial se usa para predecir el rendimiento de los cultivos.
Y la inteligencia artificial se usa para encontrar,
identificar y eliminar insectos.
El análisis predictivo ayuda a detectar
condiciones climáticas extremas,
como sequías o huracanes.
Sin embargo, esta tecnología también es alienante para los agricultores.
Y llegó a un punto crítico en 2017
cuando la empresa de tractores John Deere introdujo los tractores inteligentes.
Antes, si el tractor de un agricultor se estropeaba,
podían repararlo ellos mismos o llevarlo a un mecánico.
Bueno, de hecho, la empresa prohibió
que los agricultores arreglaran sus propios equipos.
Había que recurrir a un técnico con licencia
y los agricultores tenían que esperar semanas
mientras sus cultivos se pudrían
y las plagas se apoderaban de ellos.
Así que ellos tomaron el asunto en sus propias manos.
Algunos de ellos aprendieron a programar
y trabajaron con hackers para crear parches
para reparar sus propios sistemas.
En 2022,
en una de las conferencias de hackers más importantes del mundo, DEFCON,
un hacker llamado Sick Codes y su equipo
le enseñaron a todos cómo hackear un tractor John Deere,
demostrando que, en primer lugar, la tecnología era vulnerable,
pero también que puedes y deberías ser dueño de tu propio equipo.
Para que quede claro, esto es ilegal,
pero hay gente que está tratando de cambiar eso.
Ese movimiento se llama “derecho a reparar.”
El derecho a reparar se ve más o menos así.
Si poseen una pieza de tecnología,
podría ser un tractor, un cepillo de dientes inteligente
o una lavadora,
deberían tener derecho a repararla si se rompe.
¿Por qué les cuento esta historia?
El derecho a la reparación debe extenderse
a la inteligencia artificial.
Ahora parece que cada semana
hay una innovación nueva y sorprendente en la IA.
Pero, ¿sabían que la confianza del público está disminuyendo?
Una encuesta reciente de Pew mostró que hay más estadounidenses preocupados
que entusiasmados por la tecnología.
Esto se repite en todo el mundo.
Según la Encuesta Mundial de Riesgos
los encuestados de América Central, América del Sur y África
creen que la IA traerá más dificultades que beneficios para las personas.
Como socióloga y desarrolladora de IA,
esto me frustra.
Soy una optimista de la tecnología porque realmente creo que esta tecnología
puede conducir al bien.
Entonces, ¿cuál es la desconexión?
Bueno, he hablado con cientos de personas en los últimos años.
Arquitectos y científicos, periodistas y fotógrafos,
conductores de vehículos compartidos y médicos,
y todos dicen lo mismo.
La gente ha pasado a segundo plano.
Todos saben que sus datos se recopilan a menudo sin su permiso
para crear estos sistemas sofisticados.
Saben que estos sistemas están determinando
sus oportunidades de vida.
También saben que nadie se ha molestado en preguntarles
cómo debería construirse el sistema,
y, claramente, no tienen ni idea adónde ir si algo sale mal.
Puede que no seamos dueños de los sistemas de IA,
pero poco a poco van dominando nuestras vidas.
Necesitamos una mejor retroalimentación
entre las personas que fabrican estos sistemas
y las que están mejor preparadas para decirnos
cómo deben interactuar en su mundo estos sistemas de IA.
Un paso hacia este objetivo es un proceso denominado red teaming.
El red teaming es una práctica que se inició en el ejército
y se usa en ciberseguridad.
En un ejercicio tradicional de red teaming,
se contrata a expertos externos para hackear un sistema,
algo parecido a lo que hacía Sick Codes con los tractores, pero legal.
El red teaming es una forma de poner a prueba tus defensas
y, si puedes averiguar dónde algo va a salir mal,
puedes averiguar cómo solucionarlo.
Pero cuando los sistemas de IA se descontrolan,
no sólo se trata de la irrupción de un hacker.
El modelo podría funcionar mal o tergiversar la realidad.
Por ejemplo, no hace mucho,
vimos un sistema de IA que intentaba fomentar la diversidad
al mostrar fotos históricamente inexactas.
Cualquier persona que conozca un poco de historia occidental
podría decirles que ni los padres fundadores
ni los soldados nazi habrían sido negros.
En ese caso, ¿quién califica como experto?
Ustedes.
Trabajo con miles de personas de todo el mundo
en ejercicios de red teaming, grandes y pequeños,
y a través de ellos hemos encontrado y corregido errores en los modelos de IA.
También colaboramos con grandes empresas tecnológicas globales
OpenAI, Meta, Anthropic y Google.
Gracias a esto, hemos conseguido que los modelos funcionen mejor para más personas.
Esto es lo que hemos aprendido.
Nos asociamos con la Royal Society de Londres
para organizar un evento sobre la desinformación y la información falsa
con patólogos.
Lo que descubrieron estos científicos
es que los modelos de IA tenían muchas protecciones
contra la desinformación sobre el COVID.
Pero para otras enfermedades como el sarampión, las paperas y la gripe,
no se aplicaban las mismas protecciones.
Hemos denunciado estos cambios,
ya se han corregido
y ahora estamos mejor protegidos contra la información errónea
y la desinformación científica.
Hicimos un ejercicio muy parecido
con arquitectos de la Universidad de Autodesk,
y les hicimos una pregunta sencilla.
¿La IA les quitará su trabajo?
O más específicamente,
¿Podrían imaginar un sistema de IA moderno
que pudiera diseñar las especificaciones de un museo de arte moderno?
La respuesta fue rotundamente no.
He aquí por qué, los arquitectos hacen más que dibujar edificios.
Tienen que entender la física y la ciencia de los materiales.
Deben conocer los códigos de construcción,
y tienen que hacerlo
mientras crean algo que evoque emociones.
Lo que querían los arquitectos era un sistema de IA
que interactuara con ellos, que les diera su opinión y, tal vez,
que les ofreciera recomendaciones de diseño de forma proactiva.
Los sistemas de IA actuales aún no están a la altura.
Pero esos son problemas técnicos.
Las personas que crean IA son muy inteligentes,
y tal vez puedan resolver todo eso en unos pocos años.
Pero esa no era su mayor preocupación.
Su mayor preocupación era la confianza.
Los arquitectos son responsables si algo sale mal en sus edificios.
Podrían perder su licencia,
recibir una multa e incluso ir a la cárcel.
Y las fallas pueden ocurrir de un millón de maneras diferentes.
Por ejemplo, las puertas de salida podrían abrirse al revés.
causando que en una crisis de evacuación las personas sean aplastadas,
o pueden caer cristales rotos sobre los peatones en la calle
debido a que el viento sopla con demasiada fuerza y rompe las ventanas.
Entonces, ¿por qué un arquitecto confiaría su trabajo,
su libertad,
a un sistema de IA,
si no puede corregir un error cuando lo encuentra?
Necesitamos resolver estos problemas ahora mismo, y te explicaré por qué.
La próxima ola de sistemas de inteligencia artificial,
denominada IA de agencia,
es un punto de inflexión
entre si conservamos o no la autonomía humana,
o si los sistemas de IA toman o no nuestras decisiones.
Imaginen a un agente de IA como una especie de asistente personal.
Por ejemplo, un agente médico puede determinar
si tu familia necesita citas con el médico o no,
puede reabastecer los medicamentos recetados
o, en caso de emergencia,
enviar la historia clínica al hospital.
Pero los agentes de IA no pueden existir ni existirán
si no tenemos un auténtico derecho a reparación.
¿Qué padre confiaría la salud de sus hijos a un sistema de IA
a menos que pudiera realizar algunos diagnósticos básicos?
¿Qué profesional confiaría en un sistema de IA para tomar decisiones laborales,
a menos que pudiera capacitarlo
al igual que un empleado subalterno?
El derecho a reparación podría verse así.
Podrían tener un tablero de diagnósticos
en la que realizaran las pruebas básicas que diseñen,
y, si algo va mal, podrían informarlo a la empresa
y saber cuándo está arreglado.
O podrían trabajar con terceros, como hackers éticos,
que crean parches para sistemas.
Podrían descargarlos y usarlos para mejorar sus sistemas
de la manera que desean que mejore.
O podrían ser como estos intrépidos agricultores
y aprender a programar y ajustar sus propios sistemas.
No lograremos los beneficios prometidos de la inteligencia artificial
a menos que descubramos cómo incorporar a las personas al proceso de desarrollo.
He dedicado mi carrera a la IA responsable,
y, en ese campo, nos preguntamos:
¿Qué pueden crear las empresas para garantizar la confianza en la IA?
A través de estos ejercicios de red teaming
y al hablar con ustedes,
me he dado cuenta
de que nos hemos estado haciendo la pregunta equivocada.
Lo que deberíamos habernos preguntado
es qué herramientas podemos crear
para que las personas puedan hacer que la IA sea beneficiosa para ellas.
Los tecnólogos no pueden hacerlo solos.
Solo podemos hacerlo con ustedes.
Gracias.
(Aplausos)