Ya hemos construido inteligencia artificial
que, en tareas específicas, rinde mejor que los humanos.
Hay IA que pueden jugar ajedrez y vencer a grandes maestros humanos.
Pero desde la introducción de la IA generativa
al público general hace un par de años,
ha habido más conversación sobre la inteligencia general artificial, o IGA,
y eso describe la idea
de que hay IA que puede rendir a niveles iguales o superiores a los humanos
en una amplia variedad de tareas, tal como nosotros los humanos podemos hacer.
Y las personas que piensan en la IAG están preocupadas por lo que significa
si alcanzamos ese nivel de rendimiento en la tecnología.
En este momento, hay personas de la industria tecnológica
que salen a decir
"La IA que estamos construyendo es tan poderosa y peligrosa
que representa una amenaza para la civilización".
Y están yendo al gobierno y diciendo,
"Quizás necesitan regularnos".
Normalmente, cuando una industria crea una nueva herramienta poderosa,
no dice que representa una amenaza existencial para la humanidad
y que necesita ser limitada, así que, ¿por qué estamos escuchando ese lenguaje?
Y creo que hay dos razones principales.
Una es que si tu tecnología es tan poderosa
que puede destruir la civilización, entre ahora y entonces,
hay mucho dinero que se puede ganar con eso.
Y qué mejor manera de convencer a tus inversores
de que pongan dinero contigo
que advertir que tu herramienta es tan peligrosa.
La otra es que la idea de que la IA supere a la humanidad
es realmente un concepto cinematográfico.
Todos hemos visto esas películas.
Y es un poco entretenido pensar en lo que eso significaría ahora
con herramientas que realmente podemos manipular.
De hecho, es tan entretenido que es una distracción muy efectiva
de los problemas reales que ya están sucediendo en el mundo debido a la IA.
Cuanto más pensamos en estos futuros improbables,
menos tiempo pasamos pensando en cómo corregir los deepfakes
o en el hecho de que hay IA ahora mismo que se usa para decidir
si las personas son liberadas de prisión,
y sabemos que tiene un sesgo racial.
Pero, ¿estamos cerca de lograr realmente la IAG?
Algunas personas lo piensan.
Elon Musk dijo que lo lograremos dentro de un año.
Creo que publicó esto hace unas semanas.
Pero al mismo tiempo Google lanzó su herramienta
de búsqueda visual que se supone que te da la respuesta
para que no tengas que hacer clic en un enlace,
y no está funcionando muy bien.
["¿Cuántas piedras debería comer?"]
["... al menos una porción de guijarros, geodas o grava ..".]
Por favor, no comas piedras.
(Risas)
Ahora, por supuesto, estas herramientas van a mejorar.
Pero si vamos a lograr la IAG
o si van a cambiar fundamentalmente la forma en que trabajamos,
necesitamos estar en un lugar donde continúen
en una trayectoria ascendente en términos de sus habilidades.
Y esa puede ser una posibilidad.
Pero también existe la posibilidad de que lo que estamos viendo
sea que estas herramientas han logrado básicamente
lo que son capaces de hacer,
y el futuro sean mejoras incrementales en una meseta.
Así que para entender el futuro de la IA,
necesitamos mirar toda la exageración alrededor de esto y profundizar
para ver lo que es técnicamente posible.
Y también necesitamos pensar qué áreas son preocupantes
y cuáles no.
Así que si queremos realizar la exageración alrededor de la IA,
el principal desafío que debemos resolver es la fiabilidad.
Estos algoritmos están equivocados todo el tiempo, como vimos con Google.
Y Google de hecho salió y dijo,
después de que estos malos resultados de búsqueda se popularizaran,
que no saben cómo solucionar este problema.
Uso ChatGPT todos los días.
Escribo un boletín que resume discusiones en foros de extrema derecha,
y así que descargo esos datos,
ChatGPT me ayuda a escribir un resumen.
Y me hace mucho más eficiente que si tuviera que hacerlo a mano.
Pero tengo que corregirlo todos los días
porque malinterpreta algo,
saca el contexto.
Y por eso,
no puedo depender para que me haga el trabajo.
Y esta fiabilidad es muy importante.
Ahora, una subparte de la fiabilidad en este ámbito es la alucinación de IA,
un gran término técnico para el hecho de que la IA simplemente inventa cosas
muchas veces.
Hice esto en mi boletín.
Pregunté, ChatGPT, ¿hay personas amenazando con violencia?
Si es así, dame las citas.
Y produjo estas tres amenazas claras de violencia
que no sonaba en absoluto como habla la gente
en esos foros.
Y volví a los datos, y nadie lo dijo nunca.
Simplemente lo inventó de la nada.
Y puede que lo hayas visto si has utilizado un generador de imágenes de IA.
Le pedí un primer plano de personas de la mano.
Esa es una alucinación y, además, inquietante.
(Risas)
Tenemos que resolver este problema de alucinación
si esta IA va a cumplir con la exageración.
Y no creo que sea un problema solucionable.
Con la forma en que funciona esta tecnología, hay personas que dicen,
que lo tendrán solucionado en unos meses,
pero no hay razón técnica para pensar que eso sea posible.
Porque la IA generativa siempre inventa cosas.
Cuando le haces una pregunta,
está creando esa respuesta o esa imagen desde cero
cuando preguntas.
No es un motor de búsqueda que encuentra la respuesta correcta en una página.
Y así, debido a que su trabajo es inventar cosas cada vez,
no sé si vamos a poder hacer que invente cosas correctas
y luego no invente otras cosas.
No es para lo que está entrenado,
y estamos muy lejos de lograr eso.
Y de hecho, hay ámbitos donde están intentando con mucho esfuerzo.
Un ámbito donde hay mucho entusiasmo por la IA
es en el área legal
donde esperan que ayude a redactar escritos legales o hacer investigaciones.
Algunas personas se han dado cuenta de la manera difícil
de que no deberían redactar escritos legales ahora mismo con ChatGPT
y enviarlos a la corte federal,
porque simplemente inventa casos que suenan correctos.
Y esa es una manera muy rápida de hacer que un juez se enoje contigo
y que tu caso sea desechado.
Ahora hay empresas de investigación legal en este momento
que anuncian IA generativa libre de alucinaciones.
Y yo fui escéptica sobre esto.
Y los investigadores de Stanford entraron y lo comprobaron,
la herramienta que mejor funcionaba de estas libres de alucinaciones
aún alucina el 17 % del tiempo.
Así que, por un lado,
es un gran logro científico que hemos construido una herramienta
a la que podemos plantear prácticamente cualquier consulta,
y el 60 o 70 o tal vez incluso el 80 % del tiempo
nos da una respuesta razonable.
Pero si vamos a depender de usar esas herramientas
y están equivocadas el 20 o 30 % del tiempo,
no hay ningún modelo donde eso sea realmente útil.
Y eso nos lleva a
cómo hacemos que estas herramientas sean tan útiles.
Porque incluso si no me crees
y piensas que resolveremos la alucinación,
el problema de fiabilidad,
hay que mejorar las herramientas.
Y hay dos cosas que necesitan para eso.
Una es muchos más datos
y la otra es que la tecnología tiene que mejorar.
Entonces, ¿de dónde vamos a obtener esos datos?
Porque ya han tomado todo lo confiable que hay en línea.
Y si encontráramos el doble de datos de los que ya tienen,
eso no significa que van a ser el doble de inteligentes.
No sé si hay suficientes datos allá afuera,
y se complica por el hecho
de que una forma en que la IA generativa ha tenido mucho éxito
es produciendo contenido de baja calidad en línea.
Eso incluye bots en redes sociales, desinformación,
y estas páginas de SEO que no dicen realmente nada
pero tienen muchos anuncios y aparecen altas en los resultados de búsqueda.
Y si la IA comienza a entrenarse en páginas que ella generó,
décadas de investigación en IA muestran que empeoran progresivamente.
Es como la versión digital de la enfermedad de las vacas locas.
(Risas)
Digamos que resolvemos el problema de los datos.
Aún tienes que mejorar la tecnología.
Y hemos visto USD 50 000 millones en los últimos años
invertidos en mejorar la IA generativa.
Y eso ha resultado en USD 3000 millones en ingresos.
Eso no es sostenible.
Pero, es temprano, ¿no?
Las empresas pueden encontrar formas de comenzar a usar esta tecnología.
Pero, ¿será suficientemente valiosa
para justificar decenas y quizás cientos de miles de millones de dólares
en el hardware necesario
para hacer que estos modelos mejoren?
No lo creo.
Y podemos comenzar a mirar ejemplos prácticos para averiguarlo.
Nos hace reflexionar sobre qué espacios debemos preocuparnos.
Porque un lugar que a todos les preocupa con esto
es que la IA va a quitar todos nuestros trabajos.
Muchos dicen que eso va a suceder,
y la gente está preocupada.
Y creo que hay un malentendido fundamental en el corazón de eso.
Imagina este escenario.
Tenemos una empresa,
y pueden permitirse emplear a dos ingenieros de software.
Y si damos IA generativa a esos ingenieros para escribir código,
que es algo en lo que es bastante buena,
digamos que son el doble de eficientes.
Eso es una gran sobreestimación, pero facilita los cálculos.
Así que en ese caso, la empresa tiene dos opciones.
Podrían despedir a uno de esos ingenieros de software
porque el otro puede hacer el trabajo de dos personas,
o ya podrían permitirse dos de ellos,
y ahora son el doble de eficientes,
así que están generando más dinero.
Entonces, ¿por qué no mantener a ambos y aprovechar esa ganancia extra?
La única forma en que esta matemática falla es si la IA es tan cara
que no vale la pena.
Pero eso sería como si la IA costara 100 000 dólares al año
para hacer el trabajo de una persona.
Así que eso suena realmente caro.
Y prácticamente,
ya hay versiones de código abierto de estas herramientas
que son de bajo costo, que las empresas pueden instalar y ejecutar por sí mismas.
Ahora, no rinden tan bien como los modelos principales,
pero si son la mitad de buenas y realmente baratas,
¿no las elegirías sobre la que cuesta 100 000 dólares al año
para hacer el trabajo de una persona?
Por supuesto que sí.
Y así, si resolvemos la fiabilidad,
resolvemos el problema de los datos,
mejoramos los modelos,
el hecho de que haya versiones baratas de esto disponibles
sugiere que las empresas no van a gastar
cientos de millones de dólares para reemplazar su fuerza laboral con IA.
Sin embargo, hay áreas que necesitamos preocuparnos.
Porque si miramos la IA ahora,
hay muchos problemas que no hemos podido resolver.
He estado construyendo inteligencia artificial durante más de 20 años,
y una cosa que sabemos
es que si entrenamos a la IA con datos humanos,
la IA adopta sesgos humanos,
y no hemos podido solucionar eso.
Hemos visto que esos sesgos comienzan a aparecer en la IA generativa,
y la reacción instintiva siempre es, bueno,
pongamos algunas barreras para evitar que la IA haga cosas sesgadas.
Eso nunca soluciona el sesgo, ya que la IA lo elude.
Y dos, las barreras en sí mismas pueden causar problemas.
Así que Google tiene un generador de imágenes IA,
y trataron de poner barreras para detener el sesgo en los resultados.
Y resultó que lo hizo incorrecto.
Esta es una solicitud de una imagen
de la firma de la Declaración de Independencia.
Y es una gran imagen, pero no es factualmente correcta.
Y así, al intentar detener el sesgo,
terminamos creando más problemas de fiabilidad.
No hemos podido resolver este problema de sesgo.
Y si estamos pensando en delegar la toma de decisiones,
reemplazar a los tomadores de decisiones humanos y depender de esta tecnología
y no podemos resolver este problema,
eso es algo de lo que deberíamos preocuparnos
y exigir soluciones
antes de que se adopte ampliamente y se utilice solo porque es atractivo.
Y creo que hay una cosa final que falta aquí,
que es que nuestra inteligencia humana
no se define por nuestra productividad en el trabajo.
En su núcleo, se define por nuestra capacidad de conectar con otras personas.
Nuestra capacidad para tener respuestas emocionales,
para tomar nuestro pasado e integrarlo con nueva información
y crear cosas nuevas de forma creativa.
Y eso es algo que la inteligencia artificial no puede hacer ahora
ni será capaz de hacer nunca.
Puede que sea capaz de imitarlo
y ofrecernos un facsímil barato de conexión genuina
y empatía y creatividad.
Pero no puede hacer esas cosas fundamentales de nuestra humanidad.
Y por eso no me preocupa que la IAG tome el control de la civilización.
Pero si te vas de aquí no creyendo nada de lo que te he dicho,
y ahora mismo estás preocupado
de que la IA destruya a la humanidad,
lo único que debes recordar es,
a pesar de lo que te han dicho las películas,
si se pone realmente mal,
siempre podemos simplemente apagarla.
(Risas)
Gracias.
(Aplausos)