Chris Anderson: ¿Qué les preocupa ahora?
Han sido muy abiertos sobre muchos problemas en Twitter.
¿Cuál es su principal preocupación
sobre el estado actual de la situación?
Jack Dorsey: En este momento, es la salud de la conversación.
Nuestro propósito es servir la conversación pública,
y hemos visto varios ataques contra ella.
Hemos visto abuso, acoso, manipulación,
automatización, coordinación humana y desinformación.
Son dinámicas que no esperábamos
cuando iniciamos la compañía hace 13 años.
Pero ahora vemos su magnitud,
y lo que más me preocupa es nuestra habilidad para abordarlos
de una forma sistemática ampliable
que comprenda rigurosamente la forma en la que actuamos,
una comprensión clara de la forma en la que actuamos,
y un proceso riguroso de apelaciones para cuando nos equivoquemos,
porque nos equivocaremos.
Whitney Pennington Rodgers: Me alegra mucho saber
que es algo que les preocupa,
porque se ha escrito mucho sobre personas
que sufrieron abuso y acoso en Twitter,
y creo que ningunas más que las mujeres, las mujeres de color
y las mujeres afroamericanas.
Y ha surgido información como
el reporte que publicó Amnistía Internacional hace unos meses
que muestra que un subconjunto de usuarias activas afroamericanas en Twitter
recibían, en promedio, en uno de cada 10 tuits,
algún tipo de acoso.
Cuando piensan en salud para la comunidad en Twitter,
me interesa escuchar que habrá salud para todos
pero ¿cómo harán que Twitter sea un lugar seguro
para las mujeres, las mujeres de color y las mujeres afroamericanas?
JD: Sí.
Es una situación terrible
cuando ingresan a un servicio
en el que, idealmente, quieren aprender algo del mundo,
pero la mayor parte del tiempo reportan abuso, reciben abuso
y reciben acoso.
Estamos investigando a fondo los incentivos
que la plataforma ofrece naturalmente y el servicio que ofrece.
Por ahora, la dinámica del sistema hace que sea muy fácil acosar
y abusar a otros por medio del servicio
y, por desgracia, la mayor parte de nuestro sistema
se basaba completamente en que las personas reportaran el acoso y abuso.
A mediados del año pasado decidimos aplicarle
más aprendizaje automático, más aprendizaje profundo al problema,
y tratar de ser más proactivos en donde sucede el abuso
para quitarle ese peso de encima a la víctima.
Y hemos progresado recientemente.
Alrededor del 38 % de los tuits abusivos se identifican proactivamente
por medio del aprendizaje automático
para que las personas no tengan que reportarlos.
Pero tenemos personas revisando los tuits identificados,
así que no borramos contenido o cuentas sin que alguien las revise.
Y hace un año eso estaba en 0 %.
Eso significa que, en el 0 %
cada persona que recibía abuso tenía que reportarlo,
lo cual era mucho trabajo para ellos, mucho trabajo para nosotros
y a final de cuentas era muy injusto.
También nos estamos asegurando que nosotros, como compañía,
contemos con representación de las comunidades a las que servimos.
No podemos construir un negocio exitoso
a menos que tengamos una perspectiva interna diversa
que viva estos problemas día a día.
Eso no solo aplica para el equipo que realiza ese trabajo,
sino también para nuestros directivos.
Necesitamos continuar desarrollando empatía por lo que viven las personas
y darles mejores herramientas para defenderse,
y también darles a nuestros clientes un acercamiento mejor y más sencillo
para lidiar con algunas de las cosas que ven.
Mucho de lo que estamos haciendo se centra en la tecnología,
pero también estamos enfocándonos en los incentivos del servicio:
¿Qué es lo que Twitter los incentiva a hacer cuando lo abren por primera vez?
En el pasado,
incentivó mucha indignación, comportamiento gregario,
y acoso grupal.
Tenemos que investigar a fondo algunos de los fundamentos
de lo que está haciendo el servicio para hacer cambios grandes.
Podemos hacer muchos cambios pequeños con tecnología, como describí,
pero a final de cuentas tenemos que observar a fondo las dinámicas en la red,
y eso estamos haciendo.
CA: Pero ¿qué podrían cambiar para modificar ese comportamiento?
JD: Bueno, comenzamos el servicio con el concepto de seguir una cuenta,
como ejemplo,
y no creo que sea la razón por la cual las personas entran a Twitter.
Considero que Twitter es mejor conocida como una red basada en intereses.
Las personas ingresan con un interés particular.
Deben esforzarse mucho para encontrar y seguir cuentas relacionadas
a esos intereses.
Lo que podemos hacer es permitir que sigan un interés,
sigan un hashtag, sigan una tendencia,
sigan una comunidad,
lo cual nos brinda la oportunidad de mostrar todas las cuentas,
todos los temas, todos los momentos, todos los hashtags
asociados con ese tema e interés en particular,
lo cual amplía la perspectiva de lo que pueden ver.
Pero es un cambio fundamental muy grande
hacer que la red deje de tener una inclinación hacia las cuentas
y que tenga una inclinación hacia temas e intereses.
CA: Pero ¿no es cierto que
una de las razones por las cuales tienen tanto contenido
se debe a que tienen a millones de personas de todo el mundo
en una especie de contienda entre gladiadores
para conseguir seguidores y atención?
Desde el punto de vista de las personas que solo leen Twitter,
eso no es un problema,
pero todos los creadores
desean tener más "me gusta", más seguidores y más retuits.
Así que constantemente están experimentando
para encontrar la manera de logarlo.
Y todos hemos descubierto que la principal forma para lograrlo
es ser provocativo,
detestable, elocuentemente detestable,
en Twitter aman a los insultos elocuentes
y rápidamente acumulan...
y se convierte en este proceso que fomenta indignación.
¿Cómo disipan eso?
JD: Creo que diste en el blanco,
pero eso vuelve a los incentivos.
Una de las decisiones que tomamos al principio fue
tener un número que mostrara cuántas personas te seguían.
Decidimos que ese número sería grande y estaría en negritas,
y todo lo que es grande y está en negritas es importante,
y es algo que se quiere incrementar.
¿Fue la decisión correcta en el momento?
Probablemente no.
Si tuviera que volver a empezar
no resaltaría tanto el número de seguidores.
No resaltaría tanto el número de "me gusta".
Creo que no hubiera creado los "me gusta" en primer lugar,
porque no representan realmente
lo que ahora creemos que es lo más importante,
lo cual es una contribución sana hacia la red
y las conversaciones en la red,
la participación en las conversaciones,
y aprender algo de las conversaciones.
No pensamos en eso hace 13 años,
pero ahora creemos que son aspectos muy importantes.
Tenemos que observar cómo mostramos el contador de seguidores,
cómo mostramos el contador de retuits,
cómo mostramos los "me gusta"
y preguntarnos:
¿En verdad queremos que las personas incrementen este número?
¿Esto es lo que, cuando abran Twitter,
observen y quieran incrementar?
Y no creo que sea el caso en estos momentos.
(Aplausos)
WPR: Creo que deberíamos ver algunos de los tuits
que vienen de la audiencia.
CA: Veamos lo que están preguntando.
Una de las maravillas de Twitter
es cómo puede usarse para la sabiduría de las masas,
hay más conocimiento, más preguntas, y más puntos de vista
de los que podamos imaginar
y, algunas veces, son muy sanos.
WPR: Creo que vi un tuit que decía:
"¿Cómo prevendrán la injerencia extranjera en las elecciones del 2020?".
Considero que es un problema que vemos
en el internet en general,
tenemos mucha actividad automática maliciosa.
Y en Twitter, por ejemplo, tenemos algunos reportes
de nuestros amigos de Zignal Labs,
y tal vez podamos verlos para darnos una idea
de lo que estoy hablando,
en los que se usan bots
o actividades coordinadas de cuentas maliciosas automatizadas
para influenciar situaciones tales como las elecciones.
En este ejemplo que Zignal compartió con nosotros
usando información de Twitter,
muestra que, en este caso,
lo blanco representa las cuentas humanas, cada punto es una cuenta.
Entre más rosa esté
más automatizada es la actividad.
Y pueden ver cómo hay pocos humanos interactuando con bots.
Este caso está relacionado con la elección en Israel
y la divulgación de desinformación sobre Benny Gantz,
y, como sabemos, al final fue una elección
que Netanyahu ganó por un pequeño margen,
y eso pudo haber sido influenciado por esto.
Cuando piensan que esto está sucediendo en Twitter,
¿qué están haciendo
para asegurarse que no haya desinformación divulgándose de esta forma,
influenciando a las personas en maneras que puedan afectar la democracia?
JD: Para recapitular un poco,
nos hicimos una pregunta:
¿En verdad podemos medir la salud de la conversación
y qué significa eso?
Y de la misma forma que Uds. tienen indicadores
y como humanos tenemos indicadores que nos dicen si estamos sanos,
tales como la temperatura, el rubor en nuestro rostro,
creemos que podemos encontrar indicadores de la salud conversacional.
Trabajamos con un laboratorio llamado Cortico en el MIT
para proponer cuatro indicadores de entrada
que consideramos que podemos medir en el sistema.
El primero es la atención compartida.
Mide qué porcentaje de la conversación es atenta
en un mismo tema en vez de dispersa.
El segundo se llama realidad compartida,
y es el porcentaje de la conversación
que comparte los mismos hechos
y no si esos hechos son verdaderos o no,
pero ¿compartimos los mismos hechos al conversar?
El tercero es la receptividad,
es el porcentaje de la conversación que es receptiva o civil,
o, al contrario, tóxica.
Y el cuarto es la variedad de perspectivas.
¿Estamos viendo filtros burbuja o cámaras de eco,
o en realidad estamos teniendo una variedad de opiniones
dentro de la conversación?
Está implícito dentro de los cuatro indicadores que,
al incrementar, la conversación se hace cada vez más sana.
Nuestro primer paso es ver si podemos medirlos en línea,
y creemos que sí.
Tenemos mayor impulso en la receptividad.
Tenemos un marcador de toxicidad, un modelo de toxicidad, en el sistema
que en realidad puede medir la probabilidad de que abandonen
una conversación en Twitter
porque sienten que es tóxica
con un nivel bastante alto.
Estamos trabajando para medir el resto
y el siguiente paso es,
mientras desarrollamos soluciones,
observar la tendencia de estos indicadores con el tiempo
y continuar experimentando.
Nuestro objetivo es asegurarnos de que estén balanceados,
porque si uno incrementa, otro puede disminuir.
Si la variedad de perspectiva incrementa
podría disminuir la realidad compartida.
CA: Solo para retomar el torrente de preguntas aquí.
JD: Preguntas constantes.
CA: Muchos preguntan
¿qué tan difícil es deshacerse de los nazis en Twitter?
JD: (Risas)
Tenemos políticas sobre los grupos extremistas violentos,
y la mayor parte de nuestro trabajo y términos del servicio
se basan en la conducta y no el contenido.
Así que estamos observando la conducta.
La conducta usada en el servicio
para acosar a alguien de forma repetida o episódica
usando imágenes de odio
que podrían asociarse con el KKK
o el Partido Nazi Americano.
Son situaciones en las que actuamos inmediatamente.
Estamos en una situación en la que ese término se usa a la ligera
y no podemos tomar cualquier mención de esa palabra
al acusar a alguien más
como un hecho de que deberían eliminarlos de la plataforma.
Muchos de nuestros modelos se basan en, número uno:
¿Esta cuenta está asociada con un grupo violento extremista?
Y si lo está, podemos actuar.
Y lo hemos hecho con el KKK, el Partido Nazi Americano y otros.
Y número dos: ¿Están usando imágenes o conductas
que los asociarían como tal?
CA: ¿Cuántas personas están moderando el contenido
para evaluar esto?
JD: Varía.
Queremos ser flexibles con esto
porque queremos asegurarnos de que estamos, número uno,
creando algoritmos en vez de contratar cantidades masivas de personas
porque necesitamos asegurarnos de que esto pueda escalarse
y las personas no pueden escalarlo.
Por eso hemos trabajado mucho en la detección proactiva del abuso
que después pueda revisar una persona.
Queremos llegar a un punto
en el que los algoritmos analicen constantemente cada tuit
y destaquen los más interesantes
para que nuestro equipo pueda juzgar si debemos intervenir o no
basándose en los términos del servicio.
WPR: No existe una cantidad de personas escalable,
pero ¿cuántas personas tienen monitorizando estas cuentas
y cómo saben cuándo es suficiente?
JD: Son completamente flexibles.
Algunas veces asociamos a las personas con spam.
Algunas veces los asociamos con abuso y acoso.
Nos aseguraremos de que nuestras personas sean flexibles
para dirigirlas a donde sean más necesarias.
A veces, a las elecciones.
Hemos tenido una serie de elecciones en México, habrá una en la India,
obviamente, la elección del año pasado, la de mitad del periodo,
así que queremos ser flexibles con nuestros recursos.
Cuando las personas...
por ejemplo, si entran a nuestros términos del servicio actuales,
abren la página,
piensan en el abuso y acoso que acaban de recibir
y se preguntan si va en contra de los términos del servicio para reportarlo,
lo primero que ven al abrir esa página
es la protección de propiedad intelectual.
Si se desplazan hacia abajo llegarán al abuso, acoso
y todo lo demás que tal vez estén experimentando.
No sé cómo sucedió eso en la historia de la compañía,
pero lo priorizamos sobre aquello que las personas
buscan obtener más información y formas de actuar.
Ese orden le muestra al mundo lo que creíamos que era importante.
Estamos cambiando todo eso.
Lo estamos ordenando de forma correcta,
y también estamos simplificando las reglas para que puedan ser legibles
y que las personas puedan entender por sí mismas
cuando algo va en contra de nuestros términos y cuando no.
Y estamos haciendo...
de nuevo, buscamos quitarle ese trabajo de encima a las víctimas.
Eso significa invertir más en la tecnología
y no en las personas que hacen el trabajo,
incluyendo las que reciben abuso
y las que revisan ese contenido.
Queremos asegurarnos
de que no fomentamos más trabajo
alrededor de algo tan negativo,
y queremos tener un buen balance entre la tecnología
y el lugar donde las personas puedan ser creativas,
lo cual juzga las reglas,
y no solo encontrar y reportar cosas mecánicamente.
Así es como pensamos en eso.
CA: Me da curiosidad abordar lo que dices.
Me encanta que digas que buscan maneras
de modificar el diseño fundamental del sistema
para disuadir parte del comportamiento reactivo, y tal vez
usar el tipo de lenguaje de Tristan Harris,
y captar el pensamiento reflexivo de las personas.
¿Qué tan avanzado está eso?
¿Cuáles serían las alternativas a ese botón de "me gusta"?
JD: Primero que nada,
mi meta personal con el servicio es que realmente considero
que la conversación pública es crucial.
Hay crisis existenciales en el mundo,
en todo el mundo y no solo en una nación en particular,
que se benefician con esa conversación pública global.
Esa es una de las dinámicas únicas de Twitter,
es completamente abierto, público y fluido
y cualquiera puede ver las conversaciones y participar en ellas.
Hay conversaciones sobre el cambio climático,
sobre el desplazamiento laboral debido a la inteligencia artificial,
y sobre la desigualdad económica.
Una nación no podrá resolver el problema por su cuenta sin importar lo que haga.
Se necesita una coordinación global,
y creo que ahí es donde Twitter puede actuar.
Lo segundo es que, actualmente, cuando entran a Twitter,
no sienten que aprendieron algo.
Algunos sí lo hacen.
Algunos tienen una red muy, muy, valiosa,
una comunidad muy valiosa de la que aprenden a diario.
Pero toma mucho trabajo y mucho tiempo construir algo así.
Queremos que las personas lleguen a esos temas e intereses
de forma más rápida
y asegurarnos de que encuentren algo,
sin importar cuánto tiempo estén en Twitter...
y no quiero incrementar el tiempo en Twitter,
quiero incrementar lo que se llevan de ahí,
lo que aprenden, y...
CA: ¿Seguro?
Porque eso es realmente lo que la gente quiere saber.
Claro, Jack, están atados en gran medida
por el hecho de que son una compañía pública,
tienen inversionistas presionándolos,
y su principal forma de ganar dinero es por medio de publicidad
que depende de la participación de los usuarios.
¿Están dispuestos a sacrificar el tiempo de usuario, si fuera necesario,
para tener conversaciones más reflexivas?
JD: Sí, más relevancia significa menos tiempo en el servicio,
eso me parece bien
porque queremos asegurarnos de que entren a Twitter,
e inmediatamente vean algo de lo que aprendan y que lo promuevan.
Y eso puede tener publicidad.
No significa que deben pasar más tiempo ahí para ver más.
Lo segundo que estamos observando...
CA: Pero con esa meta de uso diario activo,
si lo están midiendo no significa necesariamente algo
que las personas valoren cada día.
Podría significar
cosas que atraen a las personas, como polilla a las llamas.
Somos adictos porque vemos algo que nos molesta,
así que vamos a añadirle leña al fuego,
y el uso diario activo incrementa,
genera más ingresos de publicidad,
pero nos molestamos más con los demás.
¿Cómo definen...?
El "uso diario activo" suena como algo peligroso para optimizar.
(Aplausos)
JD: Lo es, por su cuenta,
pero no me dejaste terminar la otra métrica,
y es que buscamos conversaciones
y cadenas de conversaciones.
Queremos incentivar las contribuciones sanas hacia la red
y creemos que eso es, en realidad, participar en una conversación
que sea sana,
como se define por los cuatro indicadores que formulé anteriormente.
Así que no solo se puede optimizar una métrica.
Se tienen que balancear y tenemos que buscar constantemente
lo que en realidad va a crear una contribución sana en la red
y una experiencia sana para las personas.
Queremos llegar a una métrica
en la cual las personas puedan decirnos que aprendieron algo de Twitter
y se llevan algo valioso.
Esa es nuestra finalidad con el tiempo,
pero nos tomará algo de tiempo.
CA: Eres un enigma para muchos y para mí también.
Esto tal vez sea injusto, pero la otra noche desperté
con una imagen de cómo pensaba en ti y en esta situación,
estamos contigo en esta travesía en un barco llamado "El Twittanic" --
(Risas)
y hay personas a bordo en el entrepuente
expresando incomodidad,
y tú, a diferencia de otros capitanes,
dices, "Bueno, dime, háblame, escúchame, quiero escuchar".
Y te hablan y dicen, "Nos preocupa el iceberg que está adelante".
Y dices, "Ese un muy buen punto,
y nuestro barco no se construyó correctamente
para maniobrar como debería".
Y decimos, "Por favor, haz algo".
Y vas al puente de mando,
te esperamos,
te miramos, y te ves extremadamente calmado,
pero todos estamos afuera gritando: "¡Jack, mueve el maldito timón!".
¿Sabes?
(Risas)
(Aplausos)
Digo...
(Aplausos)
La democracia está en juego.
Nuestra cultura está en juego. Nuestro mundo está en juego.
Twitter es genial y moldea muchas cosas.
No es tan grande como otras plataformas,
pero los influyentes lo usan para impulsar sus agendas,
y es difícil imaginar un papel más importante en el mundo que...
Estás haciendo un excelente trabajo escuchando, Jack, escuchando a la gente,
pero en verdad incrementar la urgencia y abordar estas cosas...
¿lo harás?
JD: Sí, y lo hemos abordado considerablemente.
Hemos tenido varias dinámicas en la historia de Twitter.
Cuando regresé a la compañía,
estábamos en un estado terrible en cuanto a nuestro futuro,
no solo en la forma en la que las personas usaban la plataforma,
sino también desde una narrativa corporativa.
Tuvimos que arreglar muchos de los fundamentos,
transformar la compañía,
pasar por dos grandes despidos,
porque crecimos demasiado para lo que estábamos haciendo,
y enfocamos toda nuestra energía
en el concepto de servir la conversación pública.
Eso tomó algo de trabajo.
Mientras nos adentramos en eso,
nos dimos cuenta de algunos de los problemas con nuestros fundamentos.
Podíamos hacer muchas cosas superficiales para resolver lo que mencionas,
pero necesitamos que los cambios duren
y eso implica profundizar muchísimo
y prestarle atención a lo que iniciamos hace 13 años
y preguntarnos
cómo funciona el sistema y cómo funciona la estructura
y qué necesita el mundo actualmente,
basándose en lo rápido en lo que todo se mueve y cómo lo usa la gente.
Trabajamos lo más rápido posible, pero ser rápidos no es suficiente.
Debemos enfocarnos, priorizar,
entender los fundamentos de la red,
construir un marco escalable
y resistente a los cambios,
y ser abiertos y claros sobre dónde nos encontramos
para seguir inspirando confianza.
Estoy orgulloso de los marcos que hemos implementado.
Estoy orgulloso de nuestra dirección.
Pudimos abordarlo más rápido,
pero requería detener un montón de cosas estúpidas que estábamos haciendo.
CA: Está bien.
Sospecho que muchos aquí, si tuvieran la oportunidad,
estarían encantados de ayudarte con esta agenda de cambios,
y no sé si Whitney...
Gracias por venir y por hablar de forma tan abierta, Jack.
Tomó mucho valor hacerlo.
En verdad aprecio lo que dijiste y buena suerte con tu misión.
JD: Muchas gracias. Gracias por invitarme.
(Aplausos)
Gracias.