Chris Anderson: O que te preocupa agora?
Foste muito franco acerca de muitos dos problemas do Twitter.
Qual é a tua maior preocupação
acerca do estado das coisas neste momento?
Jack Dorsey: Neste momento é a saúde das conversas.
O nosso propósito é estar ao serviço das conversas públicas
e temos visto muitos ataques a isso.
Temos visto insultos, intimidação,
temos visto manipulação,
automatização, coordenação humana, desinformação.
Isto são dinâmicas que não esperávamos
há 13 anos, quando começámos a empresa.
Vemo-las agora em grande escala.
O que mais me preocupa é a nossa capacidade de as abordar
de uma forma sistemática que seja expansível,
que tenha uma compreensão rigorosa de como estamos a agir,
uma compreensão transparente de como estamos a agir
e um rigoroso processo de recurso para quando errarmos
porque nós vamos errar.
Whitney Pennington Rodgers: Fico feliz por ouvir
que isso é uma coisa que te preocupa
porque escreveu-se tanto sobre pessoas
que se sentiram agredidas e intimidadas no Twitter
em especial, mulheres e mulheres de cor,
mulheres negras.
Houve dados apresentados.
A Amnistia Internacional divulgou um relatório há uns meses
em que mostraram que um subgrupo de utilizadoras negras ativas do Twitter
em cada 10 "tweets" que recebiam
em média, um deles continha qualquer tipo de intimidação.
Por isso, quando pensas na saúde da comunidade no Twitter,
eu gostava de ouvir "saúde para todos".
Especificamente, como estás a tentar tornar o Twitter um espaço seguro
para esse subgrupo, para as mulheres, e para as mulheres de cor?
JD: Sim, é uma situação terrível
quando nos juntamos a um serviço
em que, idealmente, queremos aprender algo sobre o mundo
e passamos a maior parte do tempo a denunciar insultos, a receber insultos,
a receber intimidações.
O que nós estamos a analisar com mais atenção são os incentivos
que a plataforma providencia naturalmente e os serviços que providencia.
Agora a dinâmica do sistema faz com que seja muito fácil intimidar
e insultar os outros através do serviço.
Infelizmente, a maior parte do nosso sistema no passado
baseava-se em que as pessoas reportavam as intimidações e insultos.
Em meados do ano passado, decidimos que íamos utilizar
muito mais soluções de aprendizagem de máquinas
e de aprendizagem profunda
e tentar ser mais proativos quando os insultos acontecem,
para tirarmos completamente o peso de cima da vítima.
Fizemos alguns progressos recentemente.
Cerca de 38% dos "tweets" insultuosos são agora identificados proativamente
por algoritmos automáticos
e as pessoas já não têm de os reportar.
Mas os que são identificados ainda são revistos por pessoas,
por isso não tiramos conteúdo ou contas sem a revisão de um ser humano.
Mas isto era 0% há um ano.
Ou seja, com 0%,
cada pessoa que fosse insultada tinha de os reportar,
o que lhes dava muito trabalho, e nos dava muito trabalho
e, afinal de contas, era injusto.
O outro aspeto é que estamos a assegurar que nós, como empresa,
temos representadas todas as comunidades que estamos a tentar servir.
Não podemos construir um negócio de sucesso
se não tivermos diversidade de perspetivas dentro da nossa casa
onde se sentem esses problemas todos os dias.
E isso não envolve só a equipa que está a fazer o trabalho
mas também toda a direção.
Temos de continuar a criar empatia com o que as pessoas estão a experimentar
e dar-lhes melhores ferramentas para agirem
e também dar aos nossos clientes uma abordagem melhor e mais fácil
para lidar com algumas coisas que estão a ver.
Muito do que fazemos está ligado à tecnologia
mas também estamos a olhar para os incentivos do serviço:
O que é que o Twitter vos incentiva a fazer quando o abrem?
No passado,
incentivou muita indignação, incentivou muita violência de grupo,
incentivou muita intimidação a grupos.
Temos de olhar mais profundamente para alguns dos princípios
do que o serviço está a fazer para conseguir mudanças maiores.
Podemos fazer pequenas mudanças a nível tecnológico, como já descrevi,
mas temos de olhar profundamente para a dinâmica da rede em si
e é o que estamos a fazer.
CA: Mas o que é que achas?
Que tipo de coisas achas que vão conseguir mudar
que sejam uma mudança de comportamento fundamental?
JD: Bem, uma das coisas, por exemplo.
Começámos o serviço com o conceito de seguir uma conta,
mas eu não acredito que seja para isso que as pessoas usam o Twitter.
Acho que o Twitter funciona melhor como uma rede social baseada em interesses.
As pessoas vêm com um determinado interesse.
É trabalhoso encontrar e seguir as contas
relacionadas com esses interesses.
O que nós podemos fazer é permitir seguir um interesse,
seguir uma "hashtag", uma tendência,
seguir uma comunidade,
o que nos dá a oportunidade de mostrar todas as contas,
todos os temas, todos os momentos, todas as "hashtags"
que estão associadas com esse tópico ou interesse em particular,
o que abre a perspetiva do que vemos.
Isto é uma enorme mudança
fazer com que toda a rede deixe de estar ligada às contas
e passe a estar ligada a tópicos e interesses.
CA: Mas não se dá o caso
de que uma das razões pela qual vocês têm tanto conteúdo
é o resultado de pôr milhões de pessoas do mundo inteiro
nesta competição de gladiadores uns contra os outros
para ganhar seguidores, para conquistar atenção?
Do ponto de vista das pessoas que só leem o Twitter,
isso não é um problema
mas para quem o criou, todos dizem:
"Gostava de ter mais 'likes', mais seguidores, mais 'retweets'."
Estão sempre a experimentar,
a tentar encontrar um caminho para isso.
Descobrimos que o caminho principal para isso
é algum tipo de provocação detestável, eloquentemente detestável.
Os insultos eloquentes são um sonho no Twitter,
onde rapidamente se acumulam
e se tornam neste processo de autoalimentação da indignação.
Como se pode acabar com isso?
JD: Acho que é exatamente isso
mas voltamos de novo aos incentivos.
Uma das nossas escolhas iniciais
foi mostrar o número de pessoas que nos seguiam.
Decidimos que esse número devia ser grande e destacado
e, como tudo o que é grande e destacado na página. é importante,
essas são as coisas que queremos atingir.
Foi a decisão certa na altura?
Provavelmente não.
Se eu criasse o serviço de novo,
não daria tanta ênfase ao número de seguidores.
Não daria tanta ênfase aos "likes".
Acho que nem criaria os "likes"
porque não leva ao que acreditamos
ser a coisa mais importante,
isto é, uma contribuição saudável na rede
e conversas na rede,
uma participação nas conversas,
aprender algo com as conversas.
Não pensámos nestas coisas há 13 anos
e agora acreditamos que são muito importantes.
Temos de ver como exibimos o número de seguidores,
como exibimos o número de "retweets",
como exibimos os "likes"
e perguntar verdadeiramente:
É este o número a que queremos dar ênfase?
É isto que vemos, quando abrimos o Twitter:
"É isto que eu tenho de reforçar?"
Eu não acredito que agora seja esse o caso.
(Aplausos)
WPR: Acho que devíamos ver alguns "tweets"
que também estão a vir da audiência.
CA: Vamos ver o que estão a perguntar.
Isto é uma das coisas fantásticas do Twitter
é poder usá-lo para saber a opinião de um grupo,
mais conhecimento, mais questões, mais pontos de vista
do que se pode imaginar
e às vezes, muito saudáveis.
WPR: Vi um que passou rapidamente por aqui:
"Como vão combater a interferência estrangeira nas eleições de 2020?"
Penso que é um assunto
que estamos a ver na Internet em geral.
Há muita atividade automatizada maliciosa.
No Twitter, de facto, temos trabalho
dos nossos amigos na Zignal Labs
e talvez possamos ver aí um exemplo do que estou a falar,
em que temos estes "bots"
ou contas com atividade automatizada maliciosa
que estão a ser usadas para influenciar coisas como eleições.
Neste exemplo da Zignal que eles partilharam connosco
usando os dados que têm do Twitter,
podem ver que, neste caso,
o branco representa seres humanos - contas humanas, cada ponto é uma conta.
Quanto mais cor-de-rosa,
tanto mais atividade automatizada.
Podemos ver alguns seres humanos a interagir com "bots".
Neste caso, está relacionado com as eleições em Israel
e está a espalhar desinformação acerca de Benny Gantz.
Como sabemos, no fim, as eleições foram ganhas por Netanyahu
por uma pequena margem
que pode ter sido influenciada, nalguns casos, por isso.
Quando pensamos no que está a acontecer no Twitter,
o que é que vocês estão a fazer, especificamente,
para assegurar que a desinformação não se espalhe assim,
influenciando pessoas de formas que afetam a democracia?
JD: Voltando um pouco atrás,
perguntámo-nos o seguinte:
Podemos medir a saúde de uma conversa
e o que é que isso significa?
Tal como temos indicadores
e temos indicadores humanos para ver se estamos saudáveis ou não
tais como a temperatura, a cor da cara,
acreditamos que podíamos encontrar indicadores da saúde das conversas.
Trabalhámos com um laboratório chamado Cortico no MIT
para propor quatro indicadores iniciais
que acreditamos que podem fazer medições no sistema.
O primeiro é o que chamamos "atenção partilhada".
É uma medida de quanto da conversa
está atenta ao mesmo assunto e não se dispersa.
O segundo chama-se "realidade partilhada"
e é a percentagem da conversa
que partilha os mesmo factos
- não se esses factos são verdadeiros ou não
mas se estamos a partilhar os mesmos factos nas conversas.
O terceiro é a "recetividade":
Quanto da conversa é recetivo ou cívico
ou, pelo contrário, é tóxico?
E o quarto é a "variedade de perspetiva".
Estaremos a ver bolhas de filtro ou câmaras de eco,
ou estaremos a ter uma variedade de opiniões
dentro da conversa?
Implícito nestes quatro é a compreensão
de que, à medida que aumentam, a conversa torna-se mais saudável.
Então, o primeiro passo é tentar medi-los "online",
o que achamos que conseguimos.
A maior dinâmica é em torno da recetividade.
Temos uma pontuação de toxicidade e um modelo de toxicidade, no sistema,
que consegue medir se é provável que alguém se afaste
de uma conversa que está a ter no Twitter
porque sente que é tóxica,
a um nível muito alto.
Estamos a tentar medir o resto.
O próximo passo é,
enquanto construímos soluções,
ver como estas medidas se comportam ao longo do tempo
e continuar a experimentar.
O nosso objetivo é assegurar que estão equilibradas
porque, se aumentamos uma, poderemos diminuir a outra.
Se aumentarmos a variedade de perspetiva,
poderemos diminuir a realidade partilhada.
CA: Agarrando numa das perguntas que estão a chegar em massa...
JD: Questionamento constante.
CA: Muitas pessoas estão perplexas
perguntando porque é que é difícil eliminar os nazis do Twitter?
JD: Temos diretrizes relativas a grupos extremistas violentos
e a maior parte do nosso trabalho e das nossas condições de funcionamento
estão ligados à conduta, não ao conteúdo.
Estamos a olhar para a conduta.
Conduta é usar o serviço
para intimidar alguém repetidamente ou de forma pontual,
usar imagens de ódio
que poderão estar associadas ao KKK
ou ao Partido Nazi Americano.
Nós agimos imediatamente contra estas coisas.
Estamos numa situação agora em que esse termo é usado de forma vaga
mas nós não podemos considerar qualquer pessoa
que use essa palavra para acusar outra pessoa
como uma indicação factual de que devem ser retirados da plataforma.
Muitos dos nossos modelos são baseados em, número um:
Esta conta está associada a um grupo extremista violento?
Se sim, podemos agir.
Fizemos isto com o KKK, o Partido Nazi Americano e outros.
Número dois: Estão a usar imagens ou conduta
que também os associaria a tal?
CA: Quantas pessoas têm a trabalhar na moderação de conteúdos, para ver isso?
JD: Depende.
Queremos ser flexíveis nisto,
porque queremos ter a certeza de que estamos, número um,
a construir algoritmos em vez de contratar imensas pessoas
porque temos de ter a certeza que podemos alargar isso
e não há nenhum número de pessoas que consiga alargar isso.
Foi por isso que fizemos tanto trabalho à volta da deteção proativa de insultos
que possam ser revistos por pessoass.
Queremos ter uma situação
em que haja algoritmos constantemente a filtrar cada "tweet"
e a destacar os mais interessantes
para que seres humanos possam julgar se devemos agir ou não,
com base nas nossas condições de serviço.
WPR: Não há um número de pessoas que possa aumentar
mas quantas pessoas têm vocês agora a monitorizar essas contas
e como conseguem perceber quando esse número é suficiente?
JD: É uma coisa completamente flexível.
Às vezes associamos pessoas a "spam".
Às vezes associamos pessoas a insultos e intimidação.
Vamos garantir que temos flexibilidade quanto às pessoas que temos
para as direcionarmos para onde são precisas.
Às vezes, para as eleições.
Tivemos uma série de eleições no México,
vai haver uma na Índia.
Obviamente, as eleições do ano passado, as eleições intercalares
por isso queremos ser flexíveis com os recursos.
Quando as pessoas,
por exemplo, forem aos nossos termos de serviço atuais
e abrirem a página
e estiverem a pensar nos insultos ou intimidações que receberem,
se isso vai contra os nossos termos de serviço, para o denunciarem,
a primeira coisa que veem ao abrir a página
é sobre a proteção da propriedade intelectual.
A seguir, veem a parte dos insultos, da intimidação
e de tudo a que podem estar sujeitos.
Não sei como isso aconteceu no decorrer da história da empresa
mas pusemos isso acima do que as pessoas querem
ou seja, mais informação e mais capacidade de ação.
A nossa ordem mostra ao mundo o que acreditamos ser mais importante.
Estamos a mudar tudo isso.
Estamos a ordenar da forma certa
mas também estamos a simplificar as regras para que sejam compreensíveis
para que as pessoas compreendam
quando algo é contrário aos nossos termos e quando não é.
Estamos a fazer isso.
De novo, o grande foco é tirar o peso do trabalho de cima das vítimas.
Isso significa mais foco na tecnologia
do que em pessoas a trabalharem,
ou seja, as pessoas que são insultadas
e as pessoas que reveem esse trabalho.
Queremos assegurar
que não estamos a incentivar mais trabalho
à volta de algo extremamente negativo
e queremos ter um bom equilíbrio entre a tecnologia
e aquilo em que os seres humanos podem ser criativos
que é a julgarem as regras
e não na parte mecânica de encontrar e denunciar.
É assim que nós vemos isto.
CA: Gostava de aprofundar o que acabaste de dizer.
Adoro teres dito que estão à procura de formas
de mudar o "design" fundamental do sistema
para desencoraja comportamento reativo
- e usando uma linguagem do tipo de Tristan Harris -
envolver talvez um pensamento mais reflexivo das pessoas.
Em que ponto é que isso está?
Quais seriam as alternativas ao botão do "like"?
JD: Bem, primeiro que tudo,
o meu objetivo pessoal com o serviço é que acredito fundamentalmente
que as conversas públicas são cruciais.
Há problemas existenciais no mundo
que são enfrentados pelo mundo todo, não só por um estado-nação,
que as conversas públicas globais beneficiam.
Isto é uma das dinâmicas únicas do Twitter
que é completamente aberto,
completamente público, completamente fluido
e todos podem ver as conversas e participar nelas.
Há conversas sobre a alteração climática.
Há conversas sobre a deslocalização do trabalho
devido à inteligência artificial.
Há conversas sobre a disparidade económica.
Independentemente do que um estado-nação faz,
não conseguirão resolver o problema sozinhos.
É necessário coordenação em todo o mundo
e é aí que o Twitter pode desempenhar um papel.
A segunda coisa é que, quando vamos ao Twitter
nem sempre saímos de lá a sentir que aprendemos alguma coisa.
Algumas pessoas sim.
Algumas pessoas têm uma rede muito rica,
uma comunidade muito rica na qual aprendem todos os dias.
Mas é preciso muito trabalho e muito tempo para construir isso.
Então queremos pôr as pessoas nesses tópicos e nesses interesses
muito mais rapidamente
e certificar que elas estão a encontrar qualquer coisa
que, independentemente do tempo que estão no Twitter
- e eu não quero maximizar o tempo no Twitter,
quero maximizar o que as pessoas tiram dele
e o que aprendem dele.
CA: Mas queres mesmo?
Porque essa é a questão central que muitas pessoas querem saber.
Jack, vocês estão certamente limitados em grande medida
pelo facto de serem uma empresa pública,
têm investidores a pressionarem-vos,
a maior forma de ganharem dinheiro é através de publicidade,
o que depende do envolvimento do utilizador.
Estão prontos a abdicar do tempo dos utilizadores, se necessário,
para conseguirem uma conversa mais reflexiva?
JD: Sim, mais relevância significa menos tempo no serviço
e não tem qualquer problema
porque queremos garantir que chegam ao Twitter,
e veem imediatamente algo que aprendem e que passam.
Podemos passar um anúncio na mesma.
Não significa que temos de gastar mais tempo para ver mais.
O segundo ponto que estamos a ver...
CA: Relativamente a esse objetivo, utilização ativa diária,
se estão a medir isso, não significa necessariamente
coisas que as pessoas valorizem todos os dias.
Pode significar coisas
que atraem pessoas como a luz atrai a traça, todos os dias.
Estamos viciados porque vemos algo que nos irrita,
entramos ali e deitamos lenha na fogueira,
e a utilização ativa diária cresce
e há mais receita de anúncios,
mas estamos todos zangados uns com os outros.
Como defines "utilização ativa diária"?
Parece ser um termo muito perigoso para otimizar.
(Aplausos)
JD: Visto isoladamente, é,
mas não me deixaram acabar a outra métrica
que é estarmos a ver as conversas
e as cadeias de conversas.
Queremos incentivar contribuições saudáveis de novo na rede
e o que nós acreditamos ser participar numa conversa
que é saudável,
como definida naqueles quatro indicadores que mencionei antes.
Não é possível otimizar à volta de uma só métrica.
É preciso equilibrar e olhar constantemente
para o que vai criar uma contribuição saudável para a rede
e uma experiência saudável para as pessoas.
No fundo, queremos uma métrica
em que as pessoas nos digam:
"Aprendi uma coisa no Twitter e levo comigo algo valioso."
Este é o nosso objetivo ao longo do tempo
mas isso vai demorar algum tempo.
CA: Penso que muitos veem isso como um enigma.
Talvez seja injusto mas acordei uma noite
com uma imagem de como pensava sobre ti e sobre esta situação.
Estávamos numa grande viagem num barco chamado "Twittanic"...
(Risos)
e havia pessoas a bordo na terceira classe
que se queixavam de desconforto.
Ao contrário dos outros capitães, tu dizias:
"Digam-me, falem comigo, ouçam-me, eu quero ouvir."
E eles falam e dizem: "Estamos preocupados com o icebergue ali à frente."
E tu dizes: "Sabem, é uma boa observação,
"o nosso navio não foi construído adequadamente
"para a terceira classe como devia."
Nós dizemos: "Faz algo."
Tu vais para a ponte e nós ficamos à espera,
olhamos e tu estás a mostrar esta calma extraordinária
mas nós estamos todos cá fora a dizer: "Jack, gira a porra do leme!"
Percebes?
(Risos)
(Aplausos)
Ou seja...
(Aplausos)
É a democracia que está em risco.
É a nossa cultura em risco. É o nosso mundo em risco.
O Twitter é fantástico e modela muito.
Não é tão grande como outras plataformas
mas as pessoas com influência usam-no para definir um programa,
e é difícil imaginar um papel mais importante no mundo.
Estás a fazer um trabalho brilhante a ouvir as pessoas, Jack,
mas vais marcar como urgente e fazer algo?
Vais fazer isso?
JD: Sim, nós temos mudado substancialmente.
Houve algumas dinâmicas na história do Twitter.
Uma, quando voltei para a empresa,
estávamos num momento difícil em termos do nosso futuro
e não só de como as pessoas estavam a usar a plataforma
mas também quanto à narrativa corporativa.
Tivemos de reparar grande parte da base,
dar a volta à empresa,
passar por duas loucas reduções de pessoal
porque éramos grandes demais para o que estávamos a fazer
e concentrámos toda a nossa energia
neste conceito de servir a conversa pública.
Foi preciso algum trabalho.
Quando mergulhámos nisso,
reparámos nalguns problemas com os princípios.
Podíamos fazer um monte de coisas superficiais para tratar do que falaste
mas precisamos que as mudanças durem
e isso significa ir mesmo ao fundo
e prestar atenção ao que iniciámos há 13 anos
e questionar a sério
como o sistema funciona e como o enquadramento funciona
e o que é preciso para o mundo de hoje,
dada a velocidade com que tudo se move e como as pessoas estão a usá-lo.
Trabalhamos tão depressa quanto possível
mas não é a rapidez que vai fazer o trabalho.
É a concentração, o estabelecimento de prioridades,
é compreender os princípios da rede
e construir um enquadramento que possa crescer
e que seja resistente à mudança
e aberto sobre onde estamos, transparente sobre onde estamos
para continuarmos a ganhar confiança.
Tenho orgulho em todos os enquadramentos que implementámos.
Tenho orgulho na nossa direção.
Claro que podemos andar mais depressa
mas isto exige abandonar uma série de coisas parvas que fizemos no passado.
CA: Ok.
Eu suspeito que há muitas pessoas aqui que, se pudessem,
adorariam ajudar-te neste plano de mudanças em que estás
e não sei se a Whitney...
Jack, obrigado por vires aqui e falares tão abertamente.
É preciso coragem.
Dou muito valor ao que disseste e boa sorte com a tua missão.
JD: Muito obrigado. Obrigado pelo convite.
(Aplausos)
Obrigado.