Chris Anderson: Qual é a sua preocupação atual?
Você tem sido bastante aberto sobre muitos problemas do Twitter.
Qual seria a sua maior preocupação sobre como as coisas estão hoje?
Jack Dorsey: Neste momento, é a saúde da conversa.
Nosso propósito é servir à conversa pública,
e temos visto muitos ataques nela.
Temos visto insulto, assédio, manipulação,
automação, coordenação humana e desinformação.
Todas essas são dinâmicas que não esperávamos 13 anos atrás,
quando começamos a empresa.
Mas agora vemos isso em grande escala,
e o que mais me preocupa é a nossa capacidade de resolver isso
de forma sistêmica, em grande escala,
que tenha uma compreensão rigorosa
de como estamos agindo,
uma compreensão transparente de como estamos agindo
e um processo rigoroso de contestação para quando errarmos,
porque vamos errar.
Whitney Pennington Rodgers: Que bom ouvir que isso te preocupa,
pois muito tem sido escrito sobre pessoas
que sentem que tem sido insultadas e assediadas no Twitter,
sobretudo mulheres, mulheres de cor e negras.
A Anistia Internacional divulgou um relatório há alguns meses
apontando um subgrupo de mulheres negras usuárias ativas do Twitter,
que, de cada dez tuítes que recebiam,
um, em média, era uma forma de assédio.
E, quando pensamos em saúde para a comunidade do Twitter,
estou interessada em ouvir "saúde para todos",
mas especificamente como você tenta fazer do Twitter um espaço seguro
para esse subgrupo de mulheres, mulheres de cor e negras?
JD: Verdade.
É uma situação bem terrível quando se acessa um serviço
em que se busca, idealmente, aprender algo sobre o mundo,
e se passa a maior parte do tempo denunciando e recebendo insultos,
sofrendo assédio.
Então, nós...
estamos procurando mais profundamente os incentivos
que a plataforma e o serviço propiciam naturalmente.
Atualmente, a dinâmica do sistema torna superfácil
assediar e insultar os outros através do serviço,
e, infelizmente, boa parte do nosso sistema no passado
trabalhou inteiramente com base em pessoas denunciando assédio e insultos.
Por isso, em meados do ano passado, decidimos que íamos aplicar
muito mais aprendizado de máquina, e aprendizado profundo no problema,
e tentar ser muito mais proativos quando o insulto está acontecendo,
para que possamos tirar completamente o fardo da vítima.
E recentemente fizemos alguns progressos:
cerca de 38% dos tuítes insultantes agora são identificados proativamente
por algoritmos de aprendizado de máquina
para que as pessoas não precisem denunciá-los.
Mas aqueles que são identificados ainda são revisados ​​por humanos,
por isso não removemos conteúdo ou contas sem a revisão humana.
Mas isso era 0% apenas um ano atrás.
Ou seja, esse 0% representa
que toda pessoa que era insultada tinha de reportá-lo,
o que significava muito trabalho para elas e para nós,
algo completamente injusto.
A outra coisa que estamos fazendo é assegurar que, como empresa,
tenhamos representação de todas as comunidades que tentamos atender.
Não podemos construir um negócio bem-sucedido
sem que tenhamos conosco uma diversidade de perspectivas
que sintam de fato esses problemas todos os dias.
E isso não é só com a equipe operacional, mas também na liderança da empresa.
Precisamos continuar a construir empatia
pelo que as pessoas estão experimentando e lhes dar melhores ferramentas para agir
e também dar aos nossos clientes uma abordagem melhor e mais fácil
para lidar com algumas das coisas que estão vendo.
Assim, muito do que estamos fazendo tem a ver com tecnologia,
mas também consideramos os incentivos no serviço:
o que o Twitter incentiva a pessoa a fazer quando ela o acessa pela primeira vez?
No passado,
ele incentivou muito disparate, muito comportamento de massa,
muito assédio em grupo.
Temos de olhar muito mais profundamente alguns dos fundamentos
do que o serviço está fazendo para criar as maiores mudanças.
Podemos fazer várias pequenas mudanças com a tecnologia,
como acabei de descrever,
mas, em última análise, temos de observar profundamente a dinâmica da própria rede,
e é o que estamos fazendo hoje.
CA: Mas o que na sua opinião
você teria condições de alterar
que fundamentalmente mudaria o comportamento?
JD: Bem, nós começamos o serviço com o conceito de seguir uma conta,
como um exemplo,
e não acredito que seja por isso que as pessoas acessem o Twitter.
Acredito que o Twitter seja melhor como uma rede baseada em interesses.
As pessoas o acessam devido a um determinado interesse.
Elas têm muito trabalho para encontrar e acompanhar as contas relacionadas
a esses interesses.
Poderíamos, em vez disso, permitir que seguissem um interesse,
seguissem uma hashtag, uma tendência, uma comunidade,
o que nos dá a oportunidade de mostrar todas as contas,
todos os tópicos, os momentos, todas as hashtags
que estão associados àquele determinado tópico e interesse,
o que realmente abre a perspectiva que a pessoa vê.
Mas essa é uma enorme mudança fundamental,
para desviar toda a rede do viés de apenas uma conta
para um viés de tópicos e interesses.
CA: Mas não é verdade
que o fato de haver tanto conteúdo lá
é o resultado de se colocar milhões de pessoas do mundo todo
num tipo de competição gladiatorial umas com as outras
por seguidores, por atenção?
Do ponto de vista daqueles que apenas leem o Twitter,
isso não é problema,
mas, para quem cria tuítes, eles dizem:
"Eu gostaria de ter mais curtidas, seguidores, retuítes".
Assim, elas constantemente experimentam,
tentando encontrar um jeito de fazer isso.
E parece que todos descobriram que o melhor jeito é sendo,
de alguma forma, provocativo
detestável, eloquentemente detestável...
insultos eloquentes são um sonho no Twitter
e a pessoa se avulta rapidamente,
retroalimentando esse processo de estimular ultrajes.
Como você neutraliza isso?
JD: Sim, acho que você foi ao ponto,
mas isso remonta aos incentivos.
Uma das escolhas que fizemos no início
foi mostrar o número de seguidores.
Decidimos que esse número deveria ser grande e ambicioso,
e qualquer coisa numa página grande e ambiciosa teria importância,
e a pessoa buscaria atrair essas coisas.
Foi uma decisão acertada na época? Provavelmente não.
Se tivesse de recomeçar o Twitter,
não enfatizaria tanto o número de seguidores,
nem o número de curtidas.
Pra começar, acho que nem criaria as curtidas,
porque elas não estimulam
aquilo que agora acreditamos ser o mais importante,
que é a contribuição saudável para a rede,
conversa dentro da rede,
participação dentro da conversa,
e aprender algo com essa conversa.
Não consideramos essas coisas há 13 anos,
mas hoje acreditamos que sejam extremamente importantes.
Então temos de ver como mostramos a conta do seguidor,
a contagem de retuítes, como mostramos as curtidas,
e nos perguntar seriamente:
esse é realmente o número que queremos que as pessoas alcancem?
É isso o que a pessoa, quando abre o Twitter,
pensa: "É isso o que eu preciso aumentar?"
E não acredito que seja o caso agora.
(Aplausos)
WPR: Vamos ver alguns dos tuítes chegando com perguntas da plateia também.
CA: Vejamos o que estão perguntando.
Umas das coisas incríveis sobre o Twitter
é como podemos usá-lo como inteligência coletiva,
sabe, mais conhecimento, mais perguntas,
mais opiniões do que se pode imaginar
e, às vezes, muitos deles são realmente saudáveis.
WPR: Uma das perguntas aqui é: "Qual o plano do Twitter para combater
a ingerência estrangeira nas eleições dos EUA em 2020?"
Acho que essa é uma questão que vemos na internet em geral,
pois há muita atividade maliciosa automatizada acontecendo.
E no Twitter, por exemplo, temos um trabalho
dos nossos amigos no Zignal Labs,
e talvez possamos pegar um exemplo para demonstrar o que estou falando,
no qual existem esses "bots",
ou atividade de conta automatizada coordenada maliciosa,
sendo usados para influenciar, por exemplo, as eleições.
E temos um exemplo do Zignal, que eles compartilharam conosco,
usando os dados que eles têm do Twitter,
e podemos ver que, nesse caso,
o branco representa cada ponto como uma conta de humano.
Quanto mais rosa, mais automatizada é a atividade
e dá pra ver como existem alguns humanos interagindo com bots.
Trata-se aqui da eleição em Israel,
em que se espalhou desinformação sobre Benny Gantz,
e, no final, essa foi uma eleição
na qual Netanyahu ganhou por uma pequena margem,
e pode ter sido influenciado por isso.
E quando pensamos nisso acontecendo no Twitter,
o que estão fazendo especificamente
para evitar que desinformação assim se espalhe dessa maneira,
influenciando as pessoas em maneiras que podem afetar a democracia?
JD: Só para voltar um pouco.
Nós nos perguntamos:
podemos realmente medir a saúde de uma conversa,
e o que isso significa?
E da mesma maneira que existem indicadores
para medir a saúde dos seres humanos,
como temperatura, as faces coradas,
acreditamos que poderíamos encontrar os indicadores da saúde conversacional.
E trabalhamos com um laboratório chamado Cortico, no MIT,
para propor quatro indicadores iniciais
que acreditamos que poderiam no final serem medidas no sistema.
O primeiro é o que chamamos de atenção compartilhada.
Ele mede quanto da conversa tem a ver
com o mesmo tópico ou é um disparate.
O segundo é chamado realidade compartilhada,
que mede qual porcentagem da conversa compartilha os mesmos fatos.
Não mede se os fatos são verdadeiros ou não,
mas se compartilhamos os mesmos fatos enquanto conversamos.
O terceiro é a receptividade:
quanto da conversa é receptiva ou civilizada,
ou o inverso, tóxica?
E o quarto é a variedade de perspectiva.
Assim, estamos vendo bolhas de filtro ou câmaras de eco,
ou recebendo uma variedade de opiniões dentro da conversa?
Está implícito em todos esses quatro o entendimento de que,
à medida que eles aumentam, a conversa fica cada vez mais saudável.
Então, nosso primeiro passo é ver se podemos medir isso on-line,
o que acreditamos poder.
Estamos num ótimo momento no que se refere à receptividade.
Temos uma pontuação de toxicidade, um modelo de toxicidade, em nosso sistema
que pode medir de fato a chance de a pessoa se afastar
de uma conversa que está tendo no Twitter,
por sentir que é tóxica, num grau bastante preciso.
Estamos trabalhando para medir o resto,
e o próximo passo é,
enquanto construímos soluções,
ver como essas medidas se comportam ao longo do tempo
e continuar a testar.
E nosso objetivo é garantir que os indicadores estejam equilibrados,
porque, se aumentarmos um, podemos diminuir outro.
Se aumentarmos a variedade de perspectiva,
podemos acabar diminuindo a realidade compartilhada.
CA: Só para pegar algumas das inúmeras perguntas aqui.
JD: Questionamento constante.
CA: Muitas pessoas estão intrigadas
em saber quão difícil é se livrar de nazistas no Twitter.
JD: (Risos)
Temos políticas para grupos extremistas violentos,
e a maior parte do nosso trabalho e dos nossos termos de serviço
trabalha na conduta, não no conteúdo.
Então, realmente focamos a conduta.
Conduta na utilização do serviço,
repetidamente ou ocasionalmente assediar alguém,
usar imagens cheias de ódio
que possam estar associadas ao KKK
ou ao Partido Nazista Americano.
Tudo isso são coisas nas quais agimos imediatamente.
Estamos numa situação em que esse termo é usado de forma bastante frouxa,
e não podemos aceitar simplesmente a palavra de uma pessoa
para acusar uma outra
como uma indicação fatual de que esta deva ser removida da plataforma.
Então muitos dos nossos modelos baseiam-se, primeiro:
essa conta está associada a um grupo extremista violento?
E, se for o caso, podemos agir.
E fizemos isso com o KKK e o Partido Nazista Americano e outros.
Segundo: eles estão usando imagens ou tendo condutas
que os associariam a isso também?
CA: Quantas pessoas trabalham na moderação de conteúdo, cuidando disso?
JD: Isso varia.
Queremos ser flexíveis nisso,
porque queremos ter certeza de estarmos, primeiramente,
construindo algoritmos em vez de apenas contratar um número enorme de pessoas,
porque precisamos ter certeza de que isso pode ser ajustado,
e não há um número de pessoas que se possa ajustar a isso.
Por isso trabalhamos muito na detecção proativa do insulto
que humanos possam rever.
Queremos ter uma situação
em que os algoritmos vasculhem constantemente cada tuíte,
trazendo os mais interessantes para o topo
para que humanos possam avaliar, para saber se devemos agir ou não,
com base em nossos termos de serviço.
WPR: Pode não haver uma quantidade ajustável de pessoas,
mas quantas vocês têm atualmente monitorando essas contas,
e como sabem que é suficiente?
JD: Elas são completamente flexíveis.
Às vezes as designamos para spam,
outras vezes para insulto e assédio.
Buscamos ser flexíveis com nosso pessoal
de modo a direcioná-lo para o que for mais necessário.
Às vezes, são as eleições.
Tivemos uma sequência de eleições no México,
uma em breve na Índia,
obviamente as eleições legislativas do ano passado,
então nós queremos ser flexíveis com nossos recursos.
Apenas como um exemplo, se você consultar nossos termos de serviço atuais
e rolar a página para cima,
e estiver se perguntando sobre o insulto ou assédio que acabou de sofrer
para saber se denunciá-lo é contra nossos termos de serviço,
a primeira coisa que vai ver ao abrir essa página
é sobre proteção da propriedade intelectual.
Ao rolar para baixo, vai ler sobre insulto, assédio
ou qualquer outra coisa que possa estar sofrendo.
Não sei bem como isso aconteceu ao longo da história da empresa,
mas colocamos isso acima da coisa que as pessoas querem,
mais informações sobre isso e como agir.
E a nossa forma de ordenar isso mostra o que acreditávamos ser importante.
Estamos mudando tudo isso.
Estamos ordenando do jeito certo, mas também simplificando as regras
para que sejam legíveis para as pessoas e que elas consigam de fato entender
quando algo é contra nossos termos e quando não é.
E estamos fazendo...
novamente, nosso grande foco é remover o peso do trabalho das vítimas.
E isso significa usar mais tecnologia,
em vez de seres humanos,
o que significa seres humanos sofrendo insulto
e tendo de rever esse trabalho.
Assim, queremos assegurar
que não estamos apenas incentivando mais trabalho
em torno de algo que é supernegativo
e queremos um bom equilíbrio entre a tecnologia
e onde os humanos podem ser criativos,
que é o julgamento das regras,
e não apenas toda a coisa mecânica de encontrá-los e reportá-los.
É isso que pensamos.
CA: Gostaria de explorar mais isso.
Adorei o que disse sobre procurar maneiras
para reajustar o design fundamental do sistema
para desencorajar alguns dos comportamento reativos e talvez,
para usar termos de Tristan Harris,
atrair o pensamento mais reflexivo das pessoas.
Como estão os avanços nisso?
Quais seriam as alternativas para aquele botão "curtir"?
JD: Bem, em primeiro lugar,
meu objetivo pessoal com o serviço é que acredito fundamentalmente
que a conversa pública é crucial.
O mundo inteiro está enfrentando problemas existenciais,
não apenas um estado-nação em particular,
de que o debate público global se beneficia.
E essa é uma das dinâmicas únicas do Twitter:
ser completamente aberto,
completamente público, fluído,
e qualquer um pode ver qualquer conversa e participar dela.
Há conversas como a mudança climática.
Há conversas como perda de vagas de emprego
por causa da inteligência artificial.
Há conversas como disparidade econômica.
Não importa o que qualquer estado-nação faça,
ele não será capaz de resolver o problema sozinho.
É preciso coordenação com o resto do mundo,
e é aí que acho que o Twitter pode desempenhar um papel.
A segunda coisa é que o Twitter, como é hoje, quando você acessa,
não sai sentindo necessariamente que aprendeu alguma coisa.
Algumas pessoas sentem
e possuem uma rede muito rica,
uma comunidade muito rica com a qual aprendem todos os dias.
Mas é preciso muito trabalho e muito tempo para construir isso.
Queremos levar as pessoas para esses tópicos e interesses
de forma muito mais rápida
e assegurar que elas encontrem algo que,
não importa quanto tempo elas passem no Twitter,
e não quero maximizar o tempo no Twitter,
quero maximizar o que elas realmente tiram de lá
e o que aprendem com isso, e...
CA: Bem, essa é a questão central que muita gente quer saber.
Certamente, Jack, você está limitado, em grande medida,
pelo fato de ser uma empresa pública, ter investidores te pressionando,
sua principal fonte de dinheiro ser a publicidade
e isso depende do envolvimento do usuário.
Você está disposto a sacrificar o tempo do usuário, se necessário,
para ir para uma conversa mais reflexiva?
JD: Sim, mais relevância significa menos tempo no serviço,
e isso está perfeitamente bem,
porque queremos ter certeza de que a pessoa acesse o Twitter
e veja algo imediatamente com que aprenda e divulgue.
Ainda podemos veicular um anúncio aí.
Não significa que precisa de mais tempo para ver mais.
A segunda coisa...
CA: Nesse objetivo, uso ativo diário, se você está medindo isso,
não significa necessariamente coisas que as pessoas valorizam todo dia.
Podem ser coisas para as quais as pessoas são atraídas,
como a mariposa para a luz, todo dia... somos viciados.
Vemos algo que nos irrita,
aí entramos e jogamos lenha na fogueira,
e o uso ativo diário aumenta, e há mais receita publicitária,
mas todos ficamos com mais raiva uns dos outros.
Como você define...
"uso ativo diário" parece ser realmente um termo perigoso para otimizar.
(Aplausos)
JD: Tomado sozinho, é,
mas você não me deixou terminar a outra métrica,
que é estarmos atentos a conversas
e cadeias de conversas.
Queremos incentivar contribuição saudável de volta à rede,
e acreditamos que isso possa ser feito participando de conversas saudáveis,
definidas por aqueles quatro indicadores que mencionei anteriormente.
Por isso não podemos otimizar apenas uma métrica.
Temos de equilibrar e olhar constantemente
o que realmente vai criar uma contribuição saudável para a rede
e uma experiência saudável para as pessoas.
No final, queremos chegar a uma métrica em que as pessoas nos digam:
"Ei, aprendi algo no Twitter, e estou saindo com algo de valor".
Esse é o nosso objetivo, mas vai levar algum tempo.
CA: Para muitos, e para mim, você é um enigma.
Isso é possivelmente injusto, mas acordei uma noite dessas
com uma imagem de como eu via você e a situação:
estamos numa viagem ótima com você num navio chamado "Twittanic"...
(Risos)
e há pessoas a bordo na terceira classe
que estão expressando desconforto,
e você, ao contrário de muitos outros comandantes,
está dizendo: "Bem, me contem, falem comigo, quero ouvir".
E elas dizem: "Estamos preocupados com o iceberg à frente".
Você diz: "Essa é uma questão importante,
e nosso navio, francamente, não foi feito para ser dirigido como deveria".
E lhe pedimos: "Por favor, faça algo".
Você vai à cabine de comando, e ficamos esperando, observando
e você demonstra uma calma extraordinária,
mas todos nós estamos do lado de fora, dizendo: "Jack, vire essa porra de leme!"
Sabe?
(Risos)
(Aplausos) (Vivas)
É a democracia em jogo,
é a nossa cultura e nosso mundo em jogo,
e o Twitter é incrível e molda muito.
Não é tão grande quanto outras plataformas,
mas as pessoas de influência usam-no para definir a agenda,
e é difícil imaginar um papel mais importante no mundo do que para...
quero dizer, você está fazendo um trabalho brilhante de ouvir as pessoas, Jack,
mas é preciso ressaltar a urgência e trabalhar nisso.
Você pretende fazer isso?
JD: Sim, e estamos nos movendo significativamente.
Tem havido algumas dinâmicas na história do Twitter.
Uma, quando voltei para a empresa,
estávamos num estado terrível em termos do nosso futuro,
não apenas como as pessoas estavam usando a plataforma,
mas nossa narrativa corporativa também.
Tivemos de consertar muito da fundação,
revirar a empresa,
passar por duas demissões em massa malucas,
porque ficamos grandes demais para o que estávamos fazendo,
e concentramos toda nossa energia
no conceito de servir à conversa pública.
E isso exigiu muito trabalho.
E, quando mergulhamos nisso,
percebemos alguns dos problemas com os fundamentos.
Poderíamos fazer um monte de coisas superficiais
para abordar o que você está falando, mas precisamos de mudanças duradouras,
e isso significa ir mais fundo
e prestar atenção ao que começamos há 13 anos,
questionando de fato
como o sistema e a estrutura funcionam
e o que é necessário para o mundo hoje,
dada a rapidez como tudo está se movendo e as pessoas o estão usando.
Trabalhamos o mais rápido possível, mas rapidez não vai resolver.
É o foco, é a priorização,
é entender os fundamentos da rede
e construir uma estrutura que se ajuste,
que seja resiliente à mudança,
e ser abertos e transparentes sobre onde estamos
para que possamos continuar a merecer confiança.
Por isso estou orgulhoso das estruturas que estabelecemos.
Estou orgulhoso da nossa direção.
Obviamente podemos nos mover mais rápido,
mas isso demandaria
simplesmente evitar um monte de coisas estúpidas que fazíamos no passado.
CA: Suspeito que há muitas pessoas aqui que, se tivessem a chance,
adorariam ajudá-lo nessa sua agenda de mudança
e, não sei a Whitney...
Jack, obrigado por vir aqui e falar tão abertamente.
Foi preciso coragem.
Muito obrigado pelo que você falou e boa sorte com sua missão.
JD: Muito obrigado. Obrigado por me receber.
(Aplausos)
Obrigado.