Quero contar-vos uma história
sobre inteligência artificial e agricultores.
Que combinação estranha, não é?
Dois temas que não podiam soar mais diferentes um do outro.
Mas sabiam que a agricultura moderna envolve muita tecnologia?
A visão por computador é usada para prever o rendimento das colheitas.
E a inteligência artificial é usada para encontrar,
identificar e eliminar os insetos.
A análise preditiva ajuda a prever condições climatéricas extremas
como secas ou furacões.
Mas esta tecnologia também é alienante para os agricultores.
E tudo isto chegou ao seu auge em 2017
com a empresa de tratores John Deere, quando lançaram os tratores inteligentes.
Antes disso, se o trator de um agricultor se avariasse,
eles próprios podiam repará-lo ou levá-lo a um mecânico.
Bom, a empresa fez com que fosse ilegal
os agricultores consertarem o seu próprio equipamento.
Tinham de recorrer a um técnico licenciado
e os agricultores esperavam semanas
enquanto as suas colheitas apodreciam e as pragas tomavam conta delas.
Portanto, resolveram o problema com as suas próprias mãos.
Alguns aprenderam a programar
e trabalharam com hackers para criar correções para reparar os sistemas.
Em 2022,
numa das maiores conferências de hackers do mundo, a DEFCON,
um hacker chamado Sick Codes e a sua equipa
mostraram a todos como aceder a um trator John Deere,
mostrando que, antes de mais, a tecnologia era vulnerável,
mas também que podiam e deviam possuir o seu equipamento.
Para ser clara, isto é ilegal,
mas há pessoas a tentar mudar isso.
Agora, esse movimento chama-se “direito à reparação”.
O direito à reparação é mais ou menos assim.
Se possui uma peça de tecnologia,
pode ser um trator, uma escova de dentes inteligente,
uma máquina de lavar roupa,
temos de ter o direito de a reparar em caso de avaria.
Porque é que estou a contar-vos esta história?
O direito à reparação tem de se estender à inteligência artificial.
Agora parece que todas as semanas
há uma nova e alucinante inovação na IA.
Mas vocês sabiam que a confiança pública está a diminuir?
Uma sondagem recente da Pew mostrou que há mais americanos
mais preocupados do que entusiasmados com a tecnologia.
Isto reflete-se em todo o mundo.
A World Risk Poll mostra
que os inquiridos da América Central e do Sul e da África
disseram que achavam que a IA
faria mais mal do que bem aos seus povos.
Como cientista social e criadora de IA, isto frustra-me.
Eu sou otimista tecnológica
e acredito realmente que esta tecnologia pode levar ao bem.
Então, qual é o problema?
Bem, falei com centenas de pessoas nos últimos anos.
Arquitetos e cientistas, jornalistas e fotógrafos,
motoristas de serviços e médicos,
e todos dizem a mesma coisa.
As pessoas sentem-se como se tivessem sido esquecidas.
Todos sabem que os seus dados são recolhidos muitas vezes sem permissão
para criar estes sistemas sofisticados.
Sabem que estes sistemas estão a determinar as oportunidades da vida.
Sabem também que nunca ninguém se preocupou em perguntar-lhes
como construir o sistema,
e certamente não sabem a quem recorrer se algo correr mal.
Podemos não ser donos dos sistemas de IA,
mas eles estão a dominar lentamente a nossa vida.
Precisamos de um feedback melhor
entre as pessoas que estão a fabricar estes sistemas,
e as pessoas que estão mais determinadas a dizer-nos
como estes sistemas de IA devem interagir no seu mundo.
Um passo nesse sentido é um processo chamado "red teaming".
Ora, o red teaming é uma prática que começou nos meios militares
e é usada na cibersegurança.
Num exercício tradicional de red teaming,
são recrutados peritos externos para entrar num sistema,
tal como o Sick Codes fez com os tratores, mas de forma legal.
O red teaming funciona como uma forma de testar as nossas defesas
e quando conseguimos descobrir quando algo vai correr mal,
podemos descobrir como consertá-lo.
Mas quando os sistemas de IA se tornam desonestos,
é pior do que a invasão de um hacker.
O modelo pode funcionar mal ou deturpar a realidade.
Por exemplo, ainda há pouco tempo,
vimos um sistema de IA a tentar a diversidade
mostrando fotos historicamente imprecisas.
Qualquer um com compreensão básica da história ocidental
podia ter-vos dito que nem os Pais Fundadores
nem os soldados da era nazi eram negros.
Num caso destes, quem é que pode ser considerado um perito?
Somos nós.
Eu estou a trabalhar com milhares de pessoas em todo o mundo
em grandes e pequenos exercícios de red-teaming,
e através deles encontrámos e corrigimos erros nos modelos de IA.
Trabalhámos também
com algumas das maiores empresas tecnológicas mundo:
a OpenAI, a Meta, a Anthropic, a Google.
E assim, fizemos com que os modelos funcionem melhor para mais pessoas.
Aqui está um pouco do que aprendemos.
Fizemos uma parceria com a Royal Society em Londres
para realizar um evento científico de desinformação
com cientistas de doenças.
O que eles descobriram
é que os modelos de IA tinham muitas proteções
contra a desinformação sobre o COVID.
Mas para outras doenças como o sarampo, a papeira e a gripe,
as mesmas proteções não se aplicavam.
Relatámos estas alterações,
elas foram corrigidas e agora estamos todos mais protegidos
contra a desinformação científica e a desinformação.
Fizemos um exercício muito semelhante com os arquitetos da Autodesk University,
e fizemos-lhes uma pergunta simples:
A IA vai pô-los no desemprego?
Ou, mais especificamente,
conseguem imaginar um sistema de IA moderno
capaz de projetar as especificações de um museu de arte moderna?
A resposta foi, retumbantemente, não.
Eis porquê: os arquitetos não desenham apenas edifícios.
Têm de compreender a física e a ciência dos materiais.
Têm de conhecer as normas de construção
e têm de o fazer
enquanto criam algo que evoca emoção.
O que eles queriam era um sistema de IA
que interagisse com eles, que lhes desse feedback,
oferecesse proativamente recomendações de design.
E os sistemas de IA de hoje ainda não chegaram a esse ponto.
Mas esses são problemas técnicos.
Quem constrói IA é bastante inteligente
e talvez possam resolver tudo isso daqui a uns anos.
Mas essa não era a sua maior preocupação.
A sua maior preocupação era a confiança.
Os arquitetos são responsáveis se algo correr mal com os seus edifícios.
Podem perder a licença,
podem ser multados, podem até ir para a prisão.
E as falhas podem acontecer de um milhão de maneiras diferentes.
Por exemplo, portas de saída que abrem na direção errada
levando as pessoas a serem esmagadas numa crise de evacuação,
ou vidros partidos a chover sobre os peões na rua
porque o vento soprou demasiado forte e estilhaçou as janelas.
Porque é que um arquiteto confiará a um sistema de IA o seu trabalho,
ou a sua liberdade literal,
se não puder aceder ao mesmo e corrigir um erro se o encontrar?
É preciso resolver estes problemas hoje, e vou dizer-vos porquê.
A próxima vaga de sistemas de inteligência artificial,
designada por IA de agente,
é um ponto de viragem
entre se mantemos ou não a atividade humana,
ou se os sistemas de IA tomam ou não as nossas decisões por nós.
Imaginem um agente de IA como uma espécie de assistente pessoal.
Como, por exemplo, um médico pode determinar
se a vossa família precisa ou não de consultas médicas,
poderá reabastecer medicamentos prescritos ou, em caso de emergência,
enviar registos médicos para o hospital.
Mas os agentes da IA não podem nem vão existir
a menos que tenhamos o direito à reparação.
Que pai confiaria a saúde do seu filho a um sistema de IA
a não ser que pudesse efetuar alguns diagnósticos básicos?
Que profissional confiaria a um sistema de IA, decisões de trabalho,
a não ser que o pudesse treinar como faria com um colaborador júnior?
Ora bem, o direito à reparação pode ser algo como isto.
Poderá ter um quadro de diagnóstico
onde efetua testes básicos, concebidos por nós,
e, se algo estiver errado, pode comunicá-lo à empresa
e saber quando o erro estiver resolvido.
Ou pode trabalhar com terceiros, como hackers éticos,
que criam correções para sistemas como fazemos hoje.
Pode transferi-las e usá-las para melhorar o seu sistema
da forma como quer que seja melhorado.
Ou pode fazer como estes intrépidos agricultores
e aprender a programar e afinar os seus próprios sistemas.
Só obteremos os benefícios prometidos da inteligência artificial
se envolvermos as pessoas no processo do desenvolvimento.
Dediquei a minha carreira a uma IA responsável
e, nessa área, fazemos a pergunta:
o que podem as empresas construir para as pessoas confiarem na IA?
Agora, através destes exercícios de red-teaming e ao falar convosco,
percebi que estivemos sempre a fazer a pergunta errada.
O que devíamos ter perguntado é: que ferramentas podemos construir
para as pessoas poerem tornar a IA benéfica para se mesmas?
Os tecnólogos não podem fazê-lo sozinhos.
Só o podemos fazer convosco.
Obrigada.
(Aplausos)