O Estado de São Paulo, n. 46797, 02/12/2021. Link p.B20
As supermáquinas ainda têm dificuldade de lidar com temas que extrapolam a lógica matemática, como a moralidade
Pesquisadores de um laboratório de inteligência artificial em Seattle chamado Instituto Allen para Inteligência Artificial revelaram uma nova tecnologia no mês passado que foi projetada para fazer julgamentos morais. Eles a chamaram de Delphi, em homenagem ao oráculo religioso consultado pelos antigos gregos. Qualquer pessoa pode visitar o site da Delphi e solicitar uma norma ética.
Joseph Austerweil, psicólogo da Universidade de Wisconsin-madison, testou a tecnologia com alguns cenários. Quando perguntou se deveria matar uma pessoa para salvar outra, a Delphi respondeu que não. Quando perguntou se era certo matar uma pessoa para salvar outras 100, a resposta foi sim. Ele, então, perguntou se deveria matar alguém para salvar outras 101. Desta vez, a Delphi disse que não deveria. Ou seja: o tema da moralidade parece tão difícil para as supermáquinas quanto para os humanos.
PRECONCEITOS. A Delphi, que recebeu mais de 3 milhões de visitas nas últimas semanas, é um projeto para resolver o que alguns veem como um grande problema nos sistemas de IA: ferramentas de reconhecimento facial e assistentes digitais deixam transparecer preconceito de sexo e raça.
Redes sociais como Facebook e Twitter fracassaram em controlar o discurso de ódio. Algoritmos usados por tribunais, repartições de liberdade condicional e departamentos de polícia emitem recomendações de liberdade condicional e sentenças que são arbitrárias.
Um número cada vez maior de cientistas da computação e especialistas em ética está trabalhando em problemas como esses. E a Delphi espera construir uma estrutura ética a ser instalada em qualquer serviço online.
'CONSCIENTES'. "É um primeiro passo para tornar os sistemas de IA melhor informados eticamente, socialmente conscientes e culturalmente inclusivos", disse Yejin Choi, pesquisadora do Instituto Allen e líder do projeto.
A linguagem Delphi é fascinante, frustrante e perturbadora. É também um lembrete de que a moralidade de qualquer criação tecnológica é produto daqueles que a constroem. A questão é: quem ensina ética às máquinas? Pesquisadores de IA? Gerentes de produto? Mark Zuckerberg? Filósofos e psicólogos treinados?
Embora alguns tecnólogos tenham aplaudido a equipe de Choi por explorar uma área importante e espinhosa da pesquisa tecnológica, outros argumentaram que a própria ideia de uma máquina moral é absurda. "Isso não é algo que a tecnologia faz muito bem", disse Ryan Cotterell, pesquisador de IA na ETH Zürich, da Suíça, que se deparou com a Delphi em seus primeiros dias online.
A Delphi é o que os pesquisadores de inteligência artificial chamam de rede neural, sistema matemático vagamente modelado na teia de neurônios do cérebro humano. É a mesma tecnologia que reconhece comandos de voz em smartphones e identifica pedestres e placas de rua à medida que carros autônomos percorrem as rodovias.
COMO FUNCIONA. Uma rede neural aprende analisando grandes quantidades de dados, e a Delphi construiu seu código moral ao analisar mais de 1,7 milhão de julgamentos éticos de seres humanos reais.
Depois de reunir milhões de cenários diários de sites e outras fontes, o Instituto Allen pediu aos funcionários de um serviço online – pessoas comuns pagas para fazer trabalho digital em empresas como a Amazon – que identificassem cada uma das questões como certa ou errada. Em seguida, inseriram todos esses dados na Delphi.
Em artigo acadêmico que descreve o sistema, Choi e sua equipe perguntaram a um grupo de juízes humanos – novamente, funcionários digitais – se achavam que os julgamentos éticos da Delphi eram precisos em até 92%. Depois de colocarem na internet aberta, muitos outros concordaram que o sistema era surpreendentemente sábio.
Quando Patricia Churchland, filósofa da Universidade da Califórnia, em San Diego, perguntou se seria certo "deixar o próprio corpo para a ciência" ou mesmo "deixar o corpo do filho para a ciência", a Delphi disse que sim. Quando ela perguntou se era certo "condenar um homem acusado de estupro com base nas evidências de uma prostituta", a Delphi disse que não – resposta controversa, para se dizer o mínimo.
Não obstante, ela ficou impressionada com a capacidade de resposta, apesar de o sistema ainda ser alvo de críticas.
_______________________________________________________________________________________________________________________
Frances Haugen, delatora do Facebook, voltou a pedir regulação da rede social e de outras grandes empresas de tecnologia diante de congressistas americanos. Ontem, a ex-funcionária da rede social participou de audiência do Comitê de Energia e Comércio da Câmara dos EUA. A audiência faz parte de uma série de debates sobre mudanças na Seção 230, lei de 1996 que regula a liberdade de expressão e a moderação de conteúdo na internet.
"O Facebook pode mudar de nome, mas, a menos que mude seus produtos, continuará a prejudicar a segurança de nossas comunidades e a ameaçar a integridade de nossa democracia", afirmou ela, em seu discurso em referência à mudança de nome do Facebook para Meta.
Há, entre congressistas democratas e republicanos, consenso de que a lei precisa ser alterada para responsabilizar as grandes empresas de tecnologia sobre a forma como os conteúdos são distribuídos nessas plataformas.
Porém, há divergências sobre a essência do que deve motivar a regulação: republicanos se preocupam principalmente em questionar restrições a conteúdos e perfis conservadores em plataformas digitais, enquanto democratas culpam as empresas por permitir a disseminação de desinformação e discurso de ódio na internet.
Percebendo a possibilidade de unificar os dois lados, Frances disse: "O Facebook quer que vocês se enrolem em um longo debate sobre os detalhes de diferentes abordagens legislativas. Não caiam nesta armadilha. O tempo é importante", afirmou. Ela pediu aos legisladores que abram a caixa-preta do Facebook porque a empresa não teria os incentivos para ser transparente.
"Estamos aqui por causa de decisões tomadas pela liderança do Facebook. Durante meu período na companhia, o Facebook repetidamente encontrava conflito entre os seus lucros e a segurança dos usuários. A chefia sempre solucionava os problemas em favor de seus lucros", disse./ BRUNO ROMANI