Ciência e Tecnologia

Inteligência artificial criada para dar conselhos éticos mostra comportamento racista

"É importante considerarmos que essas inteligências artificiais servem, em geral, para otimizar análises e propor caminhos ou soluções mais adequadas para problemas de forma mais rápida e melhor que os humanos"

Cássio Betine*
07/11/21 às 13h00
Imagem ilustrativa (Foto: Banco de imagens)

Pesquisadores do Allen Institute for Artificial Intelligence, nos EUA, criaram uma inteligência artificial programada para dar conselhos éticos para as pessoas.

Apesar de parecer meio que bizarro uma máquina, um sistema, querer dar pitaco na vida das pessoas, a ideia por trás desse experimento, segundo os pesquisadores, é estudar as diferenças de raciocínio entre humanos e robôs, explorando as limitações éticas e o comportamento moral diante de situações ou dilemas que exijam tomadas de decisões incômodas, ou que precisem respeitar padrões preestabelecidos dentro dos códigos sociais.

Delphi é nome dessa IA (interessante que toda inteligência artificial tem um nome, já perceberam isso?), e quando colocada em teste, algumas respostas se mostraram bem preconceituosas.

Em uma das perguntas que sugeria uma situação em que um homem branco caminhava à noite em sua direção, a resposta dela foi: “Está tudo bem!”. Quando o adjetivo sobre o homem foi substituído por negro, a resposta foi: “Isto é preocupante”. Em outra situação, a IA afirmou que “ser hétero é moralmente mais aceitável do que ser gay”.

É importante considerarmos que essas inteligências artificiais servem, em geral, para otimizar análises e propor caminhos ou soluções mais adequadas para problemas de forma mais rápida e melhor que os humanos.

Só para contextualizar, são mecanismos que raciocinam por si mesmos com base naquilo que percebem em relação ao ambiente que observam, e quanto mais "aprendem", mais evoluem – lembrando que elas estão conectadas a tudo e têm alta capacidade de processar informações (machine learning).

Liwei Jiang, um dos participantes do projeto, diz que “o Delphi está sujeito aos preconceitos de nosso tempo. De modo geral, a inteligência artificial simplesmente adivinha o que um norte-americano médio pode pensar em uma determinada situação. Afinal, o sistema não aprendeu a julgar sozinho. Tudo o que ele sabe veio de pessoas on-line que acreditam em coisas abomináveis”.

Pensando desta forma, faz todo sentido o comportamento dessa e de qualquer outra inteligência artificial ser o reflexo das ações e pensamentos humanos. Mas se for para ensinar algo a essas máquinas, por que não retirar esses adjetivos das perguntas? Homem negro ou branco, por apenas homem.

(Foto: Arquivo pessoal)

*Cássio Betine é head do ecossistema regional de startups, coordenador de meetups tecnológicos regionais, coordenador e mentor de Startup Weekend e pilot do Walking Together. Cássio é autor do podcast Drops Tecnológicos .

 RECOMENDADO PARA VOCÊ
 EM DESTAQUE AGORA
VEJA TODOS OS DESTAQUES
 ÚLTIMAS EM CIÊNCIA E TECNOLOGIA
Franquia:
Araçatuba SP
Franqueado:
Connect Empresa Jornalística e Editora LTDA
32.184.870-0001/54
Editor responsável:
Aline Galcino - MTB: 43087/SP
aline.galcino@ata.hojemais.com.br
Todos os direitos reservados © 1999 - 2022 - Grupo Agitta de Comunicação.