Inteligência artificial no mundo reproduz domínio da cultura ocidental e colonialista? (VÍDEO)

Seja na segurança pública, na educação ou em atividades corriqueiras, o uso da inteligência artificial registrou um boom nos últimos anos, e o mercado deve movimentar US$ 1,3 trilhão (R$ 6,5 trilhões) até 2032. Junto com a popularidade, vieram também diversos questionamentos sobre limites e reprodução de velhos problemas sociais.

Termo que se tornou popular nos últimos anos, a inteligência artificial (IA) já está nos registros científicos desde a década de 1940, quando modelos computacionais simulavam as redes neurais do cérebro.

Com o tempo, ganhou as mais diversas aplicações e passou a ser acessível até na palma da mão, através de um smartphone. Empresas como a norte-americana OpenAI ou desenvolvedoras de softwares de reconhecimento facial para a segurança pública estão cada vez mais presentes no cotidiano da população. Desenvolvidas principalmente nas grandes potências ocidentais, essas plataformas reproduzem uma cultura colonialista?

Para responder a essa pergunta, a Sputnik Brasil convidou o professor do Instituto de História da Universidade Federal Fluminense (UFF) Paulo Cruz Terra, que participa do projeto de pesquisa internacional "Governança algorítmica e culturas de policiamento: perspectivas comparativas da Noruega, Índia, Brasil, Rússia e África do Sul". E exemplos da utilização ruim não faltam mundo afora: é o caso do desenvolvimento, via inteligência artificial, de um site falso do Hamas, que passou a disseminar conteúdos de ódio e desinformação contra cidadãos palestinos a partir de um endereço eletrônico hospedado em Israel.

"As principais empresas formuladoras dessa tecnologia são dos países centrais do capitalismo mundial, e estão ligadas principalmente à Europa e aos Estados Unidos. Muitas delas foram criadas, como os softwares de tecnologia de reconhecimento facial, utilizando dados dos países em desenvolvimento. E podemos perceber determinadas concepções que envolvem as questões raciais, de classe e, inclusive, uma perspectiva colonial, presente não só no pensamento, mas em como isso se materializa na própria construção desses softwares", resume o especialista.

Ele lembra ainda que nas ferramentas adotadas pela segurança pública que possuem inteligência artificial essas questões são ainda mais latentes.

Para Terra, muitos acreditavam que o passado escravagista que sempre foi perpetuado na atuação do setor iria desaparecer com os modernos softwares.

"Mas, na verdade, a tecnologia atualiza todo um processo discriminatório que existe, com o racismo sendo um elemento de continuidade, pensado por exemplo no reconhecimento fotográfico [de um possível criminoso], em que muitos homens, principalmente jovens negros, são presos injustamente. E a gente vê esse elemento presente na tecnologia de reconhecimento facial, em que, novamente, a grande maioria dos injustamente presos são negros", aponta.

🖥📽📌 A Sputnik Brasil conversou com o historiador Paulo Cruz Terra, pesquisador do projeto internacional "Governança algorítmica culturas de policiamento: perspectivas comparativas da Noruega, Índia, Brasil, Rússia e África do Sul", que explicou as consequências do uso da… pic.twitter.com/Jc3yCOpUMj

— Sputnik Brasil (@sputnik_brasil) April 4, 2024

Quais são os 4 tipos de inteligência artificial?

Na indústria dominada pelas empresas ocidentais, existem quatro tipos principais de inteligência artificial: aprendizado de máquina, processamento de linguagem natural, visão computacional e robótica inteligente. Em todos eles podem ser encontrados vários casos em que estigmas relacionados a gênero, classe e raça são replicados.

"Esses softwares ainda mostram uma menor acurácia na detecção dos rostos negros e também um problema na identificação das pessoas transgênero. Nunca podemos esquecer que esses são softwares produzidos por humanos, apesar de existir o componente do machine learning, que é o próprio processo de aprendizado do software ao longo do tempo", acrescenta o especialista.

Um episódio recente, conforme Terra, é outro exemplo da reprodução dos preconceitos típicos da civilização ocidental: é o caso da deputada estadual do Rio de Janeiro Renata Souza (Psol), que acessou uma ferramenta pública que gera imagens a partir de um comando escrito.

"Quando ela pediu uma imagem dela própria, com uma favela ao fundo, esse software produziu uma imagem dela com uma arma na mão. Então eu acho que esse é um exemplo bem concreto de como os preconceitos também estão permeados de várias maneiras na utilização da inteligência artificial, e a gente tem sempre que se lembrar que nenhum desses recursos é neutro", explica.

Já em São Paulo, um edital da prefeitura para a implementação do projeto Smart Sampa previa a compra de câmeras com tecnologia de reconhecimento facial para "identificação da vadiagem" — o termo chegou a ser incluído no Código Criminal de 1830, ainda durante o Império brasileiro, e só deixou de ser considerado um crime em 1940, quando a nova legislação foi sancionada pelo então presidente, Getúlio Vargas. Considerada racista, a vadiagem é vinculada a indivíduos que não possuem trabalho e se dedicam à ociosidade, sendo até hoje considerada uma contravenção.

"Vemos, por um lado, uma tecnologia que se apresenta como moderna, quase o futuro nesse caso do serviço de policiamento, e muitas vezes um estigma que tem cor, que é a questão da vadiagem, do não trabalho, associado com a criminalidade", enfatiza o professor da UFF.

O professor de engenharia de software da Universidade de Brasília (UnB) e coordenador do Laboratório de Tecnologias Educacionais (LaTEd), Vandor Rissoli, acrescenta que a IA é desenvolvida por seres humanos que podem, no decorrer do processo, fazer essas replicações.

"Pode vir a acontecer, equipes trabalhando em uma solução que envolva inteligência artificial, que estejam encantadas com o potencial daquilo que estão conseguindo chegar como objetivo e se tornam um pouco descuidadas em algum momento do projeto com esse trato que é relevante, de aspectos que envolvam características de classe, raça, gênero e comportamento", afirma.

'Aura quase mágica no nosso contemporâneo'

Para Paulo Cruz Terra, a inteligência artificial no mundo contemporâneo ganhou uma "aura quase mágica" e, diante disso, é fundamental o letramento digital da população sobre a tecnologia, que pode vir com uma possível regulamentação.

No Brasil, o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em 2022 um projeto de lei que cria regras para o setor no país, e só no ano passado foi formada uma comissão com especialistas para debater o assunto. Em todo o mundo, o número de regras aprovadas saltou de apenas 1 em 2016 para 37 em 2022, segundo o especialista.

"É interessante apontar que, no caso do Brasil, a questão da inteligência artificial está presente também no debate sobre a reforma do Código Civil, em que aparecem algumas coisas, por exemplo que as pessoas ao interagirem com sistemas que possuem a utilização da inteligência artificial sejam sempre advertidas [o que ajuda também a criar o letramento digital]. Uma outra questão curiosa nessa discussão é sobre a utilização da imagem de pessoas vivas ou mortas, e nesse caso o texto por enquanto diz que só pode ocorrer com consentimento da pessoa ou dos familiares, também respeitando a questão da dignidade e da reputação do legado dessa pessoa", explica.

Além disso, o historiador vê que os usos e as possibilidades da IA se multiplicam a cada dia, o que também é um desafio até para regulamentações já aprovadas. "Um ponto fundamental é que está previsto em quase todas as tentativas de regulação que, enquanto usuário, que sejamos avisados de que estamos lidando com uma produção que utiliza a inteligência artificial, em um filme, uma peça comercial ou nas redes sociais. Mas a regulação de certa forma estará correndo um pouco atrás. É uma tecnologia que vem se desenvolvendo de maneira muito rápida, e as tentativas de regulação tentam dar conta, mas eu acho que sempre a reboque."

Como funciona o reconhecimento facial?

Presente no celular, em um aplicativo de banco e nos governos, o reconhecimento facial é uma tecnologia que tem a capacidade de detectar e coletar características que geram uma identidade transformada em um código numérico, a exemplo da digital do polegar. Mas os casos de erros gerados pela tecnologia, principalmente na segurança pública, têm gerado campanhas mundiais da sociedade civil, como o "Tire meu rosto da sua mira", quando só em 2022 foram apresentados mais de 50 projetos legislativos para banir a ferramenta no setor.

"Interessante perceber que esse movimento da sociedade civil é global, e em algumas localidades surtiu efeito. Cidades dos Estados Unidos, como o caso de São Francisco, o uso de inteligência artificial, da tecnologia de reconhecimento facial, foi banido nas agências do governo. Então é um movimento que é fundamental para mostrar os perigos que a utilização dessa tecnologia traz. E um questionamento que eu acho que é fundamental é que a tecnologia por si só não resolve os problemas de segurança pública, seja no Brasil, seja na Índia, seja na Noruega ou na África do Sul", exemplifica.

Quais as desvantagens do uso da inteligência artificial?

O professor de engenharia de software da UnB ressaltou que também há riscos que podem ser disseminados pelos sistemas de IA na sociedade, inclusive pelas gestões públicas. "Governos podem fazer uso dessas tecnologias para coisas que seriam muito interessantes à comunidade, como também não seriam tão interessantes para a comunidade, mas de interesse de grupos e pessoas em específico. Então a tecnologia é um recurso que pode auxiliar a nossa humanidade, mas também pode, como vem inadequadamente sendo utilizado, não trazer bons frutos assim."

Já a mestre em estudos estratégicos internacionais pela Universidade Federal do Rio Grande do Sul (UFRGS) Rafaela Vechiato lembra ainda do uso para espalhar notícias falsas e até deslegitimar fontes. "Você cria aquela confusão e a dúvida sobre o que eu posso acreditar, se essa fonte é fiel, em quem eu posso confiar, porque essa manipulação de vídeo, por exemplo, é perfeita e hoje em dia é muito difícil você conseguir distinguir", argumenta.

Acompanhe as notícias que a grande mídia não mostra!

Siga a Sputnik Brasil e tenha acesso a conteúdos exclusivos no nosso canal no Telegram.

Já que a Sputnik está bloqueada em alguns países, por aqui você consegue baixar o nosso aplicativo para celular (somente para Android).

Também estamos nas redes sociais X (Twitter) e TikTok.