Veja quais são os perigos em usar o ChatGPT

A inteligência artificial (IA) tem se desenvolvido exponencialmente, e uma das mais faladas inovações é o ChatGPT. Para entender o funcionamento e as implicações dessas ferramentas, o podcast Jabuticaba Sem Caroço, da Sputnik Brasil, entrevistou pesquisadores que explicaram as potencialidades e os riscos do uso desses aplicativos.

O professor de computação da Faculdade de Computação e Informática (FCI) da Universidade Presbiteriana Mackenzie Fábio Lopes explica que o ChatGPT permite interação em linguagem natural, respondendo a perguntas e fornecendo informações com base em um vasto repositório de dados.

A ferramenta pode aprender em diferentes idiomas e oferece respostas construídas a partir da análise de diversos textos.

No entanto, uma das principais limitações é sua capacidade de fornecer informações datadas somente até 2021, embora a versão 4.0, que é paga, conte com atualizações mais recentes.

Inteligência artificial (imagem de referência)

© Foto / geralt

No mercado, ferramentas concorrentes, como o Bard, da Google, também estão em constante evolução para oferecer melhores funcionalidades.

Lopes destaca que tais serviços não se limitam a ser apenas um chatbot, mas representam uma categoria mais avançada de IA. Enquanto os chatbots tradicionais respondem de maneira predefinida, o ChatGPT e o Bard são capazes de compreender as perguntas e buscar respostas.

E é aqui que a tecnologia ganha novas discussões.

Em entrevista aos jornalistas Thaiana de Oliveira e Maurício Bastos, do podcast Jabuticaba Sem Caroço, o professor ressalta que nem sempre as respostas da ferramenta são corretas ou apropriadas. Como os usuários têm a possibilidade de influenciar o retorno, é fundamental ter discernimento ao avaliar as informações fornecidas.

Quando se trata de questões legais, Lopes esclarece que desde que o ChatGPT utilize apenas dados públicos disponíveis na Internet, não deverá infringir a Lei Geral de Proteção de Dados (LGPD).

No entanto, ele alerta que o problema pode surgir se a IA tiver acesso a informações sensíveis e não públicas, o que não é o caso atual. "A LGPD fala, por exemplo, que a empresa que tem o meu dado tem de resguardar eles. Ela não pode tornar público sem o meu consentimento."

Tem plágio no ChatGPT?

Lopes ressalta que o ChatGPT não copia, mas constrói texto a partir de algoritmos, com base em informações públicas, disponíveis na Internet. "É como se ele estivesse criando com a própria autoria dele."

Coordenador do Centro de Ensino e Pesquisa em Inovação (CEPI) da Fundação Getulio Vargas (FGV), Alexandre Pacheco da Silva ressalta que os usuários têm de estar atentos aos perigos da ferramenta, sobretudo no uso no trabalho ou na educação, já que o ChatGPT e outros serviços semelhantes se encontram em estágio de desenvolvimento e ainda possuem uma série de discussões atreladas.

Ele comenta que informações equivocadas produzidas pelo chat, por exemplo, não necessariamente são de responsabilidade da ferramenta ou da empresa que a detém.

"Ela pode inventar informação que não existe, dar informação incompleta ou passar uma falsa impressão sobre algum episódio histórico, por exemplo. Mas o que a gente vai fazer? A gente vai eliminar esse conteúdo? A gente vai corrigir essa informação e dizer que ela não vai poder mais fazer parte de respostas de outros usuários? Mas quantos outros usuários já receberam essa mesma resposta?"

Segundo ele, a IA generativa é uma tecnologia em constante evolução, sendo necessário mapear os riscos associados a ela. "A gente deveria agora estar mapeando quais são os riscos efetivos dessa tecnologia e produzindo boa informação para o debate público, para que eventualmente a gente possa regular com um pouco mais de assertividade, segurança, e assim por diante."

Um dos organizadores do livro "Direito Autoral e Internet", Silva ressalta que muitos autores não têm devido reconhecimento, mesmo antes do ChatGPT. "A gente tem que se perguntar, na prática, dessa massa de dados disponível hoje na Internet, quais são protegidos por direitos autorais?"

Ele observa que a remuneração é complexa e que diferentes tipos de obras podem exigir abordagens distintas.

Em maio, o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou projeto de lei que estabelece diretrizes gerais para o desenvolvimento, a implementação e o uso da inteligência artificial no Brasil. O texto segue em tramitação e apresenta cinco pilares: princípios; direitos dos afetados; classificação de riscos; obrigações e requisitos de governança; e supervisão e responsabilização.

Outro exemplo, segundo o professor, é a abordagem do Japão em relação aos direitos autorais. No país asiático, o uso de informações para treinamento de IA generativa não é considerado uma violação de direitos autorais. Isso significa que qualquer empresa pode usar obras protegidas para treinar suas ferramentas de IA sem infringir a lei.

Como o ChatGPT pode ajudar no ensino?

Uma das discussões que sempre voltam à tona sobre o uso do ChatGPT é o uso que poderá ser feito no ensino, por alunos e professores.

Para Lopes, no entanto, as práticas negativas são parecidas com as que sempre existiram nas escolas. Um estudante que utiliza o aplicativo de forma equivocada poderia ser o mesmo que copiava direto do Google ou que transcrevia da enciclopédia Barsa.

No entanto, do ponto de vista da ciência, a ferramenta pode trazer problemas, já que um dos nortes do método científico é utilizar informações e citar outros autores.

Além disso, é sempre preciso tomar cuidado para não manter informações inverídicas ou imprecisas. "Não necessariamente a resposta dele [ChatGPT] é a melhor resposta do mundo ou é uma resposta correta. Já tem várias coisas na Internet de gente falando que ele respondeu absurdos, matou pessoas que não morreram."

O professor de direito da Fundação Getulio Vargas (FGV) em São Paulo Alexandre Pacheco da Silva explica que, na escola, as atividades pedagógicas utilizam a capacidade de capturar, interpretar e até se apropriar do que é dito. "As inteligências artificiais generativas funcionam da mesma maneira."

"As equipes de desenvolvimento dessa tecnologia testavam, faziam perguntas, tentavam ver se ele acertava, se ele errava, como é que ele respondia. E dentro desses testes, à medida que a precisão desses sistemas aumentava, eles consideravam que a tecnologia estava madura para o seu lançamento."

Novas ferramentas, velha discussão

A discussão sobre o ChatGPT e sua evolução é uma continuação de debates que ocorrem desde a década de 1960, para o professor Fábio Lopes. "Existe um desejo humano de que isso aconteça. Talvez não de todos os humanos, mas existe um desejo de alcançar esse tipo de tecnologia."

A exemplo de personagens do cinema, como o computador HAL 9000, em "2001: Uma Odisseia no Espaço", o Data, de Star Trek, ou o C-3PO, de Star Wars, são inúmeras as referências na cultura pop a inteligências não humanas que trazem consigo discussões éticas sobre a tecnologia.

Embora a tecnologia tenha avançado consideravelmente, ela ainda está longe de alcançar a consciência e o julgamento humano, de acordo com Lopes. No entanto, a convergência de tecnologias e o desejo humano de alcançar esse tipo de avanço continuam a impulsionar a pesquisa e a inovação nessa área.

"Mas no estágio atual, do primeiro tempo tecnológico, nós só estamos colocando palavras em ordem. Ainda a consciência, essa construção nossa de interpretar, de aprofundar, de entender, de criar juízo de valor, essas coisas ainda estão longe de acontecer com essa tecnologia."