Mídia: EUA exigem do setor de tecnologia garantias de 'sistemas confiáveis e seguros' de IA

Líderes da Microsoft, Google e OpenAI estão entre os convidados do governo Biden para uma reunião na Casa Branca que vai discutir os riscos da inteligência artificial (IA).

De acordo com o Financial Times (FT), os executivos que lideram a corrida da IA que paralisou a indústria de tecnologia foram convocados para uma reunião na Casa Branca nesta quinta-feira (4) para uma "discussão franca" sobre suas responsabilidades junto ao setor, garantiu um funcionário do governo norte-americano.

A reunião ocorre logo após o anúncio da saída de Geoffrey Hinton do Google. Conhecido como "padrinho da IA", o especialista alega ter saído da empresa para poder chamar a atenção para os riscos de seu uso indiscriminado e fazer críticas de forma mais livre.

O governo de Joe Biden tem lutado para desenvolver uma resposta mais coordenada aos recentes avanços rápidos na tecnologia.

"Muitas [das grandes empresas de tecnologia] falaram sobre suas responsabilidades, e parte do que queremos fazer é garantir que tenhamos uma conversa sobre como elas cumprirão essas promessas", disse uma fonte do governo ao FT.

Ao que tudo indica, os executivos convidados foram informados de que a reunião vai se concentrar nos riscos decorrentes do desenvolvimento "atual e de curto prazo" da tecnologia.

Ainda segundo a fonte, a Casa Branca, que vai estar representada na figura da vice-presidente Kamala Harris, pretende destacar a "responsabilidade fundamental de garantir que seus sistemas sejam confiáveis e seguros antes de serem lançados ou implantados". Uma das diretrizes do encontro é entender como lidar com "o que provavelmente serão tecnologias muito mais poderosas no futuro", disse o funcionário.

Ainda segundo a mídia, a Casa Branca disse que sete das maiores empresas de IA concordaram em abrir seus modelos para um grau de escrutínio público na convenção anual de hackers Def Con, em agosto. No entanto, o nível de abertura seria "consistente com os princípios de divulgação responsável", não deixando claro o quanto as empresas revelariam. A OpenAI se recusou a liberar até mesmo informações técnicas básicas sobre seu último modelo de linguagem grande, GPT-4.

A Casa Branca também afirmou que o Escritório de Administração e Orçamento divulgaria rascunhos de diretrizes para comentários públicos neste verão do Hemisfério Norte, regendo o uso de IA pelo governo federal.

Os líderes tecnológicos presentes na reunião de quinta-feira são o executivo-chefe da OpenAI, Sam Altman, o CEO da Microsoft, Satya Nadella, e Sundar Pichai, executivo-chefe do Google e da Alphabet, juntamente com Dario Amodei, CEO da startup de IA Anthropic. Funcionários do governo na reunião devem incluir Jake Sullivan, diretor do Conselho de Segurança Nacional; Lael Brainard, diretora do Conselho Econômico Nacional; Gina Raimondo, secretária de Comércio, e Jeff Zients, chefe de gabinete da Casa Branca.

Nos últimos meses, a gestão Biden anunciou uma série de iniciativas em torno da IA, incluindo o lançamento de um rascunho da declaração de direitos da IA e o lançamento de uma revisão em abril de quais novos padrões técnicos são necessários para garantir que os sistemas de IA funcionem como pretendido, considerando todos os riscos possíveis a fim de que os usuários não sejam expostos a eles.