17:44 07 Maio 2021
Ouvir Rádio
    Ciência e tecnologia
    URL curta
    3232
    Nos siga no

    Usando cálculos teóricos, uma equipe internacional incluindo cientistas do Instituto Max Planck para o Desenvolvimento Humano (Alemanha), mostra que seria impossível controlar máquinas superinteligentes.

    Os últimos avanços no campo da inteligência artificial (IA) permitiram a criação de robôs capazes de realizarem tarefas domésticas, carros autônomos ou softwares que conseguiram esclarecer mistérios para a ciência. No entanto, enquanto maiores progressos acontecem nesta área, cientistas avisam sobre os potenciais perigos no desenvolvimento de IA muito poderosas.

    Neste sentido, uma equipe internacional de pesquisadores realizou uma série de cálculos teóricos para explorar as possibilidades de manter sob controle uma IA superinteligente. Como resultado, os cientistas concluíram que seria fundamentalmente impossível controlar este tipo de tecnologia.

    "Uma máquina superinteligente que controle o mundo soa como ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente sem que os programadores entendam completamente como aprenderam [...] situação que poderia em algum momento se converter em algo incontrolado e perigoso para a humanidade", comentou Manuel Cebrian, um dos autores do artigo.

    Durante o estudo, que foi publicado recentemente no Journal of Artificial Intelligence Research, os cientistas experimentaram duas ideias para manter uma IA superinteligente sob controle. Uma delas foi isolá-la da Internet e de outros dispositivos para limitar o seu contato com o mundo exterior, o que reduziria significativamente sua capacidade de responder a demandas a qual foi destinada.

    Robô (imagem referencial)
    © AFP 2021 / Remy Gabalda
    Robô (imagem referencial)

    Da mesma forma, a equipe "desenvolveu um algoritmo de contenção teórico que assegura que uma IA superinteligente não possa danificar as pessoas sob nenhuma circunstância, simulando primeiro o comportamento da IA e parando-a se for considerada nociva". No entanto, uma análise sobre o atual paradigma de computação demonstrou que tal algoritmo não pode ser construído.

    "Se decompusermos o problema em regras básicas de computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia interromper suas próprias operações. Se isso acontecer, você não saberá se o algoritmo de contenção ainda está analisando a ameaça ou se parou para conter a IA nociva. Na verdade, isso torna o algoritmo de contenção inutilizável", concluiu Iyad Rahwan, outro autor do estudo.

    Mais:

    Com inteligência artificial, drone da Boeing finaliza seu 1º táxi (VÍDEO)
    Inteligência artificial é usada pela 1ª vez para revelar aglomerado de crateras em Marte (FOTOS)
    Inteligência artificial substitui pela 1ª vez copiloto em voo da Força Aérea dos EUA
    Tags:
    Alemanha, Instituto Max Planck, computação, inteligência artificial
    Padrões da comunidadeDiscussão
    Comentar na SputnikComentar no Facebook
    • Comentar