Os sistemas de IA já estão a causar preocupação, especialmente aqueles que podem controlar outras máquinas. Muitos
Suponha que alguém precise programarum sistema de inteligência artificial com inteligência humana superior para que possa aprender independentemente de um humano. Então a IA conectada à Internet terá acesso a todos os dados da humanidade. Ele também será capaz de substituir todos os programas existentes e assumir o controle de todas as máquinas ao redor do mundo. Essa utopia ou distopia acontecerá? A IA pode curar o câncer, estabelecer a paz mundial e evitar a catástrofe climática? Ou vai destruir a humanidade e dominar a Terra?
Cientistas da computação e filósofos se perguntam se seremos capazes de controlar a IA superinteligente para garantir que ela não represente uma ameaça para a humanidade.
"A máquina superinteligente que governa o mundo,soa como ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma totalmente independente, enquanto os programadores não entendem totalmente como aprenderam isso. Portanto, surge a pergunta se em algum momento isso pode se tornar incontrolável e perigoso para a humanidade ”, diz o coautor do estudo Manuel Sebrian, chefe do grupo de mobilização digital do Centro de Pessoas e Máquinas do Instituto Max Planck para o Desenvolvimento Humano.
Os cientistas exploraram duas ideias diferentes de comoA IA superinteligente pode ser controlada. Por um lado, as capacidades da IA superinteligente podem ser especificamente limitadas, por exemplo, isolando-a da Internet e de todos os outros dispositivos técnicos para que não possa entrar em contato com o mundo exterior, mas isso tornaria a IA superinteligente muito menos poderosa e menos capaz de responder a atribuições humanitárias. ... Sem essa oportunidade, a IA desde o início poderia ser motivada a perseguir apenas objetivos que atendam aos interesses da humanidade, por exemplo, programando princípios éticos nela. No entanto, os pesquisadores também mostram que essas e outras ideias modernas e históricas para controlar a IA superinteligente têm seus limites.
Em sua pesquisa, a equipe desenvolveuum algoritmo de contenção teórica que garante que a IA superinteligente não pode prejudicar os humanos em nenhuma circunstância, primeiro simulando o comportamento da IA e interrompendo-o se for considerado prejudicial. Mas uma análise cuidadosa mostra que em nosso paradigma de computação atual, tal algoritmo não pode ser construído.
“Se decompormos o problema em regras básicasciência da computação teórica, descobriu-se que um algoritmo que diria à IA para não destruir o mundo poderia inadvertidamente interromper suas próprias operações. Se isso acontecesse, você não saberia se o algoritmo de contenção ainda analisaria a ameaça e se a interrompeu para conter IA maliciosa. Essencialmente, isso torna o algoritmo de contenção inutilizável ”, diz Iyad Rahwan, diretor do Center for People and Machines.
Com base nesses cálculos, o problema de contenção não é viável, ou seja, nenhum algoritmo pode encontrar uma solução para determinar se a IA prejudicará o mundo ou não.
Veja também:
O Ministério da Saúde da Argentina divulgou dados sobre efeitos colaterais em quem recebeu o "Sputnik V"
Platypus acabou por ser uma mistura genética de mamíferos, pássaros e répteis
Aborto e ciência: o que acontecerá com as crianças que darão à luz