A ideia de a inteligência artificial derrubar ou escravizar a humanidade tem sido discutida há muitas décadas, e
O problema é que para gerenciaruma superinteligência muito além da compreensão humana exigirá uma simulação dessa superinteligência que possamos analisar. Mas se não formos capazes de compreendê-lo, será impossível criar tal simulação.
Regras como “não faça mal”as pessoas” não podem ser estabelecidas se não entendermos quais cenários a IA pode apresentar, de acordo com os autores do artigo de 2021. Quando um sistema informático opera num nível que ultrapassa as capacidades dos nossos programadores, já não podemos estabelecer limites.
“A superinteligência representaum problema fundamentalmente diferente daqueles geralmente estudados sob a bandeira da “ética dos robôs”, – escrevem os pesquisadores. “Isso ocorre porque a superinteligência é multifacetada e, portanto, tem o potencial de mobilizar uma variedade de recursos para atingir objetivos que são potencialmente incompreensíveis para os humanos, e muito menos controláveis”.
Se vamos promover artificialinteligência, podemos nem saber quando a superinteligência, além do nosso controle, aparecerá, é tão incompreensível. Isso significa que precisamos começar a fazer perguntas sérias sobre a direção que estamos tomando.
Fonte: sciencealert, jair
Ilustrações: Yuyeung Lau
</ p>