Ideea de a distruge umanitatea cu inteligența artificială a fost discutată de mult timp. Oamenii de știință și-au împărtășit
Discuta
Captura este aceea de a controla prezentulinteligența artificială, cu mult dincolo de înțelegerea umană, va avea nevoie de o simulare a acestei superinteligențe pe care o putem analiza (și controla). Dar dacă nu suntem capabili să înțelegem acest lucru, este imposibil să creăm o astfel de simulare.
În acest caz, oamenii nu se vor putea instala pentru AIreguli restrictive precum „nu face rău oamenilor”. Cu toate acestea, în timp ce umanitatea nu este capabilă să creeze o astfel de inteligență artificială, rămâne neclar în ce moment va fi depășit acest prag.