Η ιδέα της καταστροφής της ανθρωπότητας με τεχνητή νοημοσύνη έχει συζητηθεί εδώ και πολύ καιρό. Οι επιστήμονες μοιράστηκαν τα δικά τους
Συζητώ
Το αλίευμα είναι ότι για να ελέγξεις το παρόνΗ τεχνητή νοημοσύνη, πολύ πέρα από την ανθρώπινη κατανόηση, θα χρειαστεί μια προσομοίωση αυτής της υπερνοημοσύνης που μπορούμε να αναλύσουμε (και να ελέγξουμε). Αλλά αν δεν είμαστε σε θέση να το καταλάβουμε αυτό, είναι αδύνατο να δημιουργήσουμε μια τέτοια προσομοίωση.
Σε αυτήν την περίπτωση, οι άνθρωποι δεν θα μπορούν να εγκαταστήσουν για AIπεριοριστικούς κανόνες όπως «μην βλάπτεις τους ανθρώπους». Ωστόσο, ενώ η ανθρωπότητα δεν είναι σε θέση να δημιουργήσει μια τέτοια τεχνητή νοημοσύνη, παραμένει ασαφές σε ποιο σημείο θα ξεπεραστεί αυτό το όριο.