Η ιδέα της ανατροπής ή της υποδούλωσης της ανθρωπότητας μέσω της τεχνητής νοημοσύνης συζητείται εδώ και δεκαετίες, και
Το αλίευμα είναι ότι πρέπει να διαχειριστείςμια υπερευφυΐα πολύ πέρα από την ανθρώπινη κατανόηση θα απαιτήσει μια προσομοίωση αυτής της υπερευφυΐας που μπορούμε να αναλύσουμε. Αλλά αν δεν είμαστε σε θέση να το κατανοήσουμε, τότε είναι αδύνατο να δημιουργήσουμε μια τέτοια προσομοίωση.
Κανόνες όπως "μην βλάπτουν τους ανθρώπους" δεν μπορούν να θεσπιστούν εάν δεν καταλαβαίνουμε ποια σενάρια μπορεί να είναιΕλάτε με AI, σύμφωνα με τους συντάκτες του εγγράφου του 2021.Σε ένα επίπεδο πέρα από τις δυνατότητες των προγραμματιστών μας, δεν μπορούμε πλέον να θέσουμε όρια.
“Η υπερευφυΐα αντιπροσωπεύειένα θεμελιωδώς διαφορετικό πρόβλημα από αυτά που συνήθως μελετώνται κάτω από το έμβλημα της “ηθικής του ρομπότ”, – γράφουν οι ερευνητές. “Αυτό συμβαίνει επειδή η υπερευφυΐα είναι πολύπλευρη και ως εκ τούτου έχει τη δυνατότητα να κινητοποιήσει μια ποικιλία πόρων για την επίτευξη στόχων που είναι δυνητικά ακατανόητοι για τον άνθρωπο, πόσο μάλλον ελεγχόμενοι”.
Αν πρόκειται να προωθήσουμε την τεχνητήευφυΐα, μπορεί να μην ξέρουμε καν πότε θα εμφανιστεί η υπερευφυΐα, πέρα από τον έλεγχό μας, είναι τόσο ακατανόητο. Αυτό σημαίνει ότι πρέπει να αρχίσουμε να κάνουμε σοβαρές ερωτήσεις σχετικά με την κατεύθυνση που βαδίζουμε.
Πηγή: sciencealert, jair
Εικονογραφήσεις: Yuyeung Lau
</ p>