Τα συστήματα AI προκαλούν ήδη ανησυχίες, ειδικά εκείνα που μπορούν να ελέγξουν άλλα μηχανήματα. Πολλά
Ας υποθέσουμε ότι κάποιος πρέπει να προγραμματίσειένα σύστημα τεχνητής νοημοσύνης με ανώτερη ανθρώπινη νοημοσύνη, ώστε να μπορεί να μάθει ανεξάρτητα από τον άνθρωπο. Στη συνέχεια, το AI που είναι συνδεδεμένο στο Διαδίκτυο θα έχει πρόσβαση σε όλα τα δεδομένα της ανθρωπότητας. Θα είναι επίσης σε θέση να αντικαταστήσει όλα τα υπάρχοντα προγράμματα και να πάρει τον έλεγχο όλων των μηχανών σε όλο τον κόσμο. Θα συμβεί αυτή η ουτοπία ή δυστοπία; Μπορεί το AI να θεραπεύσει τον καρκίνο, να δημιουργήσει παγκόσμια ειρήνη και να αποτρέψει την καταστροφή του κλίματος; Ή θα καταστρέψει την ανθρωπότητα και θα καταλάβει τη Γη;
Οι επιστήμονες υπολογιστών και οι φιλόσοφοι αναρωτιούνται αν θα μπορέσουμε καν να ελέγξουμε την υπερευφυή τεχνητή νοημοσύνη για να διασφαλίσουμε ότι δεν αποτελεί απειλή για την ανθρωπότητα.
"Η υπερ-ευφυής μηχανή που κυβερνά τον κόσμο,ακούγεται σαν επιστημονική φαντασία. Ωστόσο, υπάρχουν ήδη μηχανήματα που εκτελούν συγκεκριμένες σημαντικές εργασίες εντελώς ανεξάρτητα και οι προγραμματιστές δεν καταλαβαίνουν πλήρως πώς το έμαθαν αυτό. Επομένως, τίθεται το ερώτημα εάν σε κάποιο σημείο θα μπορούσε να γίνει ανεξέλεγκτο και επικίνδυνο για την ανθρωπότητα », λέει ο συν-συγγραφέας της μελέτης Manuel Sebrian, επικεφαλής της ομάδας ψηφιακής κινητοποίησης στο Κέντρο Ανθρώπων και Μηχανών στο Ινστιτούτο Ανθρώπινης Ανάπτυξης του Max Planck.
Οι επιστήμονες έχουν διερευνήσει δύο διαφορετικές ιδέες για το πώςμπορεί να ελεγχθεί η υπερ-έξυπνη AI Από τη μία πλευρά, οι δυνατότητες του υπερ-ευφυούς τεχνητής νοημοσύνης θα μπορούσαν να περιοριστούν συγκεκριμένα, για παράδειγμα, με την απομόνωσή του από το Διαδίκτυο και από όλες τις άλλες τεχνικές συσκευές, ώστε να μην μπορεί να επικοινωνήσει με τον έξω κόσμο, αλλά αυτό θα έκανε την υπερ-ευφυή AI πολύ λιγότερο ισχυρή και λιγότερο ικανή να ανταποκριθεί σε ανθρωπιστικές εργασίες. ... Χωρίς μια τέτοια ευκαιρία, το AI από την αρχή θα μπορούσε να παρακινηθεί να επιδιώξει μόνο στόχους που ανταποκρίνονται στα συμφέροντα της ανθρωπότητας, για παράδειγμα, προγραμματίζοντας τις ηθικές αρχές σε αυτό. Ωστόσο, οι ερευνητές δείχνουν επίσης ότι αυτές και άλλες σύγχρονες και ιστορικές ιδέες για τον έλεγχο της υπερ-ευφυούς AI έχουν τα όριά τους.
Στην έρευνά τους, η ομάδα ανέπτυξεέναν αλγόριθμο θεωρητικής αποτροπής που διασφαλίζει ότι η υπερ-ευφυής τεχνητή νοημοσύνη δεν μπορεί να βλάψει τον άνθρωπο σε καμία περίπτωση προσομοιώνοντας πρώτα τη συμπεριφορά της τεχνητής νοημοσύνης και σταματώντας την αν κριθεί επιβλαβής. Αλλά προσεκτική ανάλυση δείχνει ότι στο τρέχον υπολογιστικό μας παράδειγμα, δεν μπορεί να δημιουργηθεί ένας τέτοιος αλγόριθμος.
«Αν αποσυνθέσουμε το πρόβλημα σε βασικούς κανόνεςθεωρητική επιστήμη υπολογιστών, αποδεικνύεται ότι ένας αλγόριθμος που θα έλεγε στο AI να μην καταστρέψει τον κόσμο θα μπορούσε να σταματήσει ακούσια τις δικές του λειτουργίες. Εάν συνέβαινε αυτό, δεν θα ξέρετε εάν ο αλγόριθμος περιορισμού θα εξακολουθούσε να αναλύει την απειλή και αν σταμάτησε να περιέχει κακόβουλο AI. Στην πραγματικότητα, αυτό καθιστά τον αλγόριθμο περιορισμού άχρηστο », λέει ο Iyad Rahwan, διευθυντής του Κέντρου Ανθρώπων και Μηχανών.
Με βάση αυτούς τους υπολογισμούς, το πρόβλημα περιορισμού δεν είναι εφικτό, δηλαδή, κανένας αλγόριθμος δεν μπορεί να βρει μια λύση για να προσδιορίσει εάν η AI θα βλάψει τον κόσμο ή όχι.
Δείτε επίσης:
Το Υπουργείο Υγείας της Αργεντινής αποκάλυψε δεδομένα σχετικά με παρενέργειες σε εκείνους που έλαβαν "Sputnik V"
Ο πλατύτυπος αποδείχθηκε ένα γενετικό μείγμα θηλαστικών, πουλιών και ερπετών
Άμβλωση και επιστήμη: τι θα συμβεί στα παιδιά που θα γεννήσουν