Μπορεί να βρεθεί ένα δράκος;
— Το θέμα της διάλεξής σας είναι «Γιατί κάνουμε τα ρομπότ να λένε ψέματα;»Βρίσκεται στο κλασικό του
«Στην περίπτωσή μας, ένα ψέμα είναι όταν οι πληροφορίες για το πώς λειτουργεί ο πραγματικός κόσμος δεν ταιριάζουν με το εξωτερικόΈχουμε έναν σπασμένο αισθητήρα και πραγματικά το βλέπουμε έτσι, ή τον παραποιούμε στο όνομα της παραποίησης ή για κάποιο άλλο λόγο.Όταν εσείς και εγώ επικοινωνούμε, μπορώ να πω ψέματα επειδή κάνω λάθος στα συμπεράσματά μου ή δεν μπορώ να δω καλά.Δεν έχει σημασία για εσάς, αυτές οι πληροφορίες θα είναι ψευδείς για εσάς ούτως ή άλλως.Αυτός είναι ο λόγος για τον οποίο εξετάσαμε τις μεθόδους διαχείρισης που καθιστούν το σύστημα ασφαλές.
- Όταν μιλάς για ρομπότ και "συστήματα πολλαπλών πρακτόρων", εννοείς τα μη επανδρωμένα οχήματα;
- Όχι, αυτός είναι ο πιο δημοφιλής προορισμός. Τώρα τα πιο δημοφιλή θέματα είναι τα μη επανδρωμένα οχήματα.
- Δοκιμάζετε λύσεις σε προβλήματα που μπορεί να προκύψουν;
- Έχουμε δύο επίπεδα. Στο πρώτο επίπεδο, εξετάζουμε ποια πληροφορία ταξιδεύει μέσα στο drone, επειδή οι πληροφορίες από τους αισθητήρες εξακολουθούν να επεξεργάζονται πριν φτάσουν στη συσκευή πληροφορικής. Στο δεύτερο επίπεδο, ανταλλάσσονται πληροφορίες μεταξύ των αεροσκαφών, και το δοκιμάζουμε επίσης. Εξετάζουμε πώς σχετίζεται με τον πραγματικό κόσμο.
- Τα αεροσκάφη είναι πλέον διαφορετικά - στρατιωτικά, πολιτικά και άλλα. Είναι τα αεροσκάφη που ανταλλάσσουν πληροφορίες μεταξύ τους με αυτόν τον τρόπο - είναι αυτή μια συγκεκριμένη κατηγορία;
Για να είμαι ειλικρινής, δεν γνωρίζω ούτε μία συσκευή drone που να μην μοιράζεται πληροφορίες.Ακόμα και όταν ελέγχετε με τηλεχειριστήριο, είναι ακόμα δυνατό να το αποκτήσετε.Αυτός είναι ο λόγος για τον οποίο εργαζόμαστε σε ένα αρκετά υψηλό επίπεδο αφαίρεσης με τη χρήση ιδιωτικών εφαρμογών, αλλά γενικά, αυτές είναι αρκετά γενικές λύσεις - γενικές, να το πω έτσι.
- Κατά το παρελθόν έτος έχουμε δει περιπτώσεις όπου τα αεροσκάφηδημιούργησε προβλήματα για τους ανθρώπους. Δοκοί που μπορούν να καταρρεύσουν σε αεροπλάνα, αεροσκάφη που εμπόδισαν τους διαδρόμους. Είναι δυνατόν να αποφευχθούν με κάποιο τρόπο τέτοιες καταστάσεις;
- Εάν ελέγχεται από τον άνθρωπο, τότε ο μόνοςτρόπο - απλά χτυπήστε το κάτω. Δηλαδή, να πάρει τον έλεγχο, να τον κάνει να κάνει αυτό που θέλουμε, ή απλά να καταστρέψουμε φυσικά. Αν αγοράσαμε το drone, αρχικά ήδη συναρμολογημένο από κάποιον και το διαχειριζόμαστε σύμφωνα με το έθιμο, τότε μπορείτε να αντισταθμίσετε, γνωρίζοντας αυτούς τους τυπικούς αλγόριθμους. Αλλά τώρα για να συγκεντρώσει ένα drone είναι ένα καθήκον για στοιχειώδη πανεπιστήμια ή μαθήματα γυμνασίου. Πολλά εγχειρίδια, εξαρτήματα μπορούν να αγοραστούν χωρίς προβλήματα, δεν είναι πολύ ακριβό. Επομένως, η λογική που θα βρίσκεται μέσα σε τέτοιες δονήσεις δεν μπορεί να είναι πλήρως τυποποιημένη.
- Είπατε για την παρακολούθηση του ελέγχου. Στο μέτρο του δυνατού, τι απαιτείται για αυτό;
- Αν θεωρήσουμε κάποιους αγορασμένουςσυστήματος, γνωρίζουμε τα πρωτόκολλα στα οποία επικοινωνεί. Θεωρητικά, μπορούμε να αντικαταστήσουμε τον πίνακα ελέγχου. Αλλά αυτό είναι ένα τόσο μη τετριμμένο καθήκον. Από την άποψη της μηχανικής και της επιστήμης, αυτό μπορεί να γίνει. Στην πράξη, αυτό είναι ένα πολύ δύσκολο έργο μηχανικής. Αλλά λύσιμο.
- Τώρα κανείς δεν ξέρει πώς να το κάνει αυτό;
- Όσο γνωρίζω, κανείς. Σε κάθε περίπτωση, οι πληροφορίες αυτές δεν είναι διαθέσιμες στο κοινό.
- Ποια άλλα προβλήματα βλέπετε ότι μπορεί να προκύψουν στο εγγύς μέλλον, αν μιλάμε για αεροσκάφη;
"Για μένα, ως ειδικός ασφαλείας, το κύριο πρόβλημα είναι ότι το σύστημα θαΔεν αναφέρομαι στο Matrix, αλλά στο τι μπορεί να κάνει κάποιος άλλος.Θέλουμε να δούμε ένα αποτέλεσμα, αλλά θα υπάρξει ένα αποτέλεσμα.Σε γενικές γραμμές, θέλουμε να χτίσουμε ένα γήπεδο από αυτά τα drones.Το κύριο πρόβλημα είναι ότι θα υπάρχει ένα τούβλο στο θεμέλιοΔηλαδή, σε παγκόσμιο επίπεδο θα χτίσουμε ένα γήπεδο, αλλά αυτές οι μικρές αποκλίσεις εντός της δομής θα οδηγήσουν σεστο γεγονός ότι ολόκληρη η δομή θα καταρρεύσει.
- Αν προγραμματίσουμε όλο το λογισμικό για αυτά τα drones, για ποιο λόγο μπορούν να βάλουν αυτά τα τούβλα λάθος;
"Κοιτάξτε, ο κόσμος των υπολογιστών αποτελείται από μηδενικά και ένα, όλα είναι ξεκάθαρα.Θέσαμε αυτή τη λογική, πήραμε την απάντηση.Αυτό που βάζουμε σε υπολογιστικό επίπεδο μπορεί να γίνει στον πραγματικό κόσμοΜια λάμψη του ήλιου, μια ριπή ανέμου και το τούβλο ήταν ήδη σε λάθος μέρος.Αυτό είναι το καθήκον ενός νέου κλάδου της επιστήμης, της λειτουργικής ασφάλειας, που προέρχεται απόενημερωτική, όταν προσπαθούμε να προσαρμοστούμε στις δράσεις του περιβάλλοντος και να αναπτύξουμε μια λύση που θα μας επιτρέψει ναΚαι αυτό είναι ένα δύσκολο έργο.Έχει λύσεις, αλλά καμία από αυτές δεν εγγυάται πλήρωςεπιτυχία.
- Στα μαζικά drones δεν εμφανίστηκαν πολύ πριν. Πιστεύετε ότι η κατάσταση θα συνεχίσει να είναι η ίδια, ότι μπορώ να πάω και να αγοράσω ένα drone; Τώρα θεωρείται ένα παιχνίδι, μπορεί αυτή η αλλαγή;
- Δεν είμαι δικηγόρος, αλλά, με φιλικό τρόπο, πρέπει να είναιεισήγαγε ορισμένους περιορισμούς. Από τη σειρά "για να αγοράσετε ένα μεγάλο drone χωρίς έγγραφα, άδειες και άλλα πράγματα είναι λάθος". Αγοράστε ένα παιχνίδι drone; Γιατί όχι, είναι απίθανο να προκαλέσει μεγάλη ζημιά. Εδώ και πάλι, η ιστορία είναι ότι εάν το επιθυμείτε, όλα μπορούν να τυλιχτούν σε αρνητικό φως. Ως εκ τούτου, εγώ, ένα άτομο που σχετίζεται με την επιστήμη, θα ήθελε όλα αυτά να είναι διαθέσιμα στο κοινό. Αλλά κάποιος που περπατά στους δρόμους θα ήθελε να επιβληθούν κάποιοι εύλογοι περιορισμοί. Είναι λογικό.
Η ευφυΐα - σε ρομπότ και ανθρώπους
- Συμμετείχατε στην πρόβλεψη της συμπεριφοράς των ανθρώπων.σε καταστάσεις έκτακτης ανάγκης και την προσομοίασε με βάση την τραγωδία στο "The Lame Horse". Είναι σαφές πώς μπορείτε να δημιουργήσετε ένα μοντέλο ψηφιακής μπάρας. Αλλά πώς μπορείτε να προβλέψετε τη συμπεριφορά των ανθρώπων; Με βάση ποια δεδομένα;
- Όχι, στην πραγματικότητα. Ο άνθρωπος γενικά συμπεριφέρεται αρκετά αυθόρμητα, ειδικά σε περιπτώσεις έκτακτης ανάγκης. Αλλά έχουμε μια υπόθεση, την οποία δοκιμάσαμε μοντελοποιώντας την κατάσταση που συνέβη.
— Πώς μοντελοποιήσατε τη συμπεριφορά των ανθρώπων;
- Αν μιλάμε για τη λογική που υπάρχειενεχυροφόρησε, αυτή είναι η αποκαλούμενη νοημοσύνη του σμήνους. Μέσος όρος κίνησης, επιλογή υποψηφίων υπό όρους, κίνηση προς εξόδους και ούτω καθεξής. Αρκετή ασήμαντη αρχή. Σε γενικές γραμμές, η αρχή κάθε νοημοσύνης - έχουμε ένα σωματίδιο που μπορεί να συμπεριφέρεται πολύ ανόητο, έχει πολύ απλές και απλές αρχές. Αλλά στο τέλος, το αποτέλεσμα επιτυγχάνεται όταν το όλο σύστημα συμπεριφέρεται εξαιρετικά έξυπνα.
- Τώρα μιλάτε με όρους που ισχύουν περισσότερο για την τεχνολογία. Αν μιλάμε για ανθρώπους, είναι το ίδιο;
- Το ρομπότ είναι βασισμένο στις αρχές του ανθρώπου. Εάν πάρω ένα σύστημα από ένα άτομο και το εφαρμόσω σε ένα ρομπότ, τότε τουλάχιστον μπορώ να εφαρμόσω το σύστημα από ένα ρομπότ σε ένα άτομο. Στον τομέα της πληροφορικής, οι κανόνες αυτοί διατυπώνονται για πολύ μεγάλο χρονικό διάστημα. Τουλάχιστον από το 1986.
- Στην πραγματικότητα, αποδείξατε ότι λειτουργεί δημόσια;
- Ναι, προσπαθήσαμε και λειτουργεί. Δεν είμαι κοινωνιολόγος και όχι ψυχολόγος, αλλά νομίζω ότι το αποτέλεσμα από την άποψη της διεξαγωγής ενός επιστημονικού πειράματος αποδείχθηκε αληθές: ένας άνθρωπος σε επείγουσες περιπτώσεις κατεβαίνει σε ένα μάλλον κοινότατο επίπεδο συμπεριφοράς. Και αυτό το κοινό επίπεδο μπορεί να αντιγραφεί από τη συμπεριφορά των πτηνών, υπό όρους. Κατ 'αρχήν, αποδείχθηκε.
«Θα έπρεπε να με σκοτώσω περισσότερο από ένα παιδί»: η ηθική των UAVs
- Μίλησες για ηθικά ζητήματαUAV και το δίλημμα επιλογής, αν πρέπει να σκοτώσουν κάποιον. Το πρόβλημα του τρόλεϊ είναι σχεδόν αδύνατο στην πραγματική ζωή. Αλλά γενικά, νομίζετε ότι πρέπει να προγραμματίσετε τέτοια πράγματα; Και μπορούν να συμβούν στην πραγματική ζωή;
- Θα προκύψουν σίγουρα στην πραγματική ζωή, καιαν δεν το προγραμματίσουμε, τι θα συμβεί τότε; Κοιτάξτε, έχουμε αναπτύξει έναν αλγόριθμο, το μηχάνημα λειτουργεί, όλα πάνε, και στη συνέχεια συμβαίνει ότι η γιαγιά και το παιδί βγήκαν από διαφορετικά άκρα του δρόμου. Εάν δεν καθορίσουμε τη λογική της συμπεριφοράς σε αυτή την περίπτωση, τότε θα αποποιούσαμε την ηθική ευθύνη γι 'αυτό. Αυτό είναι ένα βήμα προς τη δειλία, νομίζω.
Πλευρική γραμμή
"Αν δεν βάλουμε ένα συγκεκριμένο μοντέλο συμπεριφοράς σε ένα μη επανδρωμένο σύστημα σε μια τέτοια κατάσταση, τι θα κάνει;"
«Εξαρτάται από το σύστημα.Ίσως θα προσπαθήσει να ελαχιστοποιήσει τους κινδύνους του και, υπό όρους, να χτυπήσει όποιον είναι πιο κοντά.
- Λες ότι πρέπει να προγραμματίσουμε όλα. Ποιος πρέπει να αποφασίσει ποιος να καταρρίψει;
- Μου φαίνεται ότι η Μασσαχουσέττη (MIT - "High-tech") πήγε σωστά - δημοκρατία.
Επιστήμονες από την Τεχνολογία της ΜασαχουσέτηςΤο Ινστιτούτο (MIT) έκανε ένα παιχνίδι στο οποίο ο χρήστης καλείται να επιλέξει μεταξύ δύο παραλλαγών της συμπεριφοράς ενός μη επανδρωμένου οχήματος σε περίπτωση ηθικών διλημμάτων. Το αποτέλεσμα ήταν μια παγκόσμια μελέτη στην οποία εκατομμύρια άνθρωποι συμμετείχαν σε εκατοντάδες χώρες. Αποδείχθηκε ότι οι άνθρωποι σε διαφορετικές χώρες έχουν διαφορετικές ιδέες για το πώς θα πρέπει να ασχοληθούν με τα ηθικά ζητήματα.
- Πρέπει να ψηφίσουμε, ποιος θα έπρεπε να καταρρίψει ένα τρελό;
Πρέπει να διεξαχθεί κοινωνιολογική μελέτη, η οποία θα μας επιτρέψειΌλη η ανθρωπότητα θα είναι υπεύθυνη για αυτό, όχι μόνο ένας προγραμματιστής.
- Πιστεύετε ότι αυτό θα λειτουργήσει, οι άνθρωποι θα το δεχτούν;
«Θα συνεχίσει να προκαλεί δυσαρέσκεια επειδή σε πολλούς ανθρώπους έχει δοθεί μια επιλογή, και κάποιος θα το κάνειΑλλά αν δεν υπάρχει καθόλου τέτοια επιλογή, και αντί για μια αυταρχική απόφαση, τότε δεν είναι απολύτως δίκαιο.