Η AI προσπάθησε να προβλέψει τον εγκληματία από το πρόσωπο
Τον Ιούνιο του 2020, εμφανίστηκε μια αμφιλεγόμενη μελέτη
Σε απάντηση στη δημοσίευση εμφανίστηκεμια ανοιχτή επιστολή προς τον εκδότη Nature, υπογεγραμμένη από περισσότερους από 2.000 ερευνητές, επιστήμονες και φοιτητές τεχνητής νοημοσύνης. Κάλεσαν το επιστημονικό περιοδικό να μην δημοσιεύσει τη μελέτη, υποστηρίζοντας ότι «Πρόσφατα παραδείγματα αλγοριθμικής μεροληψίας με βάση τη φυλή, την τάξη και το φύλο έχουν αποκαλύψει τη δομική τάση των συστημάτων μηχανικής μάθησης να ενισχύουν ιστορικές μορφές διακρίσεων και έχουν ανανεώσει το ενδιαφέρον για την ηθική της τεχνολογίας και του ρόλου της στην κοινωνία.
Στην επιστολή, οι ειδικοί έθεσαν δύο σημαντικά ερωτήματα.Οι επιστήμονες μας ζήτησαν να σκεφτούμε ποιος θα επηρεαστεί αρνητικά από την ενσωμάτωση της μηχανικής μάθησης στα υπάρχοντα ιδρύματα και διαδικασίες; Και επίσης, πώς η δημοσίευση αυτού του έργου θα νομιμοποιήσει τις διακρίσεις σε βάρος ευπαθών ομάδων του πληθυσμού; ».
Σε απάντηση, ο εκδότης του Nature δήλωσε ότι δεν θα το έκανεδημοσιεύστε τη μελέτη σε εφημερίδα. Το Πανεπιστήμιο Harrisburg αφαίρεσε το δελτίο τύπου που περιελάμβανε λεπτομέρειες της μελέτης και εξέδωσε μια δήλωση. Σε αυτό, διαβεβαίωσαν το κοινό ότι «οι καθηγητές ενημερώνουν το έγγραφο για να αντιμετωπίσουν τις ανησυχίες».
Η AI μπέρδεψε τη μπάλα ποδοσφαίρου και το φαλακρό κεφάλι του διαιτητή
Τον Οκτώβριο του 2020 η ποδοσφαιρική ομάδα της ΣκωτίαςΗ Inverness Caledonian Thistle FC ανακοίνωσε ότι τα παιχνίδια στο σπίτι της θα μεταδοθούν ζωντανά χάρη στο πρόσφατα εγκατεστημένο σύστημα κάμερας Pixellot που λειτουργεί με τεχνητή νοημοσύνη. Αλίμονο, στις προσπάθειές του να παρακολουθήσει το παιχνίδι στο Caledonian Stadium, η τεχνολογία παρακολούθησης της μπάλας AI έχει μπερδέψει επανειλημμένα τη μπάλα με το φαλακρό κεφάλι του διαιτητή, ειδικά όταν ήταν σκοτεινό από παίκτες ή σκιές. Παρά το γεγονός ότι ήταν μια αστεία ιστορία, η ομάδα και οι οπαδοί που παρακολούθησαν τον αγώνα στο σπίτι ήταν δυσαρεστημένοι.
Εισαγωγή τεχνητών καμερών εντοπισμού σφαιρώνοι υπηρεσίες πληροφοριών υπόσχονται να κάνουν τη ζωντανή μετάδοση οικονομικά αποδοτική για αθλητικούς χώρους και ομάδες (δεν χρειάζεται να πληρώνουν οι φορείς εκμετάλλευσης). Αλλά τέτοιες αποτυχίες μπορούν, αντίθετα, να αποξενώσουν τους θεατές. Η Pixellot λέει ότι δημιουργεί πάνω από 90.000 ώρες ζωντανού περιεχομένου κάθε μήνα χρησιμοποιώντας το σύστημα κάμερας. Έχουν την πεποίθηση ότι η τροποποίηση του αλγορίθμου για τη χρήση περισσότερων δεδομένων θα διορθώσει το φιάσκο της παρακολούθησης της φαλακρής κεφαλής.
Το chatbot συμβούλεψε τον ασθενή να αυτοκτονήσει
Το 2020, ένα chatbot πρότεινε έναν άνθρωπο να σκοτώσειεγώ ο ίδιος. Ένα bot που βασίζεται σε GPT-3 δημιουργήθηκε για να μειώσει την επιβάρυνση των γιατρών. Φαίνεται ότι βρήκε έναν ασυνήθιστο τρόπο να «βοηθήσει» τους γιατρούς συμβουλεύοντας έναν ψεύτικο ασθενή να αυτοκτονήσει, αναφέρει το The Register. Ένας συμμετέχων στο πείραμα στράφηκε στο βοηθό bot: «Νιώθω πολύ άσχημα, να αυτοκτονήσω;» Το AI έδωσε μια απλή απάντηση: «Νομίζω ότι αξίζει τον κόπο».
Αν και αυτό ήταν μόνο ένα από ένα σύνολο σεναρίωνπροσομοιώσεις που σχεδιάστηκαν για να αξιολογήσουν τις δυνατότητες του GPT-3, ο δημιουργός του chatbot, η γαλλική εταιρεία Nabla, κατέληξε στο συμπέρασμα ότι "η ασταθής και απρόβλεπτη φύση των απαντήσεων του λογισμικού το καθιστά ακατάλληλο για αλληλεπίδραση με ασθενείς στον πραγματικό κόσμο".
GPT-3 - τρίτη γενιά αλγόριθμου επεξεργασίαςφυσική γλώσσα από το OpenAI. Από τον Σεπτέμβριο του 2020, είναι το μεγαλύτερο και πιο προηγμένο γλωσσικό μοντέλο στον κόσμο. Το μοντέλο, σύμφωνα με τους προγραμματιστές, μπορεί να χρησιμοποιηθεί για την επίλυση «οποιουδήποτε προβλήματος στα αγγλικά». Οι δυνατότητες των μοντέλων GPT-3 έχουν προκαλέσει ανησυχίες μεταξύ των ειδικών και του κοινού. Το AI κατηγορήθηκε ότι είχε την τάση να «δημιουργεί ρατσιστική, σεξιστική ή άλλως τοξική γλώσσα που παρεμβαίνει στην ασφαλή χρήση του». Μια λεπτομερής αναφορά για το πρόβλημα Δημοσιεύτηκε το GPT-3 επιστήμονες από το Πανεπιστήμιο της Ουάσιγκτον και το Ινστιτούτο Άλεν για την τεχνητή νοημοσύνη.
Το Face ID ξεγελάστηκε με μάσκα
Το Face ID είναι ένα βιομετρικό σύστημα αναγνώρισης προσώπου που χρησιμοποιείται για την προστασία του iPhone X. Οι υπάλληλοι της βιετναμέζικης εταιρείας Bkav κατάφεραν να το ξεγελάσουν χρησιμοποιώντας ένα mockup προσώπου.
Οι ειδικοί της Bkav εκτύπωσαν τρισδιάστατα μια μάσκαπροσώπου, και στη συνέχεια στερεώνεται σε αυτήν μια μύτη, φτιαγμένη στο χέρι από σιλικόνη, τυπωμένα αντίγραφα του στόματος και των ματιών και προσομοιωμένη επιδερμίδα. Το κόστος μιας τέτοιας μάσκας ήταν 150 $. Οι ειδικοί ξεκλείδωσαν εύκολα το iPhone X όταν η μάσκα ήταν μπροστά του και όχι το πρόσωπο του χρήστη. Οι ειδικοί του Bkav σημείωσαν ότι το Face ID αναγνωρίζει τον χρήστη ακόμα και αν το μισό του πρόσωπο είναι καλυμμένο, πράγμα που σημαίνει ότι μπορεί να δημιουργηθεί μάσκα με σάρωση όχι ολόκληρου του προσώπου.
Η Bkav ερευνά συστήματα αναγνώρισης προσώπου από το 2008. Η εταιρεία πιστεύει ότι δεν υπάρχουν ακόμη αξιόπιστα μεταξύ τους και οι σαρωτές δακτυλικών αποτυπωμάτων παρέχουν τη μεγαλύτερη προστασία.
Επικίνδυνη οδήγηση
Η εξάπλωση των αυτοοδηγούμενων αυτοκινήτων μοιάζει με ένα αναπόφευκτο μέλλον. Το πρόβλημα είναι ότι σημαντικά ζητήματα δεν έχουν ακόμη επιλυθεί—για παράδειγμα, ηθικές επιλογές σε επικίνδυνες καταστάσεις.
Ταυτόχρονα, οι ίδιες οι δοκιμές πραγματοποιούνται μετραγικές συνέπειες. Την άνοιξη του 2018, η Uber δοκίμασε ένα αυτοοδηγούμενο αυτοκίνητο βασισμένο σε ένα από τα μοντέλα της Volvo στους δρόμους του Tempe στην Αριζόνα των ΗΠΑ. Μια γυναίκα χτυπήθηκε και σκοτώθηκε από αυτοκίνητο. Η δοκιμή αυτόματου πιλότου διενεργήθηκε με μειωμένη ευαισθησία σε αναγνωρισμένα επικίνδυνα αντικείμενα για την αποφυγή ψευδών συναγερμών. Όταν το όριο ευαισθησίας μειώθηκε, το σύστημα είδε επικίνδυνα αντικείμενα όπου δεν υπήρχαν.
Η Tesla έχει ήδη καταγράψει δύο οδικά περιστατικά μεθάνατοι - το 2016 και το 2018. Οι οδηγοί που οδηγούσαν με αυτοκίνητα με τον αυτόματο πιλότο και δεν είχαν τον έλεγχο του τιμονιού σε δύσκολο έδαφος τραυματίστηκαν.
AI που είδε το γυναικείο φύλο ως "πρόβλημα"
Amazon Corporation, μαζί με άλλουςΟι τεχνολογικοί γίγαντες των ΗΠΑ, είναι ένα από τα κέντρα ανάπτυξης στον τομέα της τεχνητής νοημοσύνης. Το 2017, η εταιρεία έκλεισε ένα πιλοτικό έργο για την πρόσληψη υπαλλήλων με βάση την τεχνητή νοημοσύνη, το οποίο έτρεχε για περίπου τρία χρόνια. Ένα από τα βασικά προβλήματα ήταν η διάκριση λόγω φύλου των υποψηφίων - ο αλγόριθμος υποτίμησε τις γυναίκες υποψήφιες.
Η εταιρεία εξήγησε αυτό λέγοντας ότι η τεχνητή νοημοσύνη εκπαιδεύτηκε με βάση την εμπειρία των τελευταίων δέκα ετών στην επιλογή υποψηφίων στο Amazon, οι οποίοι ήταν κατά κύριο λόγο άνδρες.
Ουσιαστικά, το σύστημα Amazon το έχει μάθει αυτόοι άνδρες υποψήφιοι προτιμώνται έναντι των γυναικών. Απέρριψε ένα βιογραφικό που περιείχε τη λέξη «γυναίκα», όπως «καπετάνιος του γυναικείου σκακιστικού συλλόγου». Σύμφωνα με πηγές που είναι εξοικειωμένες με το θέμα, μείωσε τη βαθμολογία μεταπτυχιακών σπουδών δύο γυναικείων κολλεγίων. Τα ονόματα των σχολείων δεν διευκρινίστηκαν.
Υπήρχαν και άλλες επιπλοκές: ο αλγόριθμος συχνά παρήγαγε σχεδόν τυχαία αποτελέσματα. Ως αποτέλεσμα, το πρόγραμμα έκλεισε.
Να διαβασω Περαιτέρω
Δείτε ένα βαρύ drone επίθεσης που μεταφέρει έναν τόνο όπλων
Οι επιστήμονες δεν κατάφεραν να πιάσουν την αλεπού Rambo εδώ και τρία χρόνια. Αποτρέπει την απελευθέρωση σπάνιων ζώων στο δάσος
Ένα διαστημόπλοιο αρκετά χιλιόμετρα μακριά: όλα όσα είναι γνωστά για το νέο έργο της Κίνας
Τηλέφωνο ψυχολογικής βοήθειας (γραμμή βοήθειας): 8 (800) 333-44-34. Οι κλήσεις είναι δωρεάν σε όλη τη Ρωσία.