Ενώ οι πηγές μεροληψίας στα συστήματα τεχνητής νοημοσύνης ποικίλλουν, μία από τις κύριες αιτίες της μεροληψίας είναι τα στερεότυπα
Για να διορθώσετε αυτό το πρόβλημα σε αυτήνΑρχικά, ερευνητές στο Princeton Visual AI Lab έχουν αναπτύξει ένα εργαλείο ανοιχτού κώδικα που εντοπίζει αυτόματα πιθανές αλλοιώσεις σε οπτικά σύνολα δεδομένων. Το εργαλείο επιτρέπει στους δημιουργούς συνόλων δεδομένων και στους χρήστες να διορθώσουν προβλήματα υποπροσώπευσης ή στερεότυπων εικόνων πριν χρησιμοποιηθούν συλλογές εικόνων για την εκπαίδευση μοντέλων οράματος υπολογιστών. Σε σχετική εργασία, τα μέλη του Visual AI Lab δημοσίευσαν μια σύγκριση των υπαρχουσών τεχνικών πρόληψης προκατάληψης στα ίδια τα μοντέλα όρασης υπολογιστή και πρότειναν μια νέα, πιο αποτελεσματική προσέγγιση για τη μείωση της προκατάληψης.
Το πρώτο εργαλείο, που ονομάζεται REVISE, χρησιμοποιεί στατιστικές τεχνικές για την επιθεώρηση ενός συνόλου δεδομένων γιαπιθανή προκατάληψη ή προβλήματα υποεκπροσώπησης σε τρεις διαστάσεις: αντικείμενο, φύλο και γεωγραφική.
Το REVISE αξιολογεί το περιεχόμενο του συνόλου δεδομένων,χρησιμοποιώντας υπάρχοντες σχολιασμούς και μετρήσεις εικόνων, όπως ο αριθμός των αντικειμένων, η συνδυασμένη παρουσία αντικειμένων και ατόμων και η χώρα προέλευσης των εικόνων. Μεταξύ αυτών των μετρήσεων, το εργαλείο εντοπίζει μοτίβα που διαφέρουν από τη μέση κατανομή.
Σε ένα σύνολο δεδομένων, το REVISE εντόπισε ένα δυναμικόμεροληψία φύλου σε εικόνες που απεικονίζουν άτομα (κόκκινα ορθογώνια) και το όργανο ενός μουσικού οργάνου (μπλε ορθογώνια). Μια ανάλυση της κατανομής των εκτιμώμενων τρισδιάστατων αποστάσεων μεταξύ ενός ατόμου και ενός οργάνου έδειξε ότι οι άνδρες συνήθως απεικονίζονταν ότι παίζουν πραγματικά το όργανο, ενώ οι γυναίκες ήταν συχνά απλά στον ίδιο χώρο με το όργανο. Πίστωση: Princeton Visual AI Lab.
Για παράδειγμα, σε ένα από τα σύνολα δεδομένων που δοκιμάστηκαν, το REVISE έδειξε ότι οι εικόνες που αφορούσαν ανθρώπους και λουλούδια διέφεραν μεταξύ ανδρών και γυναικών: οι άνδρες ήταν πιο πιθανό να εμφανίζονται με λουλούδια σε τελετές ή συναντήσεις και οι γυναίκες έτειναν να εμφανίζονται σε σκηνοθετημένα σκηνικά ή πίνακες ζωγραφικής.
Μόλις το εργαλείο εντοπίσει αυτό το είδος«ανακύπτει το ερώτημα εάν αυτό είναι ένα εντελώς αβλαβές γεγονός ή εάν συμβαίνει κάτι πιο σημαντικό και αυτό είναι πολύ δύσκολο να αυτοματοποιηθεί», εξηγεί η Olga Rusakovskaya, επίκουρη καθηγήτρια επιστήμης υπολογιστών και κύρια ερευνήτρια του Visual AI Lab.
«Η πρακτική της συλλογής συνόλων δεδομένων στον υπολογιστήΟι επιστήμες μέχρι πρόσφατα δεν έχουν μελετηθεί τόσο διεξοδικά », καταλήγει η συν-συγγραφέας Angelina Wang, μεταπτυχιακή φοιτήτρια στην επιστήμη των υπολογιστών. Εξηγεί ότι οι εικόνες είναι ως επί το πλείστον «από το Διαδίκτυο, και οι άνθρωποι δεν καταλαβαίνουν πάντα ότι οι εικόνες τους χρησιμοποιούνται [σε σύνολα δεδομένων]. Πρέπει να συλλέξουμε εικόνες από πιο διαφορετικές ομάδες ανθρώπων και να το κάνουμε με σεβασμό. "
Διαβάστε επίσης:
Είναι δυνατόν να δημιουργηθεί ένας θερμοπυρηνικός αντιδραστήρας στη Γη. Ποιες θα είναι οι συνέπειες;
Ο παγετώνας Doomsday αποδείχθηκε πιο επικίνδυνος από ό, τι πίστευαν οι επιστήμονες. Λέμε το κύριο πράγμα
Την 3η ημέρα της ασθένειας, οι περισσότεροι ασθενείς με COVID-19 χάνουν την αίσθηση της όσφρησης και συχνά υποφέρουν από ρινική καταρροή