Η νέα μηχανή επεξεργασίας δεδομένων καθιστά τα νευρικά δίκτυα πιο έξυπνα

«Η κανονικοποίηση των χαρακτηριστικών είναι ένα σημαντικό στοιχείο της εκπαίδευσης των βαθιών νευρωνικών δικτύων και της προσοχής

λειτουργίες είναι εξίσου σημαντικό να βοηθήσειδίκτυα για να επισημάνουν ποια χαρακτηριστικά που εξάγονται από ακατέργαστα δεδομένα είναι τα πιο σημαντικά για την ολοκλήρωση εργασιών», εξηγεί ο Tianfu Wu, επίκουρος καθηγητής ηλεκτρολογίας και μηχανικής υπολογιστών στο NC State. «Αλλά ως επί το πλείστον επεξεργάζονταν χωριστά. Βρήκαμε ότι ο συνδυασμός τους τα έκανε πιο αποτελεσματικά και αποτελεσματικά».

Για να δοκιμάσετε τη μονάδα AN,οι ερευνητές το συνδέουν στις τέσσερις ευρύτερα χρησιμοποιούμενες αρχιτεκτονικές νευρωνικών δικτύων: ResNets, DenseNets, MobileNetsV2 και AOGNets. Στη συνέχεια, δοκίμασαν τα δίκτυα σε δύο βασικές βιομηχανικές μετρήσεις: δοκιμή ταξινόμησης ImageNet-1000 και ανίχνευση αντικειμένων και τεστ τμηματοποίησης εμφάνισης 2017 MS-COCO.

«Βρήκαμε ότι η AN βελτίωσε την απόδοσηκαι για τις τέσσερις αρχιτεκτονικές και στις δύο δοκιμές », είπε ο Wu. «Για παράδειγμα, η ακρίβεια Top-1 στο ImageNet-1000 έχει βελτιωθεί κατά 0,5-2,7%. Η μέση ακρίβεια ακρίβειας (AP) αυξήθηκε σε 1,8% για το πλαίσιο οριοθέτησης και 2,2% για τη σημασιολογική μάσκα στο MS-COCO. Ένα άλλο πλεονέκτημα του AN είναι ότι διευκολύνει την καλύτερη μεταφορά της μάθησης μεταξύ διαφορετικών τομέων. Για παράδειγμα, από την ταξινόμηση εικόνας στο ImageNet έως την ανίχνευση αντικειμένων και τη σημασιολογική τμηματοποίηση στο MS-COCO. Αυτό αποδεικνύεται από τη βελτίωση της απόδοσης στο σημείο αναφοράς MS-COCO, το οποίο επιτεύχθηκε μέσω της βελτιστοποίησης των βαθιών νευρωνικών δικτύων που είχαν προηγουμένως εκπαιδευτεί από το ImageNet στο MS-COCO. "

«Έχουμε κυκλοφορήσει τον πηγαίο κώδικα και ελπίζουμε ότι το AN μας θα οδηγήσει σε καλύτερο ολοκληρωμένο σχεδιασμό για βαθιά νευρωνικά δίκτυα», καταλήγουν οι επιστήμονες.

Διαβάστε επίσης

Ο παγετώνας Doomsday αποδείχθηκε πιο επικίνδυνος από ό, τι πίστευαν οι επιστήμονες. Λέμε το κύριο πράγμα

Δύο στοιχεία απόδειξης εξωγήινης ζωής εμφανίστηκαν ταυτόχρονα. Το ένα στην Αφροδίτη, το άλλο - κανείς δεν ξέρει πού

Αποδείχθηκε ότι τα φεγγάρια του Ουρανού μοιάζουν περισσότερο με πλανήτες