Naukowcy wyjaśnili, że modele skutecznie zapamiętują wszelkie informacje. Zwykle jest to dobre, ale
Ta metoda nazywa się Expire-Span i pomożeSieci neuronowe efektywnie sortują i przechowują informacje najbardziej odpowiednie do wykonywania powierzonych im zadań. Expire-Span działa, najpierw przewidując, jakie informacje będą najbardziej przydatne dla sieci w danym kontekście, a następnie przypisując do nich datę wygaśnięcia. Im ważniejsza, zgodnie z Expire-Span, ta lub inna informacja, tym bardziej odległy jest okres przechowywania danych. Sieci neuronowe będą w stanie dłużej przechowywać istotne informacje, stale zwalniając pamięć, zapominając o nieistotnych danych.
Powstał robot, który rozczesze nawet najbardziej splątane włosy
Expire-Span oblicza datę wygaśnięciainformacje dla wszystkich rodzajów danych i robi to za każdym razem, gdy otrzymuje nową informację. Ten tag określa, jak długo informacja jest przechowywana w pamięci - wyjaśniają naukowcy. „Stopniowy zanik danych jest kluczem do zachowania ważnych informacji bez ich zamazywania”.
Chociaż badania są wciąż na wczesnym etapie,Naukowcy są przekonani, że ulepszenie sieci neuronowej nie wymaga wielu kroków. Zespół ma nadzieję, że w przyszłości uda się rozwinąć jeszcze ściślejszą pamięć ludzką, ale będzie w stanie przyswajać nowe informacje znacznie szybciej, niż pozwala na to obecna technologia.
Czytaj więcej
Naukowcy wymyślili sposób na ładowanie pojazdów elektrycznych w ruchu
Naukowcy wykazali, jak czarna dziura rozrywa gwiazdę
Ewolucyjny błąd: które organy w ludzkim ciele działają nielogicznie