Sztuczna inteligencja może lepiej „zapamiętać” treści, jeśli... naśladuje ludzki sen
Długoterminowe ludzkie wspomnienia tworzą się podczas snu i śnienia. Jak się okazało, efekt ten może być inspiracją dla naśladującej działanie mózgu, lepiej działającej sztucznej inteligencji – wynika z badań przedstawionych w serwisie „arXiv”.
Obecne modele sztucznej inteligencji wyszkolone do wykonywania nowego zadania tracą zdolność do wykonywania zadań, które wcześniej im się udawały. Choć model został wcześniej nauczony na przykład rozpoznawać ptaki - przestaje mu się to udawać, gdy przyswoi inną wiedzę, np. o rybach.
Concetto Spampinato i jego współpracownicy z Uniwersytetu w Katanii (Włochy) szukali sposobów na uniknięcie tego zjawiska, nazywanego "katastrofalnym zapominaniem" (catastrophic forgetting).
Dlatego opracowali nową metodę szkolenia sztucznej inteligencji, zwaną skonsolidowanym uczeniem się podczas czuwania i snu (WSCL), która naśladuje sposób, w jaki ludzki mózg trwale zapamiętuje nowe informacje podczas snu, przekształcając krótkoterminowe zapisy doświadczeń i lekcji przyswojonych w ciągu dnia w długoterminowe wspomnienia. Zdaniem naukowców w podobny sposób mogłaby działać każda istniejąca sztuczna inteligencja.
Modele korzystające z WSCL są szkolone w typowy sposób na zestawie danych dla fazy "czuwania", jednak zaprogramowano im również okresy "snu", podczas których analizują próbki danych dotyczących stanu czuwania oraz skróty z poprzednich lekcji.
Na przykład sztucznej inteligencji uczonej identyfikacji zwierząt morskich podczas "snu" pokazuje się zdjęcia ryb, ale także kilku ptaków czy ssaków z poprzednich lekcji. Według Spampinato przypomina to sytuację człowieka, który podczas snu rozmyśla o nowych i starych wspomnieniach, dostrzega powiązania i wzorce i integruje je w swoim umyśle. Nowe dane pozwalają nabywać nowe umiejętności, a część starych danych uniemożliwia wyparcie starych wspomnień przez nowe.
WSCL ma również okres "śnienia", kiedy wykorzystuje całkowicie nowe dane powstałe w wyniku połączenia poprzednich koncepcji. W przypadku zwierząt może "wymyślać" na przykład abstrakcyjne kombinacje żyraf z rybami czy lwów i antylop.
Jak wyjaśnia Spampinato (DOI: arXiv:2401.08623), zdobywając nową wiedzę, łączy się bardziej złożone wzorce – w tym wypadku dziwną mitologiczną postać, co zmusza model inteligencji do nauczenia się bardziej złożonych wzorów, które być może w przyszłości uda się ponownie wykorzystać.
Spampinato przetestował trzy istniejące modele sztucznej inteligencji, stosując tradycyjną metodę uczenia, a następnie szkolenie WSCL. Następnie on i jego zespół porównali wyniki, korzystając z trzech standardowych testów porównawczych do identyfikacji obrazu. Nowa technika szkolenia doprowadziła do znacznego zwiększenia dokładności identyfikacji obrazu – modelom wytrenowanym podczas "snu" udawało się to o 2 do 12 proc. częściej. Zwiększył się także odsetek starej wiedzy wykorzystywanej do nowych zadań.
Źródło: niezalezna.pl, pap, arXiv
