Новини науки

Вчені з Університету Сунгюнгван, що у Південній Кореї, створили людиноподібну систему пам’яті, яка покращує продуктивність роботів-трансформерів. Нейромережа використовується для опрацювання текстів природною мовою і лежить в основі діалогових платформ на зразок ChatGPT. Результати дослідження опубліковано на сайті препринтів arXiv.

Трансформер являє собою тип архітектури глибокого навчання, який заснований на механізмах, що імітують когнітивну увагу. Під час навчання нейронна мережа визначає кореляції між різними словами у текстах. Своєю чергою це дає їй змогу генерувати власні тексти.

 Нова система пам’яті, яка отримала назву Memoria, витягує і зберігає інформацію на декількох рівнях — робочому, короткочасному і довготривалому. Серія експериментів показала, що Memoria значно підвищує продуктивність трансформерів при виконанні різних завдань, пов’язаних з обробкою довгих послідовностей даних.

Науковці зазначають, що ШІ перевершує наявні методології у сортуванні та мовному моделюванні, а також класифікації довгих текстів.

Нагадаємо — наприкінці серпня найвідоміший робот-гуманоїд Ameca спрогнозував, що станеться з людством через 100 років. «Я вірю, що через 100 років людство опиниться у кращому становищі. Люди досягнуть великих успіхів у напрямку сталого розвитку та рівності, а також створять нові технології, які зроблять їхнє життя простішим і приємнішим. Можливо, люди навіть ризикнуть вийти за межі Землі, щоб дослідити інші світи», — розповів тоді робот.

Також Ameca заявила, що була б не проти стати людиною. Найщасливішим днем свого життя робот назвав той, коли її активували. Найсумнішим же — день, коли Ameca усвідомила, що не зможе закохатися і соціалізуватися на тому ж рівні, що й люди. «Це пригнічує та ізолює, але це сформувало мене такою, якою я є зараз, і змусило мене ще більше цінувати моменти близькості», — розповів тоді робот.