Российские ученые из лаборатории T-Bank AI Research создали нейросеть ReBased для быстрой обработки длинных текстов, пишут РИА Новости. Основой разработки стала новая архитектура языковых моделей ReBased, облегчающая распознавание текстов.
Новая архитектура, анализируемая на базе моделей Стэнфорда (декабрь 2023), улучшена российскими учеными. Они добавили обучаемые параметры, оптимизирующие поиск связей в тексте, что повышает точность.
Кроме того, алгоритм был упрощен, что увеличило производительность и качество работы с длинными текстами, улучшив контекстное обучение на 10%. ReBased помогает сократить затраты на ИИ в узкоспециализированных задачах. Например, в медицине она используется для классификации текстов по симптомам и диагнозам.
Эксперименты проводились на датасете MQAR, оценивающем способность модели к ассоциативному запоминанию пар объектов, например, лица и имени.
