По итогам международного независимого бенчмарка DiBiMT «Яндекс Переводчик» лучше других языковых моделей и онлайн-переводчиков справился с переводом текста с английского на
русский язык. Рейтинг опубликовали итальянские институты Sapienza и SSML Carlo Bo, одни из ведущих мировых центров изучения языка в машинном
обучении. Также сервис занял третье место по качеству перевода с
английского на
китайский,
немецкий,
итальянский и
испанский языки. Тест показал, что «Переводчик» лучше других определяет значение конкретных английских слов в предложениях и допускает меньшее количество семантических ошибок.
Бенчмарк DiBiMT - это эталонный тест для измерения процента ошибок (то есть неверного определения смысла или значения слова в контексте) в машинном переводе. Тестирование проходили как
онлайн-переводчики, такие как
Google Translate и DeepL, так и открытые большие языковые модели: mBART-50, M2M100, а также проект OPUS.