Изменения

нет описания правки
Строка 2: Строка 2:     
По аналогии с [[Рекуррентная нейронная сеть|рекуррентными нейронными сетями]] (РНС), Трансформеры предназначены для обработки последовательностей, таких как текст на естественном языке, и решения таких задач как [[машинный перевод]] и [[автоматическое реферирование]]. В отличие от РНС, Трансформеры не требуют обработки последовательностей по порядку. Для примера, если входные данные это текст, Трансформеру не требуется обрабатывать конец текста после обработки его начала. Благодаря этому Трансформеры [[Параллельные вычисления|распараллеливаются]] легче чем РНС и могут быть быстрее обучены.<ref name="paper" />
 
По аналогии с [[Рекуррентная нейронная сеть|рекуррентными нейронными сетями]] (РНС), Трансформеры предназначены для обработки последовательностей, таких как текст на естественном языке, и решения таких задач как [[машинный перевод]] и [[автоматическое реферирование]]. В отличие от РНС, Трансформеры не требуют обработки последовательностей по порядку. Для примера, если входные данные это текст, Трансформеру не требуется обрабатывать конец текста после обработки его начала. Благодаря этому Трансформеры [[Параллельные вычисления|распараллеливаются]] легче чем РНС и могут быть быстрее обучены.<ref name="paper" />
 +
 +
Трансформеры используются в [[Яндекс.Переводчик]]е<ref>{{cite web
 +
|author      = Семен Козлов
 +
|url        = https://habr.com/ru/post/341240/
 +
|title      = Transformer — новая архитектура нейросетей для работы с последовательностями
 +
|lang        = ru
 +
|website    =
 +
|publisher  = [[Хабр]]
 +
|date        = 2017-10-30
 +
|accessdate  = 2020-11-03
 +
}}</ref>, [[Google Переводчик]]е<ref>{{cite web
 +
|author      = Isaac Caswell, Bowen Liang
 +
|url        = https://ai.googleblog.com/2020/06/recent-advances-in-google-translate.html
 +
|title      = Recent Advances in Google Translate
 +
|lang        = en
 +
|website    =
 +
|publisher  = Google AI Blog
 +
|date        = 2020-06-08
 +
|accessdate  = 2020-11-03
 +
}}</ref>, [[GPT-3]].
    
== Примечания ==
 
== Примечания ==
 
{{примечания}}
 
{{примечания}}
Анонимный участник