Файл:Overview of grouped-query method.png
Размер этого предпросмотра: 800 × 263 пкс. Другие разрешения: 320 × 105 пкс | 640 × 211 пкс | 1848 × 608 пкс.
Исходный файл (1848 × 608 пкс, размер файла: 69 Кб, MIME-тип: image/png)
Краткое описание
| Описание |
English: Overview of grouped-query method. Multi-head attention has H query, key, and value heads. Multi-query attention shares single key and value heads across all query heads. Grouped-query attention instead shares single key and value heads for each group of query heads, interpolating between multi-head and multi-query attention. |
| Дата | |
| Источник | https://arxiv.org/html/2305.13245v3 |
| Автор | Неизвестен |
Лицензирование
Этот файл доступен по лицензии Creative Commons «С указанием авторства» версии 4.0 Международная
- Вы можете свободно:
- делиться произведением – копировать, распространять и передавать данное произведение
- создавать производные – переделывать данное произведение
- При соблюдении следующих условий:
- атрибуция – Вы должны указать авторство, предоставить ссылку на лицензию и указать, внёс ли автор какие-либо изменения. Это можно сделать любым разумным способом, но не создавая впечатление, что лицензиат поддерживает вас или использование вами данного произведения.
|
Этот файл некатегоризирован.
Пожалуйста, помогите улучшить этот файл, добавив его в одну или несколько категорий, чтобы он был связан с похожими файлами (как?), и его можно было проще найти.
Пожалуйста, уведомите загрузившего с помощью {{subst:Please link images|File:Overview of grouped-query method.png}} ~~~~ |
История файла
Нажмите на дату/время, чтобы увидеть версию файла от того времени.
| Дата/время | Миниатюра | Размеры | Участник | Примечание | |
|---|---|---|---|---|---|
| текущий | 12:04, 1 апреля 2025 | | 1848 × 608 (69 Кб) | Miteigi Nemoto | Uploaded a work by {{Unknown|author}} from https://arxiv.org/html/2305.13245v3 with UploadWizard |
Использование файла
Следующая страница использует этот файл:
