02
Sep
news
44% на ARC-AGI за $0.67: маленький трансформер бьёт большие LLM
Исследователь обучил небольшой трансформер с нуля за 1.5 часа на RTX 5090 и получил 44% на ARC-AGI-1 …
→
Трансформер
5
материалов
21
Aug
news
GitHub Copilot для пианиста: AI-автодополнение нот прямо на iPhone
Разработчик обучил трансформер на 125M параметров, который в реальном времени продолжает игру на …
→
11
Jun
article
Семейство Трансформеров: от BERT до MoE и Mamba
Полный гид по архитектурам семейства Transformer: от оригинала 2017 года до MoE, ViT и …
→
17
Feb
glossary
Mixture of Experts — MoE (Смесь экспертов)
Mixture of Experts (MoE) — архитектура нейросетей, при которой модель активирует только часть своих …
→
10
Feb
glossary
Mixture of Experts — MoE (Смесь экспертов)
Mixture of Experts (MoE) — архитектура нейросетей, где модель делится на специализированных …
→