Attention on AI-Uchi — Всё об искусственном интеллекте/tags/attention/Recent content in Attention on AI-Uchi — Всё об искусственном интеллектеHugoruWed, 25 Mar 2026 15:00:00 +0300Нейросети для NLP: от RNN к трансформерам/articles/neiroseti-dlya-nlp-ot-rnn-k-transformeram/Wed, 25 Mar 2026 15:00:00 +0300/articles/neiroseti-dlya-nlp-ot-rnn-k-transformeram/<p>В 2017 году восемь исследователей из Google опубликовали статью с дерзким названием «Attention Is All You Need». К 2026-му она набрала свыше 150 000 цитирований и перевернула всю область обработки естественного языка. Но трансформер не появился из ниоткуда — ему предшествовали десятилетия экспериментов с рекуррентными сетями, которые учились читать текст слово за словом.</p> <p>Эта статья — путь от первых RNN до современных архитектур, на которых построены GPT-4, Claude и Gemini. Без мифов, с техническими деталями и честным сравнением подходов.</p>