AMD і Taalas: нейромережа, випалена прямо в кремнії чіпа

AMD купує стартап Taalas, який пропонує зробити з нейромережі не програму, а фізичну схему — випалити модель прямо в кремнії. Замість того щоб GPU щоразу зчитував ваги моделі з пам'яті й перемножував числа, чіп Taalas несе ці числа у самій структурі транзисторів. Модель перестає бути файлом і стає залізом.

Що саме "випалюють"

Сучасний ШІ працює так: універсальний процесор бере велику модель — набір мільярдів вагових коефіцієнтів — завантажує їх шматками з пам'яті й проганяє через них ваш запит. Основна ціна тут не обчислення, а постійне перекачування ваг туди-сюди між пам'яттю та ядрами. Саме на це йде більшість енергії та часу.

Taalas робить інакше. Ваги моделі закладаються безпосередньо в топологію мікросхеми ще на етапі виробництва. Дані не треба нікуди возити — вони вже там, де рахують. Це схоже на різницю між музикантом, який щоразу читає ноти з аркуша, і тим, хто вивчив партію напам'ять: другий грає швидше й майже не втомлюється.

Плата за це — жорсткість. Друкована в кремнії модель не оновлюється. Хочете нову версію — потрібен новий чіп. Тому такий підхід має сенс лише для інференсу: коли модель уже навчена й треба просто швидко видавати відповіді мільйонам користувачів, а не переучувати її щотижня.

Чому це б'є саме по хмарній оренді

Українські стартапи й держпроєкти зараз розгортають ШІ переважно одним способом: орендують час на GPU в закордонній хмарі. Це зручно, поки навантаження мале, і болісно дорого, коли воно росте. Ціна оренди прив'язана до вартості самих GPU та до кіловат, які вони спалюють.

Спеціалізований чіп під конкретну модель споживає в рази менше енергії на ту саму відповідь, бо не витрачає її на перевезення ваг. Для країни, де електроенергія — дефіцит, а не абстрактний рядок у рахунку, це не деталь. Один такий чіп у стійці може дати ту саму пропускну здатність, що й кілька енергоненажерливих GPU.

Наслідок для планів локального розгортання подвійний. З одного боку, якщо популярні відкриті моделі почнуть "випалювати" в кремнії, з'явиться шанс тримати інференс на власному залізі в межах країни — без залежності від хмари, яку в будь-який момент можуть відрубати санкціями чи ціною. З іншого — така економіка працює лише за великих і стабільних обсягів. Стартапу з тисячею запитів на день ідея власного випаленого чіпа не потрібна: йому дешевша гнучка оренда, яку легко переналаштувати під нову модель.

Де тут пастка

Головний ризик — прив'язка до однієї моделі в момент, коли моделі старіють за місяці. Поки ринок бачить, як черговий Qwen чи GPT переганяє попередників за лічені тижні, вкладати гроші в кремній під конкретну версію — ставка на те, що саме ця модель залишиться корисною достатньо довго, щоб окупити виробництво.

Для України з цього виходить проста стратегія. Хмара залишається правильним вибором на етапі експериментів і мінливих потреб. Але щойно з'являється модель, яку ви ганяєте роками в незмінному вигляді — розпізнавання документів, переклад, обробка звернень — випалений чіп стає способом зняти цю задачу з енергосистеми й закордонного рахунку одночасно. AMD купує Taalas саме тому, що ставить на другий сценарій.