Mistral Large 4 «Le Chonk»: нова відкрита LLM для українського ШІ

Mistral випустила Large 4 під кодовою назвою "Le Chonk" — відкриту модель, яку можна завантажити на власний сервер і запускати без звернення до чужого API. Для українського бізнесу це означає конкретну річ: обробляти клієнтські листи, медичні записи чи редакційні архіви, не відправляючи жодного байта за кордон.

Різниця між "відкритою" та "хмарною" моделлю не технічна абстракція, а питання, хто тримає ваші дані. Коли ви користуєтесь закритим API, кожен запит іде на сервер провайдера — з текстом, який ви в нього вклали. Відкриті ваги означають, що модель стоїть на вашому залізі, і текст нікуди не виходить. Для компанії, яка працює з персональними даними українців, це різниця між відповідністю закону і щоденним порушенням.

Чому саме локальне розгортання

Українська мова — слабке місце закритих моделей. Вони навчені переважно на англійському корпусі, і чим рідша мова, тим більше вони "галюцинують" на відмінках, фемінітивах і специфічній лексиці. Відкрита модель дозволяє донавчити її на власних українськомовних текстах: судова практика, медичні протоколи, редакційний стиль конкретного видання. Закритий API такого не дасть — ви працюєте з тим, що вам видали.

Для редакції це означає асистента, який розуміє, що "авто" в заголовку і "автор" у підписі — не одне й те саме, бо його годували саме вашими текстами, а не усередненим інтернетом. Для стартапу, що робить юридичний чи медичний продукт, це єдиний спосіб взагалі вийти на ринок, де дані не можна виносити за межі контуру.

Математика інференсу

Основний аргумент проти локального розгортання — "це дорого, купувати сервери". Але рахунок інакший, коли навантаження постійне. Хмарний інференс тарифікується за кожен токен: мільйон запитів на місяць — мільйон окремих платежів, і рахунок росте разом із вашим продуктом. Своє залізо — це фіксована інвестиція, після якої кожен наступний запит коштує лише електрику.

Переломна точка проста: якщо ви обробляєте тексти епізодично, хмара дешевша. Якщо потік стабільний і великий — скажімо, щоденна обробка потоку новин, модерація коментарів чи масова класифікація документів — локальний сервер окупається за місяці, а далі працює майже безкоштовно. Чим більше ви виростете, тим більша буде різниця на вашу користь, бо хмарний рахунок масштабується лінійно, а ваш — ні.

Є і зворотний бік, який варто назвати чесно. Відкриту модель треба обслуговувати: оновлювати, стежити за безпекою, тримати людину, яка розуміє, що відбувається всередині. Це не "завантажив і забув". Але для компанії, яка і так тримає інфраструктуру, це додатковий сервіс, а не нова професія.

Le Chonk не вирішить за вас, що саме автоматизувати. Та вперше відкрита модель цього рівня знімає стару відмовку: раніше якісний ШІ означав віддати дані чужому серверу. Тепер не означає.