Whistle: ШІ-розпізнавання мовлення на 16,9 МБ без хмари

Whistle — це модель розпізнавання мовлення, яка важить 16,9 МБ і працює повністю на пристрої, без жодного звернення до сервера. Для порівняння: типові застосунки для розшифровки відправляють ваш аудіофайл у хмару, де його обробляють чужі процесори за чужими правилами. Whistle не відправляє нічого. Ваш запис залишається там, де ви його зробили.

Розмір тут — не технічна забаганка, а суть. 16,9 МБ — це менше за одну фотографію з сучасного смартфона. Така модель поміщається у звичайний застосунок, запускається на телефоні середнього класу й не вимагає інтернету взагалі. Це і є той момент, коли «приватність за замовчуванням» перестає бути гаслом і стає інженерним фактом.

Чому це важливо саме тут

Уявіть журналіста, який записує розмову з джерелом у прифронтовому містечку. Зв'язку немає — ні мобільного, ні Wi-Fi. Звична логіка: записати аудіо, привезти в редакцію, завантажити в сервіс розшифровки. Кожен із цих кроків — точка, де файл можна перехопити, де метадані осідають на чужому сервері, де витік означає розсекречене джерело.

Модель, яка працює офлайн на самому телефоні, прибирає всі ці точки одним рухом. Розшифровка відбувається там само, де й запис. Нічого не йде назовні, бо йти нема куди й нема як. Для розслідувача, який працює з людьми, чия безпека залежить від анонімності, це різниця між інструментом і пасткою.

Той самий механізм рятує волонтерів і фіксаторів воєнних злочинів. Свідчення очевидців, записані в зоні без покриття, можна відразу перетворити на текст — для каталогізації, перекладу, передачі слідчим. Не чекаючи, поки з'явиться мережа. Не ризикуючи, що аудіо з іменами й адресами пройде через сервер, до логів якого ви не маєте доступу.

Що саме змінюється

Останні роки голосовий ШІ будувався на протилежному припущенні: якість вимагає хмари, а хмара вимагає ваших даних. Великі моделі розпізнавання мовлення жили на серверах, бо були завеликі для будь-чого іншого. Ви платили приватністю за точність — і часто навіть не знали, що платите.

Whistle ламає цей обмін. Коли робоча модель поміщається у вкладення до листа, зникає аргумент «ми мусимо обробляти це на наших серверах». Для українських медіа це означає можливість вбудувати розшифровку прямо в редакційні застосунки, без залежності від закордонних API, без юридичних питань про те, де фізично зберігається голос джерела.

Є й тверезе застереження. Мала модель — це компроміс у точності: на складній акустиці, діалектах чи накладеному шумі вона помилятиметься частіше за хмарного гіганта. Розшифровку чутливого матеріалу доведеться вичитувати вручну. Але вичитати текст безпечніше, ніж довірити звук чужому дата-центру.

Приватність у голосових технологіях перестала бути привілеєм тих, хто має власну інфраструктуру. Тепер вона вміщається в 16,9 мегабайта.