Скрейпінг даних для ШІ: крадіжка праці чи навчання
Топменеджер Microsoft назвав скрейпінг «найбільшою крадіжкою праці», тож розберемось, як це працює і як захистити свій контент.
Топменеджер Microsoft назвав скрейпінг даних для навчання ШІ «найбільшою крадіжкою праці в історії людства». Фраза злетіла в Hacker News не тому, що вона гучна, а тому, що вимовив її представник компанії, яка на цій самій практиці побудувала свій бізнес. За заявою ховається питання, на яке досі немає чіткої відповіді: чи є текст, який ви виклали в мережу, вашим — після того, як його прочитала машина.
Що таке скрейпінг і чому це не те саме, що читання
Скрейпінг — це автоматичний збір публічного контенту ботами. Раніше так працювали пошуковики: Google читав вашу сторінку, щоб показати її в результатах і привести до вас читача. Обмін був чесним — ви віддаєте текст, отримуєте трафік.
ШІ-компанії розірвали цю угоду. Модель поглинає ваш текст, вчиться на ньому писати схоже, а потім віддає результат користувачу, який до вас уже не прийде. Автор віддав працю й не отримав нічого — ні посилання, ні оплати, ні згоди. Саме цей дисбаланс і мав на увазі менеджер Microsoft, говорячи про крадіжку праці.
Формально закон тут відстає від технології. У США компанії посилаються на доктрину «добросовісного використання», в ЄС діє право відмовитися від інтелектуального аналізу даних, в Україні — правове поле фактично порожнє. Це означає, що захищати свій текст доводиться самому.
Як перевірити, чи вчилися на ваших текстах
Достеменно довести, що конкретна стаття потрапила в навчальний набір, майже неможливо — компанії не публікують свої датасети. Але непрямі методи є.
- Попросіть модель дослівно процитувати ваш абзац за першими словами. Якщо вона видає ваш текст майже точно — він з високою ймовірністю був у навчанні.
- Перевірте свій сайт у відкритих архівах на кшталт Common Crawl — саме звідти багато моделей беруть дані.
- Вставте в текст непомітну «пастку»: рідкісну вигадану фразу чи неіснуючий факт. Якщо модель починає його повторювати, джерело очевидне.
Чим захиститися насправді
Файл robots.txt — перша лінія. У ньому можна прямо заборонити ботів OpenAI, Anthropic, Google та інших. Проблема в тому, що це джентльменська угода: сумлінний бот її поважає, агресивний ігнорує. Тому серйозні видання додають блокування на рівні сервера чи через Cloudflare, який уміє відсіювати ШІ-ботів технічно, а не на довіру.
Ліцензія працює інакше — вона не зупиняє бота, а дає підставу для позову. Явно вказаний тип ліцензії з забороною комерційного використання перетворює скрейпінг на юридично вразливу дію. Для тексту це умова в футері, для коду — файл ліцензії в репозиторії.
Водяні знаки в тексті — це ті самі приховані маркери: специфічні звороти, унікальні формулювання, які потім легко впізнати у відповідях моделі. Для зображень існують інструменти, що вносять непомітні для ока спотворення, які збивають навчання.
Жоден із цих методів не дає гарантії. Але разом вони переводять вашу працю з категорії «безкоштовно й безкарно» в категорію «ризиковано й доказово». Для українського автора чи розробника, який не має за спиною юридичного відділу, це поки що єдиний реальний важіль. І користуватися ним варто до того, як бот прийде, а не після.
- Hacker News: Microsoft exec called AI scraping 'the largest theft of labor in human history'
- Hacker News: Android 17 is the first since 3.x to add new APIs without releasing to the AOSP
- Hacker News: I don't like passkeys
- Hacker News: Cloudflare Quick Tunnels
- Hacker News: Claude Code now reads AGENTS.md if there is no Claude.md
- Hacker News: OpenJev
Щодня — головне про Україну, спокійна аналітика та наука і техніка простою мовою.
Підписатися в Telegram →