Анализатор пишется за вечер. Вот что вы узнаете на второй неделе

Цифры — из журнала разработки «Словоправа», август — ноябрь 2026 года.

В SEO-чатах сейчас модно говорить, что текстовый анализатор под ТОП можно навайбкодить за один вечер. И знаете, с этим даже не поспоришь — чистая правда. Спарсить выдачу, выдрать тексты со страниц, посчитать слова и медианы — делов реально на пару часов под чашку чая, особенно если рядом сидит нейросеть.

Мы делаем «Словоправ» — сервис, который сверяет текст с живым ТОПом Яндекса или Google и собирает ТЗ. Свою первую версию мы тоже собрали быстро. А потом через неё пошли чужие выдачи — запросы, которые придумывали не мы, а живые пользователи, — и наступила та самая вторая неделя. Ниже — всё, что на ней вылезает. Почти каждый пункт мы поймали за руку в собственных отчётах.

1. Оглавление — тоже текст

В августовском отчёте по запросу «как выбрать корм для кошек» наш сервис с гордостью выдал копирайтеру «фразу конкурента»: «Содержание: — — Деление кормов для кошек по классам — Отличие в составах…». Это было банальное оглавление статьи, а рядом скромно лежали обрывки таблиц.

Если анализатор скармливает себе страницу целиком, он с удовольствием переварит и всю её обвязку: меню, оглавления, формы обратной связи и кнопки магазина. В итоге в «словаре ниши» прописываются фразы вроде «купить в 1 клик» и «согласие на обработку персональных данных».

Основную уборку у нас делает экстрактор контента, но перед ним мы сами срезаем навигацию, подвал, сайдбар, хлебные крошки по микроразметке и оглавления — списки, где больше 70% пунктов ведут на заголовки этой же страницы. По дороге наткнулись на два забавных факта. Во-первых, срезание навигации и подвала не изменило вообще ни одной из 91 проверенной страницы: экстрактор и так их отбрасывал, так что правило оставили страховкой — на случай, когда срабатывает запасной экстрактор. Во-вторых, чистку хлебных крошек по именам CSS-классов пришлось срочно откатить: после такой «уборки» страница каталога превратилась из 289 слов в одно гордое слово.

Чего не умеем: заголовки для зоны заголовков всё ещё собираем со всей страницы, поэтому какой-нибудь заголовок из боковой колонки вполне может туда просочиться. Отзывы, формы и списки литературы из общего объёма не вычитаем — только помечаем.

2. Медиана по всей выдаче

В ТОП-20 вперемешку стоят каталоги, лонгриды, карточки товаров и маркетплейсы. Считать общую медиану объёма по всем сразу — всё равно что высчитывать среднюю температуру по больнице: она описывает идеальную страницу, которой в природе не существует.

В сентябре мы промерили 12 запросов в двух поисковиках: агрегаторы и маркетплейсы отъели 15% выдачи Яндекса и 20% выдачи Google — от нуля до восьми штук на запрос.

Теперь мы выкидываем агрегаторы по чёрному списку (сейчас в нём 157 доменов, ведём руками), оставляем по одной странице с сайта и отсекаем всё, что короче 150 слов. Оставшееся делим на группы по смысловому сходству заголовка и начала текста, а дальше сравниваем ваш документ с самой большой группой — или с той, которая ближе всего к вашему черновику. В том же замере в группе сравнения оставалось в среднем 8–9 страниц из 17–19 результатов, а вся выдача схлопнулась в единую группу всего в одном-двух запросах из двенадцати. Если агрегаторов в топе больше 30%, отчёт честно об этом предупреждает.

Чего не умеем: кластеры собираются по смыслу начала страницы, а не по её типу. Каталоги и статьи обычно расходятся по разным углам, но стопроцентной гарантии тут нет.

3. «У вас 19, у топа 9»

Классика жанра от любого простого анализатора: слово встречается у вас 19 раз, у ТОПа — 9, караул, переспам, срочно режьте! Только вот в вашей статье 960 слов, а у ТОПа в среднем 456. Делим: 19 на 960 и 9 на 456 — это 19,8 и 19,7 вхождений на тысячу слов. Плотность один в один.

Поэтому «Словоправ» смотрит на частоты, а не на голые штуки — на 1000 значимых слов, без предлогов, союзов, местоимений и чисел. А в графе «Нужно» показывает частоту средней половины страниц ТОПа (от нижней четверти до верхней, только по тем страницам, где слово вообще есть), пересчитанную на медианный объём группы сравнения.

Чего не умеем: колонка «нужно» посчитана под медианный объём топа, а не под ваш. Если вы пишете статью заметно длиннее конкурентов, ориентируйтесь на частоты — благо они лежат в соседнем столбце.

4. Фраза, которой нет

Берём запрос «ремонт квартир под ключ». Если считать служебные слова границей фразы, главный ключ всей ниши разваливается на куски: «ремонт квартир» отдельно, «ключ» — отдельно. Если же служебные слова просто выкинуть и склеить оставшееся, нужная фраза появляется, но вместе с ней лезет откровенный мусор: из безобидного «2026 года по цене и качеству» рождается франкенштейн «год цена качество».

Мы решили собирать фразы по леммам без служебных слов строго внутри одного предложения, но копирайтеру показывать реальный живой кусок текста конкурента — максимум с одним-двумя словами в разрыве и без знаков препинания внутри. Если такого отрезка вживую нет ни у одного конкурента — фраза отправляется в утиль.

Чего не умеем: защита держится на сверке с куском реального текста, а не на глубоком синтаксисе, так что два слова, случайно оказавшиеся рядом через предлог, всё ещё могут склеиться.

5. Temperature 0 — не значит «одинаково»

Часть отчёта у нас собирает языковая модель: она вытаскивает из текстов конкурентов смысловое ядро темы. В августе мы прогнали её десять раз на одних и тех же данных — по запросу про озвучку текста, с temperature 0 и намертво замороженными остальными шагами. Результат отрезвляет: всего модель выдала 52 формулировки, во всех десяти прогонах совпали только две, а 27 всплыли ровно по одному разу. Половина этого разброса — синонимичные перефразировки вроде «синтез речи» и «синтезатор речи»: по точным фразам два прогона совпадали примерно на треть, зато по леммам — почти на две трети.

В итоге мы перестали верить модели с первого слова: теперь ядро собирается из восьми независимых запусков, формулировки с общими леммами склеиваются, а в отчёт попадают только понятия, которые выжили хотя бы в четверти ответов.

Чего не умеем: замер делали на одной нише и на прошлой версии модели. Ну и «52» — это всё-таки разные формулировки, а не 52 самостоятельные темы.

6. Страница, которой не было

Сайты не любят роботов, поэтому вместо текста конкурента регулярно подсовывают заглушки. Раньше они с невозмутимым видом проходили в расчёт как полноценные статьи конкурентов: «Доступ ограничен: проблема с IP» на 50 слов, «Проблема с проверкой» на 31 слово или 404-е шаблоны на 7–129 слов. Анализатор честно считал по ним медиану объёма.

В ноябре мы перепроверили 472 адреса — среди них все, которые с июля хоть раз отшили нашего краулера. Код отказа нашёлся у 152 из них: 403-й — 80 раз, 401-й — 54, 503-й — 12, 451-й — 4 и 429-й — 2 раза. Теперь ответ с таким кодом и текстом короче 1 500 знаков считается блокировкой, а не страницей, а 404 и 410 сразу получают метку «страницы нет». Порог по длине тут критичен: самая жирная заглушка из пойманных тянула на 1 424 знака, а вот две абсолютно живые страницы зачем-то отдавались под кодом 503 — на 5 075 и 5 333 знака.

Случались и обратные конфузы. 31 октября мы выкинули настоящую страницу с описанием игры, приняв её за капчу — просто потому, что в CSS формы регистрации затесалось слово smartcaptcha.

Чего не умеем: если сайт отдаёт красивую страницу «ничего не найдено» с честным кодом 200 OK, наше правило по HTTP-статусам её не заметит.

7. Сравнивать не с кем

Иногда после всех фильтров в выдаче вообще не остаётся живых конкурентов. 31 октября отчёт по английскому названию игры в Google построился ровно на одной странице из 17. Выдача оказалась международной: семь страниц — не на русском языке, пять — агрегаторы (Google Play и YouTube), две — дубли одного сайта, а ещё две не прочитались (одна из них — та самая «капча» из прошлого пункта). Медиана по одной странице — это, как нетрудно догадаться, сама эта страница.

Теперь если после чистки остаётся меньше трёх конкурентов, отчёт не строится, кредит возвращается пользователю, а система расписывает, сколько страниц и за какие грехи отсеяла. А группу из трёх страниц и меньше мы помечаем плашкой «недостаточно данных».

Чего не умеем: порог в три страницы — это наше волевое решение, а не результат замеров. На трёх-четырёх страницах отчёты строятся; до ввода ограничения таких набралось 14 штук из 492 успешных.

8. Выдача, которая оборвалась

Поставщик выдачи иногда обрывает ответ прямо на середине. С 24 июля по 27 сентября 11 выдач из 157 оборвались на 5–13 результатах, притворились полноценным ТОП-20 и на сутки легли в кэш: все отчёты по этим запросам считались по куцему обрубку. Такое случалось в 5,5 раза чаще, чем полностью пустой ответ — а пустой ответ хотя бы сразу бьёт тревогу.

Теперь кэш принимает только полную выдачу.

9. Одна выдача — разные группы

Выдача в кэше стоит на месте, а вот группа сравнения под ней гуляет. На 44 парных прогонах одного и того же запроса состав группы менялся в 19 случаях. 17 ноября мы прогнали шесть разных текстов по одной и той же выдаче из 17 страниц, и «Словоправ» сравнил их с тремя разными группами — на 10, 8 и 5 страниц: каждый черновик оказался ближе к своему кластеру.

Чинить это мы не стали (так и задумано), просто вывели наружу: теперь в отчёте видно время съёмки выдачи и пометку, совпали ли выдача и группа сравнения.

10. Сотня, которая меряет слова

Самая неприятная находка — совсем свежая. В ноябре мы сравнили с ТОПом тексты ChatGPT, Алисы и ГигаЧата, и сырой ChatGPT внезапно выбил «Релевантность по ключам» 100 из 100 во всех трёх запросах. Слова из запроса он пихал в текст чаще, чем три четверти страниц ТОПа, но заветной сотне на это плевать: даже если скрутить частоты до верхней четверти топа, остаётся 91 балл, а до медианы — 64. Формула просто насыщается и начинает мерить слова, а не текст. Теперь при переборе ключей на карточке релевантности загорается предупреждение «Чаще, чем у топа» с конкретными цифрами. Подробнее об этом эксперименте можно почитать в разборе текстов нейросетей.

И напоследок — классика жанра с «очевидной» правкой. «Корм» и «корма» печатались в отчёте как два разных ключевых слова. Пошли чинить лемматизатор одним простым правилом — задели 146 лемм на 87 тысячах слов, и примерно половина изменений оказалась кривой. Пришлось сначала выкачивать выдачу этой ниши и аккуратно тестировать три более узких правила.

Что из этого следует

С тезисом про вечер мы полностью согласны. Анализатор действительно пишется за вечер — и каждый фикс из списка выше тоже занимает ровно вечер. Просто таких вечеров внезапно набегает пара десятков, и приходят они только на чужих выдачах: на оборванной выдаче, на капче вместо конкурента и на оглавлении, которое прикинулось статьёй. Самое коварное, что первая версия на всём этом не падает с ошибкой — она с умным видом выдаёт дичь. Поэтому главная работа здесь не хитрая формула, а журнал, куда вы записываете каждый промах отчёта, и замеры перед каждой правкой.

Косяки мы отлавливаем до сих пор. 19 ноября, прямо пока собирали этот текст, заметили, что подписывали частоты «на 1000 слов», хотя давно считаем на 1000 значимых — заодно поправили подписи и в отчёте, и в прошлой статье.

Если навайбкодить свой анализатор за вечер пока не тянет — проверьте страницу в «Словоправе»: первые три отчёта отдаём бесплатно.