Блог

Заметки

Три вещи, которые мы объясняем почти на каждом звонке. Написано для инженера, который принимает решение, а не для поисковой системы.

Что здесь есть

Три заметки. Читайте ту, которая нужна, — они не зависят друг от друга.

Миграция

Токенизация, краевые случаи потоковой передачи и системные промпты, которые тихо перестают переноситься.

  • 2 октября 2026 г.
  • Миграция
Что на самом деле меняется

Закупка

Восемь вопросов, которые мы задали бы на месте покупателя — со ссылками на наши ответы.

  • 2 октября 2026 г.
  • Закупка
Что спросить до подписания

Что на самом деле меняется при переходе на API DeepSeek

  • 2 октября 2026 г.
  • Миграция

Короткая версия: меньше, чем ожидаешь, и не там, где ожидаешь. Формат запроса совместим с OpenAI SDK, поэтому для большинства команд первое изменение — это базовый адрес и ключ, и первый запрос проходит успешно. Именно этот успех и делает следующую часть неприятной: выглядит законченным раньше, чем оно закончено.

Токенизация другая, поэтому лимиты сдвигаются. Количество токенов не переносится между семействами моделей. Промпт, который спокойно помещается в окно контекста у текущего поставщика, здесь может оказаться совсем в другом месте — то же верно и для бюджета ответа. До переключения посчитайте токены на представительной выборке вашего реального трафика тем токенизатором, который действительно применяется, а не оценкой по количеству символов.

Интеграции ломаются на краевых случаях потоковой передачи. Границы блоков, то, как приходит причина завершения, и то, как выглядит поток, оборвавшийся раньше времени, — всё это места, где две реализации, обе называющие себя совместимыми, ведут себя по-разному. Если у вашего клиента есть логика повторных попыток, проверьте её на намеренно прерванном потоке, а не предполагайте, что успешный путь обобщается.

Системный промпт — не переносимый актив. Промпт, настроенный под одну модель, несёт привычки этой модели. Инструкции, которые делали реальную работу, могут стать избыточными, а избыточные — неожиданно несущими. Прогоните ваш набор проверок заново, а не полагайтесь на интуицию.

Практический метод: неделю ведите оба пути параллельно на реальном трафике, записывайте ответы и сравнивайте их на тех случаях, на которые жалуются пользователи. Это скучнее, чем переключение за выходные, и это план, который не заканчивается откатом.

Длинный контекст на практике: что меняет окно в 1 млн токенов

  • 2 октября 2026 г.
  • Инженерия

Очень большое окно контекста убирает целую категорию инженерной работы. Оно не убирает необходимость думать о том, что вы в него кладёте. Команды, которые считают «поместилось» синонимом «понято», обычно узнают разницу в продакшене.

Качество извлечения неравномерно по окну. К информации, размещённой глубоко внутри очень длинного ввода, внимание обращается не так надёжно, как к информации по краям. Если ваш сценарий зависит от конкретного пункта в длинном документе, проверьте этот пункт на разных позициях, а не предполагайте, что один удачный прогон обобщается.

Задержка растёт вместе с вводом, и это не линейно по терпению пользователей. Запрос, несущий целый документ, идёт заметно дольше, чем несущий одну страницу. Если ваш интерфейс интерактивный, измерьте путь с длинным вводом целиком, прежде чем обещать время ответа, — модель здесь лишь один из компонентов.

Структура важнее объёма. Длинный ввод с ясными разделителями, поставленной задачей и явно заданным форматом вывода работает лучше, чем тот же материал, вставленный сплошным текстом. Если вы собираете ввод программно, потратьте усилие на каркас, а не на попытку втиснуть ещё один документ.

Работающий шаблон: дайте модели задачу в начале и в конце длинного ввода, середину отведите под материал, а проверяйте на своих самых трудных случаях, а не на демонстрационном документе.

Что спросить у поставщика до подписания

  • 2 октября 2026 г.
  • Закупка

Это вопросы, которые нам задают хорошие службы закупки, и те, что задали бы мы сами, если бы покупали. Они применимы к нам в той же мере, что и к другим, поэтому там, где мы записали ответы, стоят ссылки.

  • Кто держит аккаунт у поставщика выше? Если ответ «мы» — спросите, что произойдёт с вашим сервисом, если этот аккаунт заблокируют. Ответом должен быть процесс, а не заверение.
  • Что происходит при выводе модели из эксплуатации? Жизненные циклы моделей заканчиваются. Спросите, за какой срок вас предупредят и кто за это отвечает.
  • Кому звонить и когда? Конкретный человек с определённым временем ответа ценнее портала поддержки с очередью заявок.
  • Что зафиксировано письменно? Спросите, какие обещания поставщика попадают в договор, а какие живут только на маркетинговом сайте. Разрыв между этими двумя списками и есть реальный продукт.
  • Каков путь выхода? Как вы уходите, что происходит с вашими данными и сколько это занимает. Спросите до того, как это понадобится.
  • Что вы делаете с нашими данными? «Мы их не продаём» и «мы на них не обучаем» — разные утверждения. Получите то, которое действительно нужно вам.
  • Какие сертификаты у вас есть? Попросите список и воспринимайте расплывчатый ответ как «нет».
  • Как выглядит счёт? Название организации, валюта, условия оплаты и включён ли налог. Бухгалтерия спросит в любом случае, и ответить сейчас проще, чем во время подключения.

Поставщик, который прямо отвечает на все восемь, говорит вам что-то. Тот, кто отвечает на три и меняет тему, — тоже.

Написано командой этого сайта. Эти заметки описывают наш собственный опыт и общую инженерную практику; они не являются юридической консультацией или рекомендацией по закупкам, а конкретные показатели сервиса модели процитированы из публичной документации поставщика.

БЛОГ · О ЧЁМ МЫ ПИШЕМ

Схема процесса: три этапа, соединённые стрелками; средний этап выделен.

ЧТО ПУБЛИКУЕМ

Миграция, OCR, объёмы, оплата

то, что решает вопрос о запуске

КАК ПИШЕМ

Из работы, которую делали

с цифрами, на которые можно указать

ЧЕГО НЕ ДЕЛАЕМ

Без статей ради галочки

ничего «для наполнения»

  • Три статьи для начала
  • У каждого утверждения есть источник
  • Пишем для технического читателя
Три заметки: миграция, длинный контекст и что спросить до подписания.Схема процесса. Не скриншот.

Расскажите, какой объём и что используете сейчас.

Обычно ответим в течение одного рабочего дня: условия и персональный менеджер.