LLM API и интеграция
Сколько людей нужно для внедрения нейросети
Для пилота обычно хватает двух человек на неполной занятости. Ролей при этом четыре: кто формулирует задачу и критерий приёмки, кто пишет обвязку, кто проверяет качество на выборке, кто отвечает за расход. Две из четырёх спокойно совмещаются, третий человек появляется позже и по конкретному признаку. Роли важнее должностей: одна и та же работа в разных компаниях называется по-разному.
Дальше — разбор каждой роли, таблица с признаками того, что роль не закрыта, граница появления третьего человека и отдельный раздел о том, почему предметного специалиста и разработчика нельзя менять местами.
Сколько человек нужно на самом деле
Двое. Предметный специалист, который знает, какой ответ правильный, и человек, который умеет собрать обвязку — хоть кодом, хоть конструктором.
Занятость у обоих неполная. Предметник тратит на пилот 2–4 часа в неделю, сборщик — от нескольких часов до 2 дней на старте, дальше меньше. Отдельные ставки под это не нужны.
Ошибка, которая встречается чаще всего, — начать с одного человека и назначить им разработчика. Такой пилот доходит до работающей интеграции и там останавливается, потому что никто не может сказать, хороший ответ или нет.
Четыре роли, а не четыре должности
Роли распределяются по работе, а не по строчке в штатном расписании. Таблица читается отдельно от статьи: по ней можно проверить, кто у вас закрывает каждую роль.
| Роль | Что делает | Кто это обычно | Признак, что роль не закрыта |
|---|---|---|---|
| Постановка задачи и критерий приёмки | описывает задачу, собирает эталонные примеры, решает, что считать верным ответом | предметный специалист: юрист, бухгалтер, руководитель поддержки | спор о готовности не заканчивается, каждый считает по-своему |
| Обвязка | подключает ключ, собирает сценарий, обрабатывает ошибки, ведёт журнал | разработчик, аналитик или сам предметник в конструкторе | сценарий падает на исключениях, ошибки никто не видит |
| Проверка качества на выборке | прогоняет выборку, считает ошибки, разбирает их причины | предметник или его помощник | качество обсуждается впечатлениями, а не числами |
| Расход | следит за журналом, ставит потолок, останавливает при превышении | тот же, кто собирает обвязку, но названный отдельно | превышение обнаруживается по счёту в конце месяца |
Совмещать роли можно почти в любых сочетаниях, кроме одного: постановка задачи и проверка качества должны оставаться у человека из предметной области, а не у того, кто собирал сценарий.
Кто формулирует задачу и критерий приёмки
Это предметный специалист, и без него не работает ничего. Он отвечает на единственный вопрос, который определяет судьбу пилота: какой ответ считается правильным.
Работа выглядит прозаично: взять 30–50 реальных случаев, для каждого записать эталонный ответ, отдельно выписать спорные. Спорные случаи ценнее остальных — именно они показывают, что «правильно» в вашей области определено не до конца.
Второй продукт этой роли — граница допустимого. Не «точность должна быть высокой», а «из ста обращений не больше пяти отнесены не в ту категорию, и ни одно обращение с угрозой жалобы не пропущено». Критерий без числа не критерий.
Времени это занимает немного: несколько часов на старте и час-полтора в неделю потом. Но эти часы нельзя ни купить снаружи, ни передать.
Кто пишет обвязку
Обвязка — это всё между вашим процессом и запросом к модели: подстановка данных, обработка ошибок, повторы, журнал, хранение ключа.
Уровень исполнителя зависит от объёма. До нескольких сотен операций в день это может быть человек без разработки — таблица, конструктор автоматизации, ручной прогон пачками; способы и их потолок разобраны в статье как внедрить нейросеть без разработчика.
Выше этого потолка нужен разработчик, но не постоянно. Типовой сценарий занимает у одного человека от двух дней до недели, дальше — поддержка часами в месяц. Набор проверок перед запуском собран в материале чек-лист перед внедрением модели.
Кто проверяет качество на выборке
Проверяет тот, кто знает предметную область, а не тот, кто собирал сценарий. Это правило нарушают чаще всего, и последствия одинаковые: качество оценивается тем, кто заинтересован в том, чтобы оно было хорошим.
Работа роли: случайная выборка, сравнение с эталоном, подсчёт ошибок по типам. Именно по типам — «пять ошибок» ничего не говорит, «четыре из пяти на документах старой формы» говорит всё.
Проверка повторяется после каждой заметной правки инструкции и после смены позиции каталога. Как устроен такой прогон, разобрано в статье как тестировать нейросеть.
Кто отвечает за расход
Эта роль должна быть названа отдельно, даже если её закрывает тот же человек, что и обвязку. Неназванная ответственность за расход обнаруживается по счёту, а не по превышению.
Что делает: ставит потолок на период, смотрит журнал запросов, знает, какая позиция сколько стоит, и имеет право остановить сценарий. Состав журнала, без которого эта роль слепа, разобран в материале логирование запросов к моделям.
На пилоте сумма небольшая. Дешёвые текстовые позиции каталога стоят 1–2 ₽ за миллион токенов, а пять текстовых позиций после первого платного пополнения не тарифицируются вовсе. Но привычка смотреть журнал закладывается именно на пилоте: в постоянной работе это уже статья расходов. Способы её сократить собраны в статье как сократить расходы на API.
Почему на пилоте хватает двух человек
Потому что три из четырёх ролей требуют не постоянной занятости, а регулярного внимания.
Предметник закрывает постановку и проверку — это одна голова и один взгляд на то, что считать верным. Сборщик закрывает обвязку и расход — обе роли смотрят в одно и то же место, в журнал.
Такое совмещение держится, пока пилот остаётся пилотом: ограниченная выборка, ручной запуск, отсутствие обязательств перед клиентом. Кто отвечает, когда ответ всё-таки уходит наружу, разобрано в статье кто отвечает за ответ нейросети.
Проверить конструкцию из двух человек можно на одном ключе: в KeyDealer доступ к 45 текстовым позициям каталога идёт по одному ключу с оплатой российской картой, без документов и зарубежного счёта. Один ключ на двоих закрывает и сборку обвязки, и прогон выборки, и наблюдение за расходом в журнале.
Где проходит граница, за которой нужен третий
Граница проходит по трём признакам, и достаточно одного из них.
Первый: сценарий работает без присмотра и требует дежурства — поток идёт ночью и в выходные, сбои нужно разбирать в тот же день. Второй: проверка качества занимает больше половины рабочего дня предметника, и его основная работа начинает страдать. Третий: сценариев стало больше трёх, и они конкурируют за внимание одного сборщика.
Третий человек — это обычно не ещё один разработчик. Чаще это помощник предметника на проверке выборок или дежурный, который следит за журналом и эскалирует сбои.
Отдел появляется ещё позже и по другой причине: когда задач больше пяти-шести и нужен кто-то, кто расставляет между ними приоритеты. Общая структура сметы на этом этапе разобрана в материале сколько стоит внедрить нейросеть.
Сколько времени ролей уходит в неделю
Ориентир для пилота на 30–50 записей: предметник — 2–4 часа в неделю, сборщик — 4–8 часов на старте и 1–2 часа потом, наблюдение за расходом — минуты, если журнал настроен.
Эти часы стоит назвать вслух до начала, а не после. Руководитель, который согласовал «два часа юриста в неделю на месяц», не удивится, когда юрист попросит эти два часа. Руководитель, который согласовал «попробовать нейросеть», удивится обязательно.
Отдельная строка — время на разбор спорных случаев. Оно всегда больше ожидаемого, потому что спор идёт не о модели, а о том, как в компании на самом деле устроено правило.
Почему предметника нельзя заменить разработчиком
Разработчик не знает, какой ответ правильный. Он соберёт интеграцию, прогонит выборку и покажет долю совпадений с тем, что считает эталоном, — но эталон придумает сам.
В предметных областях с ценой ошибки это заканчивается плохо: классификация обращения выглядит разумной и неверна по внутреннему регламенту, формулировка договора грамматически хороша и создаёт обязательство.
Обратная замена работает не лучше. Предметник без сборщика доходит до ручного прогона пачками и останавливается на обработке ошибок, повторах и хранении ключа — это не вопрос сообразительности, а вопрос другой профессии.
Единственное исключение — человек, который совмещает обе компетенции честно: знает предметную область и умеет писать код. Такие есть, их мало, и пилот с ними идёт быстрее всего.
Нужен ли подрядчик
Подрядчик закрывает роль обвязки и иногда часть проверки. Роль предметного специалиста он не закрывает, и попытка передать её вместе с техническим заданием — самая дорогая ошибка в этом списке.
Признак, что подрядчик нужен: обвязка сложнее конструктора, а своего разработчика нет или он занят на год вперёд. Признак, что не нужен: задача укладывается в несколько сотен операций в день.
При работе с подрядчиком заранее договоритесь о двух вещах: где хранится ключ и кто смотрит журнал расхода. Обе роли должны остаться на вашей стороне.
Чего мы не утверждаем
Мы не утверждаем, что двух человек хватит любой компании. В регулируемых областях к четырём ролям добавляется согласование, и это отдельные люди с отдельным календарём.
Мы не утверждаем, что совмещение ролей бесплатно. Предметник, который тратит полтора часа в неделю на проверку выборки, не делает в это время свою работу, и в смете это должно быть видно.
Мы не даём рекомендаций по подбору подрядчиков и по форме договора с ними. У нас нет для этого оснований, а советы такого рода устаревают быстрее статьи.
Что нужно, чтобы попробовать
Ключ заводится за минуту на keydealer.ru/login — почта и пароль, без документов и без зарубежной карты.
Первый прогон делается до любой обвязки, прямо из терминала; как выглядит самый первый запрос, показано в статье первый запрос к API нейросети.
Приветственный бонус даёт доступ к платным позициям сразу. Проверка выборки из тридцати записей укладывается в один вечер и не требует ни отдела, ни подрядчика.
Что держать в голове
Считать нужно роли, а не головы. Вопрос «сколько людей» почти всегда означает «какие работы придётся делать», и на него отвечают четыре строки, а не одна цифра.
Роль, которую нельзя вынести наружу, ровно одна — постановка задачи и критерий приёмки. Всё остальное при желании покупается.
Третий человек появляется по признаку, а не по плану: дежурство, перегруженная проверка или четвёртый сценарий. Как мы проверяем факты и почему у каждой цифры стоит дата — на странице о проекте. Завести ключ и проверить конструкцию на своей задаче: keydealer.ru/login.
Частые вопросы
Сколько человек нужно для внедрения нейросети?
На пилоте — обычно два человека на неполной занятости: предметный специалист и тот, кто собирает обвязку. Ролей при этом четыре: постановка задачи с критерием приёмки, обвязка, проверка качества на выборке и ответственность за расход. Две из четырёх ролей совмещаются без потерь, третий человек нужен позже.
Нужен ли отдельный отдел под нейросети?
На пилоте нет. Отдел появляется не от сложности одной задачи, а от количества задач: когда сценариев становится больше пяти-шести и они начинают конфликтовать за внимание, приоритеты и бюджет. До этого отдел создаёт координацию вместо работы.
Можно ли обойтись подрядчиком?
Обвязку подрядчик соберёт, но роль предметного специалиста снаружи не закрывается. Критерий приёмки формулирует тот, кто знает, какой ответ правильный в вашей предметной области, и эту работу нельзя передать вместе с техническим заданием.
Почему предметного специалиста нельзя заменить разработчиком?
Потому что разработчик не знает, какой ответ правильный. Он может собрать интеграцию, прогнать выборку и показать долю совпадений, но решить, что классификация обращения верна, а формулировка договора опасна, — вне его компетенции. Без предметника проект остаётся без критерия приёмки и не заканчивается.
Где проходит граница, за которой нужен третий человек?
Примерно там, где сценарий начинает работать без присмотра и требует дежурства: постоянный поток, ночные прогоны, разбор сбоев, наблюдение за расходом. Ещё один признак — когда проверка качества занимает больше половины рабочего дня предметника, её пора отделять.
Кто должен отвечать за расход на запросы?
Один названный человек с доступом к журналу и правом остановить сценарий. Это может быть тот же, кто пишет обвязку, но роль должна быть названа отдельно: неназванная ответственность за расход обнаруживается по счёту в конце месяца, а не по превышению в середине.