LLM API и интеграция

Сколько людей нужно для внедрения нейросети

Сколько людей нужно для внедрения нейросети

Для пилота обычно хватает двух человек на неполной занятости. Ролей при этом четыре: кто формулирует задачу и критерий приёмки, кто пишет обвязку, кто проверяет качество на выборке, кто отвечает за расход. Две из четырёх спокойно совмещаются, третий человек появляется позже и по конкретному признаку. Роли важнее должностей: одна и та же работа в разных компаниях называется по-разному.

Дальше — разбор каждой роли, таблица с признаками того, что роль не закрыта, граница появления третьего человека и отдельный раздел о том, почему предметного специалиста и разработчика нельзя менять местами.

Сколько человек нужно на самом деле

Двое. Предметный специалист, который знает, какой ответ правильный, и человек, который умеет собрать обвязку — хоть кодом, хоть конструктором.

Занятость у обоих неполная. Предметник тратит на пилот 2–4 часа в неделю, сборщик — от нескольких часов до 2 дней на старте, дальше меньше. Отдельные ставки под это не нужны.

Ошибка, которая встречается чаще всего, — начать с одного человека и назначить им разработчика. Такой пилот доходит до работающей интеграции и там останавливается, потому что никто не может сказать, хороший ответ или нет.

Четыре роли, а не четыре должности

Роли распределяются по работе, а не по строчке в штатном расписании. Таблица читается отдельно от статьи: по ней можно проверить, кто у вас закрывает каждую роль.

РольЧто делаетКто это обычноПризнак, что роль не закрыта
Постановка задачи и критерий приёмкиописывает задачу, собирает эталонные примеры, решает, что считать верным ответомпредметный специалист: юрист, бухгалтер, руководитель поддержкиспор о готовности не заканчивается, каждый считает по-своему
Обвязкаподключает ключ, собирает сценарий, обрабатывает ошибки, ведёт журналразработчик, аналитик или сам предметник в конструкторесценарий падает на исключениях, ошибки никто не видит
Проверка качества на выборкепрогоняет выборку, считает ошибки, разбирает их причиныпредметник или его помощниккачество обсуждается впечатлениями, а не числами
Расходследит за журналом, ставит потолок, останавливает при превышениитот же, кто собирает обвязку, но названный отдельнопревышение обнаруживается по счёту в конце месяца

Совмещать роли можно почти в любых сочетаниях, кроме одного: постановка задачи и проверка качества должны оставаться у человека из предметной области, а не у того, кто собирал сценарий.

Кто формулирует задачу и критерий приёмки

Это предметный специалист, и без него не работает ничего. Он отвечает на единственный вопрос, который определяет судьбу пилота: какой ответ считается правильным.

Работа выглядит прозаично: взять 30–50 реальных случаев, для каждого записать эталонный ответ, отдельно выписать спорные. Спорные случаи ценнее остальных — именно они показывают, что «правильно» в вашей области определено не до конца.

Второй продукт этой роли — граница допустимого. Не «точность должна быть высокой», а «из ста обращений не больше пяти отнесены не в ту категорию, и ни одно обращение с угрозой жалобы не пропущено». Критерий без числа не критерий.

Времени это занимает немного: несколько часов на старте и час-полтора в неделю потом. Но эти часы нельзя ни купить снаружи, ни передать.

Кто пишет обвязку

Обвязка — это всё между вашим процессом и запросом к модели: подстановка данных, обработка ошибок, повторы, журнал, хранение ключа.

Уровень исполнителя зависит от объёма. До нескольких сотен операций в день это может быть человек без разработки — таблица, конструктор автоматизации, ручной прогон пачками; способы и их потолок разобраны в статье как внедрить нейросеть без разработчика.

Выше этого потолка нужен разработчик, но не постоянно. Типовой сценарий занимает у одного человека от двух дней до недели, дальше — поддержка часами в месяц. Набор проверок перед запуском собран в материале чек-лист перед внедрением модели.

Кто проверяет качество на выборке

Проверяет тот, кто знает предметную область, а не тот, кто собирал сценарий. Это правило нарушают чаще всего, и последствия одинаковые: качество оценивается тем, кто заинтересован в том, чтобы оно было хорошим.

Работа роли: случайная выборка, сравнение с эталоном, подсчёт ошибок по типам. Именно по типам — «пять ошибок» ничего не говорит, «четыре из пяти на документах старой формы» говорит всё.

Проверка повторяется после каждой заметной правки инструкции и после смены позиции каталога. Как устроен такой прогон, разобрано в статье как тестировать нейросеть.

Кто отвечает за расход

Эта роль должна быть названа отдельно, даже если её закрывает тот же человек, что и обвязку. Неназванная ответственность за расход обнаруживается по счёту, а не по превышению.

Что делает: ставит потолок на период, смотрит журнал запросов, знает, какая позиция сколько стоит, и имеет право остановить сценарий. Состав журнала, без которого эта роль слепа, разобран в материале логирование запросов к моделям.

На пилоте сумма небольшая. Дешёвые текстовые позиции каталога стоят 1–2 ₽ за миллион токенов, а пять текстовых позиций после первого платного пополнения не тарифицируются вовсе. Но привычка смотреть журнал закладывается именно на пилоте: в постоянной работе это уже статья расходов. Способы её сократить собраны в статье как сократить расходы на API.

Почему на пилоте хватает двух человек

Потому что три из четырёх ролей требуют не постоянной занятости, а регулярного внимания.

Предметник закрывает постановку и проверку — это одна голова и один взгляд на то, что считать верным. Сборщик закрывает обвязку и расход — обе роли смотрят в одно и то же место, в журнал.

Такое совмещение держится, пока пилот остаётся пилотом: ограниченная выборка, ручной запуск, отсутствие обязательств перед клиентом. Кто отвечает, когда ответ всё-таки уходит наружу, разобрано в статье кто отвечает за ответ нейросети.

Проверить конструкцию из двух человек можно на одном ключе: в KeyDealer доступ к 45 текстовым позициям каталога идёт по одному ключу с оплатой российской картой, без документов и зарубежного счёта. Один ключ на двоих закрывает и сборку обвязки, и прогон выборки, и наблюдение за расходом в журнале.

Где проходит граница, за которой нужен третий

Граница проходит по трём признакам, и достаточно одного из них.

Первый: сценарий работает без присмотра и требует дежурства — поток идёт ночью и в выходные, сбои нужно разбирать в тот же день. Второй: проверка качества занимает больше половины рабочего дня предметника, и его основная работа начинает страдать. Третий: сценариев стало больше трёх, и они конкурируют за внимание одного сборщика.

Третий человек — это обычно не ещё один разработчик. Чаще это помощник предметника на проверке выборок или дежурный, который следит за журналом и эскалирует сбои.

Отдел появляется ещё позже и по другой причине: когда задач больше пяти-шести и нужен кто-то, кто расставляет между ними приоритеты. Общая структура сметы на этом этапе разобрана в материале сколько стоит внедрить нейросеть.

Сколько времени ролей уходит в неделю

Ориентир для пилота на 30–50 записей: предметник — 2–4 часа в неделю, сборщик — 4–8 часов на старте и 1–2 часа потом, наблюдение за расходом — минуты, если журнал настроен.

Эти часы стоит назвать вслух до начала, а не после. Руководитель, который согласовал «два часа юриста в неделю на месяц», не удивится, когда юрист попросит эти два часа. Руководитель, который согласовал «попробовать нейросеть», удивится обязательно.

Отдельная строка — время на разбор спорных случаев. Оно всегда больше ожидаемого, потому что спор идёт не о модели, а о том, как в компании на самом деле устроено правило.

Почему предметника нельзя заменить разработчиком

Разработчик не знает, какой ответ правильный. Он соберёт интеграцию, прогонит выборку и покажет долю совпадений с тем, что считает эталоном, — но эталон придумает сам.

В предметных областях с ценой ошибки это заканчивается плохо: классификация обращения выглядит разумной и неверна по внутреннему регламенту, формулировка договора грамматически хороша и создаёт обязательство.

Обратная замена работает не лучше. Предметник без сборщика доходит до ручного прогона пачками и останавливается на обработке ошибок, повторах и хранении ключа — это не вопрос сообразительности, а вопрос другой профессии.

Единственное исключение — человек, который совмещает обе компетенции честно: знает предметную область и умеет писать код. Такие есть, их мало, и пилот с ними идёт быстрее всего.

Нужен ли подрядчик

Подрядчик закрывает роль обвязки и иногда часть проверки. Роль предметного специалиста он не закрывает, и попытка передать её вместе с техническим заданием — самая дорогая ошибка в этом списке.

Признак, что подрядчик нужен: обвязка сложнее конструктора, а своего разработчика нет или он занят на год вперёд. Признак, что не нужен: задача укладывается в несколько сотен операций в день.

При работе с подрядчиком заранее договоритесь о двух вещах: где хранится ключ и кто смотрит журнал расхода. Обе роли должны остаться на вашей стороне.

Чего мы не утверждаем

Мы не утверждаем, что двух человек хватит любой компании. В регулируемых областях к четырём ролям добавляется согласование, и это отдельные люди с отдельным календарём.

Мы не утверждаем, что совмещение ролей бесплатно. Предметник, который тратит полтора часа в неделю на проверку выборки, не делает в это время свою работу, и в смете это должно быть видно.

Мы не даём рекомендаций по подбору подрядчиков и по форме договора с ними. У нас нет для этого оснований, а советы такого рода устаревают быстрее статьи.

Что нужно, чтобы попробовать

Ключ заводится за минуту на keydealer.ru/login — почта и пароль, без документов и без зарубежной карты.

Первый прогон делается до любой обвязки, прямо из терминала; как выглядит самый первый запрос, показано в статье первый запрос к API нейросети.

Приветственный бонус даёт доступ к платным позициям сразу. Проверка выборки из тридцати записей укладывается в один вечер и не требует ни отдела, ни подрядчика.

Что держать в голове

Считать нужно роли, а не головы. Вопрос «сколько людей» почти всегда означает «какие работы придётся делать», и на него отвечают четыре строки, а не одна цифра.

Роль, которую нельзя вынести наружу, ровно одна — постановка задачи и критерий приёмки. Всё остальное при желании покупается.

Третий человек появляется по признаку, а не по плану: дежурство, перегруженная проверка или четвёртый сценарий. Как мы проверяем факты и почему у каждой цифры стоит дата — на странице о проекте. Завести ключ и проверить конструкцию на своей задаче: keydealer.ru/login.

Частые вопросы

Сколько человек нужно для внедрения нейросети?

На пилоте — обычно два человека на неполной занятости: предметный специалист и тот, кто собирает обвязку. Ролей при этом четыре: постановка задачи с критерием приёмки, обвязка, проверка качества на выборке и ответственность за расход. Две из четырёх ролей совмещаются без потерь, третий человек нужен позже.

Нужен ли отдельный отдел под нейросети?

На пилоте нет. Отдел появляется не от сложности одной задачи, а от количества задач: когда сценариев становится больше пяти-шести и они начинают конфликтовать за внимание, приоритеты и бюджет. До этого отдел создаёт координацию вместо работы.

Можно ли обойтись подрядчиком?

Обвязку подрядчик соберёт, но роль предметного специалиста снаружи не закрывается. Критерий приёмки формулирует тот, кто знает, какой ответ правильный в вашей предметной области, и эту работу нельзя передать вместе с техническим заданием.

Почему предметного специалиста нельзя заменить разработчиком?

Потому что разработчик не знает, какой ответ правильный. Он может собрать интеграцию, прогнать выборку и показать долю совпадений, но решить, что классификация обращения верна, а формулировка договора опасна, — вне его компетенции. Без предметника проект остаётся без критерия приёмки и не заканчивается.

Где проходит граница, за которой нужен третий человек?

Примерно там, где сценарий начинает работать без присмотра и требует дежурства: постоянный поток, ночные прогоны, разбор сбоев, наблюдение за расходом. Ещё один признак — когда проверка качества занимает больше половины рабочего дня предметника, её пора отделять.

Кто должен отвечать за расход на запросы?

Один названный человек с доступом к журналу и правом остановить сценарий. Это может быть тот же, кто пишет обвязку, но роль должна быть названа отдельно: неназванная ответственность за расход обнаруживается по счёту в конце месяца, а не по превышению в середине.

Источники