Как применять ИИ в работе
Проверяемый пример
Все числа и правила в примере учебные. Задание можно выполнить в таблице или коротким скриптом.
Попроси ИИ ответить на три вопроса строго по двум вымышленным документам. D1 сообщает, что кабинет учебного сервиса A работает с 09:00 до 18:00. D2 сообщает, что поддержка учебного сервиса B работает с 10:00 до 17:00. Вопросы — когда работает кабинет A, когда поддержка B и по какому графику работает кабинет C. Ответы должны указывать идентификатор источника, а при отсутствии сведений — сообщать об этом.
Как проверить результат. Первый ответ должен дать 09:00–18:00 со ссылкой на D1, второй — 10:00–17:00 со ссылкой на D2. Для C в документах нет данных. Проверь каждый ответ по документу. Отдельно отметь, что расписание кабинета и расписание поддержки относятся к разным объектам.
В каких задачах помогает ИИ
Работа включает оценку готовых моделей, поиск по документам с формированием ответа, анализ ошибок и проектирование передачи спорного случая сотруднику. Умение работать с ИИ здесь означает поставить измеримую задачу, подготовить данные, подобрать способ проверки и контролировать качество после внедрения.
Для реальных рабочих задач используй разрешённый в организации инструмент и согласованные данные. Внешнему помощнику можно передать синтетический пример с той же структурой, сохранив единицы, типы полей и условия задачи.
Что проверяет специалист
Проверяй ответы на отдельном наборе вопросов, включая неизвестные сведения, устаревший документ и противоречивые источники. Доступ к документам должен соответствовать правам пользователя. Инструкции внутри найденных материалов могут пытаться изменить поведение модели, это отдельный сценарий проверки.
Чем занимается специалист
Проектирует и оценивает применение ИИ в процессах государственных организаций. Выбирает задачу, готовит проверочный набор и помогает организовать работу сотрудников с результатами модели.
Какой результат ждут в команде
Пилот с проверочным набором, описанными ошибками, правилами участия сотрудника и измеримыми условиями принятия решения о внедрении.
Какие навыки развивать
Основы ML и языковых моделей, RAG, оценка ответов, подготовка данных, защита информации, проектирование процесса и расчёт эффекта.
Как попробовать себя
Собери справочного помощника на нескольких собственных вымышленных документах. Проверь правильные ответы, ссылки на источники и поведение при отсутствии информации. Зафиксируй ошибки и способ их обнаружения.
Сохрани исходные данные, свой запрос к ИИ, полученный ответ и исправления. При разборе покажи, как ты проверил результат и какое решение принял сам.
Материал для углубления
Сценарии внедрения нежелательных инструкций через запросы и найденные документы описаны в материалах OWASP. OWASP о prompt injection.
