AI - Инженер Senior

Обязанности:

• Выстроить управление использованием ИИ в холдинге: политика применения AI-инструментов сотрудниками, правила работы с корпоративными данными в промптах, борьба с теневым использованием внешних сервисов;
• Вести реестр AI-систем компании: какие модели и агенты работают, к каким данным имеют доступ, кто владелец, какие риски и какие меры приняты;
• Проверять безопасность AI-продуктов до и после запуска: доступы агентов к базам и системам, защита от инъекций промптов, контроль утечки конфиденциальных и персональных данных через модели;
• Оценивать риски моделей вместе с командами разработки: качество и происхождение обучающих данных, права на данные, персональные данные в выборках, честность заявленных метрик;
• Проводить аудит внешних AI-вендоров и сервисов: куда уходят данные, где хранятся, какие гарантии даёт поставщик;
• Разбирать инциденты, связанные с ИИ: утечки через промпты, некорректные ответы агентов в бизнес-процессах, несанкционированные подключения;
• Обучать сотрудников безопасной работе с AI-инструментами: короткие памятки, разборы кейсов, входное обучение для новых команд;
• Следить за регуляторикой и стандартами в области ИИ и переводить их в практические требования для команд.

Требования:

• Опыт от 2 лет в информационной безопасности или в разработке и эксплуатации AI-решений. Достаточно сильной базы в одном из двух направлений и живого интереса ко второму: узких готовых специалистов на рынке почти нет, доучим на практике;
• Понимание специфических рисков больших языковых моделей: инъекции промптов, утечка данных через промпты и контекст, отравление данных, галлюцинации в бизнес-процессах. Знакомство с OWASP Top 10 для LLM-приложений будет сильным плюсом;
• Базовые знания классической ИБ: управление доступами, защита конфиденциальных данных, работа с инцидентами, основы сетевой безопасности;
• Понимание жизненного цикла ML-модели и того, где в нём возникают риски: данные для обучения, доступ модели к источникам, вывод в продакшен, мониторинг;
• Уверенный пользователь SQL и Python на уровне чтения кода и написания простых проверок; глубокая разработка не требуется;
• Знание требований к работе с персональными данными (закон РК о персональных данных) или готовность быстро в них разобраться;
• Умение писать понятные документы: политики, регламенты, памятки для сотрудников без ИБ-жаргона;
• Самостоятельность и здравый смысл: область новая, готовых шаблонов мало, придётся формировать практику первым;
• Будет плюсом: опыт аудита ИТ-систем или вендоров, сертификаты в ИБ, опыт внедрения политик использования AI в компании, знакомство с фреймворками AI-рисков (NIST AI RMF, ISO 42001).