🛡️

مهندس امنیت هوش مصنوعی

AI Security Engineer

«مهندس امنیت سایبری هوش مصنوعی» (AI Cybersecurity Engineer) عنوانی نیست که کارفرماها به کار ببرند: در بررسی ما در اکتبر ۲۰۲۶ روی ۴۴٬۱۷۳ آگهی باز در تابلوی استخدام ۵۱۵ شرکت، هیچ آگهی‌ای این عنوان را نداشت. همین کار با عنوان AI Security Engineer (مهندس امنیت هوش مصنوعی) آگهی می‌شود، مثلاً در Plaid، Interra Health و GuidePoint Security. این مهندس سیستم‌های مبتنی بر AI و LLM را امن می‌کند: پیش از استقرار ریسکشان را بررسی می‌کند، guardrail و sandbox می‌سازد تا کارهایی که ایجنت‌ها می‌توانند انجام دهند محدود بماند، هویت و دسترسی ایجنت‌ها را مدیریت می‌کند و جلوی prompt injection و نشت داده را می‌گیرد. در بعضی تیم‌ها کار سوی دیگری هم دارد: ساختن ابزار و ایجنت‌های AI برای خودِ تیم امنیت.

AI / LLM SecurityThreat ModelingPrompt Injection DefenseIdentity & Access (IAM)Cloud SecurityPython

مقدمه و تعریف شغل

مهندس امنیت هوش مصنوعی (AI Security Engineer) مهندس امنیتی است که سیستم‌های مبتنی بر AI را امن می‌کند: دستیارها و ایجنت‌هایی که با LLM ساخته می‌شوند، pipelineهای داده و RAG، سرویس‌های inference و ابزارهای AI که کارکنان یک سازمان استفاده می‌کنند. در آگهی‌های ۲۰۲۶ کار اصلی بازبینی امنیتی پیش از استقرار، مدل‌سازی تهدید، ساختن guardrail و sandbox، مدیریت هویت و دسترسی ایجنت‌ها و مهار prompt injection و نشت داده است. CyberSN، که آگهی‌های امنیت سایبری آمریکا را دسته‌بندی می‌کند، این نقش را زیرمجموعهٔ Security Engineer در گروه «دفاع» می‌شمارد. در بعضی شرکت‌ها همین عنوان به کار دیگری هم گفته می‌شود: ساختن ایجنت‌ها و ابزارهای AI برای خود تیم امنیت، مثل پلتفرم AI تیم‌های امنیت در Robinhood یا مدل‌های تشخیص prompt injection در Reddit.

با ورود LLM به محصولات و ابزارهای کاری، سطح حمله عوض شده است. OWASP در فهرست ۲۰۲۵ خطرهای اپلیکیشن‌های LLM، prompt injection را در رتبهٔ اول گذاشته و می‌نویسد روش‌هایی مثل RAG و fine-tuning این آسیب‌پذیری را به‌طور کامل رفع نمی‌کنند. آگهی Plaid همین تغییر را از زبان کارفرما می‌گوید: AI سطح حملهٔ شرکت را سریع‌تر از سرعت سازگاری بیشتر تیم‌های امنیتی گسترش داده است. چارچوب‌های این حوزه هم شکل گرفته‌اند: NIST چارچوب مدیریت ریسک AI (AI RMF) را در ۲۶ ژانویهٔ ۲۰۲۳ منتشر کرد و MITRE ATLAS تاکتیک‌ها و تکنیک‌های مهاجمان علیه سیستم‌های AI را مستند می‌کند. داده‌های بازار کار هم همین را نشان می‌دهد: طبق گزارش CyberSN، در ژانویه تا سپتامبر ۲۰۲۶ کل آگهی‌های امنیت سایبری آمریکا ۲۶٫۴٪ کمتر از همین ماه‌های ۲۰۲۵ بود، اما آگهی‌های AI Security Engineer ۲۶۸٫۳٪ بیشتر شد و به ۲٬۴۰۹ رسید.

چه چیزی می‌سازید؟

مثال‌های واقعی از خروجی کار یک مهندس امنیت هوش مصنوعی

🔍

بازبینی امنیتی پلتفرم‌های AI سازمانی

GuidePoint Security از این مهندس می‌خواهد پیکربندی پلتفرم‌هایی مثل Claude Enterprise، ChatGPT Enterprise و Microsoft Copilot را از نظر هویت و دسترسی، حفاظت و نگهداری داده و ممیزی بررسی کند و شکاف‌ها را با OWASP LLM Top 10 و MITRE ATLAS بسنجد.

🛡️

Guardrail و sandbox برای ایجنت‌ها

Plaid طراحی و استقرار guardrail، sandbox و کنترل‌هایی را می‌خواهد که کارهای ایجنت‌های AI را مهار کند. Firmus الگوهایی مثل allowlist ابزار، گام تأیید (approval gate)، اعتبارسنجی اقدام، sandbox اجرا و امکان بازگشت (rollback) را نام می‌برد.

🪪

سیستم مدیریت هویت ایجنت‌ها

Plaid سیستمی می‌خواهد که نشان دهد هر AI چه دسترسی‌ای گرفته است تا ریسک و سرعت در تعادل بمانند. Twilio نقشهٔ راه بلندمدت «هویت و مدیریت وضعیت امنیتی AI ایجنتی» را جزو وظایف آورده است.

🗂️

کنترل داده در RAG

Firmus امن کردن کل مسیر RAG را می‌خواهد: ورود و ایندکس سند، مجوز بازیابی، فیلتر metadata، جداسازی مشتریان (tenant isolation)، طبقه‌بندی دادهٔ حساس و کنترل نگهداری داده.

🚨

مدل‌های تشخیص حمله به AI

تیم AI Security در Reddit مدل‌ها و طبقه‌بندهای سبکی می‌سازد که prompt injection، jailbreak، افشای دادهٔ حساس و رفتار غیرمجاز AI را تشخیص دهند، و معیار راه‌اندازی‌شان را بر اساس تعادل false positive، تأخیر، توان پردازش و هزینه تعریف می‌کند.

🤖

پلتفرم و ایجنت AI برای تیم امنیت

Robinhood پلتفرمی می‌سازد که تیم‌های امنیت روی آن ایجنت‌ها و قابلیت‌های امنیتی مبتنی بر AI را توسعه دهند و اجرا کنند. SpaceX در برنامهٔ Starshield ایجنت‌هایی می‌خواهد که دفاع از شبکه و سیستم‌ها را خودکار کنند.

تخصص‌های مختلف مهندس امنیت هوش مصنوعی

این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد

🏢

امنیت AI در سازمان

Enterprise AI Security

امن کردن استفادهٔ کارکنان از ابزارهای AI: بازبینی پیکربندی پلتفرم‌های AI سازمانی، کشف «shadow AI» (ابزارهای AI تأییدنشده) و ارزیابی ابزارهای کدنویسی AI. نمونه‌ها: GuidePoint Security و Twilio.

🧩

امنیت محصولات AI

AI Product & Application Security

کار کنار تیم‌های محصول برای امن ساختن قابلیت‌های AI که به دست مشتری می‌رسد: RAG، API های inference، جداسازی مشتریان و کنترل خروجی. نمونه‌ها: Firmus (Senior AI Security Engineer, AI Products & Applications)، Notion (Software Engineer, AI Product Security) و Datadog (Senior Product Security Engineer - AI Agents).

🔐

امنیت ایجنت‌ها

Agent Security

هویت، مجوز و محدودسازی ایجنت‌هایی که ابزار صدا می‌زنند و کار واقعی انجام می‌دهند: credential محدود، دسترسی محدود به ابزار، MCP، اجرای ایزوله و ثبت اقدام‌ها. نمونه‌ها: Cerebras (Principal AI Security Engineer)، Databricks (Agentic Security Engineering) و Plaid.

🧠

مدل‌های تشخیص برای امنیت AI

ML for AI Security

ساختن و آموزش مدل‌هایی که prompt injection، jailbreak و رفتار غیرمجاز AI را تشخیص می‌دهند. این شاخه بیش از بقیه دانش عمیق ML می‌خواهد؛ آگهی Reddit برای آن دست‌کم ۸ سال تجربهٔ توسعهٔ مدل ML را شرط گذاشته است.

⚙️

AI برای تیم امنیت

AI for Security Operations

ساختن ایجنت‌ها و پلتفرم‌های AI که کار خودِ تیم امنیت را انجام می‌دهند یا سرعت می‌بخشند: تشخیص، بررسی و پاسخ به رخداد. نمونه‌ها: 7AI، Robinhood (Staff Software Engineer, AI Security) و SpaceX (AI Security Software Engineer, Starshield).

تفاوت با شغل‌های مشابه

کجا این شغل تمام می‌شود و شغل دیگری شروع می‌شود؟

مهندس امنیت اپلیکیشن یا ابرSecurity Engineer (Application / Cloud Security)

مهندس امنیت اپلیکیشن یا ابر کنترل‌های امنیتی را برای نرم‌افزار و زیرساخت معمولی می‌سازد؛ مهندس امنیت AI همان کنترل‌ها را روی مدل‌ها، ایجنت‌ها و داده‌های AI اعمال می‌کند و ریسک‌های تازه‌ای مثل prompt injection و دسترسی بیش از حد ایجنت را هم پوشش می‌دهد. مرز این دو باز است: CyberSN این نقش را زیرمجموعهٔ Security Engineer می‌شمارد و GuidePoint و Interra Health سابقهٔ مهندسی امنیت یا امنیت اپلیکیشن را شرط ورود گذاشته‌اند.

متخصص امنیت سایبریCybersecurity Analyst

تحلیلگر امنیت سایبری بیشتر وقتش را صرف بررسی هشدار و پاسخ به رخداد زنده می‌کند؛ مهندس امنیت AI کنترل، معماری و ابزار می‌سازد. نقطهٔ تماس این دو ایجنت‌های SOC است: در 7AI ایجنت‌های AI بخشی از کار تشخیص و بررسی را انجام می‌دهند و مهندس امنیت جریان کاری و استراتژی پاسخ به رخدادِ پشت آن‌ها را طراحی می‌کند.

متخصص تست نفوذ مدلAI Red Teamer

ردتیمر AI با اجازه به مدل‌ها و سیستم‌های AI حمله می‌کند تا ضعف‌ها را پیش از مهاجم واقعی پیدا کند؛ مهندس امنیت AI بیشتر دفاع می‌سازد و بازبینی می‌کند. یافته‌های یکی ورودی کار دیگری است: آگهی AI Security Research & Red Team Engineer در Cloudflare، که در تیم Red Team قرار دارد، همکاری نزدیک با تیم دفاعی را می‌خواهد تا یافته‌ها فوراً به بهبود دفاع تبدیل شوند. بعضی آگهی‌ها، مثل Sr Offensive AI Security Engineer در Samsara، هر دو را با هم می‌خواهند.

مهندس حریم خصوصی دادهPrivacy Engineer

مهندس حریم خصوصی روی این تمرکز دارد که چه داده‌ای جمع می‌شود، برای چه هدفی و تا کی نگه داشته می‌شود؛ مهندس امنیت AI جلوی دسترسی غیرمجاز و نشت داده از راه مدل را می‌گیرد. همپوشانی‌شان در داده است: GuidePoint ارزیابی کنترل‌های داده در RAG و vector database، از جمله جلوگیری از نشت داده از خروجی مدل و اعمال نگهداری صفر داده (zero data retention)، را جزو وظایف مهندس امنیت AI آورده است.

تأثیر در صنایع مختلف

مهندس امنیت هوش مصنوعی در همه صنایع مشغول به کار است — نه فقط شرکت‌های فناوری

🏦

مالی و فین‌تک

Plaid، Robinhood و Nubank نقش امنیت AI آگهی کرده‌اند. Nubank در سائوپائولو تجربه در محیط‌های zero-trust و تحت نظارت (regulated) را جزو شرایط لازم آورده است.

🏥

سلامت

Interra Health، که ابزار نسخه‌نویسی و اطلاعات پوشش و قیمت دارو در لحظهٔ تجویز ارائه می‌دهد، تجربه در محیط‌های تحت مقررات سلامت مثل HIPAA و HITRUST را امتیاز می‌داند.

🧑‍💼

مشاوره و خدمات امنیتی

GuidePoint Security، که به گفتهٔ خودش به شرکت‌های Fortune 500 و سازمان‌های دولتی آمریکا خدمات می‌دهد، تیم AI Security Services دارد: ارزیابی حاکمیت AI، تست امنیت LLM و ایجنت، کشف shadow AI و بازبینی معماری برای مشتریان.

🖥️

زیرساخت و سخت‌افزار AI

Firmus (ابر GPU در آسیا و اقیانوسیه) و Cerebras (سازندهٔ سخت‌افزار AI) مهندسانی می‌خواهند که آموزش مدل، inference، model serving و بار کاری مشتریان را امن کنند.

🔒

محصولات امنیتی

Zscaler محصولاتی می‌سازد که به سازمان‌ها کمک می‌کند اپلیکیشن‌ها و ایجنت‌های AI را امن و در مقیاس بزرگ به کار بگیرند، و برای آن Staff Software Engineer - AI Security استخدام می‌کند.

💬

اینترنت مصرفی و شبکه‌های اجتماعی

Reddit تیم AI Security دارد که مدل‌هایی برای تشخیص prompt injection، jailbreak و افشای دادهٔ حساس می‌سازد تا محافظت از AI بدون افت کیفیت محصول بیشتر شود.

🚚

اینترنت اشیای صنعتی

Samsara نقشی دارد که با مدل‌های پیشرو AI آسیب‌پذیری‌های ابر، نرم‌افزار و firmware را پیش از مهاجمان پیدا می‌کند و هر مدل تازه را برای کارهای امنیتی با مدل قبلی می‌سنجد.

🛰️

دفاع و فضا

SpaceX برای برنامهٔ Starshield تیم تازه‌ای در امنیت AI ساخته که ایجنت‌های حساس امنیتی برای دفاع خودکار از شبکه و سیستم‌ها می‌سازد و یکپارچه‌سازی AI در سیستم‌های برنامه را آزمایش می‌کند.

تصورات غلط رایج

قبل از تصمیم‌گیری، این باورهای اشتباه را بشناسید

امنیت AI یعنی همان ایمنی و alignment مدل‌ها

در آگهی‌های این نقش، کار روزمره مهندسی امنیت است: بازبینی سیستم، کنترل دسترسی، sandbox، حفاظت داده و تشخیص. Plaid از مدیریت هویت AI و مهار کارهای ایجنت حرف می‌زند و Firmus از OIDC، OAuth 2.0 و امنیت Kubernetes. پژوهش روی رفتار و ایمنی خودِ مدل کار جداگانه‌ای است.

برای این کار باید دکترای یادگیری ماشین داشت

بیشتر آگهی‌ها سابقهٔ امنیت و درک کاربردی AI می‌خواهند، نه پژوهش. GuidePoint «درک محکم از مفاهیم generative AI و اصول پایهٔ AI/ML» و Interra Health مدرک کارشناسی به‌علاوهٔ ۵ سال مهندسی امنیت می‌خواهد. استثنا نقش‌هایی است که خودِ مدل تشخیص را می‌سازند؛ Reddit برای آن ۸ سال تجربهٔ توسعهٔ مدل ML می‌خواهد.

با یک system prompt خوب یا یک فیلتر ورودی، prompt injection حل می‌شود

OWASP می‌نویسد حتی RAG و fine-tuning این آسیب‌پذیری را به‌طور کامل رفع نمی‌کنند. به همین دلیل آگهی‌ها دفاع چندلایه می‌خواهند: Firmus مجوزهای محدود، allowlist ابزار، گام تأیید و sandbox اجرا را کنار هم آورده تا اگر حمله‌ای از یک لایه رد شد، آسیبش محدود بماند.

این شغل نقطهٔ خوبی برای شروع کار در امنیت است

در آگهی‌هایی که بررسی کردیم تقریباً همه دست‌کم ۳ سال تجربه می‌خواستند: Plaid ۳ تا ۶ سال، GuidePoint ۳+، Interra Health و Firmus ۵+ و نقش‌های Staff و Principal ۷ تا ۱۰ سال. تنها استثنا SpaceX بود که سابقهٔ مهندسی امنیت را «ترجیحی، نه الزامی» می‌داند، اما تجربهٔ ساخت نرم‌افزار در پروداکشن و ساخت ایجنت می‌خواهد.

کار اصلی، حمله کردن به مدل‌هاست

بیشتر وظایف در این آگهی‌ها دفاعی است: بازبینی، طراحی کنترل، guardrail، هویت و تشخیص. نقش‌های تهاجمی هم هست، مثل Sr Offensive AI Security Engineer در Samsara و AI Security Research & Red Team Engineer در Cloudflare، اما معمولاً جدا آگهی می‌شوند و به نقش AI Red Teamer نزدیک‌ترند.

یک روز کاری واقعی

در هر سطح روز کاری چه شکلی است؟

سطح پایه‌تر (حدود ۳ تا ۵ سال سابقهٔ امنیت)

بیشتر وقت صرف بازبینی‌های مشخص و ساختن کنترل‌های تعریف‌شده می‌شود، معمولاً زیر نظر یک مهندس ارشد. این تصویر از وظایف آگهی‌های Plaid و GuidePoint ساخته شده است، نه از گزارش یک روز کاری واقعی.

  • ◆بررسی یک یکپارچه‌سازی تازهٔ AI (مثلاً اتصال یک دستیار به ابزارهای کاری) پیش از استقرار و نوشتن یافته‌ها
  • ◆اجرای مجموعهٔ تست prompt injection روی یک اپلیکیشن داخلی و ثبت نتیجه
  • ◆تنظیم guardrail یا محدودیت دسترسی برای ابزاری که یک ایجنت صدا می‌زند
  • ◆بررسی logها و هشدارهای مربوط به سیستم‌های AI
  • ◆خواندن اطلاعیه‌های امنیتی تازهٔ فروشندگان AI و یادداشت تأثیرشان روی سیستم‌های شرکت

ارشد (۵ تا ۸ سال)

مسئولیت یک حوزه، مثلاً امنیت ایجنت‌ها یا RAG، با شماست: مدل تهدید می‌نویسید، الگوی امن طراحی می‌کنید و به رخدادهای AI رسیدگی می‌کنید. این تصویر بر اساس آگهی‌های Interra Health و Firmus است.

  • ◆جلسهٔ threat modeling با تیم محصول برای یک قابلیت ایجنتی تازه
  • ◆طراحی الگوی مجوز ایجنت: credential محدود، allowlist ابزار و گام تأیید برای کارهای پرخطر
  • ◆بازبینی امنیتی یک ارائه‌دهندهٔ LLM یا ابزار AI بیرونی پیش از یکپارچه‌سازی
  • ◆بررسی یک خروجی مشکوک مدل که ممکن است نشت داده باشد
  • ◆نوشتن راهنمای استفادهٔ امن از AI برای تیم‌های مهندسی و آموزش آن

Staff / Principal (۸+ سال)

تمرکز روی معماری و نقشهٔ راه است: معماری مرجع برای پلتفرم‌های AI سازمان، چارچوب تأیید ابزارهای AI و هماهنگی با رهبری امنیت. این تصویر بر اساس آگهی‌های Twilio، Robinhood و Cerebras است.

  • ◆طراحی معماری مرجع امن برای یک پلتفرم AI سازمانی
  • ◆تعریف نقشهٔ راه مدیریت هویت و وضعیت امنیتی ایجنت‌ها با تیم‌های دیگر
  • ◆تبدیل کنترل‌ها به کد (policy as code و IaC) تا تیم‌ها به‌طور پیش‌فرض از آن‌ها استفاده کنند
  • ◆مرور معماری‌های پیشنهادی تیم‌ها و تصمیم دربارهٔ استثناها و پذیرش ریسک
  • ◆منتورینگ مهندسان و مشاوره به رهبری دربارهٔ ریسک‌های AI

مسئولیت‌ها و وظایف

مسئولیت‌های اصلی

وظایف روزانه و مهارت‌های مورد نیاز در این شغل

فنی
  • ◈بازبینی امنیتی سیستم‌ها و یکپارچه‌سازی‌های AI پیش و پس از استقرار
  • ◈مدل‌سازی تهدید برای LLM، RAG و ایجنت‌ها: prompt injection، نشت داده، دسترسی بیش از حد و استفادهٔ ناامن از ابزار
  • ◈طراحی و استقرار guardrail، sandbox و گام تأیید انسانی برای محدود کردن کارهایی که ایجنت می‌تواند انجام دهد
  • ◈مدیریت هویت و مجوزهای ایجنت‌ها و سرویس‌ها با اصل حداقل دسترسی
  • ◈کنترل داده در RAG و vector database: مجوز بازیابی، جداسازی مشتریان، طبقه‌بندی دادهٔ حساس و نگهداری داده
  • ◈ساختن telemetry و قاعدهٔ تشخیص برای اقدام غیرعادی ایجنت، فراخوانی ناامن ابزار و سوءاستفاده از API مدل
  • ◈بازبینی امنیتی ابزارها و فروشندگان AI بیرونی، از جمله ارائه‌دهندگان LLM، پیش از یکپارچه‌سازی
  • ◈رهبری پاسخ به رخدادهای امنیتی مربوط به AI، مثل خروجی مشکوک مدل یا افشای غیرمنتظرهٔ داده
مهارت نرم
  • ◈توضیح ریسک فنی به زبان قابل فهم برای ذی‌نفعان غیرفنی و آموزش استفادهٔ امن از AI در سازمان
  • ◈پیگیری تحقیقات تازهٔ امنیت AI و اطلاعیه‌های امنیتی فروشندگان و تبدیل آن به راهکار عملی

مهارت‌های مورد نیاز

مهارت‌های فنی، نرم و حوزه‌ای که یک مهندس امنیت هوش مصنوعی موفق به آن‌ها نیاز دارد

مهندسی امنیت (پایهٔ لازم)

امنیت اپلیکیشن و APIضروری

SAST/DAST، اسکن آسیب‌پذیری و بازبینی امنیتی کد؛ Interra Health و Nubank هر دو آن را می‌خواهند

امنیت ابرضروری

AWS، Azure یا GCP و اینکه بار کاری AI چطور روی آن‌ها مستقر و امن می‌شود (Interra Health، Twilio، Cerebras)

هویت و دسترسی (IAM)ضروری

OIDC، OAuth 2.0، SSO، RBAC/ABAC، workload identity و اصل حداقل دسترسی (Firmus، Cerebras)

Threat Modelingضروری

مدل‌سازی تهدید برای LLM، RAG و ایجنت‌ها؛ در آگهی‌های GuidePoint، Interra Health، Firmus و Samsara تکرار شده است

برنامه‌نویسی Python (و Go)ضروری

برای اتوماسیون و ابزار امنیتی؛ Twilio، Robinhood و Firmus Go را هم نام برده‌اند

Kubernetes و امنیت کانتینرمهم

Twilio و Firmus آن را صریحاً خواسته‌اند

Infrastructure as Code و Policy as Codeمفید

Terraform، CloudFormation، Rego و Cedar (GuidePoint، Cerebras)

دانش تخصصی امنیت AI

OWASP Top 10 for LLMضروری

زبان مشترک این حوزه؛ GuidePoint و Interra Health آن را نام برده‌اند

Prompt injection مستقیم و غیرمستقیمضروری

شناخت، تشخیص و مهار آن؛ در شرایط لازم Plaid و Firmus آمده است

امنیت ایجنت و ابزارهاضروری

excessive agency، افزایش دسترسی از راه زنجیر کردن ابزارها، sandbox و تأیید انسانی (GuidePoint، Firmus)

امنیت داده در RAGمهم

مجوز بازیابی، جداسازی مشتریان و جلوگیری از نشت داده از خروجی مدل (Firmus، GuidePoint)

MITRE ATLAS و NIST AI RMFمهم

چارچوب‌های مرجع برای نگاشت تهدید و مدیریت ریسک AI

مبانی ML و adversarial MLمهم

Interra Health دانش عمیق از adversarial ML و data poisoning را می‌خواهد

امنیت ابزارهای کدنویسی AI و MCPمفید

GuidePoint ارزیابی Claude Code، Codex، Cursor و سرورهای MCP را جزو وظایف آورده است

مهارت‌های نرم و حرفه‌ای

توضیح ریسک به زبان سادهضروری

Interra Health، Twilio و Nubank توانایی انتقال ریسک فنی به ذی‌نفعان غیرفنی را خواسته‌اند

یادگیری مداومضروری

GuidePoint پیگیری مداوم تحقیقات تازه، تکنیک‌های حمله و اطلاعیه‌های امنیتی فروشندگان را جزو کار می‌داند

نوشتن گزارش و مستنداتمهم

GuidePoint گزارش ارزیابی، فهرست یافته‌ها، ماتریس کنترل و معماری مرجع را جزو تحویلی‌ها می‌داند

تعادل بین امنیت و سرعتمهم

Plaid کنترل‌هایی می‌خواهد که «کسب‌وکار را کند نکند» و Firmus امنیتی که «نوآوری را بی‌دلیل کند نکند»

همکاری بین‌تیمیمهم

کار با تیم‌های ML و داده، محصول، زیرساخت، حقوقی و انطباق (Firmus، Interra Health)

گواهینامه‌هامفید

Interra Health از OSCP، GCIH یا CISSP و GuidePoint از گواهینامه‌های AI در AWS و Azure نام برده‌اند؛ در هر دو آگهی جزو امتیازهاست، نه شرط لازم

ضروری — بدون آن نمی‌توان وارد بازار کار شدمهم — تفاوت بین جونیور و میانیمفید — مزیت رقابتی

نقشه راه و مسیر آموزشی

نقشه راه تبدیل شدن به مهندس امنیت هوش مصنوعی

این مسیر گام به گام شما را از صفر تا حرفه‌ای هدایت می‌کند.

1

پایه‌های امنیت: شبکه، وب و آسیب‌پذیری‌های رایج

⏱️ ۳ تا ۴ ماه

تقریباً همهٔ آگهی‌ها پیش از هر چیز سابقهٔ امنیت می‌خواهند: GuidePoint دست‌کم ۳ سال مهندسی امنیت با تمرکز بر امنیت ابر یا اپلیکیشن و Interra Health ۵ سال در مهندسی امنیت یا امنیت اپلیکیشن. از امنیت وب شروع کنید، چون بیشتر سیستم‌های AI از راه API و اپلیکیشن وب در دسترس‌اند. PortSwigger هم می‌نویسد حمله به LLMی که به یک اپلیکیشن وصل است اغلب شبیه سوءاستفاده از آسیب‌پذیری SSRF است.

Networking و TCP/IPLinuxPython برای اتوماسیون امنیتیOWASP Top 10HTTP، API و احراز هویت وبGit
2

مهندسی امنیت: ابر، هویت و مدل‌سازی تهدید

⏱️ ۳ تا ۴ ماه

بخش بزرگی از کار امنیت AI همان مهندسی امنیت کلاسیک است که روی سیستمی تازه اعمال می‌شود. آگهی Firmus طراحی کنترل دسترسی با OIDC، OAuth 2.0، RBAC/ABAC و اصل حداقل دسترسی، امنیت Kubernetes و CI/CD امن را می‌خواهد و Twilio تخصص در امنیت ابر (AWS، GCP) و امنیت کانتینر. مدل‌سازی تهدید (threat modeling) را هم همین‌جا تمرین کنید؛ در آگهی‌های GuidePoint، Interra Health و Firmus تکرار شده است.

IAM: OAuth 2.0، OIDC، RBAC/ABACامنیت AWS / Azure / GCPKubernetes و امنیت کانتینرThreat ModelingInfrastructure as Code (Terraform)CI/CD امن و SAST/DASTPolicy as Code (Rego، Cedar)
3

مبانی یادگیری ماشین و LLM

⏱️ ۲ تا ۳ ماه

لازم نیست پژوهشگر ML شوید، اما باید بدانید مدل چطور آموزش می‌بیند، RAG و embedding چیست و ایجنت چطور ابزار صدا می‌زند. آگهی GuidePoint «درک محکم از مفاهیم generative AI، LLM، context engineering، استفادهٔ ایجنت از ابزار و اصول پایهٔ AI/ML» را جزو شرایط لازم آورده است. فقط نقش‌هایی که خودِ مدل تشخیص را می‌سازند، مثل Staff Machine Learning Engineer, AI Security در Reddit، تجربهٔ عمیق آموزش مدل می‌خواهند.

مفاهیم پایهٔ ML (آموزش، ارزیابی، overfitting)Transformer و LLM در حد مفهومیEmbeddings و RAGTool calling و ایجنت‌هاکار با API مدل‌ها و مدل‌های متن‌بازMCP (Model Context Protocol)
4

امنیت LLM و ایجنت: حمله‌ها و دفاع‌ها

⏱️ ۲ تا ۳ ماه

اینجا هستهٔ تخصص است. فهرست OWASP Top 10 for LLM Applications 2025 را کامل بخوانید: prompt injection در رتبهٔ اول آن است و OWASP می‌نویسد روش‌هایی مثل RAG و fine-tuning این آسیب‌پذیری را به‌طور کامل رفع نمی‌کنند. GuidePoint و Interra Health هر دو OWASP LLM Top 10 و MITRE ATLAS را نام برده‌اند. آزمایشگاه‌های رایگان Web LLM attacks در PortSwigger برای تمرین عملی در محیطی که برای همین کار ساخته شده مناسب‌اند.

OWASP Top 10 for LLM (۲۰۲۵)Prompt injection مستقیم و غیرمستقیمExcessive agency و دسترسی ابزارهاData and model poisoningامنیت RAG و vector databaseMITRE ATLASAdversarial ML در حد مفهومی
5

کنترل در پروداکشن: guardrail، هویت ایجنت، تست خودکار و حاکمیت

⏱️ مداوم

آگهی‌ها نتیجهٔ عملی می‌خواهند. Plaid تجربهٔ دست‌کم یکی از این‌ها را لازم می‌داند: استقرار guardrail یا sandbox، مدیریت هویت AI، تشخیص یا مهار prompt injection، اجرای بازبینی امنیتی AI یا پیاده‌سازی ابزار امنیت AI. در این مرحله تست خودکار با ابزارهایی مثل garak و promptfoo (هر دو در آگهی Interra Health آمده‌اند)، سیاست دسترسی ایجنت‌ها، امنیت MCP و چارچوب‌هایی مثل NIST AI RMF را یاد بگیرید.

Guardrails و runtime protectionهویت و مجوزهای ایجنت (AI identity)Sandbox و محدودسازی ایجنتتست خودکار LLM در CIامنیت MCP و ابزارهای کدنویسی AIتشخیص و پاسخ به رخداد AINIST AI RMF

ابزارها و استک فنی

ابزارهایی که هر مهندس AI باید بشناسد، دسته‌بندی‌شده بر اساس اولویت

تست امنیت LLM و ایجنت

garak

اسکنر متن‌باز آسیب‌پذیری LLM با پشتیبانی NVIDIA؛ آگهی Interra Health آن را در کنار MITRE ATLAS و promptfoo نام برده است

مفید
promptfoo

تست prompt، ایجنت و RAG و اسکن آسیب‌پذیری و red teaming برای اپلیکیشن‌های AI

مفید
PyRIT

فریم‌ورک متن‌باز Microsoft برای شناسایی پیشگیرانهٔ ریسک در سیستم‌های generative AI

مفید
Adversarial Robustness Toolbox (ART)

کتابخانهٔ Python برای امنیت یادگیری ماشین: حمله‌های evasion و poisoning و دفاع در برابرشان

پیشرفته

Guardrail و حفاظت زمان اجرا

NeMo Guardrails

ابزار متن‌باز NVIDIA برای افزودن guardrail برنامه‌پذیر به سیستم‌های مکالمه‌ای مبتنی بر LLM

مفید
Llama Prompt Guard 2

مدل Meta برای محافظت از ورودی LLM در برابر prompt attack و jailbreak؛ بخشی از مجموعهٔ PurpleLlama

مفید
Amazon Bedrock Guardrails

کنترل‌های قابل تنظیم برای تشخیص و فیلتر محتوای ناخواسته و حفاظت از اطلاعات حساس در Bedrock؛ GuidePoint آشنایی با سرویس‌های AI ابرها از جمله Bedrock را می‌خواهد

مفید
Prompt Shields (Azure AI Content Safety)

تشخیص حملهٔ prompt در ورودی کاربر و در اسنادی که به مدل داده می‌شود

مفید

سیاست دسترسی و زنجیرهٔ تأمین

Open Policy Agent (Rego)

موتور سیاست همه‌منظوره که تصمیم دسترسی را از کد برنامه جدا می‌کند و سیاست‌ها را با زبان Rego می‌نویسد؛ GuidePoint تجربه با Rego یا Cedar را امتیاز می‌داند

مفید
Cedar

زبان نوشتن سیاست‌های مجوز (authorization) با پشتیبانی از RBAC و ABAC؛ در همان آگهی GuidePoint کنار Rego آمده است

مفید
ModelScan

اسکن فایل‌های مدل برای پیدا کردن کد ناامن جاسازی‌شده (حملهٔ serialization)؛ OWASP زنجیرهٔ تأمین را سومین خطر اپلیکیشن‌های LLM می‌داند

مفید
Sigstore

پروژهٔ متن‌باز امضا و تأیید artifactهای نرم‌افزار مثل image کانتینر و SBOM؛ Firmus امضای image و provenance را جزو شرایط آورده است

پیشرفته

زبان و زیرساخت

Python

زبان اصلی اتوماسیون و ابزار امنیتی؛ در آگهی‌های Interra Health، Twilio، Firmus، Robinhood و 7AI آمده است

ضروری
Go

Twilio، Robinhood و Firmus آن را در کنار Python نام برده‌اند

مفید
Kubernetes

Twilio تخصص در امنیت کانتینر (Kubernetes) و Firmus دانش قوی Kubernetes و امنیت کانتینر را می‌خواهند

مفید
Terraform

Infrastructure as Code؛ GuidePoint آن را کنار CloudFormation و OpenTofu نام برده و Twilio مدیریت زیرساخت با IaC را جزو وظایف آورده است

مفید
ضروری — باید یاد بگیریدمفید — ارزش یادگیری داردپیشرفته — برای سطوح ارشد

مسیر پیشرفت شغلی

از جونیور تا Staff Engineer — چه مهارت‌هایی نیاز دارید و چه درآمدی انتظار داشته باشید

ورود از یک نقش امنیتی (Security / AppSec / Cloud Security Engineer)

۰ تا ۳ سال

در آگهی‌هایی که بررسی کردیم نقش تازه‌کار امنیت AI تقریباً نبود. مسیر رایج این است که چند سال مهندس امنیت، امنیت اپلیکیشن یا امنیت ابر باشید و در همان نقش، کار روی سیستم‌های AI شرکت را بر عهده بگیرید. SpaceX استثناست و سابقهٔ مهندسی امنیت را «ترجیحی، نه الزامی» می‌داند، اما تجربهٔ ساخت نرم‌افزار در پروداکشن و ساخت ایجنت می‌خواهد.

Pythonامنیت وب و APICloud SecurityIAMThreat Modeling

AI Security Engineer

۳ تا ۶ سال

بازبینی امنیتی سیستم‌ها و یکپارچه‌سازی‌های AI پیش و پس از استقرار، ساختن guardrail و sandbox، مدیریت هویت ایجنت‌ها و مهار prompt injection. Plaid برای همین سطح ۳ تا ۶ سال و GuidePoint دست‌کم ۳ سال تجربه می‌خواهد.

Guardrails & SandboxingPrompt Injection DefenseAI Security ReviewsAI IdentityOWASP LLM Top 10

Senior AI Security Engineer

۵+ سال

رهبری ارزیابی امنیتی مدل‌ها و pipelineها، طراحی الگوهای امن برای ایجنت و RAG، رهبری پاسخ به رخدادهای AI و تعیین استاندارد برای تیم‌های محصول. Interra Health و Firmus هر دو دست‌کم ۵ سال تجربه می‌خواهند.

Agent & RAG Security ArchitectureAI Incident ResponseThird-party AI ReviewDetection & TelemetryMentoring

Staff / Principal AI Security Engineer

۷ تا ۱۰+ سال

تعیین معماری و نقشهٔ راه امنیت AI در سطح سازمان: معماری مرجع برای پلتفرم‌های AI سازمانی و هویت ایجنت‌ها (Twilio، ۷+ سال)، ساختن پلتفرم AI برای تیم‌های امنیت (Robinhood، ۸+ سال) یا کنترل‌های امنیتی برای آموزش، inference و ایجنت‌ها (Cerebras، ۱۰+ سال).

Security ArchitecturePlatform DesignPolicy as CodeCross-team LeadershipRisk Communication

چالش‌ها و جنبه‌های منفی

واقعیت‌هایی که کمتر در آگهی‌های شغلی می‌بینید — قبل از ورود بدانید

prompt injection راه‌حل کامل ندارد

عمومی

OWASP می‌نویسد RAG و fine-tuning این آسیب‌پذیری را به‌طور کامل رفع نمی‌کنند. پس کار شما بیشتر محدود کردن آسیب است تا حذف کامل خطر: دسترسی محدود، تأیید انسانی و پایش. باید بتوانید این واقعیت را بدون اغراق و بدون کوچک‌نمایی برای مدیران توضیح دهید.

فشار سرعت در برابر امنیت

عمومی

کارفرماها صریحاً می‌خواهند امنیت مانع نشود: Plaid می‌خواهد بتواند به‌طور گسترده از AI استفاده کند بدون آنکه آسیب ببیند، و Firmus نمی‌خواهد نوآوری بی‌دلیل کند شود. هر کنترل باید آن‌قدر ساده باشد که تیم‌ها واقعاً از آن استفاده کنند.

تغییر سریع ابزارها و حمله‌ها

عمومی

GuidePoint پیگیری مداوم تحقیقات، تکنیک‌های حمله، تغییرات مقررات و اطلاعیه‌های امنیتی Anthropic، OpenAI و Microsoft را جزو وظایف آورده و Samsara می‌خواهد هر مدل پیشرو تازه را برای کارهای امنیتی با مدل قبلی مقایسه کنید. آنچه امروز یاد می‌گیرید زود کهنه می‌شود.

ساختن چیزی که هنوز نسخهٔ آماده ندارد

استارتاپ

Plaid سیستمی می‌خواهد که بداند هر AI چه دسترسی‌ای دارد و تیمش را جای کسانی می‌داند که دوست دارند «مسائلی را حل کنند که هنوز کسی حل نکرده». Twilio هم برای هویت و وضعیت امنیتی ایجنت‌ها نقشهٔ راه بلندمدت می‌خواهد. یعنی گاهی باید بدون الگوی آماده تصمیم بگیرید.

Shadow AI و ابزارهایی که بدون اجازه استفاده می‌شوند

شرکت بزرگ

کارکنان گاهی ابزارهای AI را بدون تأیید تیم امنیت به کار می‌گیرند. GuidePoint پروژه‌های جداگانه‌ای برای «کشف shadow AI» دارد: فهرست کردن ابزارهای AI تأییدنشده و سنجیدن ریسک افشای داده از راه آن‌ها.

ورود دشوار بدون سابقه

عمومی

تقریباً همهٔ آگهی‌هایی که دیدیم دست‌کم ۳ سال تجربه می‌خواستند، و طبق CyberSN کل آگهی‌های امنیت سایبری آمریکا در ژانویه تا سپتامبر ۲۰۲۶ به کمترین مقدار چهار سال اخیر رسید. برای ورود، معمولاً باید اول در یک نقش امنیتی یا مهندسی نرم‌افزار سابقه بسازید و بعد به سمت AI بروید.

حقوق و بازار کار جهانی

حقوق جهانی مهندس امنیت هوش مصنوعی

حقوق سالانه در کشورهای مختلف بر اساس داده‌های منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز می‌شود.

کشورمیانه / میانگینارز
🇺🇸آمریکا
$152,773USD
🇺🇸آمریکا
$210,000USD
🇨🇦کانادا
CA$141,620CAD
🇬🇧انگلستان
£103,679GBP
🇩🇪آلمان
€104,112EUR
🇳🇱هلند
€135,730EUR
🇨🇭سوئیس
CHF 144,461CHF
🇦🇺استرالیا
A$184,290AUD
🇦🇪امارات
AED 289,039AED
🇸🇬سنگاپور
SGD 95,321SGD
🇮🇳هند
₹3,192,222INR

* ارقام سالانه‌اند. منبع هر رقم:

چگونه از صفر شروع کنیم

برنامه گام‌به‌گام برای ورود به مهندسی هوش مصنوعی

ماه ۱: ریسک‌های LLM و کار با مدل‌ها

از ریسک‌های خاص LLM شروع کنید. همزمان با API یک مدل و یک مدل محلی کار کنید تا بفهمید RAG و tool calling در عمل چطور کار می‌کنند.

ماه ۲: تمرین حمله‌ها در محیط آزمایشی

آزمایشگاه‌های Web LLM attacks در PortSwigger را حل کنید. این تمرین‌ها در محیطی انجام می‌شوند که برای همین کار ساخته شده؛ روی سیستم‌هایی که اجازه‌اش را ندارید امتحان نکنید.

ماه ۳: threat model و MITRE ATLAS

یک threat model کامل برای یک چت‌بات RAG بنویسید (پروژهٔ اول پورتفولیو) و هر ریسک را به OWASP و ATLAS نگاشت کنید.

ماه ۴: تست خودکار

با promptfoo یا garak مجموعهٔ تستی بسازید و آن را در CI اجرا کنید (پروژهٔ سوم پورتفولیو).

ماه ۵: ایجنت امن

ایجنتی با دسترسی محدود، تأیید انسانی و sandbox بسازید (پروژهٔ چهارم) و راهنمای امنیت MCP را بخوانید.

ماه ۶: رزومه و درخواست

در رزومه کارهای مشخص بنویسید؛ Plaid صراحتاً تجربه در دست‌کم یکی از این پنج مورد را می‌خواهد: guardrail یا sandbox، هویت AI، مهار prompt injection، بازبینی امنیتی AI یا ابزار امنیت AI. اگر در شرکت فعلی‌تان سیستم AI هست، داوطلب بازبینی امنیتی آن شوید.

پروژه‌های پیشنهادی برای رزومه

مدل‌سازی تهدید یک چت‌بات RAG

مبتدی

یک چت‌بات ساده روی چند سند بسازید و برایش threat model بنویسید: داده از کجا وارد می‌شود، مدل به چه ابزارهایی دسترسی دارد و هر ریسک به کدام مورد OWASP Top 10 for LLM و کدام تکنیک MITRE ATLAS مربوط است. برای هر ریسک یک کنترل پیشنهاد دهید و سند را در GitHub منتشر کنید.

OWASP Top 10 for LLMMITRE ATLASPythonOllama
زمان تخمینی: ۲ هفته

بازبینی پیکربندی امن یک دستیار کدنویسی AI و سرور MCP

متوسط

یک دستیار کدنویسی (مثل Claude Code یا Cursor) و یک سرور MCP را در محیط آزمایشی خودتان راه بیندازید و از همان زاویه‌هایی بررسی کنید که آگهی GuidePoint نام می‌برد: جداسازی sandbox، allowlist افزونه‌ها، دسترسی به secrets و کنترل ترافیک خروجی. خروجی را مثل یک مشاور تحویل دهید: فهرست یافته‌ها با اولویت و پیشنهاد اصلاح.

Claude Code یا CursorMCPDocker
زمان تخمینی: ۲ هفته

مجموعهٔ تست خودکار prompt injection در CI

متوسط

برای یک اپلیکیشن LLM که خودتان ساخته‌اید، با promptfoo یا garak مجموعهٔ تستی بنویسید که prompt injection مستقیم و غیرمستقیم (مثلاً دستور پنهان در یک سند بارگذاری‌شده) را امتحان کند و با هر تغییر کد در GitHub Actions اجرا شود. نتیجه را پیش و پس از افزودن کنترل‌ها مقایسه کنید.

promptfoogarakGitHub ActionsOllama
زمان تخمینی: ۳ هفته

ایجنت با کمترین دسترسی و تأیید انسانی

پیشرفته

ایجنتی بسازید که چند ابزار دارد (مثلاً خواندن فایل و ارسال ایمیل آزمایشی) و آن را امن کنید: هر ابزار مجوز جداگانه داشته باشد، سیاست دسترسی با OPA تعریف شود، کارهای پرخطر تأیید انسانی بخواهند، اجرای کد در کانتینر جدا باشد و همهٔ اقدام‌ها ثبت شوند. آگهی Firmus همین الگوها را می‌خواهد: allowlist ابزار، گام تأیید، sandbox اجرا و قابلیت ممیزی.

PythonOpen Policy AgentDockerNeMo Guardrails
زمان تخمینی: ۴ هفته

طبقه‌بند تشخیص prompt injection

پیشرفته

یک مدل کوچک از پیش آموزش‌دیده را برای تشخیص prompt injection fine-tune کنید و با Llama Prompt Guard 2 مقایسه کنید. همان‌طور که آگهی Reddit می‌خواهد، معیار آماده بودن را بر اساس تعادل false positive، تأخیر و هزینه تعریف کنید، نه فقط دقت.

PythonHugging Face TransformersPyTorchLlama Prompt Guard 2
زمان تخمینی: ۴ هفته

مثال‌های واقعی و Case Studies

داستان‌های واقعی از مهندسانی که در این حوزه تأثیرگذار بوده‌اند

S

Steve Wilson

پیشینه

به گفتهٔ بیوگرافی‌اش در سایت OWASP (نوامبر ۲۰۲۴)، مدیر ارشد محصول (CPO) در Exabeam است و پیش از آن همین سمت را در Contrast Security داشت. پیش‌تر در Citrix، Oracle و Sun Microsystems روی پلتفرم‌های نرم‌افزاری کار کرده و مدرکش در رشتهٔ مدیریت بازرگانی از University of San Diego است.

دستاورد

در بنیاد OWASP رهبر پروژه‌ای است که با گرد آوردن بیش از ۴۰۰ متخصص، فهرست Top 10 for Large Language Model Applications را ساخت؛ فهرستی که خطرهای امنیتی به‌کارگیری LLM را برای توسعه‌دهندگان، طراحان، معماران، مدیران و سازمان‌ها توضیح می‌دهد.

درس کلیدی

مدرک او در رشتهٔ فنی نیست و مسیرش از مدیریت محصول نرم‌افزار گذشته است. به نظر می‌رسد در حوزه‌ای به این تازگی، جمع کردن متخصصان و ساختن یک مرجع مشترک می‌تواند به اندازهٔ کار فنی اثر بگذارد؛ فهرستی که او رهبری کرد امروز در آگهی‌های همین شغل، مثل GuidePoint و Interra Health، نام برده می‌شود.

R

Rob van der Veer

پیشینه

طبق سایت پروژهٔ OWASP AI Exchange، مدیر ارشد AI (Chief AI Officer) در Software Improvement Group است و ۳۴ سال در AI و امنیت سابقه دارد. نویسندهٔ اصلی استاندارد ISO/IEC 5338 دربارهٔ چرخهٔ عمر سیستم‌های AI و از بنیان‌گذاران OpenCRE است.

دستاورد

پروژهٔ OWASP AI Exchange را بنیان گذاشت، مرجعی دربارهٔ تهدیدها و کنترل‌های امنیت AI که در مارس ۲۰۲۵ به پروژهٔ Flagship بنیاد OWASP تبدیل شد. روی استانداردهای ISO/IEC 27090 و ISO/IEC 27091 و کار مربوط به قانون AI اتحادیهٔ اروپا در CEN/CENELEC هم کار می‌کند، جایی که کشورهای عضو اتحادیه او را به‌عنوان ویراستار همکار انتخاب کردند.

درس کلیدی

او امنیت AI را از راه استانداردها و یک مرجع مشترک جلو برده است. برای کسی که می‌خواهد وارد این حوزه شود، خواندن همین مرجع‌ها، و حتی مشارکت در پروژه‌های OWASP، راهی برای یادگیری و دیده شدن به نظر می‌رسد.

D

Dawn Song

پیشینه

طبق ویکی‌پدیا، استاد دانشکدهٔ مهندسی برق و علوم کامپیوتر در UC Berkeley است. کارشناسی را در دانشگاه Tsinghua (۱۹۹۶)، کارشناسی ارشد را در Carnegie Mellon (۱۹۹۹) و دکترا را در UC Berkeley (۲۰۰۲) گرفت. کارش در امنیت کامپیوتر از امنیت وب و امنیت سیستم‌ها شروع شد؛ تیمش در DARPA Cyber Grand Challenge جزو هفت تیم برتر نهایی بود.

دستاورد

کارهای اخیرش به یادگیری ماشین خصمانه (adversarial machine learning) و بلاک‌چین پرداخته است. در ۲۰۱۰ بورس MacArthur گرفت و در ۲۰۱۹ به‌خاطر «مشارکت در امنیت و حریم خصوصی» ACM Fellow شد. در ۲۰۲۴ همراه سه پژوهشگر دیگر شرکت Virtue AI را بنیان گذاشت که طبق ویکی‌پدیا در اوت ۲۰۲۶ به Fortinet فروخته شد.

درس کلیدی

مسیر او از امنیت سیستم‌ها به امنیت یادگیری ماشین نشان می‌دهد پایه‌های امنیت کلاسیک در AI هم به کار می‌آیند؛ هدف حمله عوض می‌شود، اما شیوهٔ فکر کردن مهاجم و مدافع همان می‌ماند.

نمونه آگهی استخدام واقعی + تحلیل

یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش

AI Security Engineer - North Central region (Remote in the U.S.)

GuidePoint Securityدورکاری در آمریکا (منطقهٔ North Central)؛ تا ۱۰٪ سفر2026-10-05

تحلیل نیازمندی‌ها

EN

3+ years of experience in security engineering with a significant focus on cloud security and/or application security

این نقش برای کسی است که از قبل مهندس امنیت است. مسیر ورود از امنیت ابر یا امنیت اپلیکیشن می‌گذرد، نه مستقیم از AI؛ پایهٔ کار همان مهارت‌هایی است که در یک تیم امنیتی معمولی به دست می‌آید.

ضروری
EN

Hands-on experience implementing, managing, securing, and supporting agentic AI solutions within an enterprise context, including enterprise AI platforms such as Anthropic Claude (Enterprise, Desktop, Cowork, Code), OpenAI (ChatGPT Enterprise, Codex, API), or Microsoft Copilot

کارفرما تجربهٔ عملی با همان ابزارهایی می‌خواهد که مشتریانش استفاده می‌کنند. اگر در شرکت فعلی‌تان مسئول راه‌اندازی یا مدیریت یکی از این پلتفرم‌ها شوید، همین تجربه مستقیماً به کار می‌آید.

ضروری
EN

Solid understanding of generative AI concepts, Large Language Models (LLMs), context engineering, agentic tool usage, and foundational AI/ML principles

درک مفهومی و کاربردی کافی است، نه پژوهش. باید بدانید مدل چطور ورودی را می‌خواند، ایجنت چطور ابزار صدا می‌زند و چرا همین ویژگی‌ها سطح حمله می‌سازند.

ضروری
EN

Understanding of AI-specific security challenges including prompt injection, data poisoning, supply chain security, model extraction attacks, excessive agency, and privilege escalation through tool chaining

این فهرست تا حد زیادی با موضوعات OWASP Top 10 for LLM همپوشانی دارد. «privilege escalation through tool chaining» یعنی ایجنت با زنجیر کردن چند ابزار به دسترسی‌ای برسد که هیچ‌کدام به‌تنهایی نمی‌دادند.

ضروری
EN

Familiarity with major cloud service provider AI-focused services such as AWS Bedrock, AWS SageMaker, Azure AI Foundry, or Google Vertex

«Familiarity» یعنی آشنایی کافی است. باید بدانید این سرویس‌ها کجای معماری قرار می‌گیرند، دسترسی به آن‌ها چطور کنترل می‌شود و داده کجا می‌رود.

مهم
EN

Operational experience in the usage of agentic coding assistants such as Claude Code, Open Code, Cursor, or Codex

هم برای کار روزمره لازم است و هم چون ارزیابی امنیتی همین ابزارها جزو وظایف است. کسی که خودش با این ابزارها کار کرده، بهتر می‌فهمد کجا ممکن است به secrets یا شبکه دسترسی پیدا کنند.

مهم
EN

Ability to produce professional client-facing deliverables including assessment reports, findings registers, control matrices, and reference architecture documentation

در یک شرکت مشاوره، خروجی کار سند است. نوشتن گزارش روشن و اولویت‌بندی‌شده به اندازهٔ پیدا کردن مشکل اهمیت دارد.

مهم
EN

Experience with policy as code languages like Cedar or Rego and Infrastructure as Code (IaC) tools like AWS CloudFormation, Terraform, OpenTofu, or equivalent technologies

این مورد از شرایط ترجیحی است. Policy as code یعنی قواعد دسترسی را به‌صورت کد بنویسید تا خودکار و قابل بازبینی اعمال شوند.

مفید

تحلیل مسئولیت‌ها

EN

AI Security Architecture & Assessment: Conduct secure configuration reviews and security assessments of enterprise AI platforms (e.g., Anthropic Claude Enterprise, OpenAI ChatGPT Enterprise, Microsoft Copilot) against established control domains — including identity and provisioning, network and access enforcement, data protection and retention, and audit and compliance — identifying vulnerabilities, attack surfaces, and gaps against industry frameworks (e.g., OWASP LLM Top 10, MITRE ATLAS)

بخش بزرگی از کار بازبینی پیکربندی است: هویت کاربران درست تعریف شده، داده چقدر نگه داشته می‌شود، چه چیزی ممیزی می‌شود. یافته‌ها با چارچوب‌هایی مثل OWASP LLM Top 10 و MITRE ATLAS سنجیده می‌شوند.

EN

Threat Modeling for AI Systems: Lead threat modeling exercises specific to AI workloads, covering prompt injection, model inversion, data poisoning, supply chain risks, excessive agency, privilege escalation through tool chaining, and unauthorized cross-application data movement across SaaS, self-hosted, and local AI deployments

پیش از آنکه چیزی ساخته یا خریده شود، می‌پرسید چه چیزی ممکن است خراب شود. این کار در سیستم‌های SaaS، خودمیزبان و محلی فرق دارد، چون داده و کنترل در جاهای متفاوتی قرار دارند.

EN

AI Coding Tool & Development Environment Security: Assess AI coding tools and development environments — including Claude Code, OpenAI Codex, Open Code, Cursor, and MCP servers — for sandbox isolation, plugin allowlisting, secrets access, network egress controls, and CI/CD pipeline security

ابزارهای کدنویسی AI به کد، secrets و شبکه دسترسی دارند. باید بررسی کنید sandbox واقعاً ایزوله است، افزونه‌ها فقط از فهرست مجاز می‌آیند و ترافیک خروجی کنترل می‌شود.

EN

Data Security & Privacy Controls: Evaluate and recommend controls for data ingestion pipelines, RAG architectures, and vector databases to prevent unauthorized data exposure, leakage through model outputs, or non-compliant data processing — including zero data retention enforcement, sensitivity labeling, data classification, and encryption key management

در RAG خطر اصلی این است که مدل داده‌ای را به کاربری نشان دهد که اجازه‌اش را ندارد. طبقه‌بندی داده، کنترل دسترسی در بازیابی و سیاست نگهداری داده ابزارهای اصلی این بخش‌اند.

EN

Shadow AI Discovery: Conduct shadow AI discovery engagements to inventory unsanctioned AI tool usage and assess associated data exposure risks across client environments

یعنی پیدا کردن ابزارهای AI که کارکنان بدون تأیید استفاده می‌کنند و سنجیدن اینکه چه داده‌ای از این راه بیرون می‌رود. بخشی از این کار فنی است و بخشی گفت‌وگو با تیم‌ها.

EN

Agentic Workflow Development: Design, build, and deploy AI agent workflows including use-case design, agent architecture, and integration with security tooling and automation platforms

این نقش فقط بازبینی نیست؛ خودتان هم ایجنت می‌سازید و آن را به ابزارهای امنیتی وصل می‌کنید. ساختن ایجنت کمک می‌کند ریسک‌هایش را بهتر بفهمید.

EN

AI Threat Landscape Monitoring: Continuously track emerging AI security research, adversarial techniques, regulatory developments, and vendor security advisories (e.g., Anthropic, OpenAI, Microsoft feature releases) to keep client guidance relevant and proactive

این حوزه سریع تغییر می‌کند و مشتری انتظار دارد توصیه‌ها به‌روز باشد. خواندن منظم تحقیقات و اطلاعیه‌های امنیتی فروشندگان جزو خودِ کار است، نه کار جانبی.

نتیجه‌گیری کلی

این آگهی تصویر روشنی از مهندس امنیت AI در ۲۰۲۶ می‌دهد: مهندس امنیتی با دست‌کم ۳ سال سابقه در امنیت ابر یا اپلیکیشن که ابزارهای AI سازمانی را از نزدیک می‌شناسد و می‌تواند آن‌ها را بازبینی، مدل‌سازی تهدید و امن کند. آموزش مدل یا مدرک پژوهشی در شرایط لازم نیامده است. این آگهی بازهٔ حقوق ندارد؛ برای مقایسه، Plaid برای AI Security Engineer با ۳ تا ۶ سال تجربه حقوق پایهٔ ۱۸۸٬۷۴۸ تا ۲۴۲٬۶۷۶ دلار و Interra Health با ۵ سال تجربه ۱۱۰ تا ۱۶۵ هزار دلار اعلام کرده‌اند.

آینده و روندها

پیش‌بینی ۵–۱۰ ساله و مهارت‌هایی که باید یاد بگیرید

طبق گزارش CyberSN از آگهی‌های امنیت سایبری آمریکا، آگهی‌های AI Security Engineer در ژانویه تا سپتامبر ۲۰۲۶ به ۲٬۴۰۹ رسید، یعنی ۲۶۸٫۳٪ بیشتر از همین ماه‌های ۲۰۲۵. در همین دوره کل آگهی‌های امنیت سایبری ۲۶٫۴٪ کم شد. این ارقام تعداد آگهی است، نه تعداد افراد شاغل.

منبع: CyberSN Cybersecurity Jobs Report, 2026 through September (US)

مهارت‌های نوظهور که باید یاد بگیرید

هویت و مجوز ایجنت‌ها (AI identity و delegated authorization)امنیت MCP و اتصال ایجنت‌ها به ابزارهاامنیت ابزارهای کدنویسی AI (Claude Code، Codex، Cursor)کشف shadow AIAI Security Posture Management و AI runtime protectionPolicy as code (Cedar، Rego)سنجش مدل‌های تازه برای کارهای امنیتی

پیش‌بینی‌های آینده

2030

در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایانِ شرکت‌کننده در نظرسنجی «متخصصان مدیریت امنیت» (Security Management Specialists) را در میان پنج شغل با سریع‌ترین رشد تا ۲۰۳۰ (از نظر درصد) و «تحلیلگران امنیت اطلاعات» را در میان ۱۵ شغل اول قرار داده‌اند. WEF دسته‌ای جداگانه برای امنیت AI ندارد.

2035

BLS آمریکا پیش‌بینی می‌کند اشتغال «تحلیلگران امنیت اطلاعات» (Information Security Analysts) از ۲۰۲۵ تا ۲۰۳۵، ۲۱٪ رشد کند. BLS گروه جداگانه‌ای برای مهندس امنیت AI ندارد و این نزدیک‌ترین گروه رسمی امنیت است؛ O*NET هم شغل «Information Security Engineers» را با برچسب Bright Outlook آورده است.

ریسک‌های واقعی

سه ریسک در داده‌ها پیداست. اول، بازار کلی امنیت سایبری در ۲۰۲۶ کوچک‌تر شده است: طبق CyberSN کل آگهی‌های آمریکا در ژانویه تا سپتامبر ۲۶٫۴٪ کم شد و به کمترین مقدار چهار سال اخیر رسید، هرچند آگهی‌های امنیت AI رشد کرد. دوم، ابزارهای AI بخشی از کار امنیت را خودکار می‌کنند: Interra Health استفاده از ابزارهای AI برای سرعت دادن به تست امنیتی و بازبینی کد را جزو وظایف آورده و Samsara پیدا کردن آسیب‌پذیری با کمک مدل‌های پیشرو را؛ پس ارزش مهندس بیشتر در طراحی کنترل، قضاوت دربارهٔ ریسک و توضیح آن است. سوم، عنوان‌ها پراکنده‌اند: همین کار با عنوان‌هایی مثل Senior Security Engineer - AI، Staff Software Engineer, AI Security یا Senior Product Security Engineer - AI Agents هم آگهی می‌شود، پس در جست‌وجو به یک عنوان بسنده نکنید.

منابع

اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۴۵ منبع بررسی شده است.

  1. AI Security Engineer - North Central region — GuidePoint Security (job posting)
  2. AI Security Engineer — Plaid (job posting)
  3. AI Security Engineer — Interra Health (job posting)
  4. Staff Enterprise Security Engineer, AI Security — Twilio (job posting)
  5. Staff Software Engineer, AI Security — Robinhood (job posting)
  6. Senior AI Security Engineer — Firmus Technologies (job posting)
  7. Principal AI Security Engineer — Cerebras Systems (job posting)
  8. Sr Offensive AI Security Engineer II — Samsara (job posting)
  9. Senior Security Engineer - AI — 7AI (job posting)
  10. Staff Machine Learning Engineer, AI Security — Reddit (job posting)
  11. AI Security Research & Red Team Engineer — Cloudflare (job posting)
  12. AI Security Software Engineer (Starshield) — SpaceX (job posting)
  13. Senior Security Engineer (AI Security) — Nubank (job posting)
  14. Staff Software Engineer - AI Security — Zscaler (job posting)
  15. Software Engineer, AI Product Security — Notion (job posting)
  16. Senior Product Security Engineer - AI Agents — Datadog (job posting)
  17. Sr. Staff Security Software Engineer - Agentic Security Engineering — Databricks (job posting)
  18. CyberSN — Cybersecurity Jobs Report, 2026 through September
  19. SecurityWeek — US Cybersecurity Job Postings Fall 26% as AI Security Engineer Demand Soars
  20. Infosecurity Magazine — US Cybersecurity Job Postings Fall 26%, Hitting Four Year Low
  21. ZipRecruiter — AI Security Engineer salary (US)
  22. levels.fyi — Security Software Engineer salary (US)
  23. levels.fyi — Security Software Engineer salary in Canada
  24. levels.fyi — Security Software Engineer salary in United Kingdom
  25. levels.fyi — Security Software Engineer salary in Germany
  26. levels.fyi — Security Software Engineer salary in Netherlands
  27. levels.fyi — Security Software Engineer salary in Switzerland
  28. levels.fyi — Security Software Engineer salary in Australia
  29. levels.fyi — Security Software Engineer salary in United Arab Emirates
  30. levels.fyi — Security Software Engineer salary in Singapore
  31. levels.fyi — Security Software Engineer salary in India
  32. BLS Occupational Outlook Handbook — Information Security Analysts
  33. O*NET OnLine — 15-1299.05 Information Security Engineers
  34. World Economic Forum — The Future of Jobs Report 2025 (PDF)
  35. OWASP Top 10 for LLM Applications 2025
  36. OWASP — LLM01:2025 Prompt Injection
  37. NIST — AI Risk Management Framework
  38. NIST AI 100-2 E2025 — Adversarial Machine Learning: A Taxonomy and Terminology
  39. MITRE ATLAS
  40. PortSwigger Web Security Academy — Web LLM attacks
  41. Model Context Protocol — Security Best Practices
  42. OWASP Gen AI Security Project — Steve Wilson
  43. OWASP AI Exchange — AI Security Overview
  44. Sigstore — Overview
  45. Dawn Song — Wikipedia

برای راهنمایی شخصی‌سازی‌شده مشاوره بگیرید