مهندس پلتفرم API هوش مصنوعی
AI API Platform Engineer
«توسعه‌دهندهٔ API هوش مصنوعی» در بازار کار عنوان رایجی نیست. کاری که این عنوان توصیف می‌کند، یعنی ساختن و نگه‌داشتن لایهٔ API که مدل‌های هوش مصنوعی از طریق آن به توسعه‌دهندگان و اپلیکیشن‌ها می‌رسند، با عنوان‌های دیگری آگهی می‌شود: «Software Engineer, API» در شرکت‌های سازندهٔ مدل مثل OpenAI و Anthropic، «Software Engineer, AI Gateway» در Vercel، Cloudflare و Kong، و «Developer Experience Engineer» برای SDK و مستندات، مثل ElevenLabs. هستهٔ کار مهندسی backend است: طراحی endpoint، streaming، احراز هویت، rate limit و سهمیه، اندازه‌گیری مصرف توکن، مسیریابی میان مدل‌ها و ارائه‌دهنده‌ها و پایدار نگه‌داشتن سرویس در پروداکشن.
مقدمه و تعریف شغل
توسعه‌دهندهٔ API هوش مصنوعی کسی است که لایهٔ API میان مدل‌های هوش مصنوعی و مصرف‌کنندگان آن‌ها را می‌سازد و اداره می‌کند: endpoint هایی که درخواست را می‌گیرند، کاربر را احراز هویت می‌کنند، سهمیه و rate limit را اعمال می‌کنند، درخواست را به مدل یا ارائه‌دهندهٔ مناسب می‌فرستند، پاسخ را stream می‌کنند و مصرف را می‌شمارند. این عنوان در آگهی‌ها تقریباً دیده نمی‌شود. همین کار با عنوان‌هایی مثل Software Engineer, API (در OpenAI، Anthropic و Perplexity)، Software Engineer, AI Gateway (در Vercel، Cloudflare و Kong)، Staff Software Engineer, Inference API (در Cerebras) یا Developer Experience Engineer (در ElevenLabs) استخدام می‌شود. در عمل این یک تخصص درون مهندسی backend است، نه شغل یادگیری ماشین: آگهی API Multimodal در OpenAI صریحاً نوشته تجربهٔ آموزش مدل لازم نیست.
در بررسی ما در ۲۲ اکتبر ۲۰۲۶ روی ۳۲٬۵۴۲ آگهی باز در ۳۴۵ صفحهٔ استخدام شرکت‌ها (Greenhouse، Ashby و Lever)، هیچ آگهی‌ای عنوان «AI API Developer» یا «API Developer» نداشت و Glassdoor هم برای این عنوان هیچ حقوقی ثبت نکرده است. در عوض ۳۱ آگهی مهندسی کلمهٔ API را در عنوان داشتند که ۲۰ تای آن‌ها در شرکت‌های AI بود (۱۰ آگهی فقط در OpenAI) و سه آگهی هم عنوان AI Gateway داشتند. زمینهٔ این تقاضا را گزارش State of the API ۲۰۲۵ شرکت Postman، بر پایهٔ نظرسنجی از بیش از ۵٬۷۰۰ توسعه‌دهنده، معمار و مدیر، این‌طور خلاصه می‌کند: «راهبرد API به‌سرعت در حال تبدیل شدن به راهبرد AI است». Postman در ۱۲ ماه پیش از گزارش ۷٫۵۳ میلیون فراخوانی API های AI روی پلتفرم خود دیده، ۴۰٪ بیشتر از سال قبل. Cloudflare هم در آگهی خود نوشته به نظرش هر اپلیکیشن جدی به چند مدل از چند ارائه‌دهنده نیاز خواهد داشت، با قابلیت اطمینان، پایش، امنیت، کنترل هزینه و مسیریابی؛ AI Gateway شرط‌بندی این شرکت روی همین لایه است.
چه چیزی می‌سازید؟
مثال‌های واقعی از خروجی کار یک مهندس پلتفرم API هوش مصنوعی
API عمومی خود مدل
تیم API Multimodal در OpenAI API های تصویر، صدا و real-time را می‌سازد و اداره می‌کند و آگهی Backend Engineer - API در SpaceXSI مسئولیت «API که مدل‌های ما را به توسعه‌دهندگان سراسر دنیا می‌رساند» را می‌دهد، از routing و rate limit تا SDK و observability.
Gateway یکپارچه جلوی چند ارائه‌دهنده
طبق آگهی Vercel، AI Gateway یک API واحد برای دسترسی به صدها مدل از چند ارائه‌دهنده است و rate limit، failover هوشمند و fallback خودکار هنگام قطعی را مدیریت می‌کند. مستندات آن می‌گوید برای هر درخواست وضعیت، ارائه‌دهنده، تأخیر، مصرف توکن و هزینه ثبت می‌شود.
کنترل‌های سازمانی روی API
تیم API Enterprise Controls در OpenAI احراز هویت و هویت، service account و مدیریت کلید، شبکهٔ امن، compliance، audit و پایش را می‌سازد تا شرکت‌ها بتوانند با اطمینان از API استفاده کنند.
API سازگار با OpenAI روی زیرساخت سرویس‌دهی خاص
Cerebras مهندسی می‌خواهد که API های chat completions، streaming، tool calling و structured outputs را روی سیستم سرویس‌دهی ترکیبی GPU و تراشهٔ خودش بسازد، با رابط‌های رایج سازگار نگه دارد و زمان رسیدن اولین توکن را بهتر کند.
SDK، مستندات و Playground
تیم API Experience در OpenAI مالک Playground، مستندات، SDK ها و مسیر شروع توسعه‌دهندگان است. در ElevenLabs، Developer Experience Engineer SDK های سمت سرور و کلاینت و MCP server را می‌سازد و «مشتری صفر» محصولات تازه است.
API های AI داخلی برای سیستم‌های سازمان
در آگهی AI API Developer شرکت Master Works، کار ساختن API های REST برای اتصال LLM، RAG و ایجنت‌ها به سیستم‌های سازمانی است، با Single Sign-On، caching، توزیع بار و همکاری با مهندسان LLMOps.
تخصص‌های مختلف مهندس پلتفرم API هوش مصنوعی
این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد
مهندس پلتفرم API در شرکت‌های سازندهٔ مدل
API Platform Engineer
ساخت و اجرای API عمومی خود شرکت؛ عنوان‌هایی مثل Software Engineer, API Multimodal یا API Enterprise Controls در OpenAI، Senior Staff Software Engineer, API در Anthropic و Software Engineer, API Platform در Perplexity.
مهندس AI Gateway
AI Gateway Engineer
لایهٔ واحد جلوی چند ارائه‌دهنده: مسیریابی، fallback، caching، rate limit و گزارش مصرف و هزینه؛ آگهی‌های Vercel، Cloudflare و Kong.
مهندس API برای سرویس‌دهی مدل
Inference API Engineer
API روی سیستم سرویس‌دهی مدل، با تمرکز بر streaming، زمان رسیدن اولین توکن، سازگاری با رابط OpenAI و درستی خروجی هنگام ارتقای مدل؛ مثل آگهی Staff Software Engineer, Inference API در Cerebras.
مهندس تجربهٔ توسعه‌دهنده و SDK
Developer Experience / SDK Engineer
SDK، مستندات، Playground و MCP server؛ مثل Developer Experience Engineer در ElevenLabs و Full Stack Software Engineer, API Experience در OpenAI.
مهندس روابط توسعه‌دهندگان
DevRel Engineer
ساختن نمونه و دمو روی API پیش از عرضه، آموزش توسعه‌دهندگان و رساندن بازخورد آن‌ها به تیم محصول؛ Vercel این نقش را برای AI Gateway و Sandbox با ۵+ سال سابقه آگهی کرده است.
تفاوت با شغل‌های مشابه
کجا این شغل تمام می‌شود و شغل دیگری شروع می‌شود؟
مهندس هوش مصنوعی از API مدل‌ها استفاده می‌کند تا ایجنت، RAG و محصول بسازد؛ یعنی مصرف‌کنندهٔ API است. این نقش خود API یا gateway را می‌سازد که آن مهندس صدا می‌زند: endpoint، streaming، rate limit، سهمیه و مسیریابی میان مدل‌ها. هیچ‌کدام آموزش مدل نیست، اما تمرکز این نقش بیشتر روی سیستم‌های توزیع‌شده و طراحی API است تا روی کیفیت خروجی مدل.
توسعه‌دهندهٔ Full-Stack محصولی برای کاربر نهایی می‌سازد: رابط کاربری و backend پشت آن. کاربر این نقش، خود توسعه‌دهنده‌هاست و محصولش API، SDK و مستندات. همپوشانی هم وجود دارد: OpenAI عنوانی به نام «Full Stack Software Engineer, API Experience» دارد که روی Playground، مستندات و سیستم‌های تولید SDK کار می‌کند.
مهندس inference اجرای مدل روی سخت‌افزار را سریع‌تر و ارزان‌تر می‌کند: موتور سرویس‌دهی، batching و kernel. مهندس API روی آن لایه کار می‌کند: معنای درخواست و پاسخ، سازگاری با رابط‌های رایج، احراز هویت، rate limit و مسیریابی. آگهی Cerebras درست روی این مرز است: ساختن «لایهٔ ML API» که سیستم سرویس‌دهی را قابل دسترس، قابل اعتماد و آسان می‌کند، در کنار یکپارچه‌سازی با vLLM.
این کار تخصصی درون مهندسی backend است و به همین دلیل جدول حقوق این صفحه از داده‌های Backend Software Engineer در levels.fyi استفاده می‌کند. تفاوت در جزئیات است: واحد مصرف توکن است نه فقط درخواست (مستندات Claude محدودیت را با درخواست، توکن ورودی و توکن خروجی در دقیقه می‌سنجد)، پاسخ‌ها به‌صورت stream می‌آیند و سرویس به ارائه‌دهنده‌های بالادستی وابسته است که گاهی قطع می‌شوند.
تأثیر در صنایع مختلف
مهندس پلتفرم API هوش مصنوعی در همه صنایع مشغول به کار است — نه فقط شرکت‌های فناوری
صدا و گفتار
به گفتهٔ Deepgram، بیش از ۲۰۰ هزار توسعه‌دهنده و ۱٬۳۰۰ سازمان، از جمله Twilio و Cloudflare، سرویس‌های صوتی خود را روی API های گفتار به متن و متن به گفتار آن می‌سازند
جستجو و پاسخ‌گویی
Perplexity فناوری جستجو و پاسخ‌گویی خود را از طریق API Platform به توسعه‌دهندگان عرضه می‌کند و به گفتهٔ آگهی‌اش به هزاران مشتری از استارتاپ تا شرکت‌های بزرگ و دولت‌ها خدمت می‌دهد
زیرساخت ابری و پلتفرم‌های توسعه
Vercel و Cloudflare هر دو AI Gateway دارند تا توسعه‌دهندگان بدون اداره کردن پروکسی خود به مدل‌های چند ارائه‌دهنده دسترسی داشته باشند
صدا، موسیقی و محتوای خلاقانه
ElevenLabs از طریق ElevenAPI مدل‌های صوتی خود را در اختیار توسعه‌دهندگان می‌گذارد و برای تجربهٔ توسعه‌دهنده نقش جداگانه دارد
سخت‌افزار و سرویس‌دهی مدل
Cerebras برای سیستم سرویس‌دهی ترکیبی GPU و تراشهٔ خودش یک لایهٔ API سازگار با رابط‌های رایج می‌سازد
مدیریت API
Kong پلتفرمی برای امنیت، مدیریت و پایش ترافیک API و AI می‌فروشد و AI Gateway آن قابلیت‌هایی مثل semantic caching و محافظ prompt injection دارد
IT سازمانی
Master Works در عربستان پلتفرم AI Core را برای اتصال LLM و RAG به سیستم‌های سازمانی می‌سازد؛ تنها آگهی با عنوان دقیق AI API Developer از همین تیم بود
پرداخت و مالی
طبق ویکی‌پدیا، Bloomberg و Wall Street Journal در اوت ۲۰۲۶ گزارش دادند Stripe توافق خرید OpenRouter، سرویس API یکپارچه برای صدها مدل، را بیش از ۷ میلیارد دلار نهایی کرده است
تصورات غلط رایج
قبل از تصمیم‌گیری، این باورهای اشتباه را بشناسید
AI API Developer یک عنوان شغلی رایج است و می‌شود با همین عنوان جستجو کرد
در بررسی ۳۲٬۵۴۲ آگهی باز، هیچ‌کدام این عنوان را نداشت و Glassdoor هم برای آن حقوقی ثبت نکرده است. تنها آگهی با این عنوان که پیدا شد از Master Works در ریاض بود که اکنون بسته است. برای جستجو از عنوان‌هایی مثل Software Engineer, API، AI Gateway Engineer، API Platform Engineer یا Developer Experience Engineer استفاده کنید.
برای ساختن API مدل باید یادگیری ماشین و آموزش مدل بلد باشید
آگهی API Multimodal در OpenAI نوشته تجربهٔ آموزش مدل لازم نیست و آگهی API Experience همان شرکت تجربهٔ مستقیم ML را «مفید اما غیرضروری» می‌داند. آنچه می‌خواهند مهندسی backend و سیستم‌های توزیع‌شده است، به‌علاوهٔ شناخت رفتار API مدل‌ها مثل streaming و tool calling.
این کار یعنی نوشتن یک wrapper ساده دور SDK شرکت OpenAI
فهرست وظایف آگهی Perplexity نشان می‌دهد کار چقدر فراتر است: احراز هویت و مجوز، rate limit و سهمیه، اندازه‌گیری مصرف، مسیریابی، طراحی contract-first، تشخیص تغییر شکننده در CI، SLO و on-call. LiteLLM هم، به روایت سازنده‌اش، از همین پیچیدگی شروع شد: وقتی fallback میان Azure، Cohere و OpenAI را اضافه کردند، منطق مخصوص هر ارائه‌دهنده کدشان را سخت و اشکال‌زدایی را دشوار کرد.
rate limit یعنی شمردن تعداد درخواست‌ها
در API مدل، واحد اصلی توکن است. مستندات Claude محدودیت را هم‌زمان با درخواست در دقیقه، توکن ورودی در دقیقه و توکن خروجی در دقیقه می‌سنجد، از الگوریتم token bucket استفاده می‌کند و جدا از آن، برای سطح‌های عادی حساب سقف هزینهٔ ماهانه دارد که پس از رسیدن به آن، درخواست‌ها تا اول ماه بعد با خطای 429 رد می‌شوند.
این شغل نقطهٔ ورود خوبی برای کسی است که تازه برنامه‌نویسی را شروع کرده
تقریباً همهٔ آگهی‌های بررسی‌شده سابقه می‌خواهند: Kong و Deepgram ۳+ سال، Vercel، Cloudflare، Perplexity و Cerebras ۵+ سال و برخی تیم‌های OpenAI ۷+ یا ۹+ سال. مسیر واقع‌بینانه این است که اول مهندس backend شوید و بعد به تیم API یا gateway بروید.
یک روز کاری واقعی
در هر سطح روز کاری چه شکلی است؟
جونیور (۰–۲ سال)
در این سطح معمولاً با عنوان مهندس backend کار می‌کنید و بخشی مشخص از یک سرویس را تحویل می‌گیرید. بیشتر وقت صرف یاد گرفتن سیستم موجود، نوشتن تست و رفع اشکال زیر نظر یک مهندس ارشد می‌شود.
- ◆افزودن یک فیلد تازه به یک endpoint همراه با اعتبارسنجی و تست
- ◆بررسی log یک درخواست ناموفق برای اینکه معلوم شود خطا از سرویس خودتان بوده یا از ارائه‌دهندهٔ بالادستی
- ◆به‌روز کردن مستندات و نمونه‌کد پس از یک تغییر
- ◆code review و یاد گرفتن الگوهای تیم
میانی (۲–۵ سال)
مالک یک بخش از API یا gateway هستید؛ مثلاً streaming، rate limit یا اتصال یک ارائه‌دهندهٔ تازه. هم کد می‌نویسید و هم مسئول رفتار آن بخش در پروداکشن هستید.
- ◆اتصال یک مدل یا ارائه‌دهندهٔ تازه و نوشتن fallback برای زمانی که در دسترس نیست
- ◆بررسی داشبورد تأخیر، خطای 429 و زمان رسیدن اولین توکن
- ◆اجرای تست بار پیش از انتشار یک قابلیت تازه
- ◆شرکت در نوبت on-call و رسیدگی به یک رخداد
ارشد (۵+ سال)
تصمیم‌های معماری لایهٔ API با شماست: versioning، سازگاری، امنیت و مقیاس. بیشتر با تیم‌های Research، Inference و محصول هماهنگ می‌کنید و design doc می‌نویسید.
- ◆نوشتن design doc برای یک قابلیت تازهٔ مدل که باید به API برسد
- ◆بازبینی یک تغییر برای اطمینان از اینکه مشتریان فعلی را نمی‌شکند
- ◆تعریف SLO و هشدارها برای یک سرویس تازه
- ◆منتورینگ مهندسان و بازبینی طراحی آن‌ها
مسئولیت‌ها و وظایف
مسئولیت‌های اصلی
وظایف روزانه و مهارت‌های مورد نیاز در این شغل
- ◈طراحی، ساخت و اجرای API هایی که مدل‌ها را به توسعه‌دهندگان و اپلیکیشن‌ها می‌رسانند
- ◈ساخت لایهٔ gateway و routing: احراز هویت و مجوز، rate limit و سهمیه، اندازه‌گیری مصرف و مسیریابی درخواست میان سرویس‌های بالادستی
- ◈پیاده‌سازی streaming کم‌تأخیر و بهینه‌سازی زمان رسیدن اولین توکن و توان عملیاتی
- ◈اتصال مدل‌ها و ارائه‌دهنده‌های تازه و طراحی fallback برای زمان قطعی یک ارائه‌دهنده
- ◈حفظ سازگاری API با versioning، deprecation و تست‌هایی که تغییر شکننده را پیش از انتشار پیدا کنند
- ◈ساخت و نگهداری SDK، مستندات، نمونه‌کد و پیام‌های خطای روشن برای توسعه‌دهندگان
- ◈همکاری با تیم‌های Research و Inference برای رساندن قابلیت تازهٔ مدل به API
- ◈گرفتن بازخورد و دادهٔ مصرف توسعه‌دهندگان و تبدیل آن به بهبود محصول
- ◈اداره کردن سرویس در پروداکشن: تعریف SLO، on-call، رسیدگی به رخداد و پایش تأخیر و هزینه
مهارت‌های مورد نیاز
مهارت‌های فنی، نرم و حوزه‌ای که یک مهندس پلتفرم API هوش مصنوعی موفق به آن‌ها نیاز دارد
مهندسی backend و API
Python، Go، TypeScript یا Rust؛ آگهی‌ها یکی از این‌ها را می‌خواهند، نه همه را
REST، versioning، idempotency، error handling و pagination؛ آگهی Perplexity این‌ها را با نام «طراحی API پرترافیک» می‌خواهد
Server-Sent Events، WebSocket یا gRPC streaming برای پاسخ‌هایی که توکن‌به‌توکن می‌رسند
API key، OAuth2 و SSO؛ آگهی Master Works SSO و OAuth2/SAML و آگهی OpenAI مدیریت کلید و service account را نام برده‌اند
محدودیت بر اساس درخواست و توکن و سقف هزینه برای هر مشتری
مقیاس افقی، تأخیر، هم‌روندی و حالت‌های خطا؛ تقریباً در همهٔ آگهی‌های بررسی‌شده آمده است
نوشتن قرارداد API پیش از کد و تولید SDK و مستندات از آن
PostgreSQL و پایگاه‌های تحلیلی مثل ClickHouse برای ثبت درخواست‌ها و مصرف؛ هر دو در آگهی SpaceXSI آمده‌اند
دانش تخصصی مدل‌ها و gateway
chat completions، tool calling، structured outputs و ورودی چندرسانه‌ای؛ همان فهرستی که Cerebras برای API خود می‌خواهد
API های سازگار با OpenAI؛ Cerebras تجربهٔ طراحی یا نگهداری چنین API هایی را شرط گذاشته است
فرستادن درخواست به ارائه‌دهندهٔ سالم و رفتن به گزینهٔ بعدی هنگام خطا یا قطعی
پاسخ دادن به درخواست‌های تکراری از cache؛ Cloudflare caching و Kong semantic caching را در gateway خود دارند
شمردن مصرف هر مشتری و اتصال آن به صورت‌حساب؛ Perplexity آن را امتیاز می‌داند
OWASP API Security Top 10، دفاع در برابر prompt injection و محدود کردن دسترسی ایجنت‌ها
عملیات و مهارت‌های نرم
log ساختاریافته، متریک و tracing با ابزارهایی مثل OpenTelemetry، Prometheus، Grafana یا Datadog
استقرار، انتشار تدریجی و بازگشت سریع؛ Perplexity از canary و blue-green نام می‌برد
تعریف هدف پایداری و رسیدگی به رخداد برای سرویسی که خودتان ساخته‌اید
Cloudflare می‌نویسد پیام خطا، SDK، داشبورد، مستندات و جزئیات API همه مهم‌اند
design doc، مستندات و توضیح trade-off ها؛ مهندسان Kong مستندات محصول خود را خودشان می‌نویسند
رساندن قابلیت تازهٔ مدل به API، که در آگهی‌های OpenAI و Anthropic آمده است
نقشه راه و مسیر آموزشی
نقشه راه تبدیل شدن به مهندس پلتفرم API هوش مصنوعی
این مسیر گام به گام شما را از صفر تا حرفه‌ای هدایت می‌کند.
پایهٔ backend: یک زبان سرور، HTTP و پایگاه داده
آگهی‌ها زبان یکسانی نمی‌خواهند: Perplexity «Python، Go یا Rust»، Vercel «JavaScript/TypeScript» و Kong «Golang یا Rust». یکی را عمیق یاد بگیرید و در کنارش HTTP، REST، JSON و SQL را محکم کنید. همهٔ کارهای بعدی روی همین پایه سوار می‌شود.
کار با API مدل‌ها از سمت مصرف‌کننده
پیش از ساختن API برای مدل، مثل یک مشتری با API های موجود کار کنید: streaming، tool calling، خروجی ساختاریافته و خطای 429. مستندات Claude می‌گوید محدودیت API پیام‌ها با سه معیار سنجیده می‌شود: درخواست در دقیقه (RPM)، توکن ورودی در دقیقه (ITPM) و توکن خروجی در دقیقه (OTPM)، و با الگوریتم token bucket اعمال می‌شود. همین نکته تفاوت اصلی API مدل با API معمولی را نشان می‌دهد: واحد مصرف، توکن است نه فقط درخواست.
طراحی API در سطح پروداکشن
آگهی Perplexity دقیقاً همین را می‌خواهد: طراحی API پرترافیک با تکامل schema و versioning، idempotency، الگوهای احراز هویت، rate limiting و تنظیم کارایی، و طراحی contract-first که SDK و مستندات از یک منبع واحد تولید شوند. این مهارت‌ها به AI محدود نیستند و از راهنماهای طراحی API شرکت‌هایی مثل Google و Stripe خوب یاد گرفته می‌شوند.
سیستم‌های توزیع‌شده، پایداری و observability
در آگهی‌های این حوزه، ساختن کافی نیست و باید سرویس را اداره هم بکنید: Perplexity از «SLO، on-call و incident response» نام می‌برد و Cerebras ساختن logging ساختاریافته، tracing، متریک و داشبورد برای ترافیک inference را. در این مرحله یاد بگیرید سرویس را در Kubernetes مستقر کنید، از آن trace و متریک بگیرید و پیش از انتشار زیر بار تستش کنید.
Gateway چندمدلی، امنیت و developer experience
Gateway ها لایه‌ای یکپارچه جلوی چند ارائه‌دهندهٔ مدل می‌گذارند. طبق مستندات Cloudflare، AI Gateway آن‌ها analytics، logging، caching، rate limiting، تلاش دوباره و fallback به مدل دیگر را فراهم می‌کند. امنیت را هم جدی بگیرید: OWASP در فهرست امنیت API، «مصرف نامحدود منابع» (API4:2023) را ریسکی می‌داند که می‌تواند به از کار افتادن سرویس یا افزایش هزینه برسد. بخش آخر، تجربهٔ توسعه‌دهنده است: SDK، مستندات و پیام‌های خطای روشن.
ابزارها و استک فنی
ابزارهایی که هر مهندس AI باید بشناسد، دسته‌بندی‌شده بر اساس اولویت
زبان‌های backend
در آگهی‌های Perplexity، Cerebras، Deepgram و Master Works و در فهرست فناوری‌های تیم API شرکت Anthropic آمده است
SDK، gateway و سرویس‌دهی مدل
کتابخانهٔ TypeScript برای ساخت اپلیکیشن AI؛ آگهی AI Gateway در Vercel مشارکت در آن را جزو وظایف آورده است
gateway متن‌باز با API سازگار با OpenAI برای مسیریابی، fallback، rate limit و کنترل هزینه میان ارائه‌دهنده‌ها (طبق ویکی‌پدیا)
طراحی و مدیریت ترافیک API
فریم‌ورک Python برای API های HTTP که طبق ویکی‌پدیا با Pydantic داده را اعتبارسنجی می‌کند و مستندات OpenAPI را خودکار می‌سازد
استاندارد توصیف API؛ OpenAI مشخصات OpenAPI خود را در GitHub منتشر کرده و ابزارهایی مثل Stainless از روی آن SDK و مستندات می‌ساختند
ارتباط سرویس‌به‌سرویس و streaming دوطرفه؛ SpaceXSI «دانش تخصصی gRPC» می‌خواهد و Cerebras تجربه با API های gRPC یا REST
زیرساخت و پایش
استقرار و مقیاس‌دهی؛ Perplexity از استقرار با Kubernetes و Helm نام می‌برد و در فهرست فناوری‌های Anthropic هم هست
مسیر پیشرفت شغلی
از جونیور تا Staff Engineer — چه مهارت‌هایی نیاز دارید و چه درآمدی انتظار داشته باشید
Backend Engineer (ورود)
۰ تا ۲ سال
کار روی endpoint ها و سرویس‌های مشخص زیر نظر مهندس ارشد. آگهی ورودی با این تمرکز کم است؛ تنها آگهی با عنوان دقیق AI API Developer (Master Works در ریاض، که اکنون بسته است) طبق سایت آگهی سابقهٔ ۰ تا ۱ سال خواسته بود. راه معمول، شروع به‌عنوان مهندس backend است.
Software Engineer, API / AI Gateway
۲ تا ۵ سال
~$185K
میانگین سالانه (آمریکا)
مالکیت بخشی از API یا gateway: streaming، rate limit، اتصال ارائه‌دهندهٔ تازه و رفع اشکال کارایی. آگهی‌های Kong و Deepgram در این سطح ۳+ سال سابقه می‌خواهند.
Senior Software Engineer, API Platform
۵+ سال
~$245K
میانگین سالانه (آمریکا)
طراحی و مالکیت لایهٔ gateway و routing، تعریف SLO، on-call و تصمیم‌های معماری. آگهی‌های Vercel، Cloudflare، Perplexity و Cerebras همه ۵+ سال سابقه می‌خواهند.
Staff / Senior Staff Engineer, API
معمولاً ۷ تا ۱۲+ سال
تعیین جهت فنی API در سطح سازمان و هماهنگی با تیم‌های Research، Inference و امنیت. OpenAI برای برخی تیم‌های API ۷+ یا ۹+ سال و Anthropic برای Senior Staff Software Engineer, API ۱۲+ سال می‌خواهد؛ بازهٔ اعلام‌شدهٔ Anthropic برای این نقش ۴۰۵ تا ۴۸۵ هزار دلار در سال است.
چالش‌ها و جنبه‌های منفی
واقعیت‌هایی که کمتر در آگهی‌های شغلی می‌بینید — قبل از ورود بدانید
تغییر مداوم API ارائه‌دهنده‌ها
عمومیآگهی Cloudflare می‌نویسد API ارائه‌دهنده‌ها هر هفته تغییر می‌کند و مدل‌های تازه دائم می‌آیند. لایه‌ای که جلوی آن‌ها می‌سازید باید با این سرعت همراه شود و در عین حال برای مشتریان خودتان پایدار بماند.
تأخیر و streaming
عمومیبه گفتهٔ مستندات OpenAI، بدون streaming کل پاسخ مدل پیش از ارسال تولید می‌شود و برای پاسخ‌های طولانی انتظار زیاد است. آگهی Cerebras بهینه‌سازی رفتار streaming، زمان رسیدن اولین توکن، تأخیر و توان عملیاتی را جزو وظایف آورده است.
سازگاری و تغییرات شکننده
شرکت بزرگوقتی هزاران مشتری روی API شما کد نوشته‌اند، هر تغییر ممکن است کار آن‌ها را بشکند. Perplexity تشخیص تغییر شکننده در CI و روند versioning و deprecation را می‌خواهد و Cerebras حفظ سازگاری با رابط‌های رایج و سازگاری رو به عقب را.
ایجنت‌ها به‌عنوان مصرف‌کنندهٔ تازه
عمومیدر نظرسنجی Postman، ۵۱٪ توسعه‌دهندگان فراخوانی غیرمجاز یا بیش از حد API توسط ایجنت‌های AI را بزرگ‌ترین نگرانی امنیتی خود دانسته‌اند. OWASP هم «مصرف نامحدود منابع» را یکی از ده ریسک اصلی امنیت API می‌داند که می‌تواند به از کار افتادن سرویس یا افزایش هزینه برسد.
امنیت زنجیرهٔ تأمین
عمومیgateway کلید همهٔ ارائه‌دهنده‌ها را در دست دارد. طبق ویکی‌پدیا، در مارس ۲۰۲۶ نسخه‌های آلوده‌ای از LiteLLM در PyPI منتشر شد و چند سازمان آسیب دیدند. کنترل وابستگی‌ها و مدیریت امن کلیدها بخشی از این کار است.
مسئولیت پروداکشن
شرکت بزرگآگهی Perplexity می‌گوید آنچه می‌سازید را خودتان اداره می‌کنید: SLO، on-call و رسیدگی به رخداد. Cloudflare هم یادآوری می‌کند که در مقیاس آن شرکت، خطاهای نادر مدت زیادی نادر نمی‌مانند، پس سیستم باید قابل پایش، مقاوم و قابل بازیابی باشد.
حقوق و بازار کار جهانی
حقوق جهانی مهندس پلتفرم API هوش مصنوعی
حقوق سالانه در کشورهای مختلف بر اساس داده‌های منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز می‌شود.
* ارقام سالانه‌اند. منبع هر رقم:
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (6,341 salaries): 25th–75th pct; median
- Deepgram posting, Sr. Backend Engineer - Engine Team: API (USA remote, 3+ years), posted Jul 10, 2026: base range; median = midpoint
- Vercel posting, Software Engineer, AI Gateway (San Francisco, 5+ years), posted Feb 12, 2026: SF base pay range; median = midpoint
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (915 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (803 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (542 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (372 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (57 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (266 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (74 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (271 salaries): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy 'Backend Software Engineer' title, total comp (5,283 salaries): 25th–75th pct; median
چگونه از صفر شروع کنیم
برنامه گام‌به‌گام برای ورود به مهندسی هوش مصنوعی
ماه ۱: API مدل‌ها از سمت مصرف‌کننده
با API یک یا دو ارائه‌دهنده کار کنید: streaming، tool calling، خروجی ساختاریافته و رفتار هنگام خطای 429.
ماه ۲: پروکسی با FastAPI و SSE
یک پروکسی بسازید که درخواست را احراز هویت کند، به مدل بفرستد و پاسخ را stream کند.
ماه ۳: rate limit و سهمیه
محدودیت بر اساس درخواست و توکن برای هر کلید، با token bucket و خطای 429.
ماه ۴: gateway چندارائه‌دهنده
مسیریابی میان دو ارائه‌دهنده و یک مدل محلی، fallback هنگام خطا و ثبت هزینهٔ هر درخواست.
ماه ۵: پایش و تست بار
trace و متریک اضافه کنید و پیش از هر انتشار، سرویس را زیر بار بسنجید.
ماه ۶: مستندات، امنیت و درخواست کار
برای پروژه مشخصات OpenAPI و مستندات بنویسید، آن را در برابر ریسک‌های OWASP بسنجید و با عنوان‌هایی مثل Software Engineer, API یا AI Gateway Engineer جستجوی کار را شروع کنید.
پروژه‌های پیشنهادی برای رزومه
پروکسی API مدل با streaming
مبتدییک سرویس FastAPI بسازید که درخواست را با API key اعتبارسنجی کند، به یک ارائه‌دهنده یا مدل محلی بفرستد و پاسخ را با Server-Sent Events به‌صورت stream برگرداند. برای هر درخواست، مدل، تأخیر و تعداد توکن را log کنید.
rate limiter مبتنی بر توکن
متوسطبرای هر API key محدودیت درخواست در دقیقه و توکن در دقیقه بگذارید (مثل RPM و ITPM/OTPM در مستندات Claude) و با الگوریتم token bucket پیاده کنید. هنگام عبور از سقف، خطای 429 همراه با سرآیند retry-after برگردانید و رفتار را با تست بار بسنجید.
Gateway چندارائه‌دهنده با fallback
متوسطیک endpoint سازگار با OpenAI بسازید که درخواست را بین دو ارائه‌دهنده و یک مدل محلی مسیریابی کند، هنگام خطا به گزینهٔ بعدی برود و برای هر درخواست ارائه‌دهندهٔ پاسخ‌دهنده، تأخیر و هزینه را ثبت کند؛ همان چیزی که Vercel و Cloudflare در gateway های خود ارائه می‌دهند.
API با طراحی contract-first و SDK تولیدشده
پیشرفتهاول مشخصات OpenAPI را بنویسید، بعد سرور را بسازید. در CI بررسی کنید که تغییر تازه سازگاری را نمی‌شکند، و از روی همان مشخصات یک SDK و صفحهٔ مستندات تولید کنید؛ همان الگویی که آگهی Perplexity با عنوان API governance می‌خواهد.
اندازه‌گیری مصرف و سهمیهٔ چندمشتری
پیشرفتهبرای چند سازمان فرضی مصرف توکن و هزینه را جدا بشمارید، سقف ماهانه بگذارید و پس از عبور از آن درخواست تازه را رد کنید. داشبوردی برای مصرف هر مشتری بسازید و در README توضیح دهید با درخواست‌های ناتمام stream چه می‌کنید.
مثال‌های واقعی و Case Studies
داستان‌های واقعی از مهندسانی که در این حوزه تأثیرگذار بوده‌اند
به گفتهٔ خودش در سایت شخصی‌اش، توسعه‌دهندهٔ نرم‌افزار اهل کلمبیاست و اکنون در برلین زندگی می‌کند. پیش از این، با تیم‌ها و سازمان‌های مختلف در قارهٔ آمریکا، خاورمیانه و اروپا API و ابزار برای سیستم‌های یادگیری ماشین و داده ساخته است.
سازندهٔ FastAPI، Typer، SQLModel، Asyncer و چند ابزار متن‌باز دیگر است و حالا تمام‌وقت روی پروژه‌های متن‌باز خود و اکوسیستم آن‌ها کار می‌کند.
ابزار او از دل کار روزمرهٔ ساختن API برای سیستم‌های ML بیرون آمد. به نظر می‌رسد حل دقیق مشکلی که هر روز با آن درگیرید، می‌تواند به ابزاری تبدیل شود که دیگران هم به آن نیاز دارند.
طبق صفحهٔ LiteLLM در Y Combinator، او و Krrish Dholakia بنیان‌گذاران LiteLLM هستند (دورهٔ Winter 2023). به روایت خودش، تیمشان وقتی Azure و Cohere را به چت‌بات خود اضافه کرد به مشکل خورد: درخواست‌های Azure گاهی شکست می‌خورد، پس fallback به مدل‌های دیگر ساختند و منطق مخصوص هر ارائه‌دهنده کدشان را پیچیده و اشکال‌زدایی را سخت کرد.
راه‌حلشان این بود که همهٔ فراخوانی‌های مدل را پشت یک بستهٔ واحد ببرند: LiteLLM. طبق همان صفحه، LiteLLM امروز یک LLM Gateway متن‌باز با بیش از ۵۰ هزار ستاره در GitHub است که با یک SDK پایتون و یک سرور FastAPI امکان فراخوانی بیش از ۱۰۰ API مدل را در قالب OpenAI می‌دهد، و شرکت ۱٫۶ میلیون دلار سرمایهٔ اولیه جذب کرده است.
LiteLLM از یک دردسر واقعی در پروژهٔ خودشان شروع شد، نه از یک ایدهٔ انتزاعی. برای کسی که می‌خواهد وارد این کار شود، ساختن و منتشر کردن راه‌حل مشکلی که خودش با API ها داشته، نقطهٔ شروع خوبی به نظر می‌رسد.
بنیان‌گذار و مدیرعامل Stainless است؛ شرکتی که به نوشتهٔ خودش در اوایل ۲۰۲۲ با هدف «بازآفرینی لایهٔ API اینترنت» و رساندن developer experience درجه‌یک به هر شرکت تأسیس شد و محصولاتی مثل یک SDK generator داشت.
به نوشتهٔ او، Stainless تقریباً در همهٔ عرضه‌های Claude API دوشادوش Anthropic کار کرده است. در ۱۸ مه ۲۰۲۶ اعلام کرد Stainless به Anthropic می‌پیوندد و تیمش به Claude Platform می‌رود. به برآورد خود او، حدود یک‌چهارم توسعه‌دهندگان حرفه‌ای دنیا از SDK یا سایت مستنداتی استفاده کرده‌اند که با Stainless ساخته شده است.
مسیر او نشان می‌دهد SDK و مستندات کار حاشیه‌ای نیستند و برای شرکت‌های سازندهٔ مدل جزئی از خود محصول‌اند. اگر به ابزارسازی برای توسعه‌دهندگان علاقه دارید، این بخش از کار می‌تواند مسیر جداگانه‌ای باشد.
نمونه آگهی استخدام واقعی + تحلیل
یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش
Software Engineer, AI Gateway
تحلیل نیازمندی‌ها
5+ years of relevant experience
این نقش برای تازه‌کار نیست. سابقهٔ مرتبط یعنی چند سال ساختن و اداره کردن سرویس backend یا API در پروداکشن؛ پروژهٔ شخصی به‌تنهایی جای آن را نمی‌گیرد، هرچند می‌تواند کمک کند.
ضروریStrong proficiency in JavaScript/TypeScript and experience with backend development, APIs, and cloud infrastructure
زبان این تیم TypeScript است. علاوه بر زبان، باید نشان دهید سرویس backend و API ساخته‌اید و با زیرساخت ابری کار کرده‌اید.
ضروریExperience with AI/ML integrations, API gateways, distributed systems, or handling high-throughput services (e.g., rate limiting, caching, failovers)
کلمهٔ «or» مهم است: تجربه در یکی از این حوزه‌ها کافی است. کسی که gateway یا سرویس پرترافیک با rate limit و caching ساخته، حتی بدون تجربهٔ AI، نامزد جدی است.
ضروریExperience contributing to or participating in open source projects
Vercel پروژه‌های متن‌باز مثل AI SDK دارد و این تیم با جامعهٔ متن‌باز کار می‌کند. چند pull request پذیرفته‌شده در یک پروژهٔ شناخته‌شده نشانهٔ خوبی است.
مهمExcellent communication skills and the ability to work effectively in a collaborative team environment
تیم توزیع‌شده و دورکار است و با مدیر محصول، پژوهشگر و مهندس زیرساخت کار می‌کند؛ نوشتن روشن بخش مهمی از کار است.
مهمتحلیل مسئولیت‌ها
Contribute to the design, implementation, and maintenance of the AI Gateway platform, emphasizing features like unified API endpoints, rate limit management, and intelligent failover mechanisms to boost uptime and reliability.
هستهٔ کار همین سه چیز است: یک endpoint یکپارچه برای همهٔ مدل‌ها، مدیریت rate limit و رفتن خودکار به ارائه‌دهندهٔ دیگر وقتی یکی خراب است.
Write clean, efficient, and well-documented code, conducting thorough testing to ensure low-latency responses and stability for high-volume AI inference requests.
هر میلی‌ثانیه‌ای که gateway اضافه کند، به تأخیر همهٔ مشتریان اضافه می‌شود. تست و سنجش کارایی بخشی از کار روزمره است، نه کار جانبی.
Collaborate with cross-functional teams, including product managers, AI researchers, and infrastructure engineers, to integrate new AI providers and models while addressing scalability and performance challenges.
مدل و ارائه‌دهندهٔ تازه مدام اضافه می‌شود و هر کدام رفتار API خودش را دارد. بخشی از کار، یکسان کردن این تفاوت‌ها پشت یک رابط واحد است.
Engage with the open-source community, contribute to AI SDK and related projects, and align with Vercel's ethos of fostering developer tools.
مشتری این تیم توسعه‌دهنده است و ابزار متن‌باز Vercel یکی از راه‌های رسیدن به اوست؛ پس مشارکت در AI SDK هم جزو کار است.
Gather user feedback and analytics to drive innovations in AI Gateway, such as enhanced billing unification, provider-agnostic authentication, and analytics for usage insights.
صورت‌حساب یکپارچه، احراز هویت مستقل از ارائه‌دهنده و گزارش مصرف همان چیزهایی‌اند که gateway را از یک پروکسی ساده جدا می‌کنند.
نتیجه‌گیری کلی
این آگهی نشان می‌دهد کار «توسعه‌دهندهٔ API هوش مصنوعی» در عمل چیست، هرچند عنوانش Software Engineer, AI Gateway است: یک مهندس backend با دست‌کم ۵ سال سابقه که لایه‌ای یکپارچه جلوی صدها مدل از چند ارائه‌دهنده می‌سازد و مسئول rate limit، failover و تأخیر کم است. در هیچ جای آگهی آموزش مدل خواسته نشده است. بازهٔ حقوق پایهٔ اعلام‌شده برای سان‌فرانسیسکو ۱۹۶ تا ۲۹۴ هزار دلار است.
آینده و روندها
پیش‌بینی ۵–۱۰ ساله و مهارت‌هایی که باید یاد بگیرید
BLS پیش‌بینی می‌کند اشتغال توسعه‌دهندگان نرم‌افزار در آمریکا از ۲۰۲۵ تا ۲۰۳۵، ۱۰٪ رشد کند (از ۱٬۷۱۷٬۸۰۰ به ۱٬۸۹۲٬۶۰۰ نفر). این نزدیک‌ترین گروه رسمی به این کار است؛ BLS گروه جداگانه‌ای برای توسعه‌دهندهٔ API هوش مصنوعی ندارد.
منبع: BLS Occupational Outlook Handbook — Software Developers (15-1252)
مهارت‌های نوظهور که باید یاد بگیرید
پیش‌بینی‌های آینده
در نظرسنجی State of the API ۲۰۲۵ شرکت Postman، ۴۶٪ پاسخ‌دهندگان گفتند در ۱۲ ماه بعد وقت و منابع بیشتری روی API ها می‌گذارند و فقط ۱۱٪ قصد کاهش داشتند.
در گزارش Future of Jobs ۲۰۲۵ مجمع جهانی اقتصاد (WEF)، کارفرمایان شرکت‌کننده «Software and Applications Developers» را در فهرست سریع‌ترین شغل‌های در حال رشد تا ۲۰۳۰ (از نظر درصد) آورده‌اند؛ رتبهٔ چهارم در این فهرست.
BLS آمریکا پیش‌بینی می‌کند اشتغال توسعه‌دهندگان نرم‌افزار (۱۵-۱۲۵۲) از ۲۰۲۵ تا ۲۰۳۵، ۱۰٪ رشد کند و یکی از دلایل را گسترش توسعهٔ نرم‌افزار برای هوش مصنوعی می‌داند.
سه فشار روی این کار دیده می‌شود. اول، gateway های آماده: مستندات Vercel AI Gateway آن را برای کسانی پیشنهاد می‌کند که این کنترل‌ها را بدون اداره کردن پروکسی، پایگاه داده و control plane مسیریابی خودشان می‌خواهند؛ یعنی ساختن یک پروکسی ساده به‌تنهایی مهارت متمایزی نیست و ارزش در مقیاس، امنیت و پایداری است. دوم، ادغام شرکت‌ها: Stainless در مه ۲۰۲۶ به Anthropic پیوست و محصولات میزبانی‌شده‌اش، از جمله SDK generator، را تعطیل کرد، و طبق ویکی‌پدیا گزارش‌های Bloomberg و WSJ از توافق Stripe برای خرید OpenRouter خبر دادند. سوم، ابزارهای کدنویسی AI: Cloudflare و Deepgram استفادهٔ روزمره از این ابزارها را جزو انتظارات خود نوشته‌اند، پس کارفرما فرض می‌کند بخشی از کدنویسی با آن‌ها انجام می‌شود و تمایز شما در طراحی سیستم و قضاوت است.
منابع
اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۴۲ منبع بررسی شده است.
- Software Engineer, AI Gateway — Vercel (job posting)
- Senior Systems Engineer, AI Gateway — Cloudflare (job posting)
- Software Engineer AI Gateway — Kong (job posting)
- Member of Technical Staff (Software Engineer, API Platform) — Perplexity (job posting)
- Software Engineer, API Multimodal — OpenAI (job posting)
- Software Engineer, API Enterprise Controls — OpenAI (job posting)
- Full Stack Software Engineer, API Experience — OpenAI (job posting)
- Senior Staff Software Engineer, API — Anthropic (job posting)
- Backend Engineer - API — SpaceXSI (job posting)
- Staff Software Engineer, Inference API — Cerebras Systems (job posting)
- Sr. Backend Engineer - Engine Team: API — Deepgram (job posting)
- Developer Experience Engineer — ElevenLabs (job posting)
- DevRel Engineer, Agentic Infrastructure — Vercel (job posting)
- AI API Developer — Master Works, Riyadh (aggregator listing, archived copy)
- Glassdoor — No Salaries for AI API Developer
- levels.fyi — Backend Software Engineer salary, United States
- levels.fyi — Backend Software Engineer salary, Canada
- levels.fyi — Backend Software Engineer salary, United Kingdom
- levels.fyi — Backend Software Engineer salary, Germany
- levels.fyi — Backend Software Engineer salary, Netherlands
- levels.fyi — Backend Software Engineer salary, Switzerland
- levels.fyi — Backend Software Engineer salary, Australia
- levels.fyi — Backend Software Engineer salary, United Arab Emirates
- levels.fyi — Backend Software Engineer salary, Singapore
- levels.fyi — Backend Software Engineer salary, India
- BLS Occupational Outlook Handbook — Software Developers, Quality Assurance Analysts, and Testers
- World Economic Forum — The Future of Jobs Report 2025 (PDF)
- Postman — 2025 State of the API Report
- Claude Platform Docs — Rate limits
- OpenAI API Docs — Streaming API responses
- Vercel Docs — AI Gateway
- Cloudflare Docs — AI Gateway overview
- Kong Docs — Kong AI Gateway
- OWASP Top 10 API Security Risks – 2023
- LiteLLM — Wikipedia
- OpenRouter — Wikipedia
- FastAPI — Wikipedia
- LiteLLM — Y Combinator company page
- tiangolo (Sebastián Ramírez) — personal site
- Stainless — Stainless is joining Anthropic (Alex Rattray, May 2026)
- Stainless — About (SDKs, docs and MCP servers from an OpenAPI spec)
- openai/openai-openapi — OpenAPI specification for the OpenAI API (GitHub)