معمار زیرساخت هوش مصنوعی
AI Infrastructure Architect
معمار زیرساخت هوش مصنوعی خوشه‌های GPU را طراحی می‌کند که مدل‌های هوش مصنوعی روی آن‌ها آموزش می‌بینند و اجرا می‌شوند: سرورها و شتاب‌دهنده‌ها، شبکهٔ پرسرعت بین آن‌ها، ذخیره‌سازی داده و checkpoint، زمان‌بند کارها و ابزارهای پایش. در آگهی‌های ۲۰۲۶ این عنوان دقیق کم دیده می‌شود و همین کار بیشتر با نام‌هایی مثل HPC Systems Architect، GPU Cluster Architect و AI Infrastructure Engineer آگهی می‌شود؛ بیشتر در ابرهای GPU، شرکت‌های سازندهٔ مدل و شرکت‌های تراشه.
مقدمه و تعریف شغل
معمار زیرساخت هوش مصنوعی (AI Infrastructure Architect) تصمیم می‌گیرد سخت‌افزار و نرم‌افزار زیر مدل‌های هوش مصنوعی چطور کنار هم قرار بگیرند: کدام GPU، شبکهٔ بین GPUها با چه توپولوژی، داده و checkpoint روی چه ذخیره‌سازی، کارها با چه زمان‌بندی، و خوشه چطور پایش و تعمیر شود. Nebius در آگهی GPU Cluster Architect این کار را تصمیم‌گیری سرتاسری دربارهٔ محاسبه، شبکه و ذخیره‌سازی توصیف می‌کند. این نقش با معماری ساختمان دیتاسنتر فرق دارد: برق، خنک‌سازی و سازهٔ ساختمان کار مهندسان برق، مکانیک و عمران است و معمار زیرساخت AI با آن‌ها همکاری می‌کند.
در بازار ۲۰۲۶ عنوان دقیق «AI Infrastructure Architect» بیشتر در شرکت‌های بزرگ دیده می‌شود: Accenture آن را برای نقشی میانی در مشاوره به کار می‌برد و AMD عنوان «Lead HPC & AI Infrastructure Architect» را. در جستجوی ما در اکتبر ۲۰۲۶ در صفحه‌های استخدام حدود ۳۰۰ شرکت فناوری روی Greenhouse، Ashby و Lever (نزدیک به ۳۲ هزار آگهی باز) هیچ آگهی با این عنوان دقیق پیدا نشد؛ همان کار با نام‌هایی مثل Staff HPC Systems Architect و Staff HPC Network Architect (Lambda)، GPU Cluster Architect (Nebius)، HPC/GPU Cluster Architect (San Francisco Compute) و AI Infrastructure Engineer (Together AI، Firmus، Intercom) آگهی می‌شود. مقیاس کار را گزارش Meta نشان می‌دهد: Meta در ۲۰۲۴ دو خوشهٔ ۲۴٬۵۷۶ GPU ساخت، یکی با شبکهٔ RoCE و دیگری با InfiniBand، تا مناسب بودن هر دو را برای آموزش در مقیاس بزرگ بسنجد. دربارهٔ حقوق: levels.fyi میانهٔ درآمد کل HPC Engineer را در آمریکا ۲۱۵ هزار دلار گزارش می‌کند، در حالی که بازهٔ آگهی‌های سطح ارشد در ابرهای GPU بالاتر است (Lambda برای Senior HPC Systems Architect ۲۵۵ تا ۳۴۰ هزار دلار).
چه چیزی می‌سازید؟
مثال‌های واقعی از خروجی کار یک معمار زیرساخت هوش مصنوعی
توپولوژی خوشهٔ GPU
در آگهی Nebius معمار تعیین می‌کند ده‌ها هزار GPU در چند دیتاسنتر چطور به هم وصل، خنک و تغذیه شوند: نودهای محاسبه، شبکهٔ InfiniBand یا Ethernet، ذخیره‌سازی و control plane.
شبکهٔ پرسرعت بین GPUها
Meta برای خوشه‌های Llama 3 یک خوشه را با RoCE روی سوییچ‌های Arista و OCP و یکی را با NVIDIA Quantum2 InfiniBand ساخت؛ هر دو نقاط انتهایی ۴۰۰ گیگابیتی را به هم وصل می‌کنند.
ذخیره‌سازی برای داده و checkpoint
Meta می‌نویسد ذخیره‌سازی از کم‌حرف‌ترین بخش‌های آموزش AI است؛ راه‌حل آن به هزاران GPU اجازه می‌دهد checkpoint را هم‌زمان ذخیره و بارگذاری کنند. Together AI برای همین کار معمار ذخیره‌سازی چند پتابایتی استخدام می‌کند.
زمان‌بندی و سهم‌بندی GPU
آگهی AMD طراحی سهم‌بندی منابع با Slurm (accounting، fair-share، quota، QoS و preemption) و جداسازی کاربران را می‌خواهد و تصمیم اینکه هر کار روی bare metal، ماشین مجازی، Slurm یا Kubernetes اجرا شود.
راه‌اندازی و پذیرش خوشهٔ تازه
در Highrise AI (زیرمجموعهٔ Hut 8) مهندس خوشه‌ای را که رک و کابل‌کشی شده تا آمادگی تجاری می‌برد: baseline برای BIOS، firmware و درایور، burn-in، تست‌های NCCL و معیارهای پذیرش.
خودکارسازی سلامت ناوگان
Together AI سیستم‌هایی می‌خواهد که خوشه‌های GPU را با کمترین دخالت انسان راه‌اندازی، اعتبارسنجی، ارتقا و تعمیر کنند و خرابی را پیش از رسیدن به مشتری پیش‌بینی کنند. ElevenLabs هم بررسی سلامت نود، drain خودکار و burn-in برای ظرفیت تازه را می‌خواهد.
تخصص‌های مختلف معمار زیرساخت هوش مصنوعی
این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد
معماری محاسبه و سیستم
Compute / Systems Architecture
انتخاب CPU، GPU و شتاب‌دهنده، طراحی رک و خوشه و تصمیم بین چگالی، برق، خنک‌سازی و هزینه؛ مثل نقش Staff HPC Systems Architect در Lambda.
معماری شبکهٔ خوشه
AI Network Fabric
طراحی شبکهٔ بین GPUها و ذخیره‌سازی. Lambda برای Staff HPC Network Architect ارزیابی InfiniBand NDR/XDR، RoCE، Ethernet ۴۰۰ گیگابیت تا ۱٫۶ ترابیت و Ultra Ethernet را می‌خواهد.
ذخیره‌سازی برای AI
Storage for AI
فایل‌سیستم‌های موازی و object storage در مقیاس پتابایت؛ Together AI برای این نقش ۸+ سال تجربه و آشنایی با Vast، Weka، Ceph یا Lustre می‌خواهد و هدف را دست‌کم ۱۰ گیگابایت بر ثانیه برای هر نود GPU گذاشته است.
راه‌اندازی خوشه و پایداری ناوگان
Cluster Bring-up & Fleet Reliability
بردن خوشه از نصب فیزیکی تا پروداکشن، تست پذیرش و رسیدگی به خرابی‌های پیچیده؛ مثل نقش Principal AI Infrastructure Engineer در Highrise AI و تیم Fleet HPC در OpenAI.
پلتفرم Kubernetes برای GPU
GPU Kubernetes Platform
طراحی Kubernetes روی bare metal برای کارهای GPU با چند مشتری؛ Firmus از این نقش تعریف reference architecture، یکپارچه کردن GPU Operator و جای‌گذاری آگاه از توپولوژی را می‌خواهد.
تفاوت با شغل‌های مشابه
کجا این شغل تمام می‌شود و شغل دیگری شروع می‌شود؟
معمار ابری روی سرویس‌های یک ارائه‌دهندهٔ ابر طراحی می‌کند و استانداردهای کار با آن را تعیین می‌کند. معمار زیرساخت AI یک لایه پایین‌تر می‌رود: خود خوشهٔ GPU، شبکهٔ بین GPUها و ذخیره‌سازی، اغلب روی bare metal. در شرکت‌های بزرگ این مرز باریک‌تر است: آگهی AI Infrastructure Architect در Accenture تجربه روی یک hyperscaler و طراحی منابع محاسباتی ابری و on-premises مثل خوشه‌های GPU را با هم می‌خواهد و AMD تجربه با Azure، OCI یا AWS را در کنار ابرهای تخصصی GPU.
تیم MLOps چرخهٔ عمر مدل را اداره می‌کند: رجیستری، استقرار و پایش مدل. معمار زیرساخت AI سخت‌افزار و پلتفرمی را فراهم می‌کند که این کارها روی آن اجرا می‌شود. آگهی Cohere مرز را نشان می‌دهد: تیم زیرساخت داخلی آن زیرساخت و ابزاری می‌سازد که مدل‌ها با آن آموزش، ارزیابی و سرو می‌شوند و به پژوهشگران ابزار سلف‌سرویس می‌دهد تا کارهای آموزش خود را پایش و بهینه کنند.
مهندس LLMOps روی برنامه‌های مبتنی بر مدل‌های زبانی کار می‌کند: نسخه‌بندی پرامپت، ارزیابی خودکار، پایش مصرف توکن و هزینهٔ هر درخواست. معمار زیرساخت AI به ظرفیت و کارایی سرورهایی فکر می‌کند که آن مدل‌ها روی آن‌ها اجرا می‌شوند. نقطهٔ تماس inference است: آگهی AMD از معمار تجربه با vLLM یا SGLang، model parallelism و برنامه‌ریزی ظرفیت inference می‌خواهد.
ابزارها مشترک‌اند: Terraform، Ansible، Kubernetes و Prometheus. فرق در لایهٔ زیرین است؛ در خوشهٔ GPU خرابی سخت‌افزار و کندی شبکه جزو کار روزمره است. Together AI صریحاً می‌نویسد این نقش زیرساخت سنتی نیست. با این حال DevOps و SRE مسیر طبیعی ورود است: OpenAI برای تیم Fleet HPC نوشته تخصص قبلی در سخت‌افزار لازم نیست و Wayve تجربهٔ مشابه در پلتفرم‌های بزرگ را هم مرتبط می‌داند.
تأثیر در صنایع مختلف
معمار زیرساخت هوش مصنوعی در همه صنایع مشغول به کار است — نه فقط شرکت‌های فناوری
ابرهای GPU
Lambda، Nebius، Together AI، Firmus و San Francisco Compute ظرفیت GPU می‌فروشند و معمارانشان خوشه را از رک تا شبکه و ذخیره‌سازی طراحی می‌کنند
شرکت‌های سازندهٔ مدل پایه
تیم Fleet در OpenAI سیستم‌هایی را اداره می‌کند که دیتاسنتر، GPU و شبکه را در بر می‌گیرد و Cohere خوشه‌های بزرگ GPU/TPU را روی چند ابر می‌سازد و اداره می‌کند
سازندگان تراشه
AMD معمار HPC و AI می‌خواهد که پلتفرم‌های بزرگ CPU و GPU را در زیرساخت داخلی، ابر عمومی و ابرهای تخصصی GPU طراحی کند؛ طبق ویکی‌پدیا، Amin Vahdat در Google کار ساخت TPU نسل هفتم را هدایت کرده است
انرژی و دیتاسنتر
Hut 8 خود را پلتفرم زیرساخت انرژی می‌داند و زیرمجموعهٔ Highrise AI آن خوشه‌های GPU را طراحی، مستقر و اداره می‌کند؛ Firmus روی خنک‌سازی مایع و مدیریت انرژی کار می‌کند
خودروهای خودران و Physical AI
Kodiak برای آموزش مدل روی داده‌های دوربین، LiDAR و رادار مهندس زیرساخت AI می‌خواهد و Wayve برای قابلیت اطمینان ناوگان GPU، Kubernetes و ذخیره‌سازی خود
محصولات AI
ElevenLabs خوشه‌های NVIDIA را روی سخت‌افزار خودش و ظرفیت اجاره‌ای اداره می‌کند و تیم زیرساخت AI در Intercom مدل‌های اختصاصی Fin را آموزش می‌دهد و سرو می‌کند
مشاوره و خدمات IT
Accenture عنوان AI Infrastructure Architect را برای نقشی در سطح میانی به کار می‌برد که منابع محاسباتی ابری و on-premises، از جمله خوشه‌های GPU، را طراحی و بهینه می‌کند و مدل‌ها را به سیستم‌های سازمانی موجود وصل می‌کند
تصورات غلط رایج
قبل از تصمیم‌گیری، این باورهای اشتباه را بشناسید
این شغل یعنی ساختن ساختمان دیتاسنتر
ساختمان، برق و خنک‌سازی دیتاسنتر رشته‌های مهندسی جداگانه‌اند. OpenAI برای Data Center Infrastructure Architect مدرک مهندسی مکانیک، برق، سیستم یا فیزیک کاربردی می‌خواهد و Anthropic برای Data Center Architect، CSA دست‌کم ۱۰ سال سابقه در تأسیسات حساس، شامل ۶ سال طراحی عمران، سازه و معماری (CSA) دیتاسنتر. معمار زیرساخت AI روی محاسبه، شبکه و ذخیره‌سازی کار می‌کند و محدودیت‌های برق و خنک‌سازی را با آن تیم‌ها هماهنگ می‌کند.
بدون سال‌ها کار روی خوشه‌های عظیم نمی‌شود وارد شد
عنوان معمار واقعاً سطح بالاست: Lambda برای Staff ۷+ سال و برای Senior ۸+ سال سابقه می‌خواهد. اما راه ورود باز است: OpenAI برای تیم Fleet HPC نوشته تخصص قبلی در سخت‌افزار لازم نیست، Kodiak دست‌کم ۲ تا ۳ سال تجربه می‌خواهد و San Francisco Compute تجربه با خوشهٔ بیش از ۱٬۰۰۰ GPU را ترجیح می‌دهد اما الزامی نمی‌داند.
اگر Kubernetes بلد باشید کافی است
Kubernetes لازم است اما کافی نیست. Firmus در کنار شناخت عمیق Kubernetes، تجربه با GPU Operator، شبکهٔ RDMA و نیازهای کارهای توزیع‌شدهٔ AI را می‌خواهد و Lambda شناخت NVLink، InfiniBand و RoCE و بهینه‌سازی حرارت و برق را. بسیاری از خوشه‌ها هم با Slurm کار می‌کنند؛ AMD، ElevenLabs و Highrise AI آن را نام برده‌اند.
کار اصلی GPU است و شبکه و ذخیره‌سازی جزئیات‌اند
Meta دو خوشهٔ هم‌اندازه را فقط برای مقایسهٔ دو نوع شبکه (RoCE و InfiniBand) ساخت و می‌نویسد ذخیره‌سازی نقش مهمی در آموزش دارد اما از کم‌حرف‌ترین بخش‌هاست؛ ذخیره و بارگذاری هم‌زمان checkpoint برای هزاران GPU برای هر سیستم ذخیره‌سازی چالش است. Lambda برای شبکه و Together AI برای ذخیره‌سازی معمار جداگانه استخدام می‌کنند.
همه‌چیز NVIDIA است
NVIDIA در بیشتر آگهی‌ها هست، اما نه همه‌جا. AMD تجربه با GPUهای Instinct، ROCm و RCCL را می‌خواهد، Nebius «معماری GPUهای امروز (NVIDIA، AMD و دیگران)» را و Cohere از خوشه‌های GPU و TPU نام می‌برد. شناخت مفهومی شبکه، حافظه و ارتباط جمعی بین سازندگان قابل انتقال است.
یک روز کاری واقعی
در هر سطح روز کاری چه شکلی است؟
جونیور (۰–۲ سال)
معمولاً با عنوان SRE، DevOps یا مهندس ناوگان شروع می‌کنید. بیشتر وقت صرف پایش سلامت نودها، خودکارسازی کارهای تکراری و یاد گرفتن پشتهٔ سخت‌افزار و نرم‌افزار می‌شود.
- ◆بررسی داشبورد سلامت GPUها و پیدا کردن نودهایی که خطا داده‌اند
- ◆خارج کردن یک نود خراب از چرخهٔ کار و ثبت درخواست تعمیر
- ◆اجرای nccl-tests بعد از تعمیر یا ارتقا و مقایسه با نتیجهٔ قبلی
- ◆نوشتن یک playbook در Ansible برای ارتقای درایور روی چند نود
- ◆همراهی با یک مهندس ارشد در on-call
میانی (۲–۵ سال)
مسئول بخشی از پشته هستید. ElevenLabs این را «مالکیت پشتهٔ زیر کد آموزش» می‌نامد: image سیستم‌عامل، درایورهای NVIDIA، CUDA، runtime کانتینر، NCCL و شبکهٔ پرسرعت.
- ◆پیدا کردن علت کندی یک کار آموزش: نود کند، لینک شبکهٔ ضعیف، مشکل حرارتی یا GPU ناپایدار
- ◆تنظیم زمان‌بند (Slurm یا Kubernetes) تا پژوهشگران منصفانه و سریع GPU بگیرند
- ◆benchmark ظرفیت اجاره‌ای از یک ارائه‌دهنده و مقایسه با SLA
- ◆خودکار کردن یک تعمیر تکراری تا دیگر دستی انجام نشود
ارشد و معمار (۵+ سال)
تمرکز روی طراحی و تصمیم است. کمتر خودتان روی نودها کار می‌کنید و بیشتر با تیم‌های شبکه، ذخیره‌سازی، دیتاسنتر و پژوهش جلسه دارید.
- ◆بازبینی طرح شبکهٔ یک خوشهٔ تازه با معمار شبکه
- ◆ارزیابی یک نسل تازهٔ GPU یا سوییچ و نوشتن مقایسهٔ هزینه و کارایی
- ◆تعریف معیارهای پذیرش خوشه پیش از تحویل به مشتری
- ◆هماهنگی محدودیت برق رک و خنک‌سازی با تیم دیتاسنتر
- ◆منتورینگ مهندسان سیستم و نوشتن سند تصمیم
مسئولیت‌ها و وظایف
مسئولیت‌های اصلی
وظایف روزانه و مهارت‌های مورد نیاز در این شغل
- ◈طراحی توپولوژی خوشه‌های GPU: نودهای محاسبه، شبکهٔ بین آن‌ها (InfiniBand یا Ethernet)، ذخیره‌سازی و control plane
- ◈تحلیل بار کاری آموزش و inference برای تصمیم دربارهٔ تأخیر، پهنای باند و چگالی GPU
- ◈ارزیابی نسل‌های تازهٔ CPU، GPU و فناوری‌های شبکه و تعیین baseline سخت‌افزار، firmware و درایور
- ◈طراحی لایه‌های ذخیره‌سازی برای داده‌های آموزش و checkpoint و هماهنگی با تیم ذخیره‌سازی
- ◈طراحی سهم‌بندی منابع و جداسازی کاربران با Slurm یا Kubernetes
- ◈تعریف معیارهای پذیرش، benchmark خوشه و پایش سلامت ناوگان
- ◈خودکارسازی راه‌اندازی، ارتقا و تعمیر نودها با Infrastructure as Code
- ◈همکاری با تیم‌های شبکه، دیتاسنتر، SRE و پژوهشگران و تبدیل نیاز مبهم به مشخصات فنی
- ◈مستندسازی تصمیم‌ها و منتورینگ مهندسان سیستم
مهارت‌های مورد نیاز
مهارت‌های فنی، نرم و حوزه‌ای که یک معمار زیرساخت هوش مصنوعی موفق به آن‌ها نیاز دارد
مهارت‌های فنی
kernel، systemd، cgroups، namespaces و عیب‌یابی سطح پایین؛ Firmus «دانش Linux در سطح خبره» را می‌خواهد
GPU، کارت شبکه، PCIe، حافظه، حرارت و برق (فهرست آگهی San Francisco Compute)
سلسله‌مراتب حافظه، NVLink و NVSwitch و اینکه GPUها داخل سرور چطور به هم وصل‌اند
InfiniBand، RoCE و RDMA؛ تقریباً در همهٔ آگهی‌های معمار خوشه آمده است
اجرا و تحلیل تست‌های NCCL در مقیاس نود، رک و خوشه (آگهی Highrise AI)
اجرای کارهای GPU روی Kubernetes؛ Firmus تخصص در حد CKA انتظار دارد
زمان‌بندی و سهم‌بندی منابع در خوشه‌های HPC (AMD، ElevenLabs، Highrise AI)
Lustre، Ceph، VAST یا BeeGFS و مسیر داده برای آموزش و checkpoint
Terraform و Ansible برای ساخت، پیکربندی و ارتقای ناوگان
Python و Go (یا Rust) برای ابزار، اتوماسیون و controller؛ Together AI و Cohere هر دو را نام برده‌اند
Prometheus، Grafana و DCGM برای پایش سلامت و مصرف GPU
data، tensor و pipeline parallelism و FSDP؛ Kodiak تسلط بر مزایا و معایب این روش‌ها را می‌خواهد
معماری و عملیات
تحلیل بار کاری برای تصمیم دربارهٔ تأخیر، پهنای باند و چگالی GPU (آگهی Nebius)
تعریف معیار، جمع‌آوری شواهد و توصیهٔ آمادگی برای پروداکشن (آگهی Highrise AI)
پیش‌بینی نیاز GPU و ذخیره‌سازی؛ در آگهی‌های ElevenLabs، Wayve و AMD آمده است
تصمیم بین چگالی، مصرف برق، خنک‌سازی و هزینهٔ کل؛ Lambda برای Senior تجربه با خنک‌سازی مایع direct-to-chip را می‌خواهد
کنترل دسترسی، جداسازی شبکه و مدیریت secrets در خوشه‌های چند مشتری (AMD، Firmus)
مهارت‌های نرم
Lambda تبدیل نیاز مبهم کسب‌وکار یا مشتری به نیازمندی قابل اندازه‌گیری، مشخصات فنی و معیار پذیرش را می‌خواهد
کار با تیم‌های SRE، شبکه، ذخیره‌سازی، دیتاسنتر و پژوهش (آگهی Nebius)
مستندات عملیاتی، runbook و سند تصمیم؛ San Francisco Compute صریحاً آن را خواسته است
در آگهی‌های Lambda، San Francisco Compute و AMD جزو کار معمار است
پیگیری خرابی با سازندگان و نگه داشتن ارائه‌دهندگان ظرفیت به SLA (Highrise AI، ElevenLabs)
نقشه راه و مسیر آموزشی
نقشه راه تبدیل شدن به معمار زیرساخت هوش مصنوعی
این مسیر گام به گام شما را از صفر تا حرفه‌ای هدایت می‌کند.
پایه: Linux، شبکه و سخت‌افزار سرور
همهٔ آگهی‌های این حوزه از Linux و سخت‌افزار شروع می‌کنند. San Francisco Compute درک عمیق سخت‌افزار سرور را می‌خواهد: GPU، کارت شبکه، PCIe، حافظه، حرارت و برق. OpenAI برای تیم Fleet HPC تسلط بر Linux، شبکه و سخت‌افزار سرور را شرط گذاشته است. این مرحله را با کار عملی روی چند ماشین Linux و خواندن متریک‌های کارایی جلو ببرید.
خودکارسازی، Kubernetes و Infrastructure as Code
در این نقش هیچ سروری با دست راه‌اندازی نمی‌شود. Together AI می‌نویسد اگر کاری تکرار می‌شود، غریزهٔ شما باید ساختن سیستمی برای حذف آن باشد و تجربه با Linux، Kubernetes، Terraform یا Ansible را می‌خواهد. Firmus برای پلتفرم Kubernetes خود تخصص در حد CKA را انتظار دارد.
GPU، شبکهٔ پرسرعت و آموزش توزیع‌شده
هستهٔ تخصص همین‌جاست: GPUها داخل یک سرور با NVLink و بین سرورها با InfiniBand یا RoCE به هم وصل می‌شوند و کتابخانهٔ NCCL ارتباط جمعی بین آن‌ها را انجام می‌دهد. Lambda برای Staff HPC Systems Architect تجربهٔ طراحی سیستم روی NVLink، InfiniBand و RoCE را می‌خواهد و Highrise AI اجرای تست‌های NCCL در مقیاس نود، رک و خوشه را. لازم نیست پژوهشگر ML باشید، اما باید بدانید آموزش توزیع‌شده (data، tensor و pipeline parallelism، FSDP) چه باری روی شبکه و حافظه می‌گذارد.
زمان‌بندی، ذخیره‌سازی و inference روی خوشه
خوشهٔ GPU بدون زمان‌بند و ذخیره‌سازی مناسب بیکار می‌ماند. آگهی AMD طراحی سهم‌بندی منابع با Slurm (accounting، fair-share، quota، QoS، preemption) و تصمیم دربارهٔ اجرای کار روی bare metal، ماشین مجازی، Slurm یا Kubernetes را می‌خواهد. همین آگهی آشنایی با Lustre، IBM Storage Scale، BeeGFS یا VAST و تجربه با vLLM یا SGLang و برنامه‌ریزی ظرفیت inference را امتیاز می‌داند.
معماری در مقیاس خوشه و دیتاسنتر
در سطح معمار، کار از ابزار به تصمیم می‌رسد: کدام GPU و کدام شبکه، چند نود در هر pod، کدام لایهٔ ذخیره‌سازی، و اینکه برق و خنک‌سازی دیتاسنتر چه محدودیتی می‌گذارد. Lambda از Staff HPC Systems Architect می‌خواهد نقشهٔ راه پلتفرم و reference design تعریف کند و بین چگالی، برق، خنک‌سازی و هزینهٔ کل تصمیم بگیرد. گزارش‌های عمومی Meta دربارهٔ خوشه‌های آموزش Llama 3 بهترین متن برای دیدن این تصمیم‌ها در عمل است.
ابزارها و استک فنی
ابزارهایی که هر مهندس AI باید بشناسد، دسته‌بندی‌شده بر اساس اولویت
ارکستراسیون و زمان‌بندی
اجرای کارهای آموزش و inference روی خوشه؛ Cohere خوشه‌های GPU/TPU مبتنی بر Kubernetes را روی چند ابر اداره می‌کند
نصب و مدیریت درایور، device plugin و پایش GPU روی Kubernetes؛ Firmus آن را در کنار Network Operator و DCGM می‌خواهد
ارتباط بین GPUها و شبکه
کتابخانهٔ NVIDIA برای ارتباط جمعی بین GPUها؛ در آگهی‌های Cohere، Together AI و Highrise AI آمده است
دو فناوری اصلی شبکهٔ بین سرورهای GPU؛ Meta یک خوشه را با RoCE و یکی را با InfiniBand ساخت تا این دو را مقایسه کند
ذخیره‌سازی
خودکارسازی، پایش و سرو مدل
متریک‌های سلامت و مصرف GPU برای Prometheus؛ ElevenLabs تسلط بر DCGM را جزو پشتهٔ NVIDIA خواسته است
مسیر پیشرفت شغلی
از جونیور تا Staff Engineer — چه مهارت‌هایی نیاز دارید و چه درآمدی انتظار داشته باشید
مهندس Linux، SRE یا DevOps
۰ تا ۳ سال
نگهداری سرورها، خودکارسازی، پایش و on-call. ورود به تیم‌های GPU معمولاً از همین‌جاست؛ OpenAI برای تیم Fleet HPC نوشته تخصص قبلی در سخت‌افزار لازم نیست
AI Infrastructure Engineer / HPC Engineer
۲ تا ۵ سال
مسئولیت بخشی از پشته: image سیستم‌عامل، درایور و CUDA، NCCL، زمان‌بند یا ذخیره‌سازی. Together AI برای این نقش ۳+ سال تجربه و Kodiak دست‌کم ۲ تا ۳ سال می‌خواهد
Senior AI Infrastructure Engineer / GPU Cluster Architect
۵+ سال
طراحی توپولوژی خوشه، مدل‌سازی کارایی و هماهنگی با تیم‌های شبکه، ذخیره‌سازی و دیتاسنتر. Nebius و San Francisco Compute هر دو ۵+ سال تجربهٔ طراحی خوشه می‌خواهند
Staff / Principal Architect (Systems، Network یا Storage)
۷ تا ۸+ سال
تعریف reference design و نقشهٔ راه پلتفرم، ارزیابی نسل‌های تازهٔ GPU و شبکه و تصمیم‌های چگالی، برق، خنک‌سازی و هزینه. Lambda برای Staff ۷+ سال و برای Senior HPC Systems Architect ۸+ سال سابقه می‌خواهد
چالش‌ها و جنبه‌های منفی
واقعیت‌هایی که کمتر در آگهی‌های شغلی می‌بینید — قبل از ورود بدانید
خرابی سخت‌افزار بخشی از کار روزمره است
عمومیMeta در مقالهٔ Llama 3 گزارش می‌دهد که در یک بازهٔ ۵۴ روزه از پیش‌آموزش، ۴۶۶ بار کار آموزش قطع شد که ۴۱۹ مورد آن غیرمنتظره بود؛ حدود ۷۸٪ این موارد به مشکل سخت‌افزاری قطعی یا مشکوک برمی‌گشت و GPUها با ۵۸٫۷٪ بزرگ‌ترین دسته بودند. چون آموزش هم‌زمان است، خرابی یک GPU ممکن است کل کار را از نو راه بیندازد. طراحی باید از اول خرابی را فرض کند.
برق و حرارت
شرکت بزرگطبق همان مقاله، دمای بالاتر میانهٔ روز باعث نوسان روزانهٔ ۱ تا ۲ درصدی در throughput آموزش Llama 3 405B شد و وقتی ده‌ها هزار GPU هم‌زمان منتظر checkpoint یا ارتباط جمعی می‌مانند، مصرف برق دیتاسنتر به اندازهٔ ده‌ها مگاوات بالا و پایین می‌رود. معمار باید این محدودیت‌ها را با تیم دیتاسنتر در طراحی ببیند.
عیب‌یابی در چند لایه
عمومیمشکل ممکن است در سخت‌افزار، firmware، درایور، سیستم‌عامل، شبکه یا کد آموزش باشد. San Francisco Compute عیب‌یابی در همهٔ این لایه‌ها را می‌خواهد و ElevenLabs شکار نودهای کند، لینک‌های ضعیف، مشکلات حرارتی و GPUهای ناپایدار را، و رفع ریشهٔ مشکل نه فقط یک مورد آن.
on-call و کار خارج از ساعت اداری
استارتاپخوشهها شبانه‌روز کار می‌کنند. Cohere می‌نویسد همهٔ نقش‌های زیرساختش on-call شبانه‌روزی دارند (با پرداخت جداگانه)، San Francisco Compute هم on-call دارد و Highrise AI از مهندس انتظار دارد برای حوادث مهم یا تعمیرات خارج از ساعت کاری در دسترس باشد و برای راه‌اندازی خوشه به دیتاسنتر سفر کند.
تغییر سریع سخت‌افزار و شبکه
عمومیLambda از معمار شبکه می‌خواهد InfiniBand NDR/XDR، RoCE، Ethernet ۴۰۰ گیگابیت تا ۱٫۶ ترابیت و Ultra Ethernet را ارزیابی کند و از معمار سیستم، CPU و GPU و شتاب‌دهنده‌های تازه را. Kodiak هم از بهره‌برداری کامل از B200 و آموزش با دقت BF16/FP8 نام می‌برد. دانسته‌های هر نسل باید با نسل بعد به‌روز شوند.
وابستگی به ارائه‌دهنده و ظرفیت اجاره‌ای
استارتاپبسیاری از تیم‌ها بخشی از ظرفیت را اجاره می‌کنند. ElevenLabs از مهندس می‌خواهد ظرفیت اجاره‌ای را benchmark و اعتبارسنجی کند و ارائه‌دهنده را به SLA پایبند نگه دارد و Highrise AI پیگیری خرابی با مهندسان سازنده را جزو کار می‌داند. کیفیت خوشه فقط به طراحی شما بستگی ندارد.
حقوق و بازار کار جهانی
حقوق جهانی معمار زیرساخت هوش مصنوعی
حقوق سالانه در کشورهای مختلف بر اساس داده‌های منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز می‌شود.
* ارقام سالانه‌اند. منبع هر رقم:
- levels.fyi, updated Oct 22, 2026, proxy title 'HPC Engineer', total comp (208 submissions): 25th–75th pct; median
- Together AI posting, AI Infrastructure Systems Engineer (San Francisco, 3+ years), posted May 14, 2026: US base range; median = midpoint
- Lambda posting, Senior HPC Systems Architect (San Jose, 8+ years), posted Jul 27, 2026: annual salary range; median = midpoint
- levels.fyi, updated Oct 22, 2026, proxy title 'HPC Engineer', total comp (16 submissions): 25th–75th pct; median
- Cohere posting, Senior Software Engineer, GPU Infrastructure (HPC) (Canada), posted Sep 3, 2026: posted range; median = midpoint
- levels.fyi, updated Oct 22, 2026, proxy title 'HPC Engineer', total comp (25 submissions): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy title 'HPC Engineer', total comp (15 submissions): 25th–75th pct; median
- levels.fyi, updated Oct 22, 2026, proxy title 'HPC Engineer', total comp (52 submissions): 25th–75th pct; median
چگونه از صفر شروع کنیم
برنامه گام‌به‌گام برای ورود به مهندسی هوش مصنوعی
ماه ۱: GPU روی Kubernetes
یک نود GPU را به Kubernetes اضافه کنید، GPU Operator را نصب کنید و متریک‌های GPU را به Prometheus بفرستید.
ماه ۲: شبکه و NCCL
فصل شبکهٔ کتاب Stas Bekman را بخوانید و nccl-tests را روی دو نود GPU اجاره‌ای اجرا کنید؛ نتیجه را یادداشت کنید.
ماه ۳: Slurm
یک خوشهٔ کوچک Slurm روی چند ماشین مجازی بسازید و صف، سهم‌بندی و حساب‌داری را تنظیم کنید.
ماه ۴: آموزش توزیع‌شده
آموزش FSDP را اجرا کنید و Ultra-Scale Playbook را بخوانید تا بفهمید هر روش موازی‌سازی چه باری روی شبکه و حافظه می‌گذارد.
ماه ۵: ذخیره‌سازی و inference
یک مدل را با vLLM سرو کنید و اثر ذخیره‌سازی را روی زمان بارگذاری وزن‌ها و checkpoint بسنجید.
ماه ۶: پورتفولیو و درخواست
گزارش پذیرش و سند طراحی خوشه را منتشر کنید و برای نقش‌های AI Infrastructure Engineer، HPC Engineer و GPU Infrastructure اقدام کنید.
پروژه‌های پیشنهادی برای رزومه
خوشهٔ کوچک Slurm روی چند ماشین مجازی
مبتدیبا سه یا چهار ماشین مجازی یک خوشهٔ Slurm بسازید: یک نود کنترل و چند نود محاسبه، صف‌ها، سهم‌بندی منابع و حساب‌داری کاربران. همهٔ نصب را با Ansible بنویسید تا با یک دستور تکرار شود و در README توضیح دهید هر تنظیم برای چیست.
GPU روی Kubernetes با Terraform و GPU Operator
متوسطبا Terraform یک خوشهٔ Kubernetes با یک یا دو نود GPU روی یک ابر بسازید، NVIDIA GPU Operator را نصب کنید و متریک‌های GPU را با DCGM Exporter به Prometheus و Grafana بفرستید. بعد خوشه را خاموش کنید تا هزینه بالا نرود و همه‌چیز را در کد نگه دارید.
سیستم خودکار سلامت نود
متوسطاسکریپت یا controllerی بنویسید که سلامت هر نود GPU را بسنجد (خطاهای GPU از DCGM، دما، اتصال شبکه) و نود مشکل‌دار را خودکار از چرخهٔ کار خارج کند (drain). این همان کاری است که ElevenLabs و Together AI در آگهی‌هایشان از خودکارسازی سلامت ناوگان می‌خواهند.
گزارش تست پذیرش یک خوشهٔ کوچک
پیشرفتهروی دو نود GPU اجاره‌ای، nccl-tests، یک تست ذخیره‌سازی و یک اجرای کوتاه آموزش توزیع‌شده با FSDP را اجرا کنید و نتیجه را مثل یک گزارش پذیرش بنویسید: معیارها، اعداد اندازه‌گیری‌شده، گلوگاه‌ها و توصیه. آگهی Highrise AI مالکیت همین معیارها و شواهد پذیرش را جزو کار می‌داند.
سند طراحی برای یک خوشهٔ فرضی
پیشرفتهبرای یک خوشهٔ فرضی (مثلاً ۲۵۶ GPU) یک سند طراحی بنویسید: توپولوژی شبکه و دلیل انتخاب InfiniBand یا RoCE، لایه‌های ذخیره‌سازی برای داده و checkpoint، زمان‌بند، دامنه‌های خطا، پایش و فرض‌های برق و خنک‌سازی. هر عدد را با منبعش بیاورید و گزینه‌های ردشده را هم توضیح دهید.
مثال‌های واقعی و Case Studies
داستان‌های واقعی از مهندسانی که در این حوزه تأثیرگذار بوده‌اند
طبق ویکی‌پدیا، کارشناسی را در ۱۹۹۲ از UC Berkeley و دکترای علوم کامپیوتر را در ۱۹۹۸ گرفت و استاد Duke و سپس UC San Diego بود (۲۰۰۴ تا ۲۰۱۳)، جایی که مرکز سیستم‌های شبکه‌ای دانشگاه را هم اداره می‌کرد. پژوهش دانشگاهی‌اش روی معماری شبکه و software-defined networking بود.
در ۲۰۱۰ به‌عنوان مسئول فنی شبکه به Google رفت. تیمش SDN را برای بالا بردن پهنای باند دیتاسنترهای Google ساخت و مقاله‌ای که در ۲۰۱۳ دربارهٔ این شبکه منتشر کردند در ۲۰۲۳ جایزهٔ Test of Time انجمن ACM را گرفت. مسئولیتش از شبکه به محاسبه و ذخیره‌سازی رسید و امروز معاون و مدیر کل AI و زیرساخت در Google است و کار ساخت TPU نسل هفتم (Ironwood، ۲۰۲۵) را هدایت کرده است. در ۲۰۲۳ به عضویت آکادمی ملی مهندسی آمریکا درآمد.
مسیر او نشان می‌دهد شبکه در زیرساخت AI حاشیه نیست؛ کسی که از شبکهٔ دیتاسنتر شروع کرد به هدایت کل زیرساخت AI رسید.
مهندس کامپیوتر برزیلی (۱۹۶۴ تا ۲۰۲۳) که طبق ویکی‌پدیا کارشناسی و ارشد مهندسی برق را در ریودوژانیرو و دکترا را در University of Southern California گرفت و پیش از Google در Digital Equipment Corporation کار می‌کرد. در ۲۰۰۱ به Google رفت و مسئول طراحی دیتاسنتر شد.
طراحی دوبارهٔ دیتاسنترها و سرورهای Google برای مصرف انرژی و هزینهٔ بسیار کمتر به نام او ثبت شده است. همراه Urs Hölzle کتاب The Datacenter as a Computer را نوشت که ویکی‌پدیا آن را نخستین کتاب درسی دربارهٔ معماری سیستم‌های warehouse-scale می‌داند. Google Fellow بود و در ۲۰۲۰ جایزهٔ Eckert–Mauchly را گرفت.
ایدهٔ اصلی کتابش، دیدن کل دیتاسنتر به‌عنوان یک کامپیوتر، همان نگاهی است که معمار خوشهٔ GPU امروز لازم دارد: تصمیم‌ها در سطح کل سیستم گرفته می‌شوند، نه در سطح یک سرور.
به گفتهٔ خودش در Hugging Face آموزش مدل متن‌باز BLOOM-176B (۲۰۲۲) را هدایت کرد، در حالی که به نوشتهٔ خودش آن زمان «هیچ چیز» دربارهٔ آموزش در مقیاس بزرگ نمی‌دانست. بعد آموزش مدل چندوجهی IDEFICS-80B (۲۰۲۳) را انجام داد و در Contextual.AI مدل آموزش داد و سیستم‌های آموزش و inference مقیاس‌پذیر ساخت.
آنچه از این کارها یاد گرفت را در کتاب رایگان Machine Learning Engineering Open Book در GitHub نوشته است: سخت‌افزار (محاسبه، ذخیره‌سازی و شبکه)، ارکستراسیون و Slurm، آموزش، inference و عیب‌یابی. کتاب با مجوز CC BY-SA 4.0 منتشر شده و نسخهٔ PDF و EPUB هم دارد.
داستان او نشان می‌دهد این تخصص را می‌شود در حین کار یاد گرفت و یادداشت‌برداری منظم از مشکلات و راه‌حل‌ها هم به خود فرد کمک می‌کند و هم به جامعه.
نمونه آگهی استخدام واقعی + تحلیل
یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش
Staff HPC Systems Architect
تحلیل نیازمندی‌ها
Proven experience (7+ years) architecting large-scale 10k-100k+ GPU HPC or cloud compute platforms.
این شرط سطح Staff است: هفت سال معماری روی پلتفرم‌هایی با ده هزار تا صد هزار GPU یا بیشتر. چنین تجربه‌ای را فقط در چند نوع شرکت می‌شود به دست آورد: ابرهای بزرگ، ابرهای GPU، آزمایشگاه‌های مدل و مراکز HPC. برای تازه‌واردها این آگهی مقصد است، نه نقطهٔ شروع.
ضروریDeep knowledge of CPU/GPU architectures, memory hierarchies, and accelerator topologies.
باید بدانید داده در یک سرور GPU از کجا به کجا می‌رود: حافظهٔ GPU، حافظهٔ CPU، NVLink بین GPUها و PCIe تا کارت شبکه. بیشتر گلوگاه‌های کارایی در همین مسیرها پیدا می‌شوند.
ضروریExperience designing systems around high-bandwidth, low-latency fabrics (NVLink, InfiniBand, and RoCE).
سه فناوری اصلی اتصال: NVLink داخل سرور و InfiniBand یا RoCE بین سرورها. معمار باید بداند هر کدام کجا و با چه هزینه‌ای مناسب است، نه فقط اینکه چطور کابل‌کشی می‌شود.
ضروریStrong understanding of system performance tuning, resource scheduling, thermal and power optimization, and compute lifecycle management.
چهار حوزه در یک خط: تنظیم کارایی، زمان‌بندی منابع، برق و حرارت، و چرخهٔ عمر سخت‌افزار از نصب تا کنار گذاشتن. یعنی معمار هم به نرم‌افزار فکر می‌کند و هم به فیزیک دیتاسنتر.
ضروریComfortable working across hardware and software boundaries, especially at the intersection of compute architecture, OS behavior, and orchestration layers.
مشکلات واقعی معمولاً بین لایه‌ها هستند؛ مثلاً تنظیم سیستم‌عامل که روی زمان‌بندی کار در Kubernetes یا Slurm اثر می‌گذارد. کسی که فقط یک لایه را بشناسد این مشکلات را نمی‌بیند.
مهمSkilled at balancing architectural tradeoffs for density, power efficiency, cooling, and performance.
GPU بیشتر در هر رک یعنی برق و خنک‌سازی بیشتر. معمار باید بتواند این توازن را با عدد توضیح دهد و تصمیمش را از نظر کارایی و هزینه دفاع کند.
مهمStrong analytical and communication skills, with a track record of influencing technical strategy across teams.
در سطح Staff، اثر شما از طریق تیم‌های دیگر است. باید بتوانید سند طراحی بنویسید و تیم‌های شبکه، ذخیره‌سازی و محصول را قانع کنید.
مهمFamiliarity with orchestration tools used in HPC. (Slurm, Kubernetes, etc)
این مورد در بخش «Nice to Have» آمده است. اما در آگهی‌های دیگر این حوزه، Slurm و Kubernetes بارها شرط اصلی‌اند؛ پس یادگرفتنشان برای مسیر شغلی لازم است.
مفیدExperience with virtualization technologies, specifically GPU virtualization.
یک ابر GPU باید یک GPU یا یک سرور را بین مشتری‌ها تقسیم کند. مجازی‌سازی GPU این امکان را می‌دهد و برای شرکت‌هایی مثل Lambda که به هزاران مشتری خدمات می‌دهند اهمیت دارد.
مفیدتحلیل مسئولیت‌ها
Architect and define scalable compute platforms optimized for AI/ML, simulation, and high-throughput workloads.
خروجی کار شما پلتفرمی است که مشتری‌ها رویش آموزش، شبیه‌سازی و کارهای سنگین اجرا می‌کنند. «optimized for» یعنی طراحی از نیاز بار کاری شروع می‌شود، نه از فهرست قطعات.
Develop compute system standards and design patterns to ensure consistency, performance, and maintainability across infrastructure.
وقتی هزاران سرور دارید، هر استثنا هزینهٔ نگهداری دارد. استانداردها و الگوهای طراحی کمک می‌کنند خوشه‌های مختلف شبیه هم باشند و تیم عملیات بتواند همه را با یک روش اداره کند.
Evaluate emerging CPU, GPU, and accelerator technologies, owning architectural tradeoff decisions that impact compute density, power, cooling, and total cost.
هر نسل تازهٔ سخت‌افزار را باید سنجید: چقدر سریع‌تر است، چقدر برق می‌خواهد، به خنک‌سازی مایع نیاز دارد یا نه، و هزینهٔ کل چه می‌شود. مسئولیت این تصمیم با معمار است.
Collaborate with product and engineering teams to map workload requirements to compute platform capabilities across bare metal and cloud deployments.
معمار باید زبان محصول را هم بفهمد: مشتری چه کاری اجرا می‌کند و پلتفرم کجا کم می‌آورد. «bare metal and cloud» نشان می‌دهد هر دو شکل ارائه را باید در نظر بگیرید.
Define compute platform roadmaps and architectural reference designs that guide hardware selection, firmware baselines, rack-level, and cluster design.
reference design سندی است که بقیهٔ تیم‌ها بر اساسش سخت‌افزار می‌خرند، firmware را تنظیم می‌کنند و رک و خوشه می‌سازند. نوشتن چنین سندی مهارت اصلی سطح معمار است.
Act as a technical lead during new platform introductions, guiding validation and performance characterization efforts.
وقتی سخت‌افزار تازه وارد می‌شود، معمار اعتبارسنجی و اندازه‌گیری کارایی آن را هدایت می‌کند تا پیش از رسیدن به مشتری معلوم شود چه انتظاری از آن می‌شود داشت.
Mentor systems engineers and cross-functional stakeholders on compute performance tuning, sizing, and architectural decisions.
بخشی از کار آموزش دیگران است: مهندسان سیستم و حتی تیم‌های غیرفنی باید بفهمند چرا یک اندازه یا یک تنظیم انتخاب شده است.
نتیجه‌گیری کلی
این آگهی سقف این مسیر شغلی را نشان می‌دهد: معماری که پلتفرم محاسبه را برای ده‌ها هزار GPU تعریف می‌کند، فناوری تازه را می‌سنجد و بین چگالی، برق، خنک‌سازی و هزینه تصمیم می‌گیرد. شرط هفت سال تجربه روی پلتفرم‌های بسیار بزرگ یعنی معمولاً از نقش‌های مهندسی زیرساخت و HPC به اینجا می‌رسند، نه مستقیم. آگهی برای این نقش بازهٔ ۳۱۴ تا ۴۶۵ هزار دلار (در چند بازه) اعلام کرده است؛ همین شرکت برای Senior HPC Systems Architect با ۸+ سال تجربه ۲۵۵ تا ۳۴۰ هزار دلار.
آینده و روندها
پیش‌بینی ۵–۱۰ ساله و مهارت‌هایی که باید یاد بگیرید
O*NET (بر پایهٔ پیش‌بینی‌های BLS) برای گروه Computer Systems Engineers/Architects رشد «سریع‌تر از میانگین» ۵ تا ۶ درصد را از ۲۰۲۵ تا ۲۰۳۵ در آمریکا پیش‌بینی می‌کند. گروه جداگانه‌ای برای AI Infrastructure Architect وجود ندارد؛ این نزدیک‌ترین گروه رسمی است و عنوان‌هایی مثل Infrastructure Engineer و Systems Architect را در بر می‌گیرد.
منبع: O*NET OnLine 15-1299.08 (2025–2035, US)
مهارت‌های نوظهور که باید یاد بگیرید
پیش‌بینی‌های آینده
در فهرست Jobs on the Rise ۲۰۲۶ لینکدین برای آمریکا، Datacenter technician رتبهٔ ۱۷ و Commissioning manager (مدیر آزمون و راه‌اندازی پروژه‌هایی مثل دیتاسنتر) رتبهٔ ۱۱ را دارند؛ نشانه‌ای از رشد ساخت دیتاسنتر در کنار نقش‌های طراحی زیرساخت.
پیش‌بینی O*NET بر پایهٔ داده‌های BLS: اشتغال در گروه Computer Systems Engineers/Architects در آمریکا از ۲۰۲۵ تا ۲۰۳۵ بین ۵ تا ۶ درصد رشد می‌کند که سریع‌تر از میانگین همهٔ شغل‌هاست.
Together AI برای ساختن «ایجنت‌های زیرساخت AI» استخدام می‌کند که استقرار، یافتن علت خرابی، دسته‌بندی حوادث و رفع خودکار خطا را انجام دهند. یعنی بخشی از کار دستی عملیات که امروز نقطهٔ ورود این حوزه است، خودکار می‌شود و ارزش مهندس در طراحی، اندازه‌گیری و قضاوت است. ریسک دیگر تمرکز بازار است: آگهی‌های سطح معمار بیشتر در ابرهای GPU، شرکت‌های سازندهٔ مدل و شرکت‌های تراشه‌اند و بسیاری حضور در دفتر را می‌خواهند (Lambda ۴ روز در هفته). سرعت تغییر سخت‌افزار هم یعنی دانش هر نسل باید مدام به‌روز شود.
منابع
اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۳۳ منبع بررسی شده است.
- Staff HPC Systems Architect — Lambda (job posting)
- Senior HPC Systems Architect — Lambda (job posting)
- Staff HPC Network Architect — Lambda (job posting)
- GPU Cluster Architect — Nebius (job posting)
- HPC/ GPU Cluster Architect — San Francisco Compute (job posting)
- Lead HPC & AI Infrastructure Architect — AMD (job posting)
- AI Infrastructure Architect — Accenture (job posting)
- AI Infrastructure Systems Engineer — Together AI (job posting)
- Staff Engineer, Distributed Storage and HPC & AI Infrastructure — Together AI (job posting)
- Principal AI Infrastructure Engineer — Highrise AI / Hut 8 (job posting)
- Senior AI Infrastructure Engineer, Kubernetes — Firmus (job posting)
- Senior Software Engineer, GPU Infrastructure (HPC) — Cohere (job posting)
- Software Engineer, GPU Infrastructure - HPC — OpenAI (job posting)
- Data Center Infrastructure Architect — OpenAI (job posting)
- Data Center Architect, CSA — Anthropic (job posting)
- HPC Infrastructure Engineer - GPU Clusters — ElevenLabs (job posting)
- Senior AI Infrastructure Engineer - Model Training — Kodiak (job posting)
- Staff SRE, AI Infrastructure — Wayve (job posting)
- AI Infrastructure Engineer — Intercom / Fin (job posting)
- levels.fyi — HPC Engineer salary, United States
- levels.fyi — HPC Engineer salary, Canada
- levels.fyi — HPC Engineer salary, United Kingdom
- levels.fyi — HPC Engineer salary, Germany
- levels.fyi — HPC Engineer salary, India
- O*NET OnLine — 15-1299.08 Computer Systems Engineers/Architects
- Meta Engineering — Building Meta’s GenAI Infrastructure (2024)
- The Llama 3 Herd of Models (arXiv 2407.21783)
- LinkedIn Jobs on the Rise 2026: The 25 fastest-growing roles in the U.S.
- Amin Vahdat — Wikipedia
- Luiz André Barroso — Wikipedia
- Urs Hölzle — Wikipedia
- Stas Bekman — Machine Learning Engineering Open Book (GitHub)
- NVIDIA-Certified Associate: AI Infrastructure and Operations