📡

متخصص هوش مصنوعی لبه

Edge AI Specialist

متخصص هوش مصنوعی لبه (Edge AI) مدل‌های یادگیری ماشین را طوری آماده و بهینه می‌کند که به‌جای سرور ابری، روی خود دستگاه اجرا شوند: گوشی و لپ‌تاپ، دوربین هوشمند، پهپاد و ربات، دستبند سلامت یا ماژول‌هایی مثل NVIDIA Jetson Orin. کار اصلی فشرده‌سازی و تبدیل مدل (quantization، جایگزینی operator، تغییر ساختار)، اجرای آن با runtime هایی مثل LiteRT، Core ML، ExecuTorch، ONNX Runtime یا TensorRT، و سنجیدن دقت، تأخیر، حافظه و مصرف توان روی سخت‌افزار واقعی است. عنوان «Edge AI Specialist» در آگهی‌های ۲۰۲۶ تقریباً دیده نمی‌شود. کارفرمایان همین کار را Machine Learning Engineer – Edge AI (Samsara)، Applied ML Engineer – Edge Devices (Deepgram)، Embedded Machine Learning Engineer و On-device ML Performance Engineer (Apple) یا Software Engineer, On-Device Machine Learning (Google) می‌نامند.

Quantization & Model CompressionC/C++Python & PyTorchLiteRT / Core ML / ExecuTorch / ONNX RuntimeOn-Device Profiling

مقدمه و تعریف شغل

متخصص Edge AI کسی است که مسئول اجرای درست، سریع و کم‌مصرف یک مدل یادگیری ماشین روی دستگاهی است که منابعش محدود است. مدل معمولاً جای دیگری آموزش دیده؛ کار او این است که آن را با runtime، operator ها و شتاب‌دهندهٔ آن دستگاه سازگار کند، با quantization و تغییر ساختار در حافظه و بودجهٔ توان جا بدهد و ثابت کند دقت حفظ شده است. آگهی Deepgram این نقش را «یک لایه بالاتر از سخت‌افزار» توصیف می‌کند و تأکید دارد «نه نقش پژوهشی است و نه نقش serving ابری؛ یادگیری ماشین کاربردی برای استقرار روی edge است». معیار موفقیت عددهای روی دستگاه است، نه عددهای notebook: تأخیر، حافظه، توان، گرما و دقت.

اجرای شبکهٔ عصبی روی دستگاه سابقهٔ طولانی دارد. طبق ویکی‌پدیا، Google نسخهٔ اول MobileNet را در آوریل ۲۰۱۷ منتشر کرد، خانواده‌ای از شبکه‌ها با حجم و تأخیر و مصرف کم که برای اجرا با TensorFlow Lite طراحی شد؛ امروز جانشین TensorFlow Lite در Google نام LiteRT دارد. موج بعدی مدل زبانی بود: طبق ویکی‌پدیا، Georgi Gerganov در مارس ۲۰۲۳ llama.cpp را برای اجرای LLM با C/C++ روی کامپیوترهای بدون GPU شروع کرد، و گزارش فنی Apple در ۲۰۲۵ مدلی حدود ۳ میلیارد پارامتری را توصیف می‌کند که روی خود دستگاه‌های Apple اجرا می‌شود. در بازار کار، عنوان «Edge AI Specialist» تقریباً به کار نمی‌رود. Apple و Google از «On-Device ML» استفاده می‌کنند و شرکت‌هایی مثل Samsara، Deepgram، Palantir و Hudl از «Edge AI» یا «Edge Devices» یا «Embedded AI». Glassdoor آمریکا برای Edge AI Engineer هیچ حقوق گزارش‌شده‌ای ندارد و ITJobsWatch در بریتانیا در شش ماه منتهی به ۲۲ اکتبر ۲۰۲۶ فقط ۱۴ آگهی دائم را شمرده که Edge AI را ذکر کرده‌اند. پس این شغل واقعی است اما زیر عنوان‌های مهندس یادگیری ماشین و مهندس نرم‌افزار پنهان است. پایهٔ حقوق اعلام‌شده در آگهی‌های آمریکایی بررسی‌شده از ۱۴۲٫۳ هزار دلار (کف بازهٔ Apple) تا ۳۸۵ هزار دلار (سقف بازهٔ OpenAI) بود.

چه چیزی می‌سازید؟

مثال‌های واقعی از خروجی کار یک متخصص هوش مصنوعی لبه

🤖

مدل‌های Gemma روی Android و Chrome

تیم Google AI Edge، طبق آگهی Staff Software Engineer, On-Device Machine Learning، مدل‌های کلیدی را روی GPU، Pixel TPU، NPU و CPU در Android و Chrome مستقر می‌کند، برای عرضهٔ هم‌زمان مدل‌های Gemma روی دستگاه ابزار می‌سازد و کارایی inference را با بهینه‌سازی نمایش مدل، runtime و کرنل بالا می‌برد.

🍎

مدل زبانی روی iPhone و Mac

طبق گزارش فنی Apple، مدل روی دستگاه Apple Intelligence حدود ۳ میلیارد پارامتر دارد و با اشتراک KV-cache و quantization-aware training دوبیتی برای Apple silicon بهینه شده است. تیم On-device ML Performance در Apple تأخیر، حافظه، توان و درستی عددی چنین مدل‌هایی را روی CPU، GPU و Apple Neural Engine تحلیل می‌کند.

🎥

دوربین‌های خودکار فیلم‌برداری ورزشی

Hudl برای دوربین‌های هوشمند Focus خط لوله‌ای می‌سازد که شبکه‌های عصبی را از خوشهٔ آموزش به ده‌ها هزار دستگاه در سراسر جهان می‌رساند و مدل را برای دستگاه‌هایی مثل Jetson Orin به موتور inference بهینه کامپایل می‌کند.

🏠

هوش مصنوعی روی دوربین‌های خانگی

مدل‌های بینایی Plumerai، طبق آگهی این شرکت، روی میلیون‌ها دوربین خانگی اجرا می‌شوند و کوچک‌ترین مدل بینایی آن فقط ۱ مگابایت حافظه می‌گیرد. شرکت این مدل‌های کوچک روی دستگاه را با مدل‌های بینایی-زبانی در ابر ترکیب می‌کند.

🎙️

تشخیص گفتار روی سخت‌افزار مشتری

Deepgram مدل‌های گفتارش را از GPU های NVIDIA به شتاب‌دهنده‌های دیگر، سرورهای edge و سکوهای embedded منتقل می‌کند. یک نقش مدل را با operator ها و runtime مقصد جور می‌کند و نقش دیگر، وقتی کرنل استاندارد کافی نیست، کرنل اختصاصی برای NPU و DSP می‌نویسد.

🚁

پهپاد خودران

نقش Deep Learning Model Acceleration در Skydio برای مدل‌های بینایی ماشین و VLM روی سکوهای سخت‌افزاری مختلف inference پرسرعت و کم‌تأخیر می‌سازد، گلوگاه‌ها را با profiling پیدا می‌کند، مصرف توان را کم می‌کند و برای معماری‌های خاص کرنل GPU می‌نویسد.

تخصص‌های مختلف متخصص هوش مصنوعی لبه

این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد

📱

یادگیری ماشین روی گوشی و کامپیوتر

On-Device ML for Phones & PCs

بهینه‌سازی مدل برای Apple silicon یا Android و Chrome با Core ML، MLX، LiteRT و ExecuTorch. Apple عنوان‌هایی مثل On-device ML Performance Engineer، On-Device ML Infrastructure Engineer و On-Device ML Compiler Engineer دارد و Google تیم AI Edge.

📷

بینایی ماشین روی دوربین و دستگاه ویدیویی

Vision on Cameras & Video Devices

مدل‌های تشخیص و ردیابی روی دوربین هوشمند خانگی، صنعتی یا ورزشی، اغلب با Jetson، TensorRT و DeepStream. نمونه‌ها در آگهی‌ها: Hudl، Plumerai و تیم Edge AI در Samsara که با دادهٔ دوربین و حسگر ناوگان کار می‌کند.

🤖

رباتیک، پهپاد و دفاع

Robotics, Drones & Defense

ادراک بی‌درنگ روی ربات و پهپاد و، در پروژه‌های تازه، ایجنت LLM روی سخت‌افزار میدانی. Skydio، تیم رباتیک iOS در Apple و تیم Edge AI Systems در Palantir نمونه‌اند؛ نقش Palantir مجوز امنیتی آمریکا می‌خواهد.

🎙️

گفتار و صدا روی دستگاه

Speech & Audio on Device

تشخیص گفتار، wake-word و پردازش صدای جریانی روی SoC و DSP. Deepgram دو نقش جدا برای همین دارد و در آگهی‌هایش به cold start، مصرف توان و گرما اشاره می‌کند.

🔧

Runtime، کرنل و کامپایلر یادگیری ماشین

Runtimes, Kernels & ML Compilers

لایهٔ پایین‌تر: نوشتن کرنل برای NPU، DSP و GPU، کامپایل مدل با MLIR، LLVM یا TVM و ساخت سرویس‌های سیستم‌عامل برای اجرای مدل. نمونه‌ها: Embedded AI Engineer در Deepgram، On-Device ML Compiler Engineer در Apple و Operating Systems Engineer, On-Device Inference در تیم دستگاه‌های مصرفی OpenAI.

تفاوت با شغل‌های مشابه

کجا این شغل تمام می‌شود و شغل دیگری شروع می‌شود؟

مهندس Inference (سرور و ابر)Inference Engineer

هر دو با quantization، profiling و سرعت اجرای مدل سروکار دارند، اما Inference Engineer مدل را روی سرور و خوشهٔ GPU به کاربران زیادی سرو می‌کند و Edge AI روی خود دستگاه با حافظه، باتری و گرمای محدود. آگهی Deepgram این مرز را صریح کشیده: «تجربهٔ serving فقط در ابر یا فقط روی GPU به‌تنهایی کافی نیست» و نقش «نه serving ابری» است. اگر از serving ابری می‌آیید، مهارت‌هایتان پایه است اما باید کار با runtime های موبایل و embedded و محدودیت توان را اضافه کنید.

توسعه‌دهندهٔ TinyMLTinyML Developer

TinyML سر کوچک‌تر همین طیف است: مدل روی میکروکنترلر، مثل کار تیم Edge ML در WHOOP با ARM Cortex-M، CMSIS-NN و TensorFlow Lite Micro. Edge AI بازهٔ وسیع‌تری را پوشش می‌دهد: گوشی و Mac، دوربین با Jetson Orin، پهپاد و سرور edge. EDGE AI FOUNDATION، جامعه‌ای که به گفتهٔ رئیس هیئت‌مدیره‌اش از ۲۰۱۸ فعال است و اکنون «دامنهٔ گسترده‌تری» دارد، کارش را «از tinyML تا AI عاملی، AI فیزیکی و محاسبات نورومورفیک» تعریف می‌کند؛ یعنی TinyML بخشی از Edge AI است، نه همهٔ آن.

مهندس نرم‌افزار embeddedEmbedded Software Engineer

مهندس embedded مسئول firmware، درایور و سیستم‌عامل بی‌درنگ است و لزوماً با مدل یادگیری ماشین کار نمی‌کند. متخصص Edge AI از این پایه استفاده می‌کند اما مسئول مدل است. مرز این دو در خود آگهی‌ها دیده می‌شود: در Deepgram، Embedded AI Engineer کرنل می‌نویسد و Applied ML Engineer مدل را با آن جور می‌کند؛ در Hudl مهندس MLOps با مهندسان embedded همکاری می‌کند؛ و WHOOP در تیم Edge ML نقشی با عنوان Edge Algorithm Integration Engineer دارد که الگوریتم را از Python و MATLAB به C/C++ روی دستگاه می‌برد.

مهندس یادگیری ماشینMachine Learning Engineer

بیشتر آگهی‌های Edge AI در واقع با عنوان Machine Learning Engineer منتشر می‌شوند، مثل Staff Machine Learning Engineer – Edge AI در Samsara. تفاوت در تمرکز است: مهندس یادگیری ماشین معمولاً مدل را آموزش می‌دهد و در ابر مستقر می‌کند، و نسخهٔ edge مسئول جا دادن آن در دستگاه است. Deepgram از Applied ML Engineer می‌خواهد محدودیت‌های دستگاه را به تیم پژوهش برگرداند «بدون اینکه خودش کار پژوهش یا productionization اصلی مدل را بر عهده بگیرد». در جستجوی کار، Machine Learning Engineer را همراه کلمه‌های edge، on-device و embedded جستجو کنید.

تأثیر در صنایع مختلف

متخصص هوش مصنوعی لبه در همه صنایع مشغول به کار است — نه فقط شرکت‌های فناوری

📱

الکترونیک مصرفی

مدل زبانی و بینایی روی iPhone، Mac، Pixel و ساعت؛ Apple مدل حدود ۳ میلیارد پارامتری روی دستگاه دارد و Google AI Edge محصولاتی مثل YouTube Shorts، Meet، Photos و Translate را پشتیبانی می‌کند

🚚

عملیات فیزیکی و ناوگان (IoT)

Samsara با دادهٔ حسگر، ویدیو و مکان از وسایل نقلیه و تجهیزات مشتریانش کار می‌کند و تیم Edge AI آن مدل‌ها را روی دستگاه‌های edge بهینه می‌کند

⚽

ورزش و رسانه

دوربین‌های Focus در Hudl که فیلم‌برداری مسابقه را خودکار می‌کنند و مدل‌هایشان روی ده‌ها هزار دستگاه به‌روزرسانی می‌شود

🏠

امنیت و دوربین خانگی

تشخیص افراد و چهره‌های آشنا روی دوربین‌های خانگی با مدل‌های کوچک Plumerai، با اولویت اجرای روی دستگاه برای مصرف کم و حریم خصوصی

🚁

پهپاد، رباتیک و دفاع

ادراک بی‌درنگ در پهپادهای Skydio و استقرار ایجنت‌های LLM روی سخت‌افزار میدانی برای حسگرها و پهپادها در Palantir

🎙️

هوش مصنوعی صوتی

انتقال مدل‌های گفتار Deepgram به شتاب‌دهنده‌های غیر NVIDIA، سرورهای edge و دستگاه‌های اختصاصی مشتری

⌚

سلامت و دستگاه‌های پوشیدنی

اجرای الگوریتم‌های پردازش سیگنال و یادگیری ماشین روی خود دستبند WHOOP، با C/C++ روی میکروکنترلر و NPU

💡

دستگاه‌های AI تازه

تیم دستگاه‌های مصرفی OpenAI پشتهٔ سیستم‌عاملی می‌سازد که اجرای مدل را روی دستگاه در محدودیت حافظه، باتری و گرما پایدار و کم‌مصرف کند

تصورات غلط رایج

قبل از تصمیم‌گیری، این باورهای اشتباه را بشناسید

Edge AI یعنی همان TinyML و میکروکنترلر

میکروکنترلر فقط یک سر طیف است. آگهی‌ها از Apple silicon با CPU و GPU و Neural Engine (Apple)، Android و Chrome (Google)، Jetson Orin (Hudl)، سرورهای edge (Deepgram) و سخت‌افزار میدانی با GPU و CPU (Palantir) نام می‌برند. EDGE AI FOUNDATION هم tinyML را یک سر طیفی می‌داند که تا AI عاملی و فیزیکی ادامه دارد.

کافی است مدل را با یک ابزار تبدیل کنید

تبدیل اغلب جایی گیر می‌کند که runtime مقصد یک operator را نمی‌شناسد یا آن را کند اجرا می‌کند. Deepgram از مهندس می‌خواهد گراف مدل را بخواند و بازنویسی کند، operator های ناسازگار را عوض کند و پارامترهای معماری را تغییر دهد «بدون اینکه دقت از دست برود». وقتی operator استاندارد کافی نیست، یک نقش جدا کرنل اختصاصی می‌نویسد.

تجربهٔ بهینه‌سازی inference روی GPU ابری همین کار است

پایهٔ مشترک زیاد است، اما Deepgram صریحاً نوشته تجربهٔ serving فقط در ابر یا فقط روی GPU «به‌تنهایی کافی نیست». روی دستگاه باید به cold start، مصرف توان، گرما، تکه‌تکه‌شدن حافظه و رفتار cache هم فکر کنید، چیزهایی که به گفتهٔ آگهی Embedded AI Engineer همین شرکت «در بنچمارک ابری دیده نمی‌شوند».

بدون دکترا وارد این حوزه نمی‌شوید

Apple برای Embedded Machine Learning Engineer کارشناسی با ۳ سال یا کارشناسی ارشد با ۲ سال تجربه می‌خواهد و Google برای نقش Staff کارشناسی یا تجربهٔ عملی معادل. کارشناسی ارشد و دکترا در آگهی On-device ML Performance Apple فقط جزو شرایط ترجیحی است. مانع واقعی سابقه است: بیشتر آگهی‌ها تجربهٔ قبلی استقرار مدل روی سخت‌افزار محدود را می‌خواهند.

مدل زبانی روی دستگاه فقط نمایشی است

Apple مدلی حدود ۳ میلیارد پارامتری را روی دستگاه برای ویژگی‌های Apple Intelligence به کار می‌برد و برنامه‌نویس‌ها با Foundation Models framework به آن دسترسی دارند. Google AI Edge مدل‌های Gemma را از روز عرضه روی دستگاه پشتیبانی می‌کند و OpenAI و Palantir هم برای inference روی دستگاه نیرو می‌گیرند.

یک روز کاری واقعی

در هر سطح روز کاری چه شکلی است؟

جونیور (۰–۲ سال)

نقش کاملاً تازه‌کار با این تمرکز کم است و ورود معمولاً از مهندسی یادگیری ماشین، موبایل یا embedded است. در هفته‌های اول بیشتر وقت صرف تبدیل مدل‌های موجود، اجرای بنچمارک روی دستگاه‌های آزمایشی و پیدا کردن علت افت دقت پس از quantization می‌شود.

  • ◆تبدیل یک مدل PyTorch به Core ML یا LiteRT و رفع خطای operator پشتیبانی‌نشده
  • ◆اجرای بنچمارک تأخیر و حافظه روی چند دستگاه و ثبت نتیجه در داشبورد تیم
  • ◆مقایسهٔ خروجی مدل روی دستگاه با نسخهٔ مرجع برای پیدا کردن اختلاف عددی
  • ◆نوشتن تست خودکار برای خط لولهٔ تبدیل

میانی (۲–۵ سال)

مسئول انتقال یک مدل به یک یا چند سکو هستید: انتخاب quantization و دقت، بازنویسی گراف و اعتبارسنجی روی سخت‌افزار واقعی. آگهی Apple برای این سطح ساخت ابزار و اسکریپت برای استخراج و تحلیل داده‌های کارایی و توان و ارائهٔ نتایج به تیم‌های دیگر را جزو کار آورده است.

  • ◆profiling اجرای مدل روی CPU، GPU و NPU و پیدا کردن operator هایی که به CPU برمی‌گردند
  • ◆آزمایش INT8 در برابر FP16 یا دقت ترکیبی و تصمیم بر اساس دقت و تأخیر
  • ◆جلسه با تیم پژوهش دربارهٔ تغییر معماری برای جا شدن در دستگاه
  • ◆بهبود خط لولهٔ تبدیل و نسخه‌گذاری مدل

ارشد (۵+ سال)

تمرکز روی سکوهای تازه، کار با سازندگان تراشه و تصمیم‌های بین تیمی است. Deepgram از سطح ارشد می‌خواهد انتقال مدل به یک سکوی ناآشنا را تعریف کند و تا نتیجهٔ اندازه‌گیری‌شده پیش ببرد، و Samsara از Staff انتظار دارد طراحی و پیاده‌سازی ابتکارهای مهم AI روی دستگاه را رهبری کند و مهندسان را منتورینگ کند.

  • ◆ارزیابی یک شتاب‌دهندهٔ تازه و تعیین اینکه آیا مدل‌های شرکت روی آن عملی هستند
  • ◆جلسه با سازندهٔ تراشه دربارهٔ اشکال‌های SDK و operator های لازم
  • ◆طراحی روش انتشار امن مدل روی ناوگان دستگاه‌ها با canary و rollback
  • ◆بازبینی طراحی و منتورینگ مهندسان جوان‌تر

مسئولیت‌ها و وظایف

مسئولیت‌های اصلی

وظایف روزانه و مهارت‌های مورد نیاز در این شغل

فنی
  • ◈انتقال مدل‌های آموزش‌دیده به سکوهای مقصد (موبایل، SoC های embedded، NPU و DSP، ماژول‌های Jetson) با کم‌ترین تغییر در مدل
  • ◈انتخاب quantization و دقت عددی، جایگزینی operator های ناسازگار و بازنویسی گراف مدل تا در محدودیت حافظه، توان و تأخیر دستگاه جا شود
  • ◈اعتبارسنجی هر نسخه روی سخت‌افزار واقعی با بنچمارک دقت، تأخیر، throughput، حافظه و مصرف توان، و گرفتن regression پیش از انتشار
  • ◈ساخت خط لولهٔ تبدیل، بسته‌بندی، نسخه‌گذاری و تحویل خودکار مدل تا استقرار روی دستگاه تازه تکرارپذیر باشد
  • ◈profiling اجرای مدل روی CPU، GPU و شتاب‌دهنده‌ها و بهینه‌سازی runtime یا کرنل وقتی operator استاندارد کافی نیست
  • ◈استقرار و به‌روزرسانی مدل روی ناوگان دستگاه‌ها با canary release، rollback و پایش تأخیر، گرما و drift در میدان
مهارت نرم
  • ◈همکاری با تیم‌های پژوهش، firmware، سخت‌افزار و سازندگان تراشه و برگرداندن محدودیت‌های دستگاه به طراحی مدل‌های بعدی
  • ◈توضیح trade-off بین کیفیت مدل، سرعت، مصرف توان و حافظه برای تیم محصول و مدیران
مدیریتی
  • ◈منتورینگ مهندسان جوان‌تر و تعریف روش‌های استاندارد تیم برای ابزار، CI/CD و تست مدل

مهارت‌های مورد نیاز

مهارت‌های فنی، نرم و حوزه‌ای که یک متخصص هوش مصنوعی لبه موفق به آن‌ها نیاز دارد

یادگیری ماشین و بهینه‌سازی مدل

Quantization و انتخاب دقت عددیضروری

INT8، FP16، دقت ترکیبی و calibration و اثر آن‌ها بر دقت و تأخیر؛ شرط آگهی‌های Deepgram، Apple و Hudl

PyTorchضروری

خواندن، تغییر و بازآموزی مدل؛ Deepgram آن را شرط کرده و Apple مدل‌های PyTorch و MLX را تحلیل می‌کند

بازنویسی گراف و جایگزینی operatorضروری

جا دادن مدل در operator های runtime مقصد بدون افت دقت؛ هستهٔ آگهی Deepgram

ارزیابی دقت پس از فشرده‌سازیضروری

سنجیدن درستی عددی و کیفیت مدل روی دستگاه در برابر نسخهٔ مرجع؛ در آگهی‌های Apple و WHOOP

Pruning و distillationمهم

روش‌های دیگر کوچک‌کردن مدل؛ Apple برای Embedded MLE و Deepgram برای Embedded AI Engineer نام برده‌اند

مدل‌های بینایی و گفتارمهم

CNN، تشخیص شیء، VLM و مدل‌های گفتار؛ در آگهی‌های Skydio، Plumerai، Samsara و Deepgram

LLM روی دستگاهمهم

اجرای مدل زبانی کوچک با llama.cpp، MLX یا runtime های موبایل؛ در آگهی‌های Google، Apple و Palantir

سیستم، سخت‌افزار و برنامه‌نویسی

C++ضروری

کد حساس به کارایی روی دستگاه؛ Google پنج سال C++ برای Staff و OpenAI C++ برای برنامه‌نویسی سیستمی می‌خواهد

Pythonضروری

تبدیل، اتوماسیون و تحلیل نتایج بنچمارک؛ در بیشتر آگهی‌های بررسی‌شده

Runtime های روی دستگاهضروری

حداقل یکی از LiteRT، Core ML، ExecuTorch، ONNX Runtime، OpenVINO یا TensorRT

Profiling و بنچمارک روی سخت‌افزار واقعیضروری

سنجش تأخیر، throughput، حافظه و توان برای هر سکو و گرفتن regression

معماری کامپیوترمهم

CPU، GPU، NPU و DSP، سلسله‌مراتب حافظه و حساب fixed-point؛ در آگهی‌های Apple و Deepgram

خودکارسازی استقرار و CI/CDمهم

خط لولهٔ تبدیل، Docker و انتشار امن روی ناوگان دستگاه؛ در آگهی‌های Hudl و Deepgram

Embedded Linux و RTOSمفید

اجرا در محیط‌هایی مثل FreeRTOS و Zephyr یا embedded Linux؛ در آگهی‌های Deepgram و Apple

Rustمفید

Samsara یکی از C++ یا Rust را می‌خواهد و Deepgram و OpenAI هم Rust را آورده‌اند

نوشتن کرنلمفید

کد سطح پایین با NEON، Metal، CUDA یا کد DSP؛ امتیاز در آگهی Deepgram و Apple

مهارت‌های نرم

همکاری بین تیم‌های پژوهش، سخت‌افزار و firmwareضروری

پل بین تیمی که مدل را آموزش می‌دهد و تیمی که سخت‌افزار و کرنل را می‌سازد

توضیح trade-off هاضروری

توضیح انتخاب بین کیفیت، سرعت، توان و حافظه برای تیم محصول و مدیران؛ در آگهی‌های Deepgram و OpenAI

تعریف مسئلهٔ مبهممهم

تبدیل یک درخواست کلی به هدف قابل اندازه‌گیری؛ Deepgram و Samsara صریحاً خواسته‌اند

کار با سازندگان تراشهمفید

همکاری با سازندگان تراشه و سکو روی SDK، runtime و تنظیم کارایی؛ در آگهی‌های Deepgram

منتورینگمفید

Samsara و Hudl برای سطح Staff و ارشد منتورینگ مهندسان را خواسته‌اند

ضروری — بدون آن نمی‌توان وارد بازار کار شدمهم — تفاوت بین جونیور و میانیمفید — مزیت رقابتی

نقشه راه و مسیر آموزشی

نقشه راه تبدیل شدن به متخصص هوش مصنوعی لبه

این مسیر گام به گام شما را از صفر تا حرفه‌ای هدایت می‌کند.

1

پایهٔ برنامه‌نویسی: Python، C++ و Linux

⏱️ ۳ تا ۴ ماه

بیشتر آگهی‌های بررسی‌شده دو زبان می‌خواهند: Python برای مدل و اتوماسیون، و C++ (گاهی C یا Rust) برای کدی که روی دستگاه اجرا می‌شود. Google برای نقش Staff پنج سال توسعهٔ نرم‌افزار با C++ خواسته، Apple برای Embedded Machine Learning Engineer زبان C/C++ برای embedded و RTOS، و Samsara یکی از C++ یا Rust را. کار با Linux و خط فرمان هم پیش‌فرض است.

PythonModern C++Linux & ShellGitCMake & Cross-CompilationMemory Management
2

یادگیری عمیق برای بینایی و گفتار

⏱️ ۳ تا ۴ ماه

قبل از فشرده‌کردن مدل باید ساختار آن را بفهمید. آگهی Apple برای On-device ML Performance Engineer آشنایی با LLM، مدل‌های diffusion و CNN را حداقل شرط آورده و آگهی‌های Skydio و Plumerai بینایی ماشین و مدل‌های بینایی-زبانی (VLM) را. Deepgram روی مدل‌های گفتار کار می‌کند. PyTorch را عمیق یاد بگیرید، چون Deepgram آن را شرط کرده و Apple مدل‌هایی را که با PyTorch و MLX ساخته شده‌اند تحلیل می‌کند.

PyTorchCNNTransformerComputer VisionSpeech ModelsModel Evaluation
3

فشرده‌سازی و بهینه‌سازی مدل

⏱️ ۳ ماه

هستهٔ این تخصص اینجاست: quantization پس از آموزش و حین آموزش (PTQ و QAT)، انتخاب دقت عددی (INT8، FP16، دقت ترکیبی و calibration)، pruning و knowledge distillation. آگهی شاخص Deepgram «دانش کاری quantization و اثر آن بر دقت و تأخیر روی سخت‌افزار واقعی» را شرط کرده است. درس MIT 6.5940 که Song Han تدریس می‌کند همین موضوع‌ها را پوشش می‌دهد و ویدیوی کلاس‌هایش منتشر می‌شود.

Post-Training QuantizationQuantization-Aware TrainingMixed Precision & CalibrationPruning & SparsityKnowledge DistillationAccuracy Regression Testing
4

Runtime ها و سخت‌افزار مقصد

⏱️ ۳ تا ۴ ماه

مدل باید به قالب و operator هایی تبدیل شود که runtime دستگاه می‌فهمد. Deepgram تجربه با حداقل یکی از ONNX Runtime، TFLite، ExecuTorch، OpenVINO، Qualcomm AI Engine یا SDK سازندهٔ NPU را شرط کرده، Apple از Core ML و MLX نام برده و Hudl از TensorRT و Jetson Orin. یاد بگیرید CPU، GPU و NPU هر کدام چه operator هایی را خوب اجرا می‌کنند و profiling روی خود دستگاه را تمرین کنید.

LiteRT (TensorFlow Lite)Core ML & coremltoolsExecuTorchONNX RuntimeTensorRT & JetsonOn-Device Profiling
5

LLM روی دستگاه، استقرار روی ناوگان و تخصص

⏱️ مداوم

دو جهت تازه در آگهی‌ها پررنگ است. اول، مدل زبانی روی دستگاه: Google برای Gemma روی Android و Chrome نیرو می‌گیرد و Apple مدلی حدود ۳ میلیارد پارامتری را روی دستگاه اجرا می‌کند. دوم، استقرار روی هزاران دستگاه: Hudl خط لولهٔ کامپایل مدل، تست بی‌صدا روی دستگاه‌های واقعی، پایش تأخیر و گرما و به‌روزرسانی امن در شبکهٔ ضعیف می‌خواهد. یکی از این دو یا یک صنعت (دوربین، گفتار، رباتیک) را برای تخصص انتخاب کنید.

llama.cpp & GGUFMLXMLC LLMOTA Model UpdatesCanary Releases & RollbackFleet Telemetry

ابزارها و استک فنی

ابزارهایی که هر مهندس AI باید بشناسد، دسته‌بندی‌شده بر اساس اولویت

Runtime های اجرای مدل روی دستگاه

LiteRT (TensorFlow Lite)

جانشین TensorFlow Lite؛ چارچوب Google برای اجرای ML و GenAI روی سکوهای edge. آگهی‌های Deepgram و Apple هنوز نام قدیمی TFLite را آورده‌اند

ضروری
Core ML & coremltools

اجرای مدل روی iPhone و Mac و تبدیل مدل PyTorch به Core ML؛ در آگهی‌های Apple نام برده شده

ضروری
ExecuTorch

runtime خود PyTorch برای موبایل، embedded و edge؛ در آگهی‌های Deepgram و Apple آمده است

ضروری
ONNX Runtime

runtime چندسکویی برای مدل‌های ONNX؛ در آگهی‌های Deepgram و Apple نام برده شده

ضروری

SDK سازندگان سخت‌افزار و شتاب‌دهنده‌ها

NVIDIA TensorRT

کامپایل مدل به موتور inference بهینه برای GPU های NVIDIA و Jetson؛ Hudl کامپایل TensorRT با FP16/INT8 و calibration را جزو کار آورده است

ضروری
NVIDIA Jetson & DeepStream

ماژول‌های Jetson (مثل Orin) و SDK تحلیل ویدیو؛ Hudl تجربه با این مجموعه را امتیاز بزرگ دانسته است

مفید
Qualcomm AI Hub

مدل‌های بهینه‌شده و اجرای آزمایشی روی دستگاه‌های واقعی Qualcomm؛ Deepgram از Qualcomm AI Engine نام برده است

مفید
OpenVINO

ابزار Intel برای بهینه‌سازی و اجرای مدل روی سخت‌افزار Intel؛ در فهرست runtime های آگهی Deepgram

مفید

مدل زبانی روی دستگاه

llama.cpp

اجرای LLM با C/C++ روی CPU، GPU و NPU و قالب GGUF با quantization دو تا هشت بیتی؛ طبق ویکی‌پدیا هستهٔ ابزارهایی مثل Ollama و LM Studio

ضروری
MLX

چارچوب آرایه و یادگیری ماشین Apple برای Apple silicon؛ در آگهی On-device ML Performance Engineer نام برده شده

مفید
MLC LLM

موتور استقرار LLM با کامپایل یادگیری ماشین برای سخت‌افزارهای مختلف؛ پروژه‌ای که Tianqi Chen شروع کرده است

مفید
Apple Foundation Models framework

دسترسی برنامه‌ها به مدل زبانی روی دستگاه Apple، با تولید هدایت‌شده و fine-tune با LoRA adapter

مفید

بهینه‌سازی، کامپایلر و تحلیل مدل

torchao

کتابخانهٔ quantization بومی PyTorch برای آموزش و inference

مفید
Apache TVM

کامپایلر یادگیری عمیق؛ Palantir آن را در ابزارهای بهینه‌سازی edge و Apple در کنار MLIR و LLVM آورده است

پیشرفته
Netron

نمایش گراف مدل برای دیدن operator ها، شکل tensor ها و جاهایی که تبدیل گیر می‌کند

مفید
Edge Impulse

پلتفرم MLOps برای Edge AI که اکنون بخشی از Qualcomm است؛ برای ساخت سریع نمونه روی بردهای embedded

مفید
ضروری — باید یاد بگیریدمفید — ارزش یادگیری داردپیشرفته — برای سطوح ارشد

مسیر پیشرفت شغلی

از جونیور تا Staff Engineer — چه مهارت‌هایی نیاز دارید و چه درآمدی انتظار داشته باشید

ورود: مهندس یادگیری ماشین یا embedded با تمرکز روی دستگاه

۰ تا ۲ سال

تبدیل مدل‌های آماده به قالب runtime، اجرای بنچمارک روی دستگاه و نوشتن تست دقت. نقش کاملاً تازه‌کار در آگهی‌های بررسی‌شده کم بود؛ کم‌ترین سابقهٔ اعلام‌شده به سال در Embedded Machine Learning Engineer در Apple بود: کارشناسی با ۳ سال یا کارشناسی ارشد با ۲ سال تجربه. راه رایج ورود، چند سال کار به‌عنوان مهندس یادگیری ماشین، موبایل یا embedded است.

PythonPyTorchC++LiteRT / Core MLBenchmarking

مهندس Edge / On-Device ML

۲ تا ۵ سال

مالکیت انتقال یک مدل به یک سکو: انتخاب quantization و دقت عددی، جایگزینی operator های ناسازگار، اعتبارسنجی روی دستگاه و خودکارسازی تبدیل. پایهٔ حقوق اعلام‌شده برای Embedded Machine Learning Engineer در Apple بین ۱۴۲٫۳ و ۲۶۳٫۳ هزار دلار و برای On-device ML Performance Engineer بین ۱۵۰٫۴ و ۲۷۷٫۶ هزار دلار است.

QuantizationModel ConversionGraph RewritingOn-Device ProfilingCI for Models

مهندس ارشد Edge AI

۵+ سال

انتقال مدل به چند سکوی ناآشنا، تعیین مسیر استقرار و کار با سازندگان تراشه. Deepgram آگهی Applied ML Engineer – Edge Devices را برای «مهندس ارشدی که پیش‌تر مدل را روی سخت‌افزار غیر GPU یا edge به پروداکشن برده» نوشته و پایهٔ آن را ۱۵۵ تا ۲۴۵ هزار دلار اعلام کرده است. نسخهٔ پایین‌دستی همین کار، نوشتن کرنل اختصاصی برای NPU و DSP، در همان شرکت ۲۱۹٫۳ تا ۲۷۴٫۱ هزار دلار است.

Multi-Platform PortingCustom KernelsVendor ToolchainsDeployment PipelinesMentoring

Staff / Principal

۸+ سال

هدایت فنی ابتکارهای AI روی دستگاه و تصمیم‌های بین تیم‌های پژوهش، سخت‌افزار و محصول. Samsara برای Staff Machine Learning Engineer – Edge AI هشت سال یا بیشتر تجربه به‌عنوان مهندس یادگیری ماشین می‌خواهد و پایهٔ ۱۷۸٬۶۴۰ تا ۳۱۹٬۰۰۰ دلار (در کانادا ۱۷۰٬۴۰۰ تا ۲۳۴٬۳۰۰ دلار کانادا) اعلام کرده؛ Google برای Staff Software Engineer, On-Device Machine Learning هشت سال توسعهٔ نرم‌افزار و پایهٔ ۲۰۷ تا ۳۰۰ هزار دلار به‌علاوهٔ پاداش و سهام.

Technical LeadershipHardware-Software Trade-offsPlatform StrategyCross-Team InfluenceCoaching

چالش‌ها و جنبه‌های منفی

واقعیت‌هایی که کمتر در آگهی‌های شغلی می‌بینید — قبل از ورود بدانید

پراکندگی سخت‌افزار و runtime

عمومی

هر سکو runtime، مجموعهٔ operator و محدودیت‌های خودش را دارد و مدلی که روی یکی خوب اجرا می‌شود روی دیگری ممکن است بخشی از کار را به CPU برگرداند. Deepgram برای همین فهرستی از runtime ها و SDK سازندگان را در آگهی آورده و از Apple می‌خواهد رفتار مدل روی CPU، GPU و Neural Engine را جدا تحلیل کند.

افت دقت پس از quantization

تحقیقاتی

کم کردن دقت عددی سرعت و حافظه را بهتر می‌کند اما می‌تواند خطاهای ظریفی بسازد که فقط روی بعضی ورودی‌ها دیده می‌شوند. تحلیل «درستی عددی» صریحاً جزو کار تیم On-device ML Performance در Apple است و Deepgram شرط کرده تغییرها «بدون از دست رفتن دقت» انجام شوند.

محدودیت حافظه، باتری و گرما

عمومی

روی دستگاه، مدل با سیستم‌عامل و برنامه‌های دیگر برای حافظه و توان رقابت می‌کند. OpenAI از مهندسش می‌خواهد اجرای مدل را با کارهای دیگر دستگاه طوری متعادل کند که پاسخ‌دهی در محدودیت تأخیر، حافظه، باتری و گرما حفظ شود، و Deepgram به cold start و تکه‌تکه‌شدن حافظه اشاره می‌کند.

استقرار روی هزاران دستگاه در میدان

شرکت بزرگ

وقتی مدل روی ناوگان دستگاه‌ها اجراست، هر به‌روزرسانی ریسک دارد. Hudl از مهندس می‌خواهد سازوکار به‌روزرسانی مقاوم برای شبکهٔ کم‌پهنا بسازد، با فضای ذخیرهٔ محدود کار کند، بازیابی پس از قطعی شبکه را تضمین کند و ریسک را با canary release و rollback امن روی ۱۰ هزار دستگاه ناهمگون مدیریت کند.

وابستگی به SDK سازندگان

عمومی

بخشی از کار به ابزار و مستندات سازندهٔ تراشه گره خورده است. Deepgram همکاری با سازندگان تراشه روی یکپارچه‌سازی SDK و تنظیم کارایی چیپ‌های تازه را جزو کار آورده و در نقش Embedded صراحتاً می‌گوید وقتی operator های استاندارد سازنده کافی نیست، خودتان کرنل می‌نویسید.

ورود دشوار و عنوان پراکنده

عمومی

بیشتر آگهی‌ها ارشدند: Samsara هشت سال تجربه به‌عنوان مهندس یادگیری ماشین و Google هشت سال توسعهٔ نرم‌افزار می‌خواهد. عنوان هم یکسان نیست و Glassdoor آمریکا برای Edge AI Engineer حقوق گزارش‌شده‌ای ندارد. برای پیدا کردن کار، Machine Learning Engineer، Software Engineer و Embedded را همراه edge یا on-device جستجو کنید و سابقهٔ عملی استقرار روی دستگاه بسازید.

حقوق و بازار کار جهانی

حقوق جهانی متخصص هوش مصنوعی لبه

حقوق سالانه در کشورهای مختلف بر اساس داده‌های منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز می‌شود.

کشورمیانه / میانگینارز
🇺🇸آمریکا
$282,950USD
🇨🇦کانادا
CA$164,148CAD
🇬🇧انگلستان
£102,629GBP
🇩🇪آلمان
€88,810EUR
🇳🇱هلند
€121,881EUR
🇨🇭سوئیس
CHF 153,702CHF
🇦🇺استرالیا
A$177,139AUD
🇸🇬سنگاپور
SGD 141,805SGD
🇮🇳هند
₹3,487,938INR
🇦🇪امارات
AED 242,002AED

چگونه از صفر شروع کنیم

برنامه گام‌به‌گام برای ورود به مهندسی هوش مصنوعی

ماه ۱: اولین مدل روی دستگاه

یک مدل بینایی آماده را به LiteRT یا ExecuTorch تبدیل و روی گوشی یا Raspberry Pi اجرا کنید؛ تأخیر و دقت را ثبت کنید.

ماه ۲: Quantization عملی

PTQ و QAT را روی همان مدل امتحان کنید و برای INT8 و FP16 جدول دقت، حجم و تأخیر بسازید.

ماه ۳: C++ برای اجرای مدل

C++ مدرن را در حدی یاد بگیرید که runtime را از C++ صدا بزنید و پیش‌پردازش را بنویسید.

ماه ۴: Core ML یا Jetson

یک سکو را انتخاب کنید: Core ML و coremltools برای Apple، یا TensorRT روی Jetson برای دوربین و رباتیک.

ماه ۵: LLM روی دستگاه

یک مدل زبانی کوچک را با llama.cpp اجرا کنید و چند سطح quantization را مقایسه کنید.

ماه ۶: پورتفولیو و درخواست

برای هر پروژه README با جدول بنچمارک روی دستگاه بنویسید و برای Machine Learning Engineer با کلمه‌های edge، on-device و embedded درخواست بدهید.

پروژه‌های پیشنهادی برای رزومه

طبقه‌بندی تصویر روی گوشی یا Raspberry Pi با INT8

مبتدی

یک مدل MobileNet آماده را به LiteRT یا ExecuTorch تبدیل کنید، با post-training quantization به INT8 برسانید و روی گوشی یا Raspberry Pi اجرا کنید. دقت، تأخیر و حجم مدل را پیش و پس از quantization در یک جدول گزارش کنید و بنویسید کجا دقت افت کرد.

PyTorchLiteRTExecuTorchMobileNetPython
زمان تخمینی: ۲ تا ۳ هفته

تشخیص شیء بی‌درنگ روی Jetson با TensorRT

متوسط

یک مدل تشخیص شیء را با TensorRT برای Jetson Orin Nano کامپایل کنید، نسخه‌های FP16 و INT8 (با calibration) را بسازید و روی ویدیوی دوربین اجرا کنید. FPS، تأخیر، مصرف توان و افت دقت هر نسخه را بسنجید. این پروژه به کار آگهی Hudl نزدیک است که کامپایل TensorRT، انتخاب دقت و اعتبارسنجی موتور inference را می‌خواهد.

TensorRTJetson OrinDeepStreamONNXPython
زمان تخمینی: ۴ تا ۵ هفته

تشخیص گفتار جریانی روی لپ‌تاپ یا گوشی

متوسط

یک مدل گفتار کوچک را با whisper.cpp یا یک runtime موبایل روی دستگاه اجرا کنید، ورودی میکروفون را به‌صورت جریانی پردازش کنید و زمان شروع سرد، تأخیر، مصرف حافظه و دقت را برای چند سطح quantization مقایسه کنید. Deepgram در آگهی‌هایش دقیقاً به همین جزئیات، مثل cold start و مصرف توان، اشاره کرده است.

whisper.cppC++QuantizationAudio Streaming
زمان تخمینی: ۴ هفته

مدل زبانی کوچک روی گوشی و مقایسهٔ quantization

پیشرفته

یک LLM کوچک متن‌باز را با llama.cpp یا MLC LLM روی گوشی یا Mac اجرا کنید. چند سطح quantization در قالب GGUF را امتحان کنید و برای هر کدام سرعت تولید token، حافظه، دمای دستگاه پس از چند دقیقه کار و کیفیت پاسخ روی یک مجموعه پرسش ثابت را گزارش کنید.

llama.cppMLC LLMGGUFAndroid / iOS
زمان تخمینی: ۵ تا ۶ هفته

خط لولهٔ خودکار تبدیل و آزمون مدل برای چند دستگاه

پیشرفته

یک CI بسازید که با هر تغییر مدل، آن را به دو runtime (مثلاً ONNX Runtime و Core ML یا LiteRT) تبدیل کند، روی دستگاه یا شبیه‌ساز بنچمارک دقت و تأخیر بگیرد و اگر نسبت به نسخهٔ قبل افت دیده شد، خطا بدهد. نسخه‌گذاری مدل و یک مکانیزم ساده برای بازگشت به نسخهٔ قبل اضافه کنید. Deepgram «گرفتن regression پیش از مشتری» و Hudl «canary release و rollback امن» را جزو کار آورده‌اند.

GitHub ActionsDockerONNX RuntimeCore MLPython
زمان تخمینی: ۶ هفته

مثال‌های واقعی و Case Studies

داستان‌های واقعی از مهندسانی که در این حوزه تأثیرگذار بوده‌اند

S

Song Han

پیشینه

دانشیار رسمی دانشکدهٔ مهندسی برق و علوم کامپیوتر MIT. طبق صفحهٔ آزمایشگاهش، دکترایش را از Stanford با راهنمایی Bill Dally گرفته است.

دستاورد

طبق همین صفحه، روش‌های «Deep Compression» (pruning و quantization) و «Efficient Inference Engine» را پایه گذاشت که برای اولین بار sparsity وزن‌ها را به تراشه‌های AI امروزی آورد. کارهایش در TinyML و جستجوی معماری آگاه از سخت‌افزار (Once-for-All) به استقرار مدل روی دستگاه‌های محدود کمک کرده و روش‌های SmoothQuant و AWQ برای quantization مدل‌های زبانی در NVIDIA TensorRT-LLM به کار رفته‌اند. AWQ و TinyChat اجرای LLM روی دستگاه با quantization چهاربیتی را ممکن کرد و جایزهٔ بهترین مقالهٔ MLSys 2024 را گرفت. مجموعه درس‌های باز EfficientML.ai را هم او راه انداخته است.

درس کلیدی

کار Han نشان می‌دهد ایده‌های پژوهشی فشرده‌سازی مدل چقدر سریع به ابزارهای صنعتی می‌رسند. یادگیری این روش‌ها از منبع اصلی، مثل درس MIT 6.5940، پایه‌ای است که با عوض شدن runtime ها کهنه نمی‌شود.

T

Tianqi Chen

پیشینه

دانشیار گروه‌های یادگیری ماشین و علوم کامپیوتر دانشگاه Carnegie Mellon و Distinguished Engineer در NVIDIA. به گفتهٔ صفحهٔ شخصی‌اش، دکترایش را از دانشگاه واشنگتن گرفته و از ۲۰۱۹ تا ۲۰۲۴ سمت Chief Technologist را در OctoAI داشته، شرکتی که NVIDIA آن را خرید.

دستاورد

طبق صفحهٔ شخصی‌اش، Apache TVM، یک کامپایلر خودکار و سرتاسری برای یادگیری عمیق، و MLC-LLM، موتور استقرار LLM با کامپایل یادگیری ماشین، را شروع کرده است؛ XGBoost را هم ساخته و از هم‌سازندگان Apache MXNet است. خودش می‌گوید علاقه دارد از مدل تا لایهٔ پایین سخت‌افزار، کل پشته را یک‌جا ببیند.

درس کلیدی

مسیر Chen نشان می‌دهد چرا کامپایلر برای Edge AI مهم است: وقتی سخت‌افزارها این‌قدر متنوع‌اند، ابزاری که یک مدل را برای هر سخت‌افزار بهینه کند به اندازهٔ خود مدل ارزش دارد. دیدن کل پشته، از مدل تا سخت‌افزار، مزیتی است که در این حوزه زیاد به کار می‌آید.

G

Georgi Gerganov

پیشینه

سازندهٔ کتابخانهٔ GGML و پروژهٔ llama.cpp. طبق ویکی‌پدیا، اواخر سپتامبر ۲۰۲۲ کار روی GGML را شروع کرد، یک کتابخانهٔ C برای جبر tensor با تأکید بر مدیریت دقیق حافظه و چندرشته‌ای بودن، و پیش از llama.cpp روی whisper.cpp برای اجرای مدل گفتار Whisper کار کرده بود.

دستاورد

طبق ویکی‌پدیا، در مارس ۲۰۲۳ llama.cpp را به‌عنوان پیاده‌سازی inference مدل Llama با C/C++ خالص و بدون وابستگی شروع کرد تا روی کامپیوترهای بدون GPU کارایی بهتری بدهد؛ بعدها پشتیبانی GPU و NPU هم اضافه شد. llama.cpp تا مه ۲۰۲۶ بیش از ۱۰۹ هزار ستاره در GitHub گرفته و هستهٔ تقریباً همهٔ ابزارهای اجرای محلی LLM، از جمله Ollama و LM Studio، شمرده می‌شود.

درس کلیدی

یک کتابخانهٔ کوچک و ساده که روی سخت‌افزار معمولی خوب کار کند، می‌تواند به زیرساخت یک صنعت تبدیل شود. برای کسی که وارد Edge AI می‌شود، خواندن کد پروژه‌هایی مثل llama.cpp درس عملی خوبی در quantization و بهینه‌سازی برای CPU است.

نمونه آگهی استخدام واقعی + تحلیل

یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش

Applied ML Engineer - Edge Devices

Deepgramآمریکا — دورکاری (تیم Partner Platform Engineering)2026-09-14

تحلیل نیازمندی‌ها

EN

Hands-on experience deploying ML models to edge or non-NVIDIA hardware in production. This is required. Cloud-only or GPU-only serving experience does not qualify on its own.

مهم‌ترین شرط آگهی و تنها شرطی که با «This is required» تأکید شده: باید قبلاً مدلی را روی سخت‌افزار edge یا غیر NVIDIA به پروداکشن برده باشید. تجربهٔ serving در ابر، هر قدر هم عمیق، به‌تنهایی پذیرفته نمی‌شود. اگر این سابقه را ندارید، پروژهٔ شخصی روی دستگاه واقعی با بنچمارک منتشرشده نزدیک‌ترین جایگزین است.

ضروری
EN

Working knowledge of quantization and precision tradeoffs (INT8, FP16, mixed precision, calibration) and how they affect accuracy and latency on real targets.

دانستن تعریف quantization کافی نیست؛ باید بدانید روی دستگاه واقعی INT8 یا FP16 چه بر سر دقت و تأخیر می‌آورد و calibration را چطور انجام می‌دهید. در مصاحبه انتظار داشته باشید از یک تجربهٔ مشخص بپرسند که در آن دقت افت کرد و چطور جبرانش کردید.

ضروری
EN

Experience with at least one edge or vendor inference runtime and its conversion toolchain (for example ONNX Runtime, TFLite, ExecuTorch, OpenVINO, Qualcomm AI Engine, or a vendor NPU SDK).

یک runtime کافی است، به شرط اینکه آن را عمیق بشناسید: از تبدیل مدل تا خطاهای رایج آن. این فهرست تصویر خوبی از ابزارهای رایج این بازار در ۲۰۲۶ است.

ضروری
EN

Ability to modify a model to fit a platform: reading and rewriting model graphs, swapping unsupported operators, and adjusting architecture parameters without breaking accuracy.

این همان مهارتی است که متخصص edge را از کاربر عادی ابزار تبدیل جدا می‌کند: وقتی تبدیل خودکار شکست می‌خورد، خودتان گراف را باز می‌کنید و تغییر می‌دهید. ابزاری مثل Netron برای دیدن گراف و تمرین روی مدل‌هایی که operator غیرمعمول دارند کمک می‌کند.

ضروری
EN

Strong Python and PyTorch, and production-quality engineering habits: tests, reproducibility, and benchmarks that others can rerun.

Python و PyTorch پایه‌اند، اما تأکید روی عادت‌های مهندسی است: تست، تکرارپذیری و بنچمارکی که دیگران بتوانند دوباره اجرا کنند. در پورتفولیو، اسکریپت بنچمارک و دستور اجرای آن را کنار نتیجه بگذارید.

ضروری
EN

Comfort building automation around model conversion and deployment.

شرکت می‌خواهد بردن مدل به دستگاه تازه تکراری و خودکار باشد، نه دستی و یک‌باره. تجربه با CI، اسکریپت‌نویسی و نسخه‌گذاری مدل اینجا امتیاز است.

مهم
EN

A builder mindset and clear communication: you can scope a port on an unfamiliar platform and drive it to a measured result.

باید بتوانید روی سکویی که قبلاً ندیده‌اید، هدف را تعریف کنید و کار را تا یک نتیجهٔ اندازه‌گیری‌شده پیش ببرید و آن را روشن گزارش کنید. این برای نقشی که بین تیم کرنل و تیم مدل قرار دارد اهمیت زیادی دارد.

مهم
EN

Exposure to writing or reading low-level kernels (CUDA, Metal, NEON, or vendor DSP code), enough to collaborate closely with embedded engineers.

شرط نیست، امتیاز است. لازم نیست خودتان کرنل بنویسید؛ کافی است کد سطح پایین را آن‌قدر بفهمید که با مهندسان embedded دربارهٔ آن حرف بزنید.

مفید
EN

Familiarity with several accelerator families (Qualcomm, Apple, ARM, Intel, AMD, or custom NPUs) and their quirks.

شناخت رفتارهای خاص هر خانوادهٔ شتاب‌دهنده با تجربه به دست می‌آید. اگر فقط با یک سکو کار کرده‌اید، یک پروژهٔ کوچک روی سکوی دوم تصویر شما را در این آگهی کامل‌تر می‌کند.

مفید

تحلیل مسئولیت‌ها

EN

Port Deepgram speech models to non-NVIDIA and edge platforms, adapting model structure and parameters so they run within the target's existing operator set, runtime, and kernels with minimal modification.

کار اصلی انتقال مدل‌های موجود است، نه ساختن مدل تازه. هدف این است که مدل با کم‌ترین تغییر در چارچوب همان چیزی که سکوی مقصد دارد اجرا شود.

EN

Own serving-side model decisions for edge targets: quantization and precision choices, operator substitution, graph rewrites, and architecture tweaks that fit a model to a device's constraints while holding accuracy and latency.

تصمیم‌های فنی دربارهٔ اینکه مدل چطور روی دستگاه اجرا شود با شماست؛ یعنی مسئول نتیجه هم هستید، هم برای دقت و هم برای تأخیر.

EN

Validate every port on real hardware: build accuracy, latency, throughput, and memory benchmarks per platform, and catch regressions before a customer does.

هیچ انتقالی بدون اندازه‌گیری روی سخت‌افزار واقعی تمام شده حساب نمی‌شود. بنچمارک هر سکو را خودتان می‌سازید و نگه می‌دارید.

EN

Build the deployment path for edge targets: model packaging, conversion pipelines, versioning, and automated delivery so shipping a model to a new device is repeatable rather than bespoke.

بخشی از کار شبیه MLOps است: بسته‌بندی، نسخه‌گذاری و تحویل خودکار مدل به دستگاه‌ها.

EN

Work with Embedded AI Engineers when a standard kernel isn't enough: specify what the model needs, then adapt the model to use the custom kernel they deliver.

مرز دو نقش روشن است: شما مشخص می‌کنید مدل چه می‌خواهد و تیم embedded کرنل را می‌نویسد. توانایی نوشتن یک مشخصهٔ فنی دقیق برای تیم دیگر اینجا مهم است.

EN

Partner with platform and silicon vendors on their runtimes and toolchains, and turn their expected model format and operator conventions into a working Deepgram deployment.

با شرکت‌های سازندهٔ تراشه و سکو کار مستقیم دارید و باید قالب و قراردادهای ابزار آن‌ها را بفهمید و به استقرار کارا تبدیل کنید.

EN

Feed edge constraints back to Research and Impeller so future models are easier to port, without taking on research or core productionization work yourself.

شما محدودیت‌های دستگاه را به تیم پژوهش می‌گویید تا مدل‌های بعدی راحت‌تر منتقل شوند، اما خودتان مسئول پژوهش یا productionization اصلی مدل نیستید. این همان مرزی است که این نقش را از مهندس یادگیری ماشین معمولی جدا می‌کند.

نتیجه‌گیری کلی

این آگهی تصویر روشنی از کار روزانهٔ متخصص Edge AI در ۲۰۲۶ می‌دهد: مدلی که در ابر روی GPU کار می‌کند را بگیر، با quantization، جایگزینی operator و تغییر ساختار روی سخت‌افزار دیگری جا بده، روی دستگاه واقعی ثابت کن که دقت و سرعت حفظ شده و مسیر را خودکار کن. عنوان آگهی Applied ML Engineer است، نه Edge AI Specialist، و سطح آن ارشد یا Staff است. پایهٔ حقوق اعلام‌شده ۱۵۵ تا ۲۴۵ هزار دلار به‌علاوهٔ پاداش سالانهٔ ۱۰ درصدی و سهام است و کار به‌صورت دورکاری در آمریکا انجام می‌شود.

آینده و روندها

پیش‌بینی ۵–۱۰ ساله و مهارت‌هایی که باید یاد بگیرید

در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایان شرکت‌کننده گروه «متخصصان AI و یادگیری ماشین» را سومین و «متخصصان اینترنت اشیا (IoT)» را دهمین شغل پررشد (از نظر درصد) در فاصلهٔ ۲۰۲۵ تا ۲۰۳۰ پیش‌بینی کرده‌اند. WEF گروه جداگانه‌ای برای Edge AI ندارد؛ این دو نزدیک‌ترین گروه‌ها هستند.

منبع: WEF Future of Jobs Report 2025

مهارت‌های نوظهور که باید یاد بگیرید

استقرار LLM و VLM روی دستگاه، از عرضهٔ هم‌زمان Gemma روی دستگاه (Google) تا profiling مدل‌های VLM (Skydio)quantization زیر هشت بیت، مثل quantization-aware training دوبیتی در مدل روی دستگاه Appleایجنت‌های LLM روی سخت‌افزار میدانی و اتصال آن‌ها به حسگر و پهپاد (آگهی Palantir)امنیت مدل روی دستگاه: امضای کد، ذخیرهٔ رمزگذاری‌شدهٔ مدل و به‌روزرسانی امن (آگهی‌های Deepgram)MLOps برای ناوگان دستگاه: OTA، canary release و پایش تأخیر و گرما در میدان (آگهی Hudl)Rust برای کد سیستمی و روی دستگاه (آگهی‌های Samsara، Deepgram و OpenAI)

پیش‌بینی‌های آینده

2030

در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایان «متخصصان AI و یادگیری ماشین» را سومین شغل پررشد تا ۲۰۳۰ دانسته‌اند. به گفتهٔ همین گزارش، سریع‌ترین رشدها بیشتر از پیشرفت‌های فناوری، از جمله AI و رباتیک، می‌آید.

2030

در همان فهرست WEF، «متخصصان اینترنت اشیا (IoT)» دهمین شغل پررشد تا ۲۰۳۰ است؛ حوزه‌ای که کارفرمایانی مثل Samsara، با پلتفرمی بر پایهٔ دادهٔ IoT، برای آن نقش Edge AI استخدام می‌کنند.

ریسک‌های واقعی

اولین ریسک دیده‌نشدن است: عنوان یکسانی برای این کار وجود ندارد، Glassdoor آمریکا برای Edge AI Engineer حقوق گزارش‌شده‌ای ندارد و ITJobsWatch در بریتانیا در شش ماه منتهی به ۲۲ اکتبر ۲۰۲۶ فقط ۱۴ آگهی دائم را شمرده که Edge AI را ذکر کرده‌اند. دوم، ورود سخت است، چون بیشتر آگهی‌ها سابقهٔ قبلی استقرار روی سخت‌افزار محدود و سطح ارشد می‌خواهند. سوم، وابستگی به سازندگان تراشه و runtime ها: ابزارها زود عوض می‌شوند، همان‌طور که TensorFlow Lite جای خود را به LiteRT داده است. بخشی از نقش‌ها هم در صنایع دفاعی است و مجوز امنیتی آمریکا می‌خواهد (Palantir). به نظر می‌رسد کسانی ماندگارترند که اصول را، یعنی quantization، معماری سخت‌افزار و اندازه‌گیری دقیق، مستقل از یک ابزار خاص بلدند.

منابع

اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۳۸ منبع بررسی شده است.

  1. Applied ML Engineer - Edge Devices — Deepgram (job posting)
  2. Embedded AI Engineer, On-Device Models — Deepgram (job posting)
  3. Staff Machine Learning Engineer - Edge AI — Samsara (job posting)
  4. Staff Machine Learning Engineer - Edge AI, Remote - Canada — Samsara (job posting)
  5. Staff Software Engineer, On-Device Machine Learning — Google (job posting)
  6. On-device ML Performance Engineer, Graphics, Games and Machine Learning — Apple (job posting)
  7. Embedded Machine Learning Engineer, Wireless Technologies & Ecosystems — Apple (job posting)
  8. Apple Jobs — search results for “on-device machine learning”
  9. Senior MLOps Engineer - Edge — Hudl (job posting)
  10. Autonomy Engineer - Deep Learning Model Acceleration — Skydio (job posting)
  11. Software Engineer - Edge AI Systems — Palantir (job posting)
  12. Operating Systems Engineer, On-Device Inference | Consumer Devices — OpenAI (job posting)
  13. Deep Learning Research Engineer — Plumerai (job posting)
  14. Senior Edge Algorithm Integration Engineer — WHOOP (job posting)
  15. levels.fyi — Machine Learning Engineer salaries, United States
  16. levels.fyi — Machine Learning Engineer salaries, Canada
  17. levels.fyi — Machine Learning Engineer salaries, United Kingdom
  18. levels.fyi — Machine Learning Engineer salaries, Germany
  19. levels.fyi — Machine Learning Engineer salaries, Netherlands
  20. levels.fyi — Machine Learning Engineer salaries, Switzerland
  21. levels.fyi — Machine Learning Engineer salaries, Australia
  22. levels.fyi — Machine Learning Engineer salaries, Singapore
  23. levels.fyi — Machine Learning Engineer salaries, India
  24. levels.fyi — Machine Learning Engineer salaries, United Arab Emirates
  25. Glassdoor — Edge AI Engineer salaries, United States (no reported salaries)
  26. ITJobsWatch — Edge AI (UK)
  27. World Economic Forum — The Future of Jobs Report 2025 (PDF)
  28. Apple Intelligence Foundation Language Models Tech Report 2025 — Apple Machine Learning Research
  29. MobileNet — Wikipedia
  30. llama.cpp — Wikipedia
  31. ggml.ai
  32. LiteRT, successor to TensorFlow Lite — google-ai-edge (GitHub)
  33. About — EDGE AI FOUNDATION
  34. Song Han — MIT HAN Lab
  35. Tianqi Chen — homepage
  36. MIT 6.5940 Fall 2026: TinyML and Efficient AI Computing
  37. Machine Learning Systems — open textbook (mlsysbook.ai)
  38. Edge Impulse

برای راهنمایی شخصی‌سازی‌شده مشاوره بگیرید