متخصص هوش مصنوعی لبه
Edge AI Specialist
متخصص هوش مصنوعی لبه (Edge AI) مدلهای یادگیری ماشین را طوری آماده و بهینه میکند که بهجای سرور ابری، روی خود دستگاه اجرا شوند: گوشی و لپتاپ، دوربین هوشمند، پهپاد و ربات، دستبند سلامت یا ماژولهایی مثل NVIDIA Jetson Orin. کار اصلی فشردهسازی و تبدیل مدل (quantization، جایگزینی operator، تغییر ساختار)، اجرای آن با runtime هایی مثل LiteRT، Core ML، ExecuTorch، ONNX Runtime یا TensorRT، و سنجیدن دقت، تأخیر، حافظه و مصرف توان روی سختافزار واقعی است. عنوان «Edge AI Specialist» در آگهیهای ۲۰۲۶ تقریباً دیده نمیشود. کارفرمایان همین کار را Machine Learning Engineer – Edge AI (Samsara)، Applied ML Engineer – Edge Devices (Deepgram)، Embedded Machine Learning Engineer و On-device ML Performance Engineer (Apple) یا Software Engineer, On-Device Machine Learning (Google) مینامند.
مقدمه و تعریف شغل
متخصص Edge AI کسی است که مسئول اجرای درست، سریع و کممصرف یک مدل یادگیری ماشین روی دستگاهی است که منابعش محدود است. مدل معمولاً جای دیگری آموزش دیده؛ کار او این است که آن را با runtime، operator ها و شتابدهندهٔ آن دستگاه سازگار کند، با quantization و تغییر ساختار در حافظه و بودجهٔ توان جا بدهد و ثابت کند دقت حفظ شده است. آگهی Deepgram این نقش را «یک لایه بالاتر از سختافزار» توصیف میکند و تأکید دارد «نه نقش پژوهشی است و نه نقش serving ابری؛ یادگیری ماشین کاربردی برای استقرار روی edge است». معیار موفقیت عددهای روی دستگاه است، نه عددهای notebook: تأخیر، حافظه، توان، گرما و دقت.
اجرای شبکهٔ عصبی روی دستگاه سابقهٔ طولانی دارد. طبق ویکیپدیا، Google نسخهٔ اول MobileNet را در آوریل ۲۰۱۷ منتشر کرد، خانوادهای از شبکهها با حجم و تأخیر و مصرف کم که برای اجرا با TensorFlow Lite طراحی شد؛ امروز جانشین TensorFlow Lite در Google نام LiteRT دارد. موج بعدی مدل زبانی بود: طبق ویکیپدیا، Georgi Gerganov در مارس ۲۰۲۳ llama.cpp را برای اجرای LLM با C/C++ روی کامپیوترهای بدون GPU شروع کرد، و گزارش فنی Apple در ۲۰۲۵ مدلی حدود ۳ میلیارد پارامتری را توصیف میکند که روی خود دستگاههای Apple اجرا میشود. در بازار کار، عنوان «Edge AI Specialist» تقریباً به کار نمیرود. Apple و Google از «On-Device ML» استفاده میکنند و شرکتهایی مثل Samsara، Deepgram، Palantir و Hudl از «Edge AI» یا «Edge Devices» یا «Embedded AI». Glassdoor آمریکا برای Edge AI Engineer هیچ حقوق گزارششدهای ندارد و ITJobsWatch در بریتانیا در شش ماه منتهی به ۲۲ اکتبر ۲۰۲۶ فقط ۱۴ آگهی دائم را شمرده که Edge AI را ذکر کردهاند. پس این شغل واقعی است اما زیر عنوانهای مهندس یادگیری ماشین و مهندس نرمافزار پنهان است. پایهٔ حقوق اعلامشده در آگهیهای آمریکایی بررسیشده از ۱۴۲٫۳ هزار دلار (کف بازهٔ Apple) تا ۳۸۵ هزار دلار (سقف بازهٔ OpenAI) بود.
چه چیزی میسازید؟
مثالهای واقعی از خروجی کار یک متخصص هوش مصنوعی لبه
مدلهای Gemma روی Android و Chrome
تیم Google AI Edge، طبق آگهی Staff Software Engineer, On-Device Machine Learning، مدلهای کلیدی را روی GPU، Pixel TPU، NPU و CPU در Android و Chrome مستقر میکند، برای عرضهٔ همزمان مدلهای Gemma روی دستگاه ابزار میسازد و کارایی inference را با بهینهسازی نمایش مدل، runtime و کرنل بالا میبرد.
مدل زبانی روی iPhone و Mac
طبق گزارش فنی Apple، مدل روی دستگاه Apple Intelligence حدود ۳ میلیارد پارامتر دارد و با اشتراک KV-cache و quantization-aware training دوبیتی برای Apple silicon بهینه شده است. تیم On-device ML Performance در Apple تأخیر، حافظه، توان و درستی عددی چنین مدلهایی را روی CPU، GPU و Apple Neural Engine تحلیل میکند.
دوربینهای خودکار فیلمبرداری ورزشی
Hudl برای دوربینهای هوشمند Focus خط لولهای میسازد که شبکههای عصبی را از خوشهٔ آموزش به دهها هزار دستگاه در سراسر جهان میرساند و مدل را برای دستگاههایی مثل Jetson Orin به موتور inference بهینه کامپایل میکند.
هوش مصنوعی روی دوربینهای خانگی
مدلهای بینایی Plumerai، طبق آگهی این شرکت، روی میلیونها دوربین خانگی اجرا میشوند و کوچکترین مدل بینایی آن فقط ۱ مگابایت حافظه میگیرد. شرکت این مدلهای کوچک روی دستگاه را با مدلهای بینایی-زبانی در ابر ترکیب میکند.
تشخیص گفتار روی سختافزار مشتری
Deepgram مدلهای گفتارش را از GPU های NVIDIA به شتابدهندههای دیگر، سرورهای edge و سکوهای embedded منتقل میکند. یک نقش مدل را با operator ها و runtime مقصد جور میکند و نقش دیگر، وقتی کرنل استاندارد کافی نیست، کرنل اختصاصی برای NPU و DSP مینویسد.
پهپاد خودران
نقش Deep Learning Model Acceleration در Skydio برای مدلهای بینایی ماشین و VLM روی سکوهای سختافزاری مختلف inference پرسرعت و کمتأخیر میسازد، گلوگاهها را با profiling پیدا میکند، مصرف توان را کم میکند و برای معماریهای خاص کرنل GPU مینویسد.
تخصصهای مختلف متخصص هوش مصنوعی لبه
این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد
یادگیری ماشین روی گوشی و کامپیوتر
On-Device ML for Phones & PCs
بهینهسازی مدل برای Apple silicon یا Android و Chrome با Core ML، MLX، LiteRT و ExecuTorch. Apple عنوانهایی مثل On-device ML Performance Engineer، On-Device ML Infrastructure Engineer و On-Device ML Compiler Engineer دارد و Google تیم AI Edge.
بینایی ماشین روی دوربین و دستگاه ویدیویی
Vision on Cameras & Video Devices
مدلهای تشخیص و ردیابی روی دوربین هوشمند خانگی، صنعتی یا ورزشی، اغلب با Jetson، TensorRT و DeepStream. نمونهها در آگهیها: Hudl، Plumerai و تیم Edge AI در Samsara که با دادهٔ دوربین و حسگر ناوگان کار میکند.
رباتیک، پهپاد و دفاع
Robotics, Drones & Defense
ادراک بیدرنگ روی ربات و پهپاد و، در پروژههای تازه، ایجنت LLM روی سختافزار میدانی. Skydio، تیم رباتیک iOS در Apple و تیم Edge AI Systems در Palantir نمونهاند؛ نقش Palantir مجوز امنیتی آمریکا میخواهد.
گفتار و صدا روی دستگاه
Speech & Audio on Device
تشخیص گفتار، wake-word و پردازش صدای جریانی روی SoC و DSP. Deepgram دو نقش جدا برای همین دارد و در آگهیهایش به cold start، مصرف توان و گرما اشاره میکند.
Runtime، کرنل و کامپایلر یادگیری ماشین
Runtimes, Kernels & ML Compilers
لایهٔ پایینتر: نوشتن کرنل برای NPU، DSP و GPU، کامپایل مدل با MLIR، LLVM یا TVM و ساخت سرویسهای سیستمعامل برای اجرای مدل. نمونهها: Embedded AI Engineer در Deepgram، On-Device ML Compiler Engineer در Apple و Operating Systems Engineer, On-Device Inference در تیم دستگاههای مصرفی OpenAI.
تفاوت با شغلهای مشابه
کجا این شغل تمام میشود و شغل دیگری شروع میشود؟
هر دو با quantization، profiling و سرعت اجرای مدل سروکار دارند، اما Inference Engineer مدل را روی سرور و خوشهٔ GPU به کاربران زیادی سرو میکند و Edge AI روی خود دستگاه با حافظه، باتری و گرمای محدود. آگهی Deepgram این مرز را صریح کشیده: «تجربهٔ serving فقط در ابر یا فقط روی GPU بهتنهایی کافی نیست» و نقش «نه serving ابری» است. اگر از serving ابری میآیید، مهارتهایتان پایه است اما باید کار با runtime های موبایل و embedded و محدودیت توان را اضافه کنید.
TinyML سر کوچکتر همین طیف است: مدل روی میکروکنترلر، مثل کار تیم Edge ML در WHOOP با ARM Cortex-M، CMSIS-NN و TensorFlow Lite Micro. Edge AI بازهٔ وسیعتری را پوشش میدهد: گوشی و Mac، دوربین با Jetson Orin، پهپاد و سرور edge. EDGE AI FOUNDATION، جامعهای که به گفتهٔ رئیس هیئتمدیرهاش از ۲۰۱۸ فعال است و اکنون «دامنهٔ گستردهتری» دارد، کارش را «از tinyML تا AI عاملی، AI فیزیکی و محاسبات نورومورفیک» تعریف میکند؛ یعنی TinyML بخشی از Edge AI است، نه همهٔ آن.
مهندس embedded مسئول firmware، درایور و سیستمعامل بیدرنگ است و لزوماً با مدل یادگیری ماشین کار نمیکند. متخصص Edge AI از این پایه استفاده میکند اما مسئول مدل است. مرز این دو در خود آگهیها دیده میشود: در Deepgram، Embedded AI Engineer کرنل مینویسد و Applied ML Engineer مدل را با آن جور میکند؛ در Hudl مهندس MLOps با مهندسان embedded همکاری میکند؛ و WHOOP در تیم Edge ML نقشی با عنوان Edge Algorithm Integration Engineer دارد که الگوریتم را از Python و MATLAB به C/C++ روی دستگاه میبرد.
بیشتر آگهیهای Edge AI در واقع با عنوان Machine Learning Engineer منتشر میشوند، مثل Staff Machine Learning Engineer – Edge AI در Samsara. تفاوت در تمرکز است: مهندس یادگیری ماشین معمولاً مدل را آموزش میدهد و در ابر مستقر میکند، و نسخهٔ edge مسئول جا دادن آن در دستگاه است. Deepgram از Applied ML Engineer میخواهد محدودیتهای دستگاه را به تیم پژوهش برگرداند «بدون اینکه خودش کار پژوهش یا productionization اصلی مدل را بر عهده بگیرد». در جستجوی کار، Machine Learning Engineer را همراه کلمههای edge، on-device و embedded جستجو کنید.
تأثیر در صنایع مختلف
متخصص هوش مصنوعی لبه در همه صنایع مشغول به کار است — نه فقط شرکتهای فناوری
الکترونیک مصرفی
مدل زبانی و بینایی روی iPhone، Mac، Pixel و ساعت؛ Apple مدل حدود ۳ میلیارد پارامتری روی دستگاه دارد و Google AI Edge محصولاتی مثل YouTube Shorts، Meet، Photos و Translate را پشتیبانی میکند
عملیات فیزیکی و ناوگان (IoT)
Samsara با دادهٔ حسگر، ویدیو و مکان از وسایل نقلیه و تجهیزات مشتریانش کار میکند و تیم Edge AI آن مدلها را روی دستگاههای edge بهینه میکند
ورزش و رسانه
دوربینهای Focus در Hudl که فیلمبرداری مسابقه را خودکار میکنند و مدلهایشان روی دهها هزار دستگاه بهروزرسانی میشود
امنیت و دوربین خانگی
تشخیص افراد و چهرههای آشنا روی دوربینهای خانگی با مدلهای کوچک Plumerai، با اولویت اجرای روی دستگاه برای مصرف کم و حریم خصوصی
پهپاد، رباتیک و دفاع
ادراک بیدرنگ در پهپادهای Skydio و استقرار ایجنتهای LLM روی سختافزار میدانی برای حسگرها و پهپادها در Palantir
هوش مصنوعی صوتی
انتقال مدلهای گفتار Deepgram به شتابدهندههای غیر NVIDIA، سرورهای edge و دستگاههای اختصاصی مشتری
سلامت و دستگاههای پوشیدنی
اجرای الگوریتمهای پردازش سیگنال و یادگیری ماشین روی خود دستبند WHOOP، با C/C++ روی میکروکنترلر و NPU
دستگاههای AI تازه
تیم دستگاههای مصرفی OpenAI پشتهٔ سیستمعاملی میسازد که اجرای مدل را روی دستگاه در محدودیت حافظه، باتری و گرما پایدار و کممصرف کند
تصورات غلط رایج
قبل از تصمیمگیری، این باورهای اشتباه را بشناسید
Edge AI یعنی همان TinyML و میکروکنترلر
میکروکنترلر فقط یک سر طیف است. آگهیها از Apple silicon با CPU و GPU و Neural Engine (Apple)، Android و Chrome (Google)، Jetson Orin (Hudl)، سرورهای edge (Deepgram) و سختافزار میدانی با GPU و CPU (Palantir) نام میبرند. EDGE AI FOUNDATION هم tinyML را یک سر طیفی میداند که تا AI عاملی و فیزیکی ادامه دارد.
کافی است مدل را با یک ابزار تبدیل کنید
تبدیل اغلب جایی گیر میکند که runtime مقصد یک operator را نمیشناسد یا آن را کند اجرا میکند. Deepgram از مهندس میخواهد گراف مدل را بخواند و بازنویسی کند، operator های ناسازگار را عوض کند و پارامترهای معماری را تغییر دهد «بدون اینکه دقت از دست برود». وقتی operator استاندارد کافی نیست، یک نقش جدا کرنل اختصاصی مینویسد.
تجربهٔ بهینهسازی inference روی GPU ابری همین کار است
پایهٔ مشترک زیاد است، اما Deepgram صریحاً نوشته تجربهٔ serving فقط در ابر یا فقط روی GPU «بهتنهایی کافی نیست». روی دستگاه باید به cold start، مصرف توان، گرما، تکهتکهشدن حافظه و رفتار cache هم فکر کنید، چیزهایی که به گفتهٔ آگهی Embedded AI Engineer همین شرکت «در بنچمارک ابری دیده نمیشوند».
بدون دکترا وارد این حوزه نمیشوید
Apple برای Embedded Machine Learning Engineer کارشناسی با ۳ سال یا کارشناسی ارشد با ۲ سال تجربه میخواهد و Google برای نقش Staff کارشناسی یا تجربهٔ عملی معادل. کارشناسی ارشد و دکترا در آگهی On-device ML Performance Apple فقط جزو شرایط ترجیحی است. مانع واقعی سابقه است: بیشتر آگهیها تجربهٔ قبلی استقرار مدل روی سختافزار محدود را میخواهند.
مدل زبانی روی دستگاه فقط نمایشی است
Apple مدلی حدود ۳ میلیارد پارامتری را روی دستگاه برای ویژگیهای Apple Intelligence به کار میبرد و برنامهنویسها با Foundation Models framework به آن دسترسی دارند. Google AI Edge مدلهای Gemma را از روز عرضه روی دستگاه پشتیبانی میکند و OpenAI و Palantir هم برای inference روی دستگاه نیرو میگیرند.
یک روز کاری واقعی
در هر سطح روز کاری چه شکلی است؟
جونیور (۰–۲ سال)
نقش کاملاً تازهکار با این تمرکز کم است و ورود معمولاً از مهندسی یادگیری ماشین، موبایل یا embedded است. در هفتههای اول بیشتر وقت صرف تبدیل مدلهای موجود، اجرای بنچمارک روی دستگاههای آزمایشی و پیدا کردن علت افت دقت پس از quantization میشود.
- ◆تبدیل یک مدل PyTorch به Core ML یا LiteRT و رفع خطای operator پشتیبانینشده
- ◆اجرای بنچمارک تأخیر و حافظه روی چند دستگاه و ثبت نتیجه در داشبورد تیم
- ◆مقایسهٔ خروجی مدل روی دستگاه با نسخهٔ مرجع برای پیدا کردن اختلاف عددی
- ◆نوشتن تست خودکار برای خط لولهٔ تبدیل
میانی (۲–۵ سال)
مسئول انتقال یک مدل به یک یا چند سکو هستید: انتخاب quantization و دقت، بازنویسی گراف و اعتبارسنجی روی سختافزار واقعی. آگهی Apple برای این سطح ساخت ابزار و اسکریپت برای استخراج و تحلیل دادههای کارایی و توان و ارائهٔ نتایج به تیمهای دیگر را جزو کار آورده است.
- ◆profiling اجرای مدل روی CPU، GPU و NPU و پیدا کردن operator هایی که به CPU برمیگردند
- ◆آزمایش INT8 در برابر FP16 یا دقت ترکیبی و تصمیم بر اساس دقت و تأخیر
- ◆جلسه با تیم پژوهش دربارهٔ تغییر معماری برای جا شدن در دستگاه
- ◆بهبود خط لولهٔ تبدیل و نسخهگذاری مدل
ارشد (۵+ سال)
تمرکز روی سکوهای تازه، کار با سازندگان تراشه و تصمیمهای بین تیمی است. Deepgram از سطح ارشد میخواهد انتقال مدل به یک سکوی ناآشنا را تعریف کند و تا نتیجهٔ اندازهگیریشده پیش ببرد، و Samsara از Staff انتظار دارد طراحی و پیادهسازی ابتکارهای مهم AI روی دستگاه را رهبری کند و مهندسان را منتورینگ کند.
- ◆ارزیابی یک شتابدهندهٔ تازه و تعیین اینکه آیا مدلهای شرکت روی آن عملی هستند
- ◆جلسه با سازندهٔ تراشه دربارهٔ اشکالهای SDK و operator های لازم
- ◆طراحی روش انتشار امن مدل روی ناوگان دستگاهها با canary و rollback
- ◆بازبینی طراحی و منتورینگ مهندسان جوانتر
مسئولیتها و وظایف
مسئولیتهای اصلی
وظایف روزانه و مهارتهای مورد نیاز در این شغل
- ◈انتقال مدلهای آموزشدیده به سکوهای مقصد (موبایل، SoC های embedded، NPU و DSP، ماژولهای Jetson) با کمترین تغییر در مدل
- ◈انتخاب quantization و دقت عددی، جایگزینی operator های ناسازگار و بازنویسی گراف مدل تا در محدودیت حافظه، توان و تأخیر دستگاه جا شود
- ◈اعتبارسنجی هر نسخه روی سختافزار واقعی با بنچمارک دقت، تأخیر، throughput، حافظه و مصرف توان، و گرفتن regression پیش از انتشار
- ◈ساخت خط لولهٔ تبدیل، بستهبندی، نسخهگذاری و تحویل خودکار مدل تا استقرار روی دستگاه تازه تکرارپذیر باشد
- ◈profiling اجرای مدل روی CPU، GPU و شتابدهندهها و بهینهسازی runtime یا کرنل وقتی operator استاندارد کافی نیست
- ◈استقرار و بهروزرسانی مدل روی ناوگان دستگاهها با canary release، rollback و پایش تأخیر، گرما و drift در میدان
- ◈همکاری با تیمهای پژوهش، firmware، سختافزار و سازندگان تراشه و برگرداندن محدودیتهای دستگاه به طراحی مدلهای بعدی
- ◈توضیح trade-off بین کیفیت مدل، سرعت، مصرف توان و حافظه برای تیم محصول و مدیران
- ◈منتورینگ مهندسان جوانتر و تعریف روشهای استاندارد تیم برای ابزار، CI/CD و تست مدل
مهارتهای مورد نیاز
مهارتهای فنی، نرم و حوزهای که یک متخصص هوش مصنوعی لبه موفق به آنها نیاز دارد
یادگیری ماشین و بهینهسازی مدل
INT8، FP16، دقت ترکیبی و calibration و اثر آنها بر دقت و تأخیر؛ شرط آگهیهای Deepgram، Apple و Hudl
خواندن، تغییر و بازآموزی مدل؛ Deepgram آن را شرط کرده و Apple مدلهای PyTorch و MLX را تحلیل میکند
جا دادن مدل در operator های runtime مقصد بدون افت دقت؛ هستهٔ آگهی Deepgram
سنجیدن درستی عددی و کیفیت مدل روی دستگاه در برابر نسخهٔ مرجع؛ در آگهیهای Apple و WHOOP
روشهای دیگر کوچککردن مدل؛ Apple برای Embedded MLE و Deepgram برای Embedded AI Engineer نام بردهاند
CNN، تشخیص شیء، VLM و مدلهای گفتار؛ در آگهیهای Skydio، Plumerai، Samsara و Deepgram
اجرای مدل زبانی کوچک با llama.cpp، MLX یا runtime های موبایل؛ در آگهیهای Google، Apple و Palantir
سیستم، سختافزار و برنامهنویسی
کد حساس به کارایی روی دستگاه؛ Google پنج سال C++ برای Staff و OpenAI C++ برای برنامهنویسی سیستمی میخواهد
تبدیل، اتوماسیون و تحلیل نتایج بنچمارک؛ در بیشتر آگهیهای بررسیشده
حداقل یکی از LiteRT، Core ML، ExecuTorch، ONNX Runtime، OpenVINO یا TensorRT
سنجش تأخیر، throughput، حافظه و توان برای هر سکو و گرفتن regression
CPU، GPU، NPU و DSP، سلسلهمراتب حافظه و حساب fixed-point؛ در آگهیهای Apple و Deepgram
خط لولهٔ تبدیل، Docker و انتشار امن روی ناوگان دستگاه؛ در آگهیهای Hudl و Deepgram
اجرا در محیطهایی مثل FreeRTOS و Zephyr یا embedded Linux؛ در آگهیهای Deepgram و Apple
Samsara یکی از C++ یا Rust را میخواهد و Deepgram و OpenAI هم Rust را آوردهاند
کد سطح پایین با NEON، Metal، CUDA یا کد DSP؛ امتیاز در آگهی Deepgram و Apple
مهارتهای نرم
پل بین تیمی که مدل را آموزش میدهد و تیمی که سختافزار و کرنل را میسازد
توضیح انتخاب بین کیفیت، سرعت، توان و حافظه برای تیم محصول و مدیران؛ در آگهیهای Deepgram و OpenAI
تبدیل یک درخواست کلی به هدف قابل اندازهگیری؛ Deepgram و Samsara صریحاً خواستهاند
همکاری با سازندگان تراشه و سکو روی SDK، runtime و تنظیم کارایی؛ در آگهیهای Deepgram
Samsara و Hudl برای سطح Staff و ارشد منتورینگ مهندسان را خواستهاند
نقشه راه و مسیر آموزشی
نقشه راه تبدیل شدن به متخصص هوش مصنوعی لبه
این مسیر گام به گام شما را از صفر تا حرفهای هدایت میکند.
پایهٔ برنامهنویسی: Python، C++ و Linux
بیشتر آگهیهای بررسیشده دو زبان میخواهند: Python برای مدل و اتوماسیون، و C++ (گاهی C یا Rust) برای کدی که روی دستگاه اجرا میشود. Google برای نقش Staff پنج سال توسعهٔ نرمافزار با C++ خواسته، Apple برای Embedded Machine Learning Engineer زبان C/C++ برای embedded و RTOS، و Samsara یکی از C++ یا Rust را. کار با Linux و خط فرمان هم پیشفرض است.
یادگیری عمیق برای بینایی و گفتار
قبل از فشردهکردن مدل باید ساختار آن را بفهمید. آگهی Apple برای On-device ML Performance Engineer آشنایی با LLM، مدلهای diffusion و CNN را حداقل شرط آورده و آگهیهای Skydio و Plumerai بینایی ماشین و مدلهای بینایی-زبانی (VLM) را. Deepgram روی مدلهای گفتار کار میکند. PyTorch را عمیق یاد بگیرید، چون Deepgram آن را شرط کرده و Apple مدلهایی را که با PyTorch و MLX ساخته شدهاند تحلیل میکند.
منابع پیشنهادی
فشردهسازی و بهینهسازی مدل
هستهٔ این تخصص اینجاست: quantization پس از آموزش و حین آموزش (PTQ و QAT)، انتخاب دقت عددی (INT8، FP16، دقت ترکیبی و calibration)، pruning و knowledge distillation. آگهی شاخص Deepgram «دانش کاری quantization و اثر آن بر دقت و تأخیر روی سختافزار واقعی» را شرط کرده است. درس MIT 6.5940 که Song Han تدریس میکند همین موضوعها را پوشش میدهد و ویدیوی کلاسهایش منتشر میشود.
Runtime ها و سختافزار مقصد
مدل باید به قالب و operator هایی تبدیل شود که runtime دستگاه میفهمد. Deepgram تجربه با حداقل یکی از ONNX Runtime، TFLite، ExecuTorch، OpenVINO، Qualcomm AI Engine یا SDK سازندهٔ NPU را شرط کرده، Apple از Core ML و MLX نام برده و Hudl از TensorRT و Jetson Orin. یاد بگیرید CPU، GPU و NPU هر کدام چه operator هایی را خوب اجرا میکنند و profiling روی خود دستگاه را تمرین کنید.
LLM روی دستگاه، استقرار روی ناوگان و تخصص
دو جهت تازه در آگهیها پررنگ است. اول، مدل زبانی روی دستگاه: Google برای Gemma روی Android و Chrome نیرو میگیرد و Apple مدلی حدود ۳ میلیارد پارامتری را روی دستگاه اجرا میکند. دوم، استقرار روی هزاران دستگاه: Hudl خط لولهٔ کامپایل مدل، تست بیصدا روی دستگاههای واقعی، پایش تأخیر و گرما و بهروزرسانی امن در شبکهٔ ضعیف میخواهد. یکی از این دو یا یک صنعت (دوربین، گفتار، رباتیک) را برای تخصص انتخاب کنید.
ابزارها و استک فنی
ابزارهایی که هر مهندس AI باید بشناسد، دستهبندیشده بر اساس اولویت
Runtime های اجرای مدل روی دستگاه
جانشین TensorFlow Lite؛ چارچوب Google برای اجرای ML و GenAI روی سکوهای edge. آگهیهای Deepgram و Apple هنوز نام قدیمی TFLite را آوردهاند
اجرای مدل روی iPhone و Mac و تبدیل مدل PyTorch به Core ML؛ در آگهیهای Apple نام برده شده
SDK سازندگان سختافزار و شتابدهندهها
کامپایل مدل به موتور inference بهینه برای GPU های NVIDIA و Jetson؛ Hudl کامپایل TensorRT با FP16/INT8 و calibration را جزو کار آورده است
ماژولهای Jetson (مثل Orin) و SDK تحلیل ویدیو؛ Hudl تجربه با این مجموعه را امتیاز بزرگ دانسته است
مدلهای بهینهشده و اجرای آزمایشی روی دستگاههای واقعی Qualcomm؛ Deepgram از Qualcomm AI Engine نام برده است
مدل زبانی روی دستگاه
اجرای LLM با C/C++ روی CPU، GPU و NPU و قالب GGUF با quantization دو تا هشت بیتی؛ طبق ویکیپدیا هستهٔ ابزارهایی مثل Ollama و LM Studio
چارچوب آرایه و یادگیری ماشین Apple برای Apple silicon؛ در آگهی On-device ML Performance Engineer نام برده شده
موتور استقرار LLM با کامپایل یادگیری ماشین برای سختافزارهای مختلف؛ پروژهای که Tianqi Chen شروع کرده است
بهینهسازی، کامپایلر و تحلیل مدل
کامپایلر یادگیری عمیق؛ Palantir آن را در ابزارهای بهینهسازی edge و Apple در کنار MLIR و LLVM آورده است
مسیر پیشرفت شغلی
از جونیور تا Staff Engineer — چه مهارتهایی نیاز دارید و چه درآمدی انتظار داشته باشید
ورود: مهندس یادگیری ماشین یا embedded با تمرکز روی دستگاه
۰ تا ۲ سال
تبدیل مدلهای آماده به قالب runtime، اجرای بنچمارک روی دستگاه و نوشتن تست دقت. نقش کاملاً تازهکار در آگهیهای بررسیشده کم بود؛ کمترین سابقهٔ اعلامشده به سال در Embedded Machine Learning Engineer در Apple بود: کارشناسی با ۳ سال یا کارشناسی ارشد با ۲ سال تجربه. راه رایج ورود، چند سال کار بهعنوان مهندس یادگیری ماشین، موبایل یا embedded است.
مهندس Edge / On-Device ML
۲ تا ۵ سال
مالکیت انتقال یک مدل به یک سکو: انتخاب quantization و دقت عددی، جایگزینی operator های ناسازگار، اعتبارسنجی روی دستگاه و خودکارسازی تبدیل. پایهٔ حقوق اعلامشده برای Embedded Machine Learning Engineer در Apple بین ۱۴۲٫۳ و ۲۶۳٫۳ هزار دلار و برای On-device ML Performance Engineer بین ۱۵۰٫۴ و ۲۷۷٫۶ هزار دلار است.
مهندس ارشد Edge AI
۵+ سال
انتقال مدل به چند سکوی ناآشنا، تعیین مسیر استقرار و کار با سازندگان تراشه. Deepgram آگهی Applied ML Engineer – Edge Devices را برای «مهندس ارشدی که پیشتر مدل را روی سختافزار غیر GPU یا edge به پروداکشن برده» نوشته و پایهٔ آن را ۱۵۵ تا ۲۴۵ هزار دلار اعلام کرده است. نسخهٔ پاییندستی همین کار، نوشتن کرنل اختصاصی برای NPU و DSP، در همان شرکت ۲۱۹٫۳ تا ۲۷۴٫۱ هزار دلار است.
Staff / Principal
۸+ سال
هدایت فنی ابتکارهای AI روی دستگاه و تصمیمهای بین تیمهای پژوهش، سختافزار و محصول. Samsara برای Staff Machine Learning Engineer – Edge AI هشت سال یا بیشتر تجربه بهعنوان مهندس یادگیری ماشین میخواهد و پایهٔ ۱۷۸٬۶۴۰ تا ۳۱۹٬۰۰۰ دلار (در کانادا ۱۷۰٬۴۰۰ تا ۲۳۴٬۳۰۰ دلار کانادا) اعلام کرده؛ Google برای Staff Software Engineer, On-Device Machine Learning هشت سال توسعهٔ نرمافزار و پایهٔ ۲۰۷ تا ۳۰۰ هزار دلار بهعلاوهٔ پاداش و سهام.
چالشها و جنبههای منفی
واقعیتهایی که کمتر در آگهیهای شغلی میبینید — قبل از ورود بدانید
پراکندگی سختافزار و runtime
عمومیهر سکو runtime، مجموعهٔ operator و محدودیتهای خودش را دارد و مدلی که روی یکی خوب اجرا میشود روی دیگری ممکن است بخشی از کار را به CPU برگرداند. Deepgram برای همین فهرستی از runtime ها و SDK سازندگان را در آگهی آورده و از Apple میخواهد رفتار مدل روی CPU، GPU و Neural Engine را جدا تحلیل کند.
افت دقت پس از quantization
تحقیقاتیکم کردن دقت عددی سرعت و حافظه را بهتر میکند اما میتواند خطاهای ظریفی بسازد که فقط روی بعضی ورودیها دیده میشوند. تحلیل «درستی عددی» صریحاً جزو کار تیم On-device ML Performance در Apple است و Deepgram شرط کرده تغییرها «بدون از دست رفتن دقت» انجام شوند.
محدودیت حافظه، باتری و گرما
عمومیروی دستگاه، مدل با سیستمعامل و برنامههای دیگر برای حافظه و توان رقابت میکند. OpenAI از مهندسش میخواهد اجرای مدل را با کارهای دیگر دستگاه طوری متعادل کند که پاسخدهی در محدودیت تأخیر، حافظه، باتری و گرما حفظ شود، و Deepgram به cold start و تکهتکهشدن حافظه اشاره میکند.
استقرار روی هزاران دستگاه در میدان
شرکت بزرگوقتی مدل روی ناوگان دستگاهها اجراست، هر بهروزرسانی ریسک دارد. Hudl از مهندس میخواهد سازوکار بهروزرسانی مقاوم برای شبکهٔ کمپهنا بسازد، با فضای ذخیرهٔ محدود کار کند، بازیابی پس از قطعی شبکه را تضمین کند و ریسک را با canary release و rollback امن روی ۱۰ هزار دستگاه ناهمگون مدیریت کند.
وابستگی به SDK سازندگان
عمومیبخشی از کار به ابزار و مستندات سازندهٔ تراشه گره خورده است. Deepgram همکاری با سازندگان تراشه روی یکپارچهسازی SDK و تنظیم کارایی چیپهای تازه را جزو کار آورده و در نقش Embedded صراحتاً میگوید وقتی operator های استاندارد سازنده کافی نیست، خودتان کرنل مینویسید.
ورود دشوار و عنوان پراکنده
عمومیبیشتر آگهیها ارشدند: Samsara هشت سال تجربه بهعنوان مهندس یادگیری ماشین و Google هشت سال توسعهٔ نرمافزار میخواهد. عنوان هم یکسان نیست و Glassdoor آمریکا برای Edge AI Engineer حقوق گزارششدهای ندارد. برای پیدا کردن کار، Machine Learning Engineer، Software Engineer و Embedded را همراه edge یا on-device جستجو کنید و سابقهٔ عملی استقرار روی دستگاه بسازید.
حقوق و بازار کار جهانی
حقوق جهانی متخصص هوش مصنوعی لبه
حقوق سالانه در کشورهای مختلف بر اساس دادههای منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز میشود.
* ارقام سالانهاند. منبع هر رقم:
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy: no salary source tracks an edge or on-device title), total comp (sample 1,067): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 146): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 114): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 69): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 30): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (only 21 in sample): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 30): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 36): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (sample 176): 25th–75th pct; median
- levels.fyi, updated Oct 22 2026, title Machine Learning Engineer (proxy), total comp (only 15 in sample): 25th–75th pct; median
چگونه از صفر شروع کنیم
برنامه گامبهگام برای ورود به مهندسی هوش مصنوعی
ماه ۱: اولین مدل روی دستگاه
یک مدل بینایی آماده را به LiteRT یا ExecuTorch تبدیل و روی گوشی یا Raspberry Pi اجرا کنید؛ تأخیر و دقت را ثبت کنید.
ماه ۲: Quantization عملی
PTQ و QAT را روی همان مدل امتحان کنید و برای INT8 و FP16 جدول دقت، حجم و تأخیر بسازید.
ماه ۳: C++ برای اجرای مدل
C++ مدرن را در حدی یاد بگیرید که runtime را از C++ صدا بزنید و پیشپردازش را بنویسید.
ماه ۴: Core ML یا Jetson
یک سکو را انتخاب کنید: Core ML و coremltools برای Apple، یا TensorRT روی Jetson برای دوربین و رباتیک.
ماه ۵: LLM روی دستگاه
یک مدل زبانی کوچک را با llama.cpp اجرا کنید و چند سطح quantization را مقایسه کنید.
ماه ۶: پورتفولیو و درخواست
برای هر پروژه README با جدول بنچمارک روی دستگاه بنویسید و برای Machine Learning Engineer با کلمههای edge، on-device و embedded درخواست بدهید.
پروژههای پیشنهادی برای رزومه
طبقهبندی تصویر روی گوشی یا Raspberry Pi با INT8
مبتدییک مدل MobileNet آماده را به LiteRT یا ExecuTorch تبدیل کنید، با post-training quantization به INT8 برسانید و روی گوشی یا Raspberry Pi اجرا کنید. دقت، تأخیر و حجم مدل را پیش و پس از quantization در یک جدول گزارش کنید و بنویسید کجا دقت افت کرد.
تشخیص شیء بیدرنگ روی Jetson با TensorRT
متوسطیک مدل تشخیص شیء را با TensorRT برای Jetson Orin Nano کامپایل کنید، نسخههای FP16 و INT8 (با calibration) را بسازید و روی ویدیوی دوربین اجرا کنید. FPS، تأخیر، مصرف توان و افت دقت هر نسخه را بسنجید. این پروژه به کار آگهی Hudl نزدیک است که کامپایل TensorRT، انتخاب دقت و اعتبارسنجی موتور inference را میخواهد.
تشخیص گفتار جریانی روی لپتاپ یا گوشی
متوسطیک مدل گفتار کوچک را با whisper.cpp یا یک runtime موبایل روی دستگاه اجرا کنید، ورودی میکروفون را بهصورت جریانی پردازش کنید و زمان شروع سرد، تأخیر، مصرف حافظه و دقت را برای چند سطح quantization مقایسه کنید. Deepgram در آگهیهایش دقیقاً به همین جزئیات، مثل cold start و مصرف توان، اشاره کرده است.
مدل زبانی کوچک روی گوشی و مقایسهٔ quantization
پیشرفتهیک LLM کوچک متنباز را با llama.cpp یا MLC LLM روی گوشی یا Mac اجرا کنید. چند سطح quantization در قالب GGUF را امتحان کنید و برای هر کدام سرعت تولید token، حافظه، دمای دستگاه پس از چند دقیقه کار و کیفیت پاسخ روی یک مجموعه پرسش ثابت را گزارش کنید.
خط لولهٔ خودکار تبدیل و آزمون مدل برای چند دستگاه
پیشرفتهیک CI بسازید که با هر تغییر مدل، آن را به دو runtime (مثلاً ONNX Runtime و Core ML یا LiteRT) تبدیل کند، روی دستگاه یا شبیهساز بنچمارک دقت و تأخیر بگیرد و اگر نسبت به نسخهٔ قبل افت دیده شد، خطا بدهد. نسخهگذاری مدل و یک مکانیزم ساده برای بازگشت به نسخهٔ قبل اضافه کنید. Deepgram «گرفتن regression پیش از مشتری» و Hudl «canary release و rollback امن» را جزو کار آوردهاند.
مثالهای واقعی و Case Studies
داستانهای واقعی از مهندسانی که در این حوزه تأثیرگذار بودهاند
دانشیار رسمی دانشکدهٔ مهندسی برق و علوم کامپیوتر MIT. طبق صفحهٔ آزمایشگاهش، دکترایش را از Stanford با راهنمایی Bill Dally گرفته است.
طبق همین صفحه، روشهای «Deep Compression» (pruning و quantization) و «Efficient Inference Engine» را پایه گذاشت که برای اولین بار sparsity وزنها را به تراشههای AI امروزی آورد. کارهایش در TinyML و جستجوی معماری آگاه از سختافزار (Once-for-All) به استقرار مدل روی دستگاههای محدود کمک کرده و روشهای SmoothQuant و AWQ برای quantization مدلهای زبانی در NVIDIA TensorRT-LLM به کار رفتهاند. AWQ و TinyChat اجرای LLM روی دستگاه با quantization چهاربیتی را ممکن کرد و جایزهٔ بهترین مقالهٔ MLSys 2024 را گرفت. مجموعه درسهای باز EfficientML.ai را هم او راه انداخته است.
کار Han نشان میدهد ایدههای پژوهشی فشردهسازی مدل چقدر سریع به ابزارهای صنعتی میرسند. یادگیری این روشها از منبع اصلی، مثل درس MIT 6.5940، پایهای است که با عوض شدن runtime ها کهنه نمیشود.
دانشیار گروههای یادگیری ماشین و علوم کامپیوتر دانشگاه Carnegie Mellon و Distinguished Engineer در NVIDIA. به گفتهٔ صفحهٔ شخصیاش، دکترایش را از دانشگاه واشنگتن گرفته و از ۲۰۱۹ تا ۲۰۲۴ سمت Chief Technologist را در OctoAI داشته، شرکتی که NVIDIA آن را خرید.
طبق صفحهٔ شخصیاش، Apache TVM، یک کامپایلر خودکار و سرتاسری برای یادگیری عمیق، و MLC-LLM، موتور استقرار LLM با کامپایل یادگیری ماشین، را شروع کرده است؛ XGBoost را هم ساخته و از همسازندگان Apache MXNet است. خودش میگوید علاقه دارد از مدل تا لایهٔ پایین سختافزار، کل پشته را یکجا ببیند.
مسیر Chen نشان میدهد چرا کامپایلر برای Edge AI مهم است: وقتی سختافزارها اینقدر متنوعاند، ابزاری که یک مدل را برای هر سختافزار بهینه کند به اندازهٔ خود مدل ارزش دارد. دیدن کل پشته، از مدل تا سختافزار، مزیتی است که در این حوزه زیاد به کار میآید.
سازندهٔ کتابخانهٔ GGML و پروژهٔ llama.cpp. طبق ویکیپدیا، اواخر سپتامبر ۲۰۲۲ کار روی GGML را شروع کرد، یک کتابخانهٔ C برای جبر tensor با تأکید بر مدیریت دقیق حافظه و چندرشتهای بودن، و پیش از llama.cpp روی whisper.cpp برای اجرای مدل گفتار Whisper کار کرده بود.
طبق ویکیپدیا، در مارس ۲۰۲۳ llama.cpp را بهعنوان پیادهسازی inference مدل Llama با C/C++ خالص و بدون وابستگی شروع کرد تا روی کامپیوترهای بدون GPU کارایی بهتری بدهد؛ بعدها پشتیبانی GPU و NPU هم اضافه شد. llama.cpp تا مه ۲۰۲۶ بیش از ۱۰۹ هزار ستاره در GitHub گرفته و هستهٔ تقریباً همهٔ ابزارهای اجرای محلی LLM، از جمله Ollama و LM Studio، شمرده میشود.
یک کتابخانهٔ کوچک و ساده که روی سختافزار معمولی خوب کار کند، میتواند به زیرساخت یک صنعت تبدیل شود. برای کسی که وارد Edge AI میشود، خواندن کد پروژههایی مثل llama.cpp درس عملی خوبی در quantization و بهینهسازی برای CPU است.
نمونه آگهی استخدام واقعی + تحلیل
یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش
Applied ML Engineer - Edge Devices
تحلیل نیازمندیها
Hands-on experience deploying ML models to edge or non-NVIDIA hardware in production. This is required. Cloud-only or GPU-only serving experience does not qualify on its own.
مهمترین شرط آگهی و تنها شرطی که با «This is required» تأکید شده: باید قبلاً مدلی را روی سختافزار edge یا غیر NVIDIA به پروداکشن برده باشید. تجربهٔ serving در ابر، هر قدر هم عمیق، بهتنهایی پذیرفته نمیشود. اگر این سابقه را ندارید، پروژهٔ شخصی روی دستگاه واقعی با بنچمارک منتشرشده نزدیکترین جایگزین است.
ضروریWorking knowledge of quantization and precision tradeoffs (INT8, FP16, mixed precision, calibration) and how they affect accuracy and latency on real targets.
دانستن تعریف quantization کافی نیست؛ باید بدانید روی دستگاه واقعی INT8 یا FP16 چه بر سر دقت و تأخیر میآورد و calibration را چطور انجام میدهید. در مصاحبه انتظار داشته باشید از یک تجربهٔ مشخص بپرسند که در آن دقت افت کرد و چطور جبرانش کردید.
ضروریExperience with at least one edge or vendor inference runtime and its conversion toolchain (for example ONNX Runtime, TFLite, ExecuTorch, OpenVINO, Qualcomm AI Engine, or a vendor NPU SDK).
یک runtime کافی است، به شرط اینکه آن را عمیق بشناسید: از تبدیل مدل تا خطاهای رایج آن. این فهرست تصویر خوبی از ابزارهای رایج این بازار در ۲۰۲۶ است.
ضروریAbility to modify a model to fit a platform: reading and rewriting model graphs, swapping unsupported operators, and adjusting architecture parameters without breaking accuracy.
این همان مهارتی است که متخصص edge را از کاربر عادی ابزار تبدیل جدا میکند: وقتی تبدیل خودکار شکست میخورد، خودتان گراف را باز میکنید و تغییر میدهید. ابزاری مثل Netron برای دیدن گراف و تمرین روی مدلهایی که operator غیرمعمول دارند کمک میکند.
ضروریStrong Python and PyTorch, and production-quality engineering habits: tests, reproducibility, and benchmarks that others can rerun.
Python و PyTorch پایهاند، اما تأکید روی عادتهای مهندسی است: تست، تکرارپذیری و بنچمارکی که دیگران بتوانند دوباره اجرا کنند. در پورتفولیو، اسکریپت بنچمارک و دستور اجرای آن را کنار نتیجه بگذارید.
ضروریComfort building automation around model conversion and deployment.
شرکت میخواهد بردن مدل به دستگاه تازه تکراری و خودکار باشد، نه دستی و یکباره. تجربه با CI، اسکریپتنویسی و نسخهگذاری مدل اینجا امتیاز است.
مهمA builder mindset and clear communication: you can scope a port on an unfamiliar platform and drive it to a measured result.
باید بتوانید روی سکویی که قبلاً ندیدهاید، هدف را تعریف کنید و کار را تا یک نتیجهٔ اندازهگیریشده پیش ببرید و آن را روشن گزارش کنید. این برای نقشی که بین تیم کرنل و تیم مدل قرار دارد اهمیت زیادی دارد.
مهمExposure to writing or reading low-level kernels (CUDA, Metal, NEON, or vendor DSP code), enough to collaborate closely with embedded engineers.
شرط نیست، امتیاز است. لازم نیست خودتان کرنل بنویسید؛ کافی است کد سطح پایین را آنقدر بفهمید که با مهندسان embedded دربارهٔ آن حرف بزنید.
مفیدFamiliarity with several accelerator families (Qualcomm, Apple, ARM, Intel, AMD, or custom NPUs) and their quirks.
شناخت رفتارهای خاص هر خانوادهٔ شتابدهنده با تجربه به دست میآید. اگر فقط با یک سکو کار کردهاید، یک پروژهٔ کوچک روی سکوی دوم تصویر شما را در این آگهی کاملتر میکند.
مفیدتحلیل مسئولیتها
Port Deepgram speech models to non-NVIDIA and edge platforms, adapting model structure and parameters so they run within the target's existing operator set, runtime, and kernels with minimal modification.
کار اصلی انتقال مدلهای موجود است، نه ساختن مدل تازه. هدف این است که مدل با کمترین تغییر در چارچوب همان چیزی که سکوی مقصد دارد اجرا شود.
Own serving-side model decisions for edge targets: quantization and precision choices, operator substitution, graph rewrites, and architecture tweaks that fit a model to a device's constraints while holding accuracy and latency.
تصمیمهای فنی دربارهٔ اینکه مدل چطور روی دستگاه اجرا شود با شماست؛ یعنی مسئول نتیجه هم هستید، هم برای دقت و هم برای تأخیر.
Validate every port on real hardware: build accuracy, latency, throughput, and memory benchmarks per platform, and catch regressions before a customer does.
هیچ انتقالی بدون اندازهگیری روی سختافزار واقعی تمام شده حساب نمیشود. بنچمارک هر سکو را خودتان میسازید و نگه میدارید.
Build the deployment path for edge targets: model packaging, conversion pipelines, versioning, and automated delivery so shipping a model to a new device is repeatable rather than bespoke.
بخشی از کار شبیه MLOps است: بستهبندی، نسخهگذاری و تحویل خودکار مدل به دستگاهها.
Work with Embedded AI Engineers when a standard kernel isn't enough: specify what the model needs, then adapt the model to use the custom kernel they deliver.
مرز دو نقش روشن است: شما مشخص میکنید مدل چه میخواهد و تیم embedded کرنل را مینویسد. توانایی نوشتن یک مشخصهٔ فنی دقیق برای تیم دیگر اینجا مهم است.
Partner with platform and silicon vendors on their runtimes and toolchains, and turn their expected model format and operator conventions into a working Deepgram deployment.
با شرکتهای سازندهٔ تراشه و سکو کار مستقیم دارید و باید قالب و قراردادهای ابزار آنها را بفهمید و به استقرار کارا تبدیل کنید.
Feed edge constraints back to Research and Impeller so future models are easier to port, without taking on research or core productionization work yourself.
شما محدودیتهای دستگاه را به تیم پژوهش میگویید تا مدلهای بعدی راحتتر منتقل شوند، اما خودتان مسئول پژوهش یا productionization اصلی مدل نیستید. این همان مرزی است که این نقش را از مهندس یادگیری ماشین معمولی جدا میکند.
نتیجهگیری کلی
این آگهی تصویر روشنی از کار روزانهٔ متخصص Edge AI در ۲۰۲۶ میدهد: مدلی که در ابر روی GPU کار میکند را بگیر، با quantization، جایگزینی operator و تغییر ساختار روی سختافزار دیگری جا بده، روی دستگاه واقعی ثابت کن که دقت و سرعت حفظ شده و مسیر را خودکار کن. عنوان آگهی Applied ML Engineer است، نه Edge AI Specialist، و سطح آن ارشد یا Staff است. پایهٔ حقوق اعلامشده ۱۵۵ تا ۲۴۵ هزار دلار بهعلاوهٔ پاداش سالانهٔ ۱۰ درصدی و سهام است و کار بهصورت دورکاری در آمریکا انجام میشود.
آینده و روندها
پیشبینی ۵–۱۰ ساله و مهارتهایی که باید یاد بگیرید
در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایان شرکتکننده گروه «متخصصان AI و یادگیری ماشین» را سومین و «متخصصان اینترنت اشیا (IoT)» را دهمین شغل پررشد (از نظر درصد) در فاصلهٔ ۲۰۲۵ تا ۲۰۳۰ پیشبینی کردهاند. WEF گروه جداگانهای برای Edge AI ندارد؛ این دو نزدیکترین گروهها هستند.
منبع: WEF Future of Jobs Report 2025
مهارتهای نوظهور که باید یاد بگیرید
پیشبینیهای آینده
در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایان «متخصصان AI و یادگیری ماشین» را سومین شغل پررشد تا ۲۰۳۰ دانستهاند. به گفتهٔ همین گزارش، سریعترین رشدها بیشتر از پیشرفتهای فناوری، از جمله AI و رباتیک، میآید.
در همان فهرست WEF، «متخصصان اینترنت اشیا (IoT)» دهمین شغل پررشد تا ۲۰۳۰ است؛ حوزهای که کارفرمایانی مثل Samsara، با پلتفرمی بر پایهٔ دادهٔ IoT، برای آن نقش Edge AI استخدام میکنند.
اولین ریسک دیدهنشدن است: عنوان یکسانی برای این کار وجود ندارد، Glassdoor آمریکا برای Edge AI Engineer حقوق گزارششدهای ندارد و ITJobsWatch در بریتانیا در شش ماه منتهی به ۲۲ اکتبر ۲۰۲۶ فقط ۱۴ آگهی دائم را شمرده که Edge AI را ذکر کردهاند. دوم، ورود سخت است، چون بیشتر آگهیها سابقهٔ قبلی استقرار روی سختافزار محدود و سطح ارشد میخواهند. سوم، وابستگی به سازندگان تراشه و runtime ها: ابزارها زود عوض میشوند، همانطور که TensorFlow Lite جای خود را به LiteRT داده است. بخشی از نقشها هم در صنایع دفاعی است و مجوز امنیتی آمریکا میخواهد (Palantir). به نظر میرسد کسانی ماندگارترند که اصول را، یعنی quantization، معماری سختافزار و اندازهگیری دقیق، مستقل از یک ابزار خاص بلدند.
منابع
اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۳۸ منبع بررسی شده است.
- Applied ML Engineer - Edge Devices — Deepgram (job posting)
- Embedded AI Engineer, On-Device Models — Deepgram (job posting)
- Staff Machine Learning Engineer - Edge AI — Samsara (job posting)
- Staff Machine Learning Engineer - Edge AI, Remote - Canada — Samsara (job posting)
- Staff Software Engineer, On-Device Machine Learning — Google (job posting)
- On-device ML Performance Engineer, Graphics, Games and Machine Learning — Apple (job posting)
- Embedded Machine Learning Engineer, Wireless Technologies & Ecosystems — Apple (job posting)
- Apple Jobs — search results for “on-device machine learning”
- Senior MLOps Engineer - Edge — Hudl (job posting)
- Autonomy Engineer - Deep Learning Model Acceleration — Skydio (job posting)
- Software Engineer - Edge AI Systems — Palantir (job posting)
- Operating Systems Engineer, On-Device Inference | Consumer Devices — OpenAI (job posting)
- Deep Learning Research Engineer — Plumerai (job posting)
- Senior Edge Algorithm Integration Engineer — WHOOP (job posting)
- levels.fyi — Machine Learning Engineer salaries, United States
- levels.fyi — Machine Learning Engineer salaries, Canada
- levels.fyi — Machine Learning Engineer salaries, United Kingdom
- levels.fyi — Machine Learning Engineer salaries, Germany
- levels.fyi — Machine Learning Engineer salaries, Netherlands
- levels.fyi — Machine Learning Engineer salaries, Switzerland
- levels.fyi — Machine Learning Engineer salaries, Australia
- levels.fyi — Machine Learning Engineer salaries, Singapore
- levels.fyi — Machine Learning Engineer salaries, India
- levels.fyi — Machine Learning Engineer salaries, United Arab Emirates
- Glassdoor — Edge AI Engineer salaries, United States (no reported salaries)
- ITJobsWatch — Edge AI (UK)
- World Economic Forum — The Future of Jobs Report 2025 (PDF)
- Apple Intelligence Foundation Language Models Tech Report 2025 — Apple Machine Learning Research
- MobileNet — Wikipedia
- llama.cpp — Wikipedia
- ggml.ai
- LiteRT, successor to TensorFlow Lite — google-ai-edge (GitHub)
- About — EDGE AI FOUNDATION
- Song Han — MIT HAN Lab
- Tianqi Chen — homepage
- MIT 6.5940 Fall 2026: TinyML and Efficient AI Computing
- Machine Learning Systems — open textbook (mlsysbook.ai)
- Edge Impulse
