مهندس تنظیم دقیق مدل
Fine-tuning Engineer
مهندس تنظیم دقیق مدل (Fine-tuning Engineer) یک مدل از پیش آموزشدیده را برمیدارد و با آموزش بیشتر، رفتارش را برای یک کار یا حوزهٔ مشخص بهتر میکند: با Supervised Fine-Tuning، روشهای کمهزینه مثل LoRA، بهینهسازی بر اساس ترجیحات (مثل DPO) و یادگیری تقویتی. بازار این کار را تقریباً هیچوقت با عنوان «Fine-tuning Engineer» آگهی نمیکند؛ نام رایج آن post-training است و آگهیها عنوانهایی مثل Research Engineer, Post-Training، Member of Technical Staff, Post-Training یا Machine Learning Engineer, Post Training دارند.
مقدمه و تعریف شغل
مهندس تنظیم دقیق مدل کسی است که وزنهای یک مدل از پیش آموزشدیده را با آموزش بیشتر تغییر میدهد تا مدل در یک کار، یک حوزه یا یک سبک رفتار بهتر شود. صنعت امروز به این مرحله post-training میگوید: هر آموزشی که بعد از pretraining انجام میشود، از Supervised Fine-Tuning روی جفتهای دستورالعمل و پاسخ تا preference optimization و یادگیری تقویتی. آگهی Handshake این کار را «طراحی سیستمها و روشهای post-training، شامل supervised fine-tuning، یادگیری تقویتی، preference optimization و reward modeling» توصیف میکند. بخش بزرگی از کار هم بیرون از خود آموزش است: ساختن داده، طراحی ارزیابی و تشخیص اینکه چرا یک آزمایش نتیجهٔ عجیبی داده است.
عنوان «Fine-tuning Engineer» در آگهیها تقریباً وجود ندارد. در بررسی ما در ۲۲ اکتبر ۲۰۲۶ روی ۲۰۰ تابلوی استخدام شرکتها در Greenhouse، Ashby و Lever (با ۲۰٬۵۴۵ آگهی باز) هیچ آگهیای این عنوان را نداشت، در حالی که ۴۹ آگهی در ۲۵ شرکت «post-training» را در عنوان داشتند و فقط ۵ آگهی «fine-tuning» را. رایجترین شکل «Research Engineer, Post-Training» بود (در شرکتهایی مثل Deepgram، Harvey، Cognition و Anthropic) و بعد «Member of Technical Staff, Post-Training» (Cohere، Handshake و Modal). شرکتهای بزرگ همین کار را زیر عنوان مهندس یادگیری ماشین آگهی میکنند، مثل «Senior Staff Machine Learning Engineer, Post Training» در Airbnb. نزدیکترین عنوانی که پیدا کردیم، «Senior AI Model Fine-Tuning Engineer» در TSMC، هم پر شده بود. اهمیت این کار هم در آگهیها پیداست: Baseten مینویسد از نظر حجم inference، «اکثریت قاطع» ترافیک این پلتفرم به مدلهایی است که به شکلی post-train شدهاند. در سایتهای حقوقی که بررسی کردیم دادهای برای این عنوان پیدا نشد و صفحهٔ ZipRecruiter برای نزدیکترین عنوان، Machine Learning Research Engineer، میانگین حدود ۱۰۶ هزار دلار نشان میدهد که از کف همهٔ بازههایی که در آگهیها دیدیم پایینتر است و پیداست شغل دیگری را میسنجد؛ برای همین جدول حقوق این صفحه از بازههای چاپشده در خود آگهیها ساخته شده است.
چه چیزی میسازید؟
مثالهای واقعی از خروجی کار یک مهندس تنظیم دقیق مدل
مدل تخصصی برای یک حوزهٔ حرفهای
به نوشتهٔ آگهی Harvey، post-training راهی است که این شرکت با آن بازخورد متخصصان و trace های ایجنت را به مدلهایی تبدیل میکند که در کار حقوقی بهطور معناداری بهترند. مهندس آن آزمایشهای آموزش را تعریف و اجرا میکند و با شرکای پژوهشی داده، محیط، grader و دستورالعمل آموزش بهتر میسازد.
بهبود مدلهای صوتی برای مشتری
در Deepgram نمونهٔ پروژهها گسترش مدلها به زبانهای تازه، تلفظ درست نامها، اصطلاحات و اعداد در تبدیل متن به گفتار و جدا کردن صدای گوینده از نویز است؛ مهندس برای حلشان از fine-tuning، دادهٔ تازه یا مدلهای بیرونی استفاده میکند.
ایجنتهای برنامهنویسی
Cognition، سازندهٔ Devin، در آگهیاش مینویسد post-training «پل حیاتی میان توانایی خام مدل و سیستمی است که در دنیای واقعی مفید، ایمن و مؤثر باشد». مهندس روی داده، مراحل آموزش، hyperparameter ها و روشهایی مثل RLHF و RLAIF کار میکند.
مدل اختصاصی برای مشتریان یک پلتفرم
تیم Post-Training در Baseten مسئول موفقیت مدلهایی است که مشتریان post-train کردهاند و ابزار داخلی آموزش آنها را میسازد. در Together AI هم مهندس مشتری را در LoRA، SFT، DPO، RLHF و GRPO از آزمایش تا پروداکشن همراهی میکند.
pipeline دادهٔ post-training
در Cohere یک نقش کامل به ساختن pipeline هایی اختصاص دارد که دادهٔ post-training مدلها را تولید میکنند، از دادهٔ SFT و RL تا دادهٔ مصنوعی و برچسبخوردهٔ انسانی، همراه با کیفیت، نسخهبندی و تکرارپذیری داده.
مدل پاداش و ارزیابی
در Pika مهندس post-training برای مدلهای تولید ویدیو مدل پاداش میسازد، دادههای ترجیحات جمع میکند و مراقب reward hacking است. Harvey هم طراحی سیستمهای grading و پاداشی را میخواهد که برای کار حقوقی پرریسک به اندازهٔ کافی سختگیر باشند.
تخصصهای مختلف مهندس تنظیم دقیق مدل
این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد
SFT و fine-tuning کمهزینه
SFT & Parameter-Efficient Fine-Tuning
آموزش مدل روی جفتهای دستورالعمل و پاسخ و روشهایی مثل LoRA که فقط بخش کوچکی از پارامترها را آموزش میدهند. Thinking Machines یک نقش کامل برای پژوهش روی LoRA و روشهای parameter-efficient دارد.
بهینهسازی ترجیحات و یادگیری تقویتی
Preference Optimization & Reinforcement Learning
RLHF، DPO، GRPO و RL با پاداش قابلوارسی. آگهی Cohere طراحی و تحلیل آزمایشهای بزرگ RL و روشهایی برای تعمیم بهتر مدل به کارهای ناآشنا را میخواهد.
داده و محیطهای post-training
Post-Training Data & Environments
ساخت دادهٔ SFT، ترجیحات و RL، دادهٔ مصنوعی و محیطهای آموزش ایجنت. Cohere برای «Post-training Data Infrastructure» و Handshake برای داده، ارزیابی و محیطهای آموزش آزمایشگاههای frontier استخدام میکنند.
ارزیابی post-training
Post-Training Evaluation
ساخت ارزیابیهایی که نشان دهند مدل واقعاً یاد گرفته یا فقط به بنچمارک عادت کرده است. Anthropic عنوان «Research Engineer, Post-Training Model Evaluations» و Thinking Machines «Research, Post-Training Evals» را آگهی کردهاند.
fine-tuning برای مشتری
Customer-Facing Fine-Tuning
همراهی مشتریها در ساختن مدل اختصاصی روی یک پلتفرم ابری. Together AI این نقش را «Forward Deployed Engineer (Inference & Post-Training)» مینامد و Fireworks AI تجربهٔ fine-tuning را برای Applied ML Engineer امتیاز میداند.
تفاوت با شغلهای مشابه
کجا این شغل تمام میشود و شغل دیگری شروع میشود؟
مهندس LLM کل زنجیره را دارد: انتخاب و ارزیابی مدل، fine-tune در صورت نیاز، فشردهسازی، استقرار و ساختن RAG و ایجنت. در صفحهٔ LLM Engineer همین سایت، «fine-tuning و post-training» یکی از تخصصهای آن نقش است. مهندس تنظیم دقیق مدل روی همین یک حلقه عمیق میشود و بیشتر وقتش صرف داده، آموزش و ارزیابی خود مدل میشود، نه ساختن اپلیکیشن روی آن. عنوان آگهی Airbnb، «LLM Fine-tuning and Optimization»، نشان میدهد این دو در شرکتها گاهی یکیاند.
مهندس ML معمولاً مدل را روی دادهٔ خود شرکت از ابتدا آموزش میدهد و نگه میدارد، مثل مدل ریسک یا توصیه. مهندس post-training از یک مدل از پیش آموزشدیده شروع میکند و آن را تطبیق میدهد. پایهها مشترکاند و در شرکتهای بزرگ این کار اغلب زیر عنوانهای مهندسی عمومیتر آگهی میشود: Airbnb «Senior Staff Machine Learning Engineer, Post Training» و Waymo «Principal Software Engineer, Post Training» دارند.
مهندس هوش مصنوعی روی مدلهای آماده با پرامپت، RAG و ایجنت محصول میسازد و معمولاً وزن مدل را تغییر نمیدهد. fine-tuning جایی وارد میشود که اینها کافی نیست، مثلاً برای قالب، سبک یا مهارتی که مدل پایه ندارد. برای اضافه کردن دانش تازه هم fine-tuning لزوماً راه بهتر نیست: پژوهش «Fine-Tuning or Retrieval?» نشان داد RAG در تزریق دانش بهطور پیوسته از fine-tuning بدون نظارت بهتر عمل کرده است.
پژوهشگر بیشتر روی روشهای تازه کار میکند و نتیجه را منتشر میکند؛ مهندس post-training روشها را پیاده، در مقیاس اجرا و به مدل قابل استفاده تبدیل میکند. مرز این دو در این حوزه بسیار باریک است: Cognition در آگهیاش مینویسد «بین پژوهش و مهندسی فرقی نمیگذاریم» و Thinking Machines برای نقش «Research, Finetuning Science» مقاله و پست فنی را بخشی از کار میداند. نقشهای Research Scientist، مثل Datadog، بیشتر دکترا یا تجربهٔ معادل میخواهند.
تأثیر در صنایع مختلف
مهندس تنظیم دقیق مدل در همه صنایع مشغول به کار است — نه فقط شرکتهای فناوری
حقوقی
Harvey بازخورد متخصصان و trace های ایجنت را با post-training به مدلهایی تبدیل میکند که در کار حقوقی بهترند
Voice AI
Deepgram مدلهای گفتار را به زبانهای تازه گسترش میدهد و تلفظ نامها، اصطلاحات و اعداد را بهتر میکند
توسعهٔ نرمافزار
Cognition با post-training رفتار ایجنت برنامهنویسی Devin را در کارهای طولانی شکل میدهد
سفر و پشتیبانی مشتری
تیم CS AI در Airbnb مدلهای زبانی را برای دستیار AI، ایجنت خودکار و برنامهریزی سفر fine-tune میکند
سلامت
Abridge میخواهد مکالمههای بالینی، ویرایشهای پزشکان و دادهٔ پروندهٔ الکترونیک سلامت را به تواناییهای پایدار مدل تبدیل کند
خودروی خودران
Waymo مینویسد post-training همین حالا در نرمافزار داخل خودرو استفاده میشود و دنبال رهبری برای نسل بعدی آن است
مانیتورینگ و امنیت نرمافزار
Datadog روی post-training و یادگیری تقویتی ایجنتهایی کار میکند که در سیستمهای پیچیدهٔ واقعی مشاهدهپذیری و امنیت عمل میکنند
تولید ویدیو
Pika مدلهای تولید ویدیو را با RL همراستا میکند و برای آنها مدل پاداش میسازد
تصورات غلط رایج
قبل از تصمیمگیری، این باورهای اشتباه را بشناسید
fine-tuning بهترین راه یاد دادن اطلاعات تازه به مدل است
پژوهش «Fine-Tuning or Retrieval?» (۲۰۲۳) نشان داد RAG هم برای دانشی که مدل قبلاً دیده و هم برای دانش کاملاً تازه بهطور پیوسته از fine-tuning بدون نظارت بهتر عمل کرده و مدلها در یاد گرفتن واقعیتهای تازه از این راه مشکل دارند. fine-tuning بیشتر برای رفتار، قالب و مهارت به کار میآید.
هرچه دادهٔ آموزشی بیشتر، نتیجه بهتر
مقالهٔ LIMA یک مدل ۶۵ میلیارد پارامتری را فقط با ۱٬۰۰۰ نمونهٔ با دقت انتخابشده fine-tune کرد و نتیجه گرفت تقریباً همهٔ دانش مدل در pretraining یاد گرفته میشود. مقالهٔ QLoRA هم گزارش کرد fine-tuning روی یک مجموعهدادهٔ کوچک و باکیفیت به نتیجهٔ state-of-the-art رسید. کیفیت و تنوع داده مهمتر از حجم آن است.
بدون خوشهٔ بزرگ GPU نمیشود fine-tuning یاد گرفت
مقالهٔ QLoRA نشان داد میشود مدلی با ۶۵ میلیارد پارامتر را روی یک GPU با ۴۸ گیگابایت حافظه fine-tune کرد و LoRA تعداد پارامترهای قابل آموزش را چندین مرتبه کم میکند. برای یادگیری و پورتفولیو یک GPU کافی است؛ اما در آزمایشگاههای بزرگ کار در مقیاس دیگری است و Cognition از آموزش روی هزاران GPU مینویسد.
LoRA همیشه همان نتیجهٔ fine-tuning کامل را میدهد
به این سادگی نیست. پژوهش «LoRA Learns Less and Forgets Less» نشان داد LoRA با تنظیمات رایج در برنامهنویسی و ریاضی بهطور محسوسی از fine-tuning کامل عقب میماند، اما تواناییهای بیرون از آن حوزه را بهتر حفظ میکند. Thinking Machines در «LoRA Without Regret» گزارش کرد LoRA روی مجموعهدادههای کوچک و متوسط همپای fine-tuning کامل است و وقتی داده از ظرفیت آن بیشتر شود عقب میافتد.
برای این شغل حتماً دکترا لازم است
بسته به شرکت است. Airbnb برای نقشهای Senior Staff و Principal دکترا میخواهد، اما Deepgram نوشته «مدرک مشخصی نمیخواهیم»، Cognition دکترا را «یکی از نشانهها در میان نشانههای بسیار» میداند، Handshake توانایی اثباتشده را مهمتر از عنوان، مدرک یا مسیر شغلی میداند و Unsloth فارغالتحصیل تازه را هم میپذیرد. در همهٔ اینها کار قابل نمایش، مثل پروژه، کد متنباز یا نتیجهٔ منتشرشده، جای مدرک را میگیرد.
یک روز کاری واقعی
در هر سطح روز کاری چه شکلی است؟
جونیور (۰–۲ سال)
کارها زیر نظر یک مهندس ارشد و روی بخشهای مشخص است: آماده کردن داده، اجرای آزمایشهایی که دیگران طراحی کردهاند و اجرای ارزیابیها. بخش مهمی از کار، یاد گرفتن خواندن منحنیهای آموزش و خروجیهای مدل است.
- ◆تبدیل یک مجموعهداده به قالب chat template و حذف نمونههای تکراری یا خراب
- ◆اجرای یک آزمایش LoRA با تنظیمات مشخص و ثبت نتیجه در ابزار ردیابی آزمایش
- ◆اجرای مجموعهٔ ارزیابی روی checkpoint تازه و مقایسه با نسخهٔ قبلی
- ◆خواندن چند ده خروجی مدل و یادداشت الگوهای خطا
میانی (۲–۵ سال)
خودتان آزمایش طراحی میکنید: فرضیه، داده، روش و معیار. آگهی Handshake از این سطح میخواهد پرسشهای مبهم را به فرضیه، آزمایش و برنامهٔ ارزیابی تبدیل کنید و سیگنال را از نویز تشخیص دهید.
- ◆طراحی آزمایش مقایسهٔ SFT تنها با SFT و DPO روی یک کار مشخص
- ◆بررسی اینکه چرا نمرهٔ یک بنچمارک بالا رفته اما خروجیها در عمل بدتر شدهاند
- ◆ساختن یک grader یا ارزیاب خودکار تازه و سنجیدن آن با برچسبهای انسانی
- ◆جلسه با متخصص حوزه برای تعریف اینکه «پاسخ خوب» دقیقاً یعنی چه
ارشد (۵+ سال)
مسئول دستورالعملهای آموزش و تصمیمهای بزرگترید: کدام روش، کدام داده، کدام ارزیابی و چه وقت مدل آمادهٔ انتشار است. در نقشهای Staff و Principal، مثل Airbnb و Waymo، نقشهٔ راه چندساله و تأثیر بر تیمهای دیگر هم اضافه میشود.
- ◆تصمیم دربارهٔ اینکه یک مشکل با داده، با روش آموزش یا با تغییر در سیستم دور مدل حل شود
- ◆بازبینی طراحی آزمایشها و نتیجهگیریهای اعضای تیم
- ◆بررسی یک افت توانایی پس از آموزش تازه و پیدا کردن علت آن
- ◆هماهنگی با تیم زیرساخت برای ظرفیت GPU و سرعت آموزش
مسئولیتها و وظایف
مسئولیتهای اصلی
وظایف روزانه و مهارتهای مورد نیاز در این شغل
- ◈طراحی و اجرای آزمایشهای post-training: SFT، preference optimization، reward modeling و یادگیری تقویتی
- ◈ساختن دستورالعملهای آموزش (training recipes) قابل تکرار و تبدیل آزمایشهای موفق به روال تولید مدل
- ◈ساخت و نگهداری pipeline های دادهٔ post-training: دادهٔ SFT، ترجیحات و RL، مصنوعی و برچسبخوردهٔ انسانی
- ◈طراحی ارزیابیها و بنچمارکهایی که نشان دهند مدل واقعاً بهتر شده و چرا
- ◈طراحی grader و سیستم پاداش و مراقبت در برابر reward hacking و overfitting روی بنچمارک
- ◈تشخیص مشکلات آموزش: ناپایداری، افت تواناییهای قبلی و رفتارهای غیرمنتظرهٔ مدل
- ◈اجرای آموزش روی چند GPU و بهبود سرعت و مصرف حافظهٔ آن
- ◈خواندن trace ها و خروجیهای مدل و تبدیل یافتهها به دادهٔ آموزشی، ارزیابی یا تغییر در سیستم
- ◈تبدیل یک مسئلهٔ مبهم مشتری یا محصول به معیار قابل اندازهگیری و فرضیهٔ قابل آزمایش
- ◈همکاری نزدیک با پژوهشگران، متخصصان حوزه و تیم محصول
- ◈مستندسازی و انتشار یافتهها در قالب گزارش، کد متنباز یا مقاله
- ◈راهنمایی اعضای جوانتر و بالا بردن سطح فنی تیم
مهارتهای مورد نیاز
مهارتهای فنی، نرم و حوزهای که یک مهندس تنظیم دقیق مدل موفق به آنها نیاز دارد
مهارتهای فنی
Python قوی و کد تمیز و قابل نگهداری؛ Handshake، Deepgram، Harvey، Together AI و Airbnb صریحاً آن را خواستهاند
آموزش و debug مدل در سطح کد؛ Handshake، Deepgram، Airbnb و Unsloth آن را نام بردهاند
آموزش مدل روی جفتهای دستورالعمل و پاسخ؛ پایهٔ همهٔ روشهای دیگر post-training
fine-tuning کمهزینه؛ Handshake آن را در کنار fine-tuning کامل جزو تجربههای مرتبط آورده است
DPO، RLHF و reward modeling؛ در آگهیهای Handshake، Harvey، Cognition و Together AI آمده است
ساختن بنچمارک و ارزیابیای که بگوید مدل بهتر شده و چرا؛ Deepgram، Cognition و Handshake آن را جزو وظایف اصلی آوردهاند
PPO، GRPO و RL با پاداش قابلوارسی؛ Cohere تجربهٔ اعمال RL روی LLM را میخواهد
FSDP، DeepSpeed و آموزش چند-GPU؛ Unsloth آن را شرط گذاشته و Deepgram و Harvey امتیاز میدانند
ساخت، پالایش و نسخهبندی دادهٔ SFT، ترجیحات و RL، از جمله دادهٔ مصنوعی
Kubernetes، شبکه، ذخیرهسازی و profiling برنامههای GPU؛ آگهی Baseten همهٔ اینها را برای ابزار آموزش میخواهد
مهارتهای نرم
ساختن فرضیه، انتخاب معیار معنادار و تشخیص اثر واقعی از نویز و باگ؛ Handshake و Cognition با همین کلمات آن را خواستهاند
خواندن trace و خروجیها و تشخیص اینکه معیار واقعاً چیز مهم را میسنجد یا نه (Harvey)
اولویتها سریع عوض میشوند؛ Cognition، Handshake و Deepgram همه به آن اشاره کردهاند
توضیح روشن نتیجهها برای مخاطب فنی و غیرفنی؛ در آگهیهای Harvey، Handshake و Together AI آمده است
مستند کردن آزمایشها و انتشار یافتهها؛ Thinking Machines و Handshake نوشتن فنی را بخشی از کار میدانند
دانش حوزهای
درک attention، tokenization و رفتار مدل هنگام آموزش؛ Unsloth «درک عمیق از نحوهٔ کار transformer ها» را میخواهد
Cognition و Thinking Machines پایهٔ محکم احتمال، آمار و تئوری ML را خواستهاند
روشها سریع عوض میشوند؛ Waymo از Principal میخواهد پژوهشهای post-training را دنبال کند و کاربرد مناسبشان را پیدا کند
حقوق، گفتار، کد یا سلامت؛ Deepgram تجربه با گفتار و Airbnb تجربه با AI در پشتیبانی مشتری را امتیاز میدانند
شناختن راههایی که مدل بدون یادگیری واقعی نمره میگیرد؛ Cohere و Pika صریحاً به آن اشاره کردهاند
نقشه راه و مسیر آموزشی
نقشه راه تبدیل شدن به مهندس تنظیم دقیق مدل
این مسیر گام به گام شما را از صفر تا حرفهای هدایت میکند.
پایهها: Python، PyTorch و یادگیری ماشین
آگهیهای Handshake، Deepgram، Harvey و Together AI صریحاً Python قوی میخواهند و Handshake، Deepgram، Airbnb و Unsloth از PyTorch نام بردهاند. در این مرحله باید بتوانید یک حلقهٔ آموزش را خودتان بنویسید، overfitting را تشخیص دهید و یک مدل را روی دادهٔ تست جداگانه بسنجید. Git و کار با خط فرمان لینوکس را هم از همین ابتدا یاد بگیرید.
Transformer و مدلهای زبانی از درون
کسی که وزنهای مدل را تغییر میدهد باید بداند داخل مدل چه میگذرد. یک مدل GPT کوچک را خودتان بسازید و pretrain کنید تا attention، tokenization و حلقهٔ آموزش را در کد ببینید. آگهی Baseten «درک عمیق از تکنیکها و ابزارهای مدرن آموزش transformer» را میخواهد.
Supervised Fine-Tuning و روشهای کمهزینه (LoRA و QLoRA)
اولین مهارت اصلی این شغل: گرفتن یک مدل پایه و آموزش آن روی جفتهای دستورالعمل و پاسخ. LoRA وزنهای اصلی را ثابت نگه میدارد و فقط چند ماتریس کوچک را آموزش میدهد؛ مقالهٔ LoRA گزارش کرده که برای GPT-3 175B تعداد پارامترهای قابل آموزش ۱۰٬۰۰۰ برابر و حافظهٔ GPU سه برابر کمتر شد. مقالهٔ QLoRA هم نشان داد مدلی با ۶۵ میلیارد پارامتر را میشود روی یک GPU با ۴۸ گیگابایت حافظه fine-tune کرد.
Preference Optimization و یادگیری تقویتی
مرحلهٔ دوم post-training: شکل دادن رفتار مدل با دادهٔ ترجیحات و پاداش. RLHF را از مقالهٔ InstructGPT شروع کنید، بعد DPO را یاد بگیرید که به گفتهٔ مقالهاش همان مسئلهٔ RLHF را با یک تابع خطای ساده حل میکند، و در آخر روشهای آنلاین مثل GRPO. آگهی Together AI از مهندس میخواهد مشتری را در LoRA، SFT، DPO، RLHF و GRPO از آزمایش تا پروداکشن همراهی کند.
داده، ارزیابی و آموزش در مقیاس
در آگهیها وزن داده و ارزیابی به اندازهٔ خود آموزش است: Cohere یک نقش کامل برای pipeline های دادهٔ post-training دارد و Cognition مینویسد کار شما «بالا بردن عددها و مطمئن شدن از معنادار بودن آنها» است. در این مرحله یاد بگیرید بنچمارک اختصاصی بسازید، دادهٔ مصنوعی تولید و پالایش کنید و آموزش را روی چند GPU با FSDP یا DeepSpeed اجرا کنید.
ابزارها و استک فنی
ابزارهایی که هر مهندس AI باید بشناسد، دستهبندیشده بر اساس اولویت
کتابخانههای fine-tuning و post-training
بارگذاری و آموزش مدلهای open-weight؛ آگهی Unsloth تجربهٔ زیاد با Transformers و TRL را میخواهد
فریمورک متنباز آموزش و اجرای LLM؛ مستنداتش پشتیبانی از LoRA، QLoRA، fine-tuning کامل، GRPO و DPO را اعلام کرده است
آموزش توزیعشده و کارایی
تقسیم مدل بین چند GPU در PyTorch؛ آگهی Unsloth تجربهٔ پیادهسازی تکنیکهایی مثل FSDP را شرط گذاشته است
داده و ارزیابی
سرو کردن و پلتفرمهای آموزش
مسیر پیشرفت شغلی
از جونیور تا Staff Engineer — چه مهارتهایی نیاز دارید و چه درآمدی انتظار داشته باشید
ورود: ML Engineer یا مهندس نرمافزار با تمرکز روی مدل
۰ تا ۲ سال
آگهی post-training برای تازهکار کم است. راه رایج، شروع از نقش ML Engineer یا مهندس نرمافزار و کار روی داده، ارزیابی و اجرای آزمایشهای آموزش است. استثناها هم هست: Unsloth برای Founding ML Engineer «هر سطح تجربه، فارغالتحصیل تازه هم قبول» نوشته، اما مشارکت جدی و قابل بازبینی در پروژههای متنباز ML و حل چالشهایش پیش از درخواست را شرط گذاشته است
Research Engineer / Member of Technical Staff, Post-Training
۲ تا ۵ سال
طراحی و اجرای آزمایشهای post-training، ساختن داده و ارزیابی و تفسیر نتایج. آگهی Handshake سه سال سابقهٔ قوی در post-training، fine-tuning یا ارزیابی مدل میخواهد و آگهی Pika دو سال تجربهٔ پژوهشی در post-training یا مدلهای مولد
Senior Research Engineer / Senior ML Engineer
۵+ سال
مسئولیت دستورالعملهای آموزش (training recipes) و تصمیم دربارهٔ روش، داده و ارزیابی. آگهیهای Together AI و Fireworks AI دستکم پنج سال سابقه میخواهند و Anthropic نوشته مهندسان ارشد با تجربهٔ عملی روی سیستمهای frontier را ترجیح میدهد
Staff / Principal
معمولاً ۱۰+ سال
تعیین جهت فنی post-training در سازمان. Airbnb برای Senior Staff و Principal دکترا و ده سال سابقه میخواهد؛ Waymo برای Principal Software Engineer, Post Training کارشناسی ارشد، ده سال سابقهٔ رهبری در سیستم ML پروداکشن و تجربهٔ رهبری یک سیستم post-training با بیش از ۱۰۰ میلیون کاربر
چالشها و جنبههای منفی
واقعیتهایی که کمتر در آگهیهای شغلی میبینید — قبل از ورود بدانید
ارزیابیای که واقعاً چیز درست را بسنجد
عمومیبالا رفتن عدد یک بنچمارک لزوماً یعنی مدل بهتر نشده است. Cognition کار را اینطور توصیف میکند: عددها را بالا ببرید و مطمئن شوید معنادارند. مقالهٔ QLoRA هم نوشت بنچمارکهای رایج chatbot برای سنجش دقیق عملکرد قابل اعتماد نیستند. ساختن ارزیابی خوب بخش بزرگ و دائمی کار است.
فراموش شدن تواناییهای قبلی
عمومیآموزش برای یک حوزه میتواند تواناییهای دیگر مدل را کم کند. پژوهش «LoRA Learns Less and Forgets Less» این مبادله را اندازه گرفت: fine-tuning کامل در حوزهٔ هدف بیشتر یاد گرفت و LoRA تواناییهای بیرون از آن حوزه را بهتر حفظ کرد. Cohere هم پیدا کردن افت توانایی را جزو وظایف آورده است.
reward hacking
تحقیقاتیدر یادگیری تقویتی، مدل ممکن است راهی برای گرفتن پاداش پیدا کند که با هدف واقعی فرق دارد. آگهی Cohere ارزیابیهایی میخواهد که reward hacking و overfitting روی بنچمارک را بگیرند و Pika محافظت در برابر reward hacking را جزو کار ساختن مدل پاداش آورده است.
نتیجههای عجیب و debug سخت
عمومیآموزش میتواند ناپایدار شود یا نتیجهای بدهد که معنا ندارد و علتش ممکن است در داده، کد، تنظیمات یا زیرساخت باشد. Cognition از مهندس میخواهد آنقدر بگردد تا علت را بفهمد و Anthropic «debug مشکلات پیچیده در pipeline آموزش و رفتار مدل» را جزو وظایف آورده است.
فشار پروداکشن
شرکت بزرگوقتی مدلی که آموزش میدهید همان مدلی است که کاربران استفاده میکنند، مشکلها فوریاند. آگهی Anthropic برای Production Model Post-Training نوشته این نقش ممکن است پاسخگویی به حادثه در فرصت کوتاه، از جمله آخر هفته، لازم داشته باشد.
سطح تجربهٔ بالا در ورود
عمومیآگهیهایی که سابقه را مشخص کردهاند کم نمیخواهند: Pika دو سال، Handshake سه سال، Together AI و Fireworks AI پنج سال و Airbnb و Waymo ده سال. آگهی مخصوص تازهکار کم است و راه ورود معمولاً از نقشهای ML Engineer، پژوهش یا کار متنباز قابل نمایش میگذرد.
دستورالعملهای بسته و ابزارهای در حال تغییر
عمومیTrillium Labs در معرفی خود (اکتبر ۲۰۲۶) نوشته با مهمتر شدن post-training، دسترسی به دستورالعملهای کامل آموزش کمیاب شده است؛ یعنی بخش زیادی از دانش روز در آزمایشگاهها میماند. ابزارها هم عوض میشوند: torchtune، کتابخانهٔ post-training خود PyTorch، دیگر فعالانه نگهداری نمیشود.
حقوق و بازار کار جهانی
حقوق جهانی مهندس تنظیم دقیق مدل
حقوق سالانه در کشورهای مختلف بر اساس دادههای منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز میشود.
* ارقام سالانهاند. منبع هر رقم:
- Harvey posting, Research Engineer, Post-Training (San Francisco), posted Jun 26, 2026: posted compensation range, no years or levels stated; median = midpoint
- Handshake posting, Member of Technical Staff, Post-Training (San Francisco), posted Sep 21, 2026: posted range, 3+ years; median = midpoint
- Airbnb posting, Senior Staff Machine Learning Engineer, Post Training (US remote), posted May 5, 2026: base pay range, PhD + 10+ years; median = midpoint
- Cohere posting, Member of Technical Staff - Post-Training (RL & Generalization), posted Oct 14, 2026: Toronto/Montreal base range, no years stated; median = midpoint
- Fireworks AI posting, Applied Machine Learning Engineer (Singapore; SFT/RLHF fine-tuning in preferred qualifications), posted Jul 23, 2026: posted range, 5+ years; median = midpoint
چگونه از صفر شروع کنیم
برنامه گامبهگام برای ورود به مهندسی هوش مصنوعی
ماه ۱: Transformer از نزدیک
یک GPT کوچک را خودتان بسازید تا ببینید آموزش در سطح کد چطور کار میکند.
ماه ۲: اولین SFT با LoRA
یک مدل کوچک را برای یک کار مشخص fine-tune کنید و آن را با مدل پایه روی مجموعهٔ تست جداگانه مقایسه کنید.
ماه ۳: ارزیابی
برای کار خودتان یک ارزیابی اختصاصی بسازید و مدل را روی چند بنچمارک استاندارد هم بسنجید تا افت تواناییهای دیگر را ببینید.
ماه ۴: DPO
روی مدل SFT شدهٔ خودتان DPO اجرا کنید و تفاوت رفتار را با ارزیاب خودکار و بازبینی دستی نشان دهید.
ماه ۵: RL با پاداش قابلوارسی
یک آزمایش کوچک GRPO اجرا کنید و منحنی پاداش و نمونههای reward hacking را مستند کنید.
ماه ۶: پورتفولیو و درخواست
مدلها، داده و کد را منتشر کنید و برای هر پروژه یک گزارش کوتاه بنویسید: فرضیه، روش، ارزیابی و آنچه کار نکرد. بعد برای عنوانهای Research Engineer, Post-Training، Member of Technical Staff و ML Engineer درخواست بدهید، نه فقط Fine-tuning Engineer.
پروژههای پیشنهادی برای رزومه
SFT یک مدل کوچک با LoRA برای یک کار مشخص
مبتدییک مدل open-weight کوچک را با LoRA یا QLoRA برای یک کار مشخص (مثلاً پاسخ به سؤالهای یک حوزه به فارسی) fine-tune کنید، یک مجموعهٔ تست جداگانه بسازید و نتیجه را با مدل پایه مقایسه کنید. در README بنویسید داده را چطور ساختید و چرا.
LoRA در برابر fine-tuning کامل: یادگیری و فراموشی
متوسطبا الهام از مقالهٔ «LoRA Learns Less and Forgets Less» یک مدل کوچک را یک بار با LoRA و یک بار بهطور کامل روی یک حوزه (مثلاً ریاضی) آموزش دهید. هم پیشرفت در همان حوزه را بسنجید و هم افت روی بنچمارکهای بیرون از آن را با lm-evaluation-harness.
DPO روی یک مدل SFT شده
متوسطیک مجموعهٔ دادهٔ ترجیحات (پاسخ بهتر و بدتر برای هر پرامپت) بسازید یا انتخاب کنید و روی مدل SFT شدهٔ خودتان DPO اجرا کنید. مدل پیش و پس از DPO را با یک ارزیاب LLM-as-judge و بازبینی دستی چند ده نمونه مقایسه کنید و بنویسید کجا این دو با هم اختلاف داشتند.
GRPO با پاداش قابلوارسی
پیشرفتهیک مدل کوچک را با GRPO روی مسئلههایی آموزش دهید که درستی جوابشان را میشود خودکار بررسی کرد (مثل ریاضی یا تبدیل متن به قالب مشخص). منحنی پاداش را دنبال کنید و نمونههایی را پیدا کنید که مدل بدون حل واقعی مسئله پاداش گرفته است (reward hacking).
pipeline دادهٔ post-training از صفر
پیشرفتهبا distilabel دادهٔ مصنوعی تولید کنید، با Argilla بخشی از آن را دستی بازبینی کنید، تکراریها و نمونههای ضعیف را حذف کنید و برای مجموعهداده یک data card بنویسید. مدل آموزشدیده و داده را روی Hugging Face Hub منتشر کنید و نشان دهید هر مرحلهٔ پالایش چه اثری روی ارزیابی داشت.
مثالهای واقعی و Case Studies
داستانهای واقعی از مهندسانی که در این حوزه تأثیرگذار بودهاند
طبق گفتوگویی در ۲۰۲۳، دکترای فیزیک نظری دارد، بورسیهٔ Fulbright سال ۲۰۱۰ را گرفته و در استرالیا، آمریکا و سوئیس سمت پژوهشی داشته است. به گفتهٔ خودش حوالی ۲۰۱۶، در پایان پسادکترای فیزیک ذرات، با تجربهٔ کم برنامهنویسی وارد یک مسابقهٔ Kaggle شد و بعد از دانشگاه به صنعت رفت.
در همان گفتوگو مهندس یادگیری ماشین در تیم پژوهش Hugging Face و همنویسندهٔ کتاب «NLP with Transformers» معرفی شده که روی ابزارها و دستورالعملهای همراستا کردن مدلها با ترجیحات انسان و AI کار میکند. نویسندهٔ اول مقالهٔ Zephyr (۲۰۲۳) است که با DPO روی دادهٔ ترجیحات تولیدشده با AI، مدل Zephyr-7B را بدون برچسبگذاری انسانی و با چند ساعت آموزش ساخت.
مسیر او از فیزیک نظری به post-training از راه پروژههای عملی گذشت، نه مدرک تازه. پایهٔ ریاضی قوی بهعلاوهٔ کار عملی و قابل نمایش، ظاهراً برای ورود به این حوزه کافی بوده است.
پایاننامهٔ دکترایش دربارهٔ یادگیری تقویتی مبتنی بر مدل در ۲۰۲۲ بهعنوان گزارش فنی دانشکدهٔ EECS دانشگاه UC Berkeley منتشر شده است. به گفتهٔ سایت خودش، پژوهشگر یادگیری ماشینی است که روی ساختن، فهمیدن و دفاع از مدلهای زبانی باز کار میکند و خبرنامهٔ Interconnects را مینویسد.
نویسندهٔ کتاب «RLHF Book» است، معرفی کوتاهی بر RLHF و post-training مدلهای زبانی که نسخهٔ وب آن در rlhfbook.com در دسترس است و نسخهٔ چاپیاش در ژوئیهٔ ۲۰۲۶ منتشر شد؛ یک دورهٔ post-training هم همراه آن ساخته است. همبنیانگذار و مدیر اجرایی Trillium Labs است، سازمانی غیرانتفاعی که به گفتهٔ معرفیاش در اکتبر ۲۰۲۶ میخواهد دستورالعملهای post-training را کاملاً باز منتشر کند.
او بخش بزرگی از دانش این حوزه را به شکل کتاب و دورهٔ رایگان در دسترس گذاشته است. برای کسی که از بیرون وارد میشود، اینطور منابع نزدیکترین راه به دانشی است که در آزمایشگاهها جریان دارد.
طبق معرفیاش در صفحهٔ Y Combinator، پیشتر در NVIDIA کار میکرد و الگوریتمهایی مثل TSNE را بسیار سریعتر کرد. همچنین کتابخانهٔ متنباز Hyperlearn را برای سریعتر کردن ML نگه میدارد.
بنیانگذار Unsloth است، شرکتی که در ۲۰۲۳ تأسیس شد و در دورهٔ Summer 2024 در Y Combinator بود و ابزار متنباز fine-tuning و یادگیری تقویتی برای LLM میسازد. به گفتهٔ خودش بیش از ۲۰ باگ را در مدلهای متنباز مثل Gemma، Llama، Mistral و Phi پیدا و رفع کرده است.
اعتبار او و شرکتش از کار متنباز دیدنی آمده است: پیدا کردن باگ در مدلهای معروف و ساختن ابزاری که دیگران هر روز استفاده میکنند. آگهی استخدام Unsloth هم همین را از داوطلب میخواهد.
نمونه آگهی استخدام واقعی + تحلیل
یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش
Member of Technical Staff, Post-Training
تحلیل نیازمندیها
3+ years of demonstrated strength in post-training, fine-tuning, or model-evaluation work. Relevant experience may include RL, SFT, LoRA/PEFT, full fine-tuning, RLHF, DPO, PPO, reward modeling, or training environments.
این خط تقریباً تعریف کامل این شغل است. سه سال سابقه میخواهد، اما نه لزوماً با عنوان خاصی؛ کار ارزیابی مدل هم حساب میشود. فهرست روشها همان چیزی است که باید یاد بگیرید: SFT، LoRA، fine-tuning کامل، RLHF، DPO، PPO و reward modeling.
ضروریStrong Python skills and the ability to write clean, efficient, scalable software.
کد آموزش هم نرمافزار است. نوتبوکی که فقط یک بار اجرا شود کافی نیست؛ باید کدی بنویسید که دیگران بخوانند، دوباره اجرا کنند و در مقیاس بزرگ کار کند.
ضروریHands-on experience with modern ML tooling, particularly PyTorch and large-scale data, training, or evaluation workflows.
PyTorch ابزار اصلی است و تجربه با داده و آموزش در مقیاس بزرگ امتیاز جدی. برای تازهکار، پروژهای که داده، آموزش و ارزیابی را کامل و تکرارپذیر نشان دهد بهترین جایگزین است.
ضروریSound experimental judgment: you can form hypotheses, choose meaningful metrics, diagnose failures, and distinguish signal from noise.
مهمترین مهارت پنهان این شغل. یعنی پیش از آموزش بگویید انتظار چه نتیجهای دارید، معیاری انتخاب کنید که واقعاً مهم است و وقتی عددی بالا رفت بتوانید بگویید بهبود واقعی است یا نویز.
ضروریExperience designing systems—not only implementing specifications—including the ability to make tradeoffs around quality, scale, reliability, and reuse.
کارفرما کسی را میخواهد که خودش طراحی کند، نه فقط دستور اجرا کند. در مصاحبه باید بتوانید توضیح دهید چرا یک pipeline را اینطور ساختید و چه چیزی را فدای چه چیزی کردید.
مهمComfort operating in an ambiguous, fast-moving environment with substantial ownership.
تیم تازه شکل گرفته و دستورالعمل آمادهای وجود ندارد. کسی که برای هر کار شرح دقیق میخواهد اینجا سختی میکشد.
مهمCollaborative, low-ego communication and the ability to work effectively with researchers, engineers, domain experts, and customers.
Handshake با آزمایشگاههای frontier و متخصصان حوزه کار میکند، پس بخشی از کار گفتوگو با غیرمهندسهاست: فهمیدن اینکه «خوب» برای یک متخصص یعنی چه و تبدیل آن به داده و معیار.
مهمDeveloping LLM/agent benchmarks, evaluation methodologies, annotation systems, or data-quality frameworks.
در بخش تجربههای «بهویژه جذاب» آمده است. ساختن بنچمارک یا سیستم برچسبگذاری یکی از راههای واقعبینانه برای ورود است، چون بدون خوشهٔ GPU هم میشود آن را نشان داد.
مفیدPublished research, meaningful open-source contributions, or evidence of technical leadership in ML systems or AI research.
این هم امتیاز است، نه شرط. کد متنباز در کنار مقاله آمده، یعنی مشارکت جدی در ابزارهایی مثل TRL یا یک مخزن مستند میتواند جای مقاله را بگیرد.
مفیدتحلیل مسئولیتها
Design post-training systems and methodologies for frontier models, including supervised fine-tuning, reinforcement learning, preference optimization, reward modeling, and related approaches.
هستهٔ کار: انتخاب و طراحی روش آموزش. این نقش فقط اجرای یک اسکریپت آماده نیست؛ باید تصمیم بگیرید کدام روش برای کدام مسئله مناسب است.
Translate open-ended research or partner needs into clear hypotheses, experiments, evaluation plans, and production-quality implementations.
درخواستها مبهم میرسند، مثل «مدل در این نوع کار ضعیف است». کار شما تبدیل آن به فرضیه، آزمایش و معیار روشن است.
Build and improve evaluation frameworks, benchmarks, training environments, data-processing pipelines, and quality-control systems.
بیشتر وقت روی زیرساخت دور آموزش میگذرد: ارزیابی، محیطهای آموزش ایجنت و داده. این همان بخشی است که در پروژههای آموزشی کمتر دیده میشود.
Run fast, rigorous iteration loops: prototype, evaluate, interpret results, and turn learnings into the next system or product.
سرعت و دقت با هم: آزمایش کوچک، ارزیابی، تفسیر و قدم بعدی. نوشتن خلاصهٔ روشن از هر آزمایش این چرخه را سریعتر میکند.
Partner directly with AI researchers and domain experts to develop high-signal data, feedback, and evaluation methods.
دادهای که سیگنال قوی دارد از همکاری با متخصص حوزه میآید. بخشی از مهارت شما طراحی دستورالعمل و فرایندی است که بازخورد متخصص را قابل استفاده کند.
Contribute to the field through benchmarks, open-source tools, research, and technical writing where it creates leverage.
انتشار بیرونی هم بخشی از کار است. اگر از حالا بنچمارک، ابزار یا نوشتهٔ فنی منتشر کنید، همان چیزی را تمرین کردهاید که بعد از شما خواسته میشود.
نتیجهگیری کلی
این آگهی تصویر روشنی از کار روزمرهٔ «Fine-tuning Engineer» در ۲۰۲۶ میدهد، هرچند عنوانش Member of Technical Staff, Post-Training است. سه سال سابقه در post-training، fine-tuning یا حتی فقط ارزیابی مدل کافی است و شرکت صریحاً نوشته توانایی اثباتشده را مهمتر از عنوان، مدرک یا مسیر شغلی میداند. بازهٔ حقوق در آگهی ۲۰۰ تا ۳۵۰ هزار دلار به همراه سهام است. برای آماده شدن، پروژههایی بسازید که SFT، preference optimization و یک ارزیابی جدی را با هم نشان دهند، و آنها را منتشر کنید.
آینده و روندها
پیشبینی ۵–۱۰ ساله و مهارتهایی که باید یاد بگیرید
BLS آمریکا پیشبینی میکند اشتغال در گروه رسمی «پژوهشگران کامپیوتر و اطلاعات» از ۲۰۲۵ تا ۲۰۳۵، ۲۲٪ رشد کند و ساخت فناوریهای تازهٔ مرتبط با AI را نمونهای از نیاز به این متخصصان میآورد. گروه رسمی جداگانهای برای fine-tuning یا post-training وجود ندارد؛ این نزدیکترین گروه به عنوانهای Research Engineer و Research Scientist است و BLS برای آن معمولاً کارشناسی ارشد را مدرک ورودی میداند.
منبع: BLS Occupational Outlook Handbook, 2025–35
مهارتهای نوظهور که باید یاد بگیرید
پیشبینیهای آینده
در گزارش Future of Jobs 2025 مجمع جهانی اقتصاد (WEF)، کارفرمایانِ شرکتکننده در نظرسنجی «متخصصان AI و یادگیری ماشین» را در میان سریعترین شغلهای در حال رشد تا ۲۰۳۰ (از نظر درصد) قرار دادهاند؛ رتبهٔ سوم در فهرست این گزارش.
BLS آمریکا رشد ۲۲ درصدی اشتغال پژوهشگران کامپیوتر و اطلاعات را از ۲۰۲۵ تا ۲۰۳۵ پیشبینی میکند، یعنی حدود ۸٬۴۰۰ شغل تازه و بهطور میانگین ۲٬۹۰۰ فرصت شغلی در سال در این گروه.
سه نکته از آگهیها و منابع پیداست. اول، ورود سخت است: آگهیهایی که سابقه را مشخص کردهاند بین دو تا ده سال میخواهند و آگهی مخصوص تازهکار کم است. دوم، عنوان شغل گمراهکننده است: کسی که فقط «Fine-tuning Engineer» را جستجو کند تقریباً هیچ آگهیای نمیبیند و باید دنبال post-training، Research Engineer و Member of Technical Staff بگردد. سوم، دانش روز در این حوزه پراکنده و سریعالتغییر است: Trillium Labs مینویسد دسترسی به دستورالعملهای کامل post-training کمیاب شده و ابزاری مثل torchtune دیگر نگهداری نمیشود، پس باید یادگیری را دائمی بدانید و به منابع باز و کار عملی تکیه کنید.
منابع
اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۴۵ منبع بررسی شده است.
- Member of Technical Staff, Post-Training — Handshake (job posting)
- Member of Technical Staff, Post-Training (India) — Handshake (job posting)
- Research Engineer, Post-Training — Deepgram (job posting)
- Research Engineer, Post-Training — Harvey (job posting)
- Research Engineer, Post-Training — Cognition (job posting)
- Post-Training Research Engineer — Baseten (job posting)
- Member of Technical Staff - Post-Training (Reinforcement Learning & Generalization) — Cohere (job posting)
- Member of Technical Staff - Post-training (Data Infrastructure) — Cohere (job posting)
- Research, Finetuning Science — Thinking Machines Lab (job posting)
- Member of Technical Staff, Applied Machine Learning Engineer, Singapore — Fireworks AI (job posting)
- Research Scientist, Post-Training — Video Generation — Pika (job posting)
- Member of Product Staff, Foundation Models & Post-Training — Abridge (job posting)
- Senior Staff Machine Learning Engineer, Post Training — Airbnb (job posting)
- Principal Machine Learning Engineer- LLM Fine-tuning and Optimization — Airbnb (job posting)
- Forward Deployed Engineer (Inference & Post-Training) — Together AI (job posting)
- Research Engineer, Production Model Post-Training — Anthropic (job posting)
- Principal Software Engineer, Post Training — Waymo (job posting)
- Staff Research Scientist - Post-Training for Agents — Datadog (job posting)
- Founding ML Engineer — Unsloth AI (job posting, Y Combinator)
- Research Engineer, Post-Training Model Evaluations — Anthropic (job posting)
- Research, Post-Training Evals — Thinking Machines Lab (job posting)
- Member of Technical Staff - Research, Post-Training — Modal (job posting)
- Senior AI Model Fine-Tuning Engineer — TSMC (position filled)
- ZipRecruiter — Machine Learning Research Engineer salary, United States
- BLS Occupational Outlook Handbook — Computer and Information Research Scientists
- World Economic Forum — The Future of Jobs Report 2025 (PDF)
- LoRA: Low-Rank Adaptation of Large Language Models (arXiv, 2021)
- QLoRA: Efficient Finetuning of Quantized LLMs (arXiv, 2023)
- Direct Preference Optimization (arXiv, 2023)
- Training language models to follow instructions with human feedback — InstructGPT (arXiv, 2022)
- LIMA: Less Is More for Alignment (arXiv, 2023)
- Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs (arXiv, 2023)
- LoRA Learns Less and Forgets Less (arXiv, 2024)
- LoRA Without Regret — Thinking Machines Lab (2025)
- Zephyr: Direct Distillation of LM Alignment (arXiv, 2023)
- TRL — Hugging Face documentation
- Unsloth documentation
- Unsloth AI — Y Combinator company page
- Maxime Labonne — LLM Course (GitHub)
- The Sequence Chat: Hugging Face's Lewis Tunstall on ZEPHYR, RLHF and LLM Innovation (2023)
- Nathan Lambert — personal site
- RLHF Book — Nathan Lambert
- Introducing Trillium Labs (Oct 2026)
- Synergy of Prediction and Control in Model-based Reinforcement Learning — Nathan Lambert, UC Berkeley EECS (2022)
- torchtune (GitHub) — no longer actively maintained
