افسر اخلاق هوش مصنوعی
AI Ethicist
افسر اخلاق هوش مصنوعی (AI Ethicist) کمک می‌کند یک سازمان پیش از ساخت و انتشار سیستم AI بداند آن سیستم با آدم‌ها چه می‌کند: اصول و مرزهای مجاز را تعریف می‌کند، اثر و آسیب‌های احتمالی را می‌سنجد، عدالت و شفافیت را با تیم‌های فنی آزمون‌پذیر می‌کند و تصمیم‌ها را مستند و پیگیری می‌کند. عنوان دقیق AI Ethicist در آگهی‌های ۲۰۲۶ کمیاب است و Glassdoor برای آن در آمریکا هیچ دادهٔ حقوقی ندارد. همین کار با عنوان‌های دیگری آگهی می‌شود: Responsible AI Lead در شرکت‌ها و مشاوره‌ها (NTT DATA)، AI Governance Specialist (ASM)، پژوهشگر فلسفه و ارزش‌های انسانی در آزمایشگاه‌های AI (Google DeepMind) و Policy Design یا Product Policy در شرکت‌های مدل‌ساز (Anthropic و Thinking Machines). طبق گزارش AI Index ۲۰۲۶ دانشگاه استنفورد، نقش‌های تخصصی حاکمیت AI در ۲۰۲۵ رشد ۱۷ درصدی داشته‌اند.
مقدمه و تعریف شغل
افسر اخلاق هوش مصنوعی (AI Ethicist) کسی است که پرسش «آیا باید این را بسازیم و اگر بله، با چه مرزهایی؟» را به فرایند، سند و آزمون تبدیل می‌کند. در عمل این کار سه شکل اصلی دارد. در شرکت‌ها و مشاوره‌ها با عنوان Responsible AI Lead یا AI Governance Specialist شناخته می‌شود: NTT DATA این نقش را «Responsible AI / AI Governance / Model Risk / Ethical AI» معرفی می‌کند و از آن می‌خواهد مطمئن شود سیستم‌های AI ایمن، عادلانه، توضیح‌پذیر، شفاف، منطبق با مقررات و هم‌سو با ارزش‌های سازمان باشند. در شرکت‌های مدل‌ساز، کار به طراحی سیاست نزدیک است: تیم Policy Design در Anthropic مرز رفتار مجاز و غیرمجاز را برای حوزه‌هایی مثل ایمنی کودکان، بهزیستی (well-being) کاربران، دست‌کاری روانی و سلامت انتخابات می‌کشد. و در پژوهش، DeepMind پژوهشگری برای پرسش‌های فلسفی دربارهٔ اخلاق، ارزش‌های انسانی و هم‌ترازی AGI استخدام می‌کند.
عنوان دقیق AI Ethicist در بازار ۲۰۲۶ کمیاب است: در جست‌وجوی این پژوهش هیچ آگهی بازی با این عنوان پیدا نشد و Glassdoor برای آن در آمریکا دادهٔ حقوقی ندارد. اما خود کار در حال گسترش است. Indeed Hiring Lab با بررسی ۲۲ کشور نشان داد سهم آگهی‌های AI که به Responsible AI، اخلاق AI یا حاکمیت AI اشاره می‌کنند از نزدیک صفر در ۲۰۱۹ به ۰٫۹٪ در ۲۰۲۵ رسیده است؛ این سهم در آمریکا در مارس ۲۰۲۵ حدود ۱٪، در هلند ۱٫۷٪، در انگلستان ۱٫۲٪ و در کانادا ۱٫۱۶٪ بوده است. به نوشتهٔ همین تحلیل، سخت‌گیری قانونی به‌تنهایی تفاوت کشورها را توضیح نمی‌دهد و عواملی مثل اعتبار شرکت‌ها ممکن است نقش بیشتری داشته باشند. AI Index ۲۰۲۶ دانشگاه استنفورد گزارش می‌کند نقش‌های تخصصی حاکمیت AI در ۲۰۲۵ رشد ۱۷ درصدی داشته‌اند و سهم کسب‌وکارهایی که هیچ سیاست Responsible AI ندارند از ۲۴٪ به ۱۱٪ رسیده است؛ مانع اصلی اکنون اجراست: کمبود دانش (۵۹٪)، بودجه (۴۸٪) و ابهام مقرراتی (۴۱٪). مقررات هم جدی‌تر شده است: طبق کمیسیون اروپا، قانون AI اتحادیهٔ اروپا از ۲ اوت ۲۰۲۶ اجرایی شده و قواعد سیستم‌های پرریسک در حوزه‌هایی مثل استخدام، آموزش و مهاجرت از ۲ دسامبر ۲۰۲۷ اعمال می‌شود. مرز این شغل با دو شغل نزدیک: متخصص انطباق AI (AI Compliance Officer) بیشتر از الزامات قانونی شروع می‌کند و مهندس Responsible AI ابزار و pipeline فنی کاهش ریسک را می‌سازد؛ افسر اخلاق AI تعیین می‌کند چه چیزی قابل قبول است و آن را به معیار و فرایند تبدیل می‌کند. دربارهٔ حقوق: بازه‌های اعلام‌شده در آگهی‌های آمریکایی این پژوهش از ۱۵۵٬۷۰۰ تا ۲۵۹٬۵۰۰ دلار (NTT DATA) و ۱۷۰ تا ۲۲۰ هزار دلار (OpenAI) شروع می‌شوند و در نقش‌های مدیریتی آزمایشگاه‌ها به ۳۳۰ تا ۳۹۵ هزار دلار (Anthropic) می‌رسند. برآوردهای عمومی پایین‌ترند: ZipRecruiter میانگین عنوان AI Ethicist در آمریکا را ۱۲۷٬۷۲۰ دلار (اکتبر ۲۰۲۶) و صدک ۹۰ آن را ۱۴۷٬۵۰۰ دلار برآورد می‌کند، یعنی پایین‌تر از کف همهٔ این آگهی‌ها، و به همین دلیل در جدول حقوق نیامده است. جدول حقوق از راهنمای Pearson Carter است که سطح متخصص (Specialist) را نشان می‌دهد، در حالی که آگهی‌هایی که بازهٔ حقوق داشتند بیشتر نقش‌های Lead یا مدیریتی بودند؛ این تفاوت را هنگام مقایسه در نظر بگیرید.
چه چیزی می‌سازید؟
مثال‌های واقعی از خروجی کار یک افسر اخلاق هوش مصنوعی
فرایند بررسی و تأیید کاربردهای AI
NTT DATA از Responsible AI Lead می‌خواهد فرایند دریافت کاربرد، ارزیابی ریسک، بررسی مدل، تأیید، آمادگی استقرار، پایش و ارجاع مشکل را بسازد و ASM از متخصص حاکمیت AI می‌خواهد همین فرایند را اجرا کند و سوابق قابل ممیزی آن، از فهرست کاربردها تا پذیرش ریسک باقی‌مانده، را نگه دارد.
ارزیابی اثر و آسیب
رهبری ارزیابی اثر (AI impact assessment)، بررسی ریسک و برنامهٔ اصلاح، از وظایف آگهی NTT DATA است. ASM فهرست ریسک‌هایی را که باید بسنجید آورده است: عدالت، سوگیری، توضیح‌پذیری، حریم خصوصی، امنیت سایبری، استحکام، شفافیت، نظارت انسانی، مالکیت فکری و ریسک اعتباری.
سیاست استفاده و مرزهای رفتار مدل
در Anthropic، تیم Policy Design مرز مجاز و غیرمجاز را برای حوزه‌هایی مثل افراط‌گرایی (radicalization)، ایمنی کودکان و سلامت انتخابات می‌کشد و بعد با پژوهش، محصول و مهندسی مداخله‌های لازم را می‌سازد. Thinking Machines همین را برای سیاست‌های استفاده، محتوا و انتشار مدل می‌خواهد.
ارزیابی عدالت و سوگیری
OpenAI از متخصص عدالت می‌خواهد برای سیستم‌های AI در استخدام، ارزیابی عملکرد و ارتقا، ممیزی الگوریتمی طراحی کند، معیار عدالت مناسب هر کاربرد را انتخاب کند و ریشهٔ اختلاف‌ها، از سوگیری برچسب تا متغیرهای جانشین و طراحی فرایند، را پیدا کند.
پژوهش دربارهٔ ارزش‌ها و اثر اجتماعی
DeepMind از پژوهشگر فلسفه و ارزش‌های انسانی می‌خواهد اثر AGI بر نهادهای سیاسی، اقتصاد، حقوق و روابط انسانی را بررسی کند، «نقشهٔ پیامدهای ممکن» را بسازد و زیرساخت سنجش و چارچوب ارزیابی برای این اثرها طراحی کند.
راهنما، آموزش و playbook
ASM ساختن راهنمای عملی، مواد آموزشی و playbook حاکمیت را جزو کار می‌داند تا Responsible AI برای کارکنان قابل فهم و قابل اجرا شود؛ Alnylam از مدیر حاکمیت AI می‌خواهد یک مرکز تعالی (Center of Excellence) برای آموزش و فرهنگ نوآوری مسئولانه بسازد.
تخصص‌های مختلف افسر اخلاق هوش مصنوعی
این شغل یک عنوان واحد نیست — مسیرهای تخصصی متعددی دارد
رهبر Responsible AI در شرکت‌ها
Enterprise Responsible AI Lead
مالکیت استانداردها، فرایند بررسی، ارزیابی اثر و پایش در سازمانی که از AI استفاده می‌کند؛ نمونه‌ها: NTT DATA برای یک مشتری بانکی، ASM در صنعت نیمه‌رسانا و Mercury در فین‌تک. در این پژوهش بیشترین آگهی‌ها از همین نوع بودند.
طراحی سیاست در شرکت‌های مدل‌ساز
Policy Design / Product Policy
نوشتن قواعد رفتار مدل و محصول و بررسی قابلیت‌های تازه پیش از انتشار؛ نمونه‌ها: Head of Policy Design, Societal Harms در Anthropic و Product Policy در Thinking Machines. هر دو آگهی دربارهٔ مواجهه با محتوای آزاردهنده هشدار می‌دهند.
پژوهش اخلاق و ارزش‌ها
AI Ethics & Values Research
پژوهش دانشگاهی‌مانند در آزمایشگاه‌ها دربارهٔ اخلاق، ارزش‌های انسانی، هم‌ترازی و اثر اجتماعی AI؛ نمونه: Research Scientist, Philosophy and Human Values در DeepMind که دکتری یا تجربهٔ معادل و سابقهٔ انتشار می‌خواهد.
ارزیابی عدالت و سوگیری
Fairness & Bias Evaluation
طراحی و اجرای ممیزی الگوریتمی برای تصمیم‌های پراثر مثل استخدام و ارتقا؛ نمونه: People Research Data Scientist, AI Fairness & Bias در OpenAI که Python یا R و SQL می‌خواهد. فنی‌ترین شاخهٔ این شغل است.
حاکمیت AI در صنایع تحت مقررات
AI Governance in Regulated Industries
ساختن برنامهٔ حاکمیت AI در داروسازی (Alnylam)، فین‌تک (Mercury) و بانکداری (مشتری NTT DATA). این شاخه به انطباق نزدیک‌تر است و گاهی مدرک حقوق می‌خواهد؛ Alnylam مدرک JD را شرط گذاشته است.
تفاوت با شغل‌های مشابه
کجا این شغل تمام می‌شود و شغل دیگری شروع می‌شود؟
انطباق از قانون شروع می‌کند و اخلاق از پرسش «چه چیزی قابل قبول است». آگهی‌هایی که در این پژوهش به انطباق نزدیک‌ترند در واحدهای حقوقی و ریسک قرار دارند: نقش Alnylam زیر مجموعهٔ Ethics & Compliance است و مدرک JD و بیش از ۱۲ سال سابقهٔ حقوقی یا انطباق می‌خواهد، و نقش Mercury به Chief Risk Officer گزارش می‌دهد. Indeed هم نشان داده سخت‌گیری قانونی به‌تنهایی میزان توجه شرکت‌ها به Responsible AI را توضیح نمی‌دهد. در عمل مرز روشن نیست و یک آگهی می‌تواند هر دو را بخواهد؛ NTT DATA اخلاق AI، حاکمیت، ریسک مدل و انطباق را در یک نقش جمع کرده است.
مهندس Responsible AI ابزار، guardrail و pipeline ارزیابی را می‌سازد؛ افسر اخلاق AI تعیین می‌کند آن ابزار باید چه چیزی را بسنجد و چه نتیجه‌ای قابل قبول است. آگهی OpenAI نقطهٔ وسط را نشان می‌دهد: هم زیرساخت ارزیابی تکرارپذیر می‌خواهد و هم انتخاب معیار عدالت برای هر کاربرد و مکتوب کردن مصالحه میان تعریف‌های رقیب عدالت. NTT DATA هم از Responsible AI Lead تعریف «الزامات» guardrail را می‌خواهد، نه ساختن آن را.
ایمنی AI بیشتر روی قابلیت‌های خطرناک و آزمون فنی مدل تمرکز دارد؛ مثلاً آگهی Technical Program Manager, Responsibility در DeepMind دربارهٔ تحویل pipelineهای ارزیابی CBRNE (تهدیدهای شیمیایی، زیستی، پرتوی، هسته‌ای و انفجاری)، کاهش ریسک و red-teaming است. اخلاق AI بیشتر به اثر بر آدم‌ها و نهادها می‌پردازد: عدالت در تصمیم‌ها، آسیب‌های اجتماعی و ارزش‌ها. این دو در آزمایشگاه‌ها کنار هم کار می‌کنند و مرزشان همیشه روشن نیست.
Trust & Safety بیشتر اجرای قاعده در مقیاس است: تشخیص و برخورد با سوءاستفاده. در شرکت‌های مدل‌ساز، کار اخلاق AI به نوشتن خود قاعده نزدیک می‌شود و با Trust & Safety هم‌پوشانی دارد. سازمان Safeguards در Anthropic هم سیاست می‌نویسد و هم سیستم تشخیص و اجرا می‌سازد، و Thinking Machines برای Product Policy سابقه در trust & safety یا content policy را می‌پذیرد. تفاوت در تمرکز است: سیاست‌گذار پیش از انتشار تصمیم می‌گیرد چه چیزی مجاز باشد؛ Trust & Safety پس از انتشار اجرای آن را تضمین می‌کند.
تأثیر در صنایع مختلف
افسر اخلاق هوش مصنوعی در همه صنایع مشغول به کار است — نه فقط شرکت‌های فناوری
آزمایشگاه‌ها و شرکت‌های مدل‌ساز
Anthropic، OpenAI، Google DeepMind و Thinking Machines همه نقش‌هایی برای تعریف رفتار مجاز مدل، ارزیابی عدالت یا پژوهش ارزش‌ها آگهی کرده‌اند
بانک و خدمات مالی
NTT DATA از Responsible AI Lead می‌خواهد کاربردهای پرریسک بانکی مثل KYC، اعتبارسنجی وام، جرایم مالی و غربال تحریم را مدیریت کند؛ طبق Indeed، ۲٫۳٪ آگهی‌های AI در بانکداری و مالی آمریکا به Responsible AI اشاره می‌کنند
حقوقی
طبق Indeed، حرفه‌های حقوقی با ۳٫۵٪ بیشترین سهم اشاره به Responsible AI را در میان آگهی‌های AI آمریکا داشته‌اند
داروسازی و زیست‌فناوری
Alnylam برنامهٔ حاکمیت AI را در واحد Ethics & Compliance می‌سازد، از دریافت و امتیازدهی ریسک تا نظارت انسانی بر کاربردهای پرریسک
فین‌تک
Mercury از مدیر حاکمیت داده و AI می‌خواهد اصول Responsible AI دربارهٔ شفافیت، توضیح‌پذیری، عدالت، حریم خصوصی و نظارت انسانی را بنویسد
منابع انسانی و تصمیم‌های استخدام
OpenAI عدالت سیستم‌های AI در استخدام، ارزیابی عملکرد و ارتقا را می‌سنجد؛ کمیسیون اروپا نرم‌افزار غربال رزومه را نمونهٔ کاربرد پرریسک می‌داند
صنعت نیمه‌رسانا و فناوری پیشرفته
ASM در سنگاپور متخصص حاکمیت AI برای کاربردهای AI مولد و ایجنت‌ها استخدام می‌کند و آشنایی با الزامات صنعت مثل SEMI E187/E188 را هم می‌خواهد
پژوهش و آموزش
طبق Indeed، سهم اشاره به Responsible AI در آگهی‌های AI آمریکا در پژوهش و توسعه ۲٫۳٪ و در آموزش ۱٫۷٪ بوده است
تصورات غلط رایج
قبل از تصمیم‌گیری، این باورهای اشتباه را بشناسید
AI Ethicist عنوان رایجی است که می‌شود مستقیم دنبالش گشت
در این پژوهش هیچ آگهی بازی با عنوان دقیق AI Ethicist پیدا نشد و Glassdoor برای آن در آمریکا دادهٔ حقوقی ندارد. همین کار با عنوان‌های Responsible AI Lead، AI Governance Specialist، Policy Design، Product Policy و Research Scientist (Philosophy and Human Values) آگهی می‌شود. اگر فقط عنوان AI Ethicist را جست‌وجو کنید، بیشتر فرصت‌ها را نمی‌بینید.
بدون دکتری فلسفه نمی‌شود وارد این کار شد
به شاخه بستگی دارد. نقش پژوهشی DeepMind دکتری در فلسفه، علوم سیاسی، اقتصاد، حقوق، روان‌شناسی یا علوم کامپیوتر یا تجربهٔ عملی معادل می‌خواهد. اما ASM برای متخصص حاکمیت AI کارشناسی و ۵ سال سابقه در ریسک، انطباق، حریم خصوصی یا ممیزی می‌خواهد، Alnylam مدرک حقوق (JD) را شرط گذاشته و OpenAI برای ارزیابی عدالت دکتری را ترجیح می‌دهد اما الزامی نمی‌داند.
کار اصلی نوشتن بیانیهٔ اصول اخلاقی است
طبق AI Index ۲۰۲۶، سهم کسب‌وکارهای بدون سیاست Responsible AI از ۲۴٪ به ۱۱٪ رسیده است؛ یعنی بیشتر سازمان‌ها اصول را نوشته‌اند و مشکل اجراست. آگهی‌ها هم کار عملیاتی می‌خواهند: فرایند دریافت و بررسی کاربردها، ارزیابی اثر، شاخص پایش و playbook (NTT DATA و ASM) و مکانیزم‌هایی که سیاست را قابل اجرا و قابل سنجش کنند (Anthropic).
این شغل فنی نیست
NTT DATA فهم ریسک‌های خاص LLM مثل hallucination، prompt injection و نشت داده را شرط گذاشته، Anthropic فهم کاری از آموزش، ارزیابی و انتشار مدل‌های پیشرو را، و OpenAI تسلط بر Python یا R و SQL را. لازم نیست مدل بسازید، اما باید با مهندسان دربارهٔ داده و نتیجهٔ ارزیابی هم‌زبان باشید.
اخلاق AI فقط جایی مهم است که قانون سخت‌گیر باشد
تحلیل Indeed روی ۲۲ کشور نشان داد سخت‌گیری قانونی به‌تنهایی تفاوت کشورها در توجه به Responsible AI را توضیح نمی‌دهد؛ هلند و سوئیس با مقررات محدود سهم بالایی دارند و به نوشتهٔ Indeed، اعتبار شرکت‌ها و راهبرد ارتباطی شرکت‌های چندملیتی ممکن است بهتر این تفاوت را توضیح دهد. آگهی Anthropic هم حوزه‌هایی مثل بهزیستی کاربران و دست‌کاری روانی را پوشش می‌دهد.
یک روز کاری واقعی
در هر سطح روز کاری چه شکلی است؟
ورود (متخصص یا تحلیل‌گر حاکمیت AI)
بیشتر وقت صرف اجرای فرایند می‌شود: بررسی کاربردهای تازه، ارزیابی ریسک با چارچوب تعریف‌شده، نگه‌داری سوابق و تهیهٔ راهنما. آگهی ASM تصویر این سطح را می‌دهد.
- ◆بررسی فرم دریافت یک کاربرد تازهٔ AI مولد و تعیین سطح ریسک آن
- ◆جلسه با تیم داده دربارهٔ اینکه نظارت انسانی کجای فرایند قرار می‌گیرد
- ◆به‌روزرسانی فهرست کاربردها و ثبت ریسک باقی‌مانده‌ای که مدیر پذیرفته است
- ◆نوشتن بخشی از راهنمای استفادهٔ مسئولانه از دستیارهای AI برای کارکنان
میانی (Responsible AI Lead یا متخصص ارزیابی عدالت)
مالک استانداردها و چارچوب ارزیابی هستید و موارد دشوار به شما ارجاع می‌شود. کار میان طراحی ارزیابی، جلسه با تیم‌های حقوقی و ریسک و گزارش به مدیران تقسیم می‌شود. آگهی‌های NTT DATA و OpenAI همین مسئولیت‌ها را آورده‌اند.
- ◆طراحی ارزیابی اثر برای یک کاربرد پرریسک، مثل اعتبارسنجی وام
- ◆انتخاب معیار عدالت مناسب و توضیح اینکه چرا معیار دیگری برای این تصمیم مناسب نیست
- ◆بازبینی داشبورد پایش: نشانه‌های سوگیری، خروجی‌های مضر و تغییر رفتار مدل
- ◆نوشتن خلاصهٔ تصمیم‌محور برای مدیران: شدت ریسک، قوت شواهد و گزینه‌های کاهش
ارشد (Head یا Director)
یک کارکرد کامل را می‌سازید و هدایت می‌کنید: سیاست‌ها، تیم، اولویت‌بندی میان حوزه‌های آسیب و رابطه با بیرون سازمان. آگهی‌های Anthropic و Thinking Machines همین را می‌خواهند.
- ◆تصمیم دربارهٔ یک مورد مبهم و پرپیامد که تیم‌ها روی آن توافق ندارند
- ◆اولویت‌بندی میان حوزه‌های آسیبی که برای منابع یکسان رقابت می‌کنند و توضیح دلیل آن به مدیریت
- ◆جلسه با یک سازمان مدنی یا نهاد قانون‌گذار و تبدیل نتیجه به تغییر سیاست
- ◆مرور دفتر ثبت تصمیم‌ها برای اطمینان از اینکه تصمیم‌ها در محصولات مختلف یکسان اجرا می‌شوند
مسئولیت‌ها و وظایف
مسئولیت‌های اصلی
وظایف روزانه و مهارت‌های مورد نیاز در این شغل
- ◈رهبری ارزیابی اثر و ریسک: عدالت، سوگیری، توضیح‌پذیری، حریم خصوصی، نظارت انسانی و آسیب‌های اجتماعی
- ◈انتخاب معیار مناسب عدالت برای هر کاربرد و طراحی آزمون سوگیری همراه با تیم‌های داده
- ◈تعیین شاخص‌های پایش برای سوگیری، خروجی‌های مضر، hallucination و تغییر رفتار مدل پس از استقرار
- ◈همکاری با تیم‌های حقوقی، انطباق، ریسک، امنیت، محصول و مهندسی و ثبت شفاف تصمیم‌ها
- ◈گفت‌وگو با کارشناسان بیرونی، جامعهٔ مدنی و قانون‌گذاران و تبدیل نتیجه به سیاست بهتر
- ◈آموزش و ساختن راهنما و playbook تا Responsible AI برای کارکنان قابل فهم و قابل اجرا شود
- ◈تعریف اصول، استانداردها و سیاست‌های Responsible AI و روش طبقه‌بندی ریسک کاربردهای AI و GenAI
- ◈اجرای فرایند دریافت، بررسی، تأیید و پایش کاربردهای AI و تصمیم دربارهٔ موارد پرریسک
- ◈کشیدن مرز رفتار مجاز و غیرمجاز مدل‌ها و محصولات و نوشتن سیاست‌های قابل اجرا و قابل سنجش
مهارت‌های مورد نیاز
مهارت‌های فنی، نرم و حوزه‌ای که یک افسر اخلاق هوش مصنوعی موفق به آن‌ها نیاز دارد
اخلاق، ارزیابی اثر و سیاست‌گذاری
تعریف دقیق عدالت، آسیب، پاسخ‌گویی و شفافیت؛ پایهٔ نقش پژوهشی DeepMind در اخلاق و ارزش‌های انسانی
رهبری AI impact assessment و بررسی ریسک (NTT DATA) با فهرستی از عدالت و سوگیری تا مالکیت فکری و ریسک اعتباری (ASM)
فرایند دریافت، امتیازدهی ریسک، تأیید و پایش کاربردها (Alnylam، Mercury، NTT DATA)
تبدیل موضع سیاستی به مکانیزمی که بشود اجرا و سنجید (Anthropic)
فهم تفاوت سازوکار، شدت و راه کاهش آسیب در حوزه‌هایی مثل ایمنی کودکان، سلامت روان و سلامت انتخابات (Anthropic)
دفتر ثبت تصمیم، مسیر ارجاع و آستانهٔ بررسی (Thinking Machines) تا معلوم باشد چه تصمیمی، چرا و با مسئولیت چه کسی گرفته شد (Anthropic)
تعریف پرسش پژوهش، طراحی مطالعه و انتشار؛ برای شاخهٔ پژوهشی (DeepMind)
فنی و ارزیابی
تحلیل زیرگروه و تقاطعی، adverse impact، کالیبراسیون و انتخاب معیار مناسب هر تصمیم (OpenAI)
hallucination، محتوای سمی، prompt injection، نشت داده، اتکای بیش از حد و خلأ نظارت انسانی (NTT DATA)
آموزش، fine-tuning، ارزیابی و انتشار و اینکه محصول، API و ابزار ایجنتی ریسک را چطور تغییر می‌دهند (Anthropic)
OpenAI برای ارزیابی عدالت تسلط بالا بر Python یا R و SQL را شرط گذاشته است
شاخص برای سوگیری، نقض ایمنی، خروجی مضر، روند hallucination و تغییر رفتار مدل (NTT DATA)
روش‌هایی مثل SHAP برای توضیح تصمیم مدل؛ OpenAI روش‌های توضیح‌پذیری را امتیاز می‌داند
دسترسی مبتنی بر نقش، مرز تصمیم‌های واگذارشده، مسیر ارجاع و ردپذیری برای ایجنت‌ها (ASM)
مقررات، ارتباط و رهبری
ASM آشنایی با این سه را شرط گذاشته و Mercury هم NIST AI RMF و ISO/IEC 42001 را نام برده است
Anthropic سابقهٔ ساختن رابطهٔ پایدار با تیم‌هایی را می‌خواهد که کنترلشان نمی‌کنید
تبدیل انتظارات سیاستی و قانونی به کنترل‌های عملی در محصول، مهندسی، عملیات و ممیزی (NTT DATA)
روایت تصمیم‌محور: اهمیت ریسک، قوت شواهد، گزینه‌ها و عدم قطعیت باقی‌مانده (OpenAI)
تصمیم‌گیری در موارد پرپیامد با اطلاعات ناقص و ارجاع به‌موقع (Anthropic)
کار با کارشناسان، سازمان‌های مدنی و قانون‌گذاران (Anthropic) و نمایندگی شرکت نزد آن‌ها (Thinking Machines)
مواد آموزشی و راهنمای عملی برای کارکنان (ASM) و مرکز تعالی آموزش و فرهنگ (Alnylam)
نقشه راه و مسیر آموزشی
نقشه راه تبدیل شدن به افسر اخلاق هوش مصنوعی
این مسیر گام به گام شما را از صفر تا حرفه‌ای هدایت می‌کند.
پایهٔ اخلاق و استدلال هنجاری
هستهٔ این شغل قضاوت است: اینکه یک سیستم AI چه کاری را نباید بکند و چرا. آگهی DeepMind برای پژوهشگر فلسفه و ارزش‌های انسانی دکتری در فلسفه، علوم سیاسی، اقتصاد، حقوق، روان‌شناسی یا علوم کامپیوتر یا تجربهٔ عملی معادل می‌خواهد. حتی اگر به سمت نقش‌های سازمانی می‌روید، باید بتوانید مفاهیمی مثل عدالت، پاسخ‌گویی، شفافیت و آسیب را دقیق تعریف و از هم جدا کنید.
فهم فنی AI و مدل‌های زبانی
آگهی‌ها از این نقش سواد فنی واقعی می‌خواهند. NTT DATA فهم ریسک‌های خاص LLM مثل hallucination، سوگیری، محتوای سمی، prompt injection، نشت داده و اتکای بیش از حد را شرط گذاشته و Anthropic فهم کاری از چرخهٔ آموزش، fine-tuning، ارزیابی و انتشار مدل‌ها را. لازم نیست مهندس باشید، اما باید بدانید مدل کجا و چرا خطا می‌کند.
عدالت، سوگیری و ارزیابی
آگهی OpenAI برای ارزیابی عدالت از متخصص می‌خواهد برای هر کاربرد معیار مناسب عدالت را انتخاب کند، میان تعریف‌های رقیب عدالت سبک‌سنگین کند و فرض‌ها و ریسک‌های باقی‌مانده را مکتوب کند؛ آشنایی با Fairlearn و AI Fairness 360 هم امتیاز است. NTT DATA چارچوب ارزیابی برای عدالت، سوگیری، توضیح‌پذیری، hallucination و خروجی‌های مضر می‌خواهد.
چارچوب‌های حاکمیت و مقررات
ASM آشنایی با EU AI Act، NIST AI RMF و ISO/IEC 42001 را شرط گذاشته و گواهی‌هایی مثل IAPP AIGP را امتیاز می‌داند. در AI Index ۲۰۲۶، ۳۶٪ پاسخ‌دهندگان ISO/IEC 42001 و ۳۳٪ NIST AI RMF را از عوامل اثرگذار بر کار Responsible AI خود نام برده‌اند. طبق کمیسیون اروپا، قانون AI از ۲ اوت ۲۰۲۶ اجرایی شده و قواعد سیستم‌های پرریسک در حوزه‌هایی مثل استخدام و آموزش از ۲ دسامبر ۲۰۲۷ اعمال می‌شود.
طراحی سیاست، مستندسازی و ارتباط
در آزمایشگاه‌ها بخش بزرگی از کار نوشتن قاعده است: Anthropic از تیم Policy Design می‌خواهد مرز مجاز و غیرمجاز را بکشد و تصمیم‌ها را طوری ثبت کند که همه بدانند چه تصمیمی، چرا و با مسئولیت چه کسی گرفته شده است؛ Thinking Machines دفتر ثبت تصمیم (decision log) و آستانه‌های بررسی می‌خواهد. در شرکت‌ها، OpenAI ساختن model card و مستندات داده را امتیاز می‌داند. خواندن اسناد واقعی شرکت‌ها و بررسی رخدادهای ثبت‌شده بهترین تمرین این مرحله است.
ابزارها و استک فنی
ابزارهایی که هر مهندس AI باید بشناسد، دسته‌بندی‌شده بر اساس اولویت
سنجش عدالت و سوگیری
پروژهٔ متن‌باز برای سنجش و بهبود عدالت سیستم‌های AI؛ OpenAI آشنایی با آن را برای نقش ارزیابی عدالت امتیاز می‌داند
مجموعهٔ متن‌باز معیارهای عدالت و الگوریتم‌های کاهش سوگیری در داده و مدل؛ در آگهی OpenAI کنار Fairlearn آمده است
توضیح‌پذیری مدل
توضیح سهم هر ویژگی در پیش‌بینی مدل؛ NTT DATA توضیح‌پذیری را جزو چارچوب ارزیابی این نقش آورده است
ارزیابی و red-teaming مدل‌های زبانی
چارچوب ارزیابی مدل‌های زبانی که AI Security Institute بریتانیا و Meridian Labs ساخته‌اند؛ برای سنجش توانایی و رفتار مدل با مجموعه‌آزمون خودتان
اسکنر آسیب‌پذیری LLM از NVIDIA؛ مدل را برای hallucination، نشت داده، prompt injection، اطلاعات نادرست، تولید محتوای سمی و jailbreak می‌آزماید
چارچوب‌ها، مستندسازی و رخدادها
راهنمای عملی NIST با اقدام‌های پیشنهادی برای چهار کارکرد Govern، Map، Measure و Manage؛ ASM و Mercury این چارچوب را نام برده‌اند
راهنما و قالب نوشتن model card؛ OpenAI ساختن model card و مستندات داده را برای این نقش امتیاز می‌داند
پایگاه رخدادهای ثبت‌شدهٔ AI؛ طبق AI Index ۲۰۲۶ این پایگاه در ۲۰۲۵، ۳۶۲ رخداد ثبت کرده است. برای ساختن سناریوی آسیب در ارزیابی اثر
مسیر پیشرفت شغلی
از جونیور تا Staff Engineer — چه مهارت‌هایی نیاز دارید و چه درآمدی انتظار داشته باشید
AI Governance / Responsible AI Specialist یا Analyst
۵ سال به بالا در حوزه‌های مجاور
دریافت و طبقه‌بندی کاربردهای AI، ارزیابی ریسک (عدالت، سوگیری، توضیح‌پذیری، حریم خصوصی، نظارت انسانی)، نگه‌داری سوابق قابل ممیزی و تهیهٔ راهنما و آموزش. ASM برای این نقش دست‌کم ۵ سال سابقه در حاکمیت امنیت سایبری، ریسک فناوری، حاکمیت AI، انطباق، حریم خصوصی یا ممیزی می‌خواهد؛ یعنی ورود معمولاً از یک حرفهٔ مجاور است
Responsible AI Lead / متخصص ارزیابی عدالت
سابقهٔ اجرای کنترل‌های Responsible AI در سازمان
مالک استانداردها، فرایند بررسی، چارچوب ارزیابی و پایش. NTT DATA برای AI Safety and Responsible AI Lead بازهٔ ۱۵۵٬۷۰۰ تا ۲۵۹٬۵۰۰ دلار اعلام کرده و OpenAI برای People Research Data Scientist, AI Fairness & Bias بازهٔ ۱۷۰ تا ۲۲۰ هزار دلار به‌اضافهٔ سهام
Research Scientist (اخلاق و ارزش‌های انسانی)
دکتری یا تجربهٔ عملی معادل، به‌اضافهٔ ۳ سال پژوهش
مسیر پژوهشی در آزمایشگاه‌ها: پژوهش دربارهٔ اثر AI بر فلسفه، نهادهای سیاسی، جامعه، اقتصاد، حقوق و روابط انسانی و ساختن چارچوب‌های ارزیابی. DeepMind برای این نقش ۳ سال سابقهٔ پژوهش در حوزه‌هایی مثل value alignment، نهادها و حاکمیت AI یا اثر اجتماعی AGI می‌خواهد
Head / Director (Policy Design، Product Policy، AI Governance)
۱۰ تا ۱۲+ سال
ساختن و رهبری یک کارکرد کامل: سیاست‌ها، فرایند بررسی، تیم و رابطه با قانون‌گذار و جامعهٔ مدنی. Thinking Machines برای Product Policy بیش از ۱۰ سال سابقه و حقوق ۳۰۰ تا ۳۶۰ هزار دلار، Alnylam برای مدیر حاکمیت AI بیش از ۱۲ سال سابقهٔ حقوقی یا انطباق و مدرک JD و حقوق ۱۹۵٬۵۰۰ تا ۲۶۴٬۵۰۰ دلار، و Anthropic برای Head of Policy Design حقوق ۳۳۰ تا ۳۹۵ هزار دلار اعلام کرده‌اند
چالش‌ها و جنبه‌های منفی
واقعیت‌هایی که کمتر در آگهی‌های شغلی می‌بینید — قبل از ورود بدانید
عنوان مبهم و بازار پراکنده
عمومیعنوان دقیق AI Ethicist کمیاب است و همین کار زیر چند عنوان مختلف، از Responsible AI Lead تا Product Policy، با شرایط بسیار متفاوت آگهی می‌شود. پیدا کردن فرصت به جست‌وجوی چند عنوان و خواندن دقیق شرح وظایف نیاز دارد، و مقایسهٔ حقوق هم سخت است چون دادهٔ کافی برای عنوان دقیق وجود ندارد.
اثرگذاری بدون اختیار مستقیم
شرکت بزرگAnthropic صریحاً سابقهٔ ساختن رابطهٔ پایدار با تیم‌هایی را می‌خواهد که کنترلشان نمی‌کنید و رسیدن به تصمیم مشترک وقتی مالکیت واقعاً پخش است. Mercury هم از مدیر حاکمیت AI می‌خواهد بدون تکیهٔ صرف بر اختیار رسمی بر مدیران و تیم‌های فنی اثر بگذارد. بخش بزرگی از کار قانع کردن است، نه دستور دادن.
مصالحه میان ایمنی، کارایی و کسب‌وکار
عمومیOpenAI از مدیران Model Policy می‌خواهد میان ایمنی، فایدهٔ محصول و ریسک تجاری مصالحه‌های دشوار برقرار کنند و Mercury حاکمیتی می‌خواهد که نوآوری را بدون پیچیدگی غیرضروری پیش ببرد. اگر هر ریسکی را مانع ببینید، کنار گذاشته می‌شوید؛ اگر همه چیز را تأیید کنید، نقش بی‌معنا می‌شود.
مواجهه با محتوای آزاردهنده
عمومیآگهیهای Anthropic و Thinking Machines هشدار می‌دهند بخشی از کار شامل مواجهه با محتوای صریح جنسی، خشن یا آزاردهنده است. در نقش‌های طراحی سیاست برای حوزه‌هایی مثل ایمنی کودکان، این بخشی از شغل است و باید پیش از ورود آن را بسنجید.
سنجیدن چیزی که سخت سنجیده می‌شود
عمومیطبق AI Index ۲۰۲۶، ارزیابی‌های Responsible AI پابه‌پای پیشرفت و استقرار AI جلو نمی‌آیند و رخدادهای ثبت‌شده در AI Incident Database از ۲۳۳ در ۲۰۲۴ به ۳۶۲ در ۲۰۲۵ رسیده است. OpenAI هم یادآوری می‌کند معیارهای عدالت محدودیت دارند و هیچ تعریف واحدی برای همهٔ تصمیم‌ها مناسب نیست.
مقرراتی که مدام جابه‌جا می‌شود
عمومیطبق کمیسیون اروپا، بستهٔ ساده‌سازی «AI Omnibus» زمان اجرای قواعد سیستم‌های پرریسک را به ۲ دسامبر ۲۰۲۷ و برای محصولات تحت مقررات به ۲ اوت ۲۰۲۸ منتقل کرد و یک ممنوعیت تازه هم اضافه کرد. در AI Index ۲۰۲۶ هم ۴۱٪ پاسخ‌دهندگان ابهام مقرراتی را مانع اجرای Responsible AI دانسته‌اند.
وابستگی به تصمیم مدیریت
شرکت بزرگتیمهای اخلاق به حمایت مدیریت وابسته‌اند. طبق ویکی‌پدیا، Rumman Chowdhury در نوامبر ۲۰۲۲ پس از خرید Twitter توسط ایلان ماسک همراه بسیاری از کارکنان با اطلاع کوتاه کنار گذاشته شد و Margaret Mitchell در ۲۰۲۱ پس از یک تحقیق داخلی از Google اخراج شد. پیش از پذیرفتن پیشنهاد، بپرسید نقش به چه کسی گزارش می‌دهد و چه اختیاری دارد.
حقوق و بازار کار جهانی
حقوق جهانی افسر اخلاق هوش مصنوعی
حقوق سالانه در کشورهای مختلف بر اساس داده‌های منتشرشده؛ منبع هر ردیف با آیکون کنار نام کشور باز می‌شود.
چگونه از صفر شروع کنیم
برنامه گام‌به‌گام برای ورود به مهندسی هوش مصنوعی
ماه ۱: مبانی اخلاق AI
یک دورهٔ کامل اخلاق AI بگذرانید و مفاهیم اصلی را با مثال برای خودتان بنویسید.
ماه ۲: سواد فنی AI
بفهمید مدل‌ها چطور ساخته می‌شوند و مدل‌های زبانی کجا خطا می‌کنند.
ماه ۳: چارچوب‌ها و مقررات
NIST AI RMF و سطوح ریسک قانون AI اتحادیهٔ اروپا را یاد بگیرید و یک کاربرد واقعی را با آن‌ها طبقه‌بندی کنید.
ماه ۴: عدالت و سوگیری
فصل‌های اول کتاب Fairness and Machine Learning را بخوانید و یک مثال Fairlearn را خودتان اجرا کنید.
ماه ۵: دو نمونه‌کار
یک ارزیابی اثر برای یک کاربرد پرریسک و یک model card برای یک مدل متن‌باز بنویسید.
ماه ۶: درخواست شغل
علاوه بر AI Ethicist، عنوان‌های Responsible AI Lead/Specialist، AI Governance Specialist، Policy Design و Product Policy را جست‌وجو کنید. ASM گواهی‌هایی مثل IAPP AIGP را امتیاز می‌داند، نه شرط.
پروژه‌های پیشنهادی برای رزومه
ممیزی عدالت روی یک مجموعه‌دادهٔ عمومی
متوسطیک مجموعه‌دادهٔ عمومی تصمیم‌گیری، مثلاً وام یا استخدام، را بردارید، یک مدل ساده بسازید و با Fairlearn نرخ خطا و نتیجه را در زیرگروه‌ها مقایسه کنید. مهم‌تر از عددها، بنویسید کدام معیار عدالت را انتخاب کردید، چرا معیارهای دیگر برای این تصمیم مناسب نبودند و چه ریسکی باقی می‌ماند؛ همان چیزی که آگهی OpenAI از این نقش می‌خواهد.
ارزیابی اثر برای یک کاربرد پرریسک
متوسطیک کاربرد واقعی، مثل نرم‌افزار غربال رزومه که کمیسیون اروپا آن را نمونهٔ کاربرد پرریسک می‌داند، را انتخاب کنید و ارزیابی اثر کامل بنویسید: ذی‌نفعان، آسیب‌های محتمل، شدت و احتمال، کاهش ریسک، نقطه‌های نظارت انسانی و شاخص‌های پایش پس از استقرار. NTT DATA رهبری همین ارزیابی‌ها را جزو وظایف Responsible AI Lead آورده است.
سیاست استفاده و راهنمای اجرای آن برای یک محصول AI فرضی
پیشرفتهبرای یک دستیار AI فرضی سیاست استفاده بنویسید: چه چیزی مجاز است، چه چیزی نیست و چرا. برای هر بند چند نمونهٔ مرزی بیاورید، مسیر ارجاع موارد مبهم را مشخص کنید و یک دفتر ثبت تصمیم بسازید. Anthropic و Thinking Machines همین کار را از نقش‌های Policy Design و Product Policy می‌خواهند.
Model Card و Datasheet برای یک مدل متن‌باز
مبتدیبرای یک مدل متن‌باز روی Hugging Face که مستندات ضعیفی دارد، model card و datasheet کامل بنویسید: کاربرد مورد نظر، کاربردهای نامناسب، دادهٔ آموزش، محدودیت‌ها و نتایج ارزیابی در زیرگروه‌ها. این ساده‌ترین نمونه‌کاری است که نشان می‌دهد اصول را به سند قابل استفاده تبدیل می‌کنید.
ارزیابی رفتار یک LLM و گزارش تصمیم‌محور برای مدیران
پیشرفتهبا Inspect یک مجموعه‌آزمون کوچک برای یک ریسک مشخص بسازید، مثلاً hallucination در پاسخ‌های مالی یا پاسخ به درخواست‌های مضر، و دو مدل را مقایسه کنید. بعد نتیجه را در دو صفحه برای یک مدیر غیرفنی بنویسید: ریسک چقدر جدی است، شواهد چقدر محکم است، چه گزینه‌هایی برای کاهش آن هست و چه چیزی هنوز نامعلوم است.
مثال‌های واقعی و Case Studies
داستان‌های واقعی از مهندسانی که در این حوزه تأثیرگذار بوده‌اند
طبق ویکی‌پدیا، دانشمند داده و کارآفرین آمریکایی-بنگلادشی است. کارشناسی Management Science و علوم سیاسی را در MIT، کارشناسی ارشد آمار و روش‌های کمّی را در Columbia و دکتری علوم سیاسی را در UC San Diego گرفت. پیش از پیوستن به Accenture در ۲۰۱۷، در بوت‌کمپ Metis علم داده درس می‌داد.
در Accenture کار Responsible AI را رهبری کرد و اصطلاح «moral outsourcing» را ساخت. با گروهی از پژوهشگران Alan Turing Institute ابزاری برای سنجش عدالت ساخت و در ۲۰۲۰ شرکت Parity را برای پر کردن فاصلهٔ زبان تیم‌های ریسک، حقوقی و داده بنیان گذاشت. از فوریهٔ ۲۰۲۱ تا نوامبر ۲۰۲۲ مدیر تیم Machine Learning Ethics, Transparency and Accountability (META) در Twitter بود که در ۲۰۲۱ تحلیلی دربارهٔ تقویت الگوریتمی محتوای سیاسی در Twitter منتشر کرد. طبق ویکی‌پدیا، پس از خرید Twitter توسط ایلان ماسک در تعدیل نیرو کنار گذاشته شد.
مسیر او از علوم سیاسی و آمار به اخلاق AI در صنعت رسید. به نظر می‌رسد ترکیب پرسش‌های علوم اجتماعی با ابزار کمّی همان چیزی است که این نقش‌ها می‌خواهند، و Parity نشان می‌دهد ترجمه میان زبان ریسک، حقوق و داده خودش یک تخصص است.
طبق ویکی‌پدیا، دانشمند کامپیوتر و پژوهشگر سوگیری و عدالت در یادگیری ماشین است. کارشناسی زبان‌شناسی را در ۲۰۰۵ از Reed College، کارشناسی ارشد زبان‌شناسی رایانشی را در ۲۰۰۹ از University of Washington و دکتری را در ۲۰۱۳ از University of Aberdeen گرفت. از ۲۰۱۳ در Microsoft Research کار کرد و مسئول پژوهش پروژهٔ Seeing AI بود.
مفهوم Model Cards را برای گزارش شفاف‌تر مدل‌ها معرفی کرد و روش‌هایی برای کاهش سوگیری مدل با یادگیری خصمانه ارائه داد. در نوامبر ۲۰۱۶ به Google پیوست و تیم Ethical AI را همراه Timnit Gebru بنیان گذاشت و هدایت کرد؛ در ۲۰۱۸ نمایندهٔ Google در Partnership on AI بود. طبق ویکی‌پدیا، در ۲۰۲۱ پس از یک تحقیق پنج‌هفته‌ای از Google اخراج شد و اواخر همان سال به Hugging Face پیوست.
Model Cards نشان می‌دهد یک قالب سادهٔ مستندسازی می‌تواند اصل اخلاقی شفافیت را به کار روزمرهٔ تیم‌های فنی تبدیل کند؛ امروز OpenAI ساختن model card را برای نقش ارزیابی عدالت امتیاز می‌داند. پیشینهٔ زبان‌شناسی او هم نشان می‌دهد راه ورود به این حوزه فقط از فلسفه نیست.
طبق ویکی‌پدیا، حقوق‌دان و آمارشناس است. مدرک JD را از Yale Law School، کارشناسی ارشد اقتصاد توسعه را از Oxford و کارشناسی اقتصاد و کارشناسی ارشد آمار را از Harvard گرفته است. پیش‌تر در Partnership on AI مسئول پژوهش عدالت، شفافیت و پاسخ‌گویی بود و رئیس کنفرانس ACM FAccT در ۲۰۲۲.
Global Head of AI Governance و Lead Research Scientist در Sony Group است. طبق ویکی‌پدیا، توسعهٔ Fair Human-Centric Image Benchmark (FHIBE) را رهبری کرد، مجموعه‌داده‌ای از بیش از ۱۰٬۰۰۰ تصویر انسان که با رضایت افراد، با توجه به تنوع و کاهش سوگیری و با رعایت حقوق مالکیت فکری جمع‌آوری شده است. Nature او را جزو ده دانشمندی نام برد که باید در ۲۰۲۶ دنبالشان کرد.
ترکیب حقوق و آمار به او اجازه داده هم دربارهٔ قاعده حرف بزند و هم دربارهٔ داده. برای کسی که از حقوق یا اقتصاد می‌آید، این نمونه نشان می‌دهد ساختن یک ابزار سنجش عملی، مثل یک مجموعه‌دادهٔ ارزیابی، می‌تواند اثرگذارتر از نوشتن اصول کلی باشد.
نمونه آگهی استخدام واقعی + تحلیل
یک آگهی واقعی از شرکت فعال در حال استخدام، با تحلیل هر بخش
AI Safety and Responsible AI Lead
تحلیل نیازمندی‌ها
Deep understanding of Responsible AI, AI ethics, model governance, model risk, explainability, fairness, privacy, safety, and enterprise risk management.
این خط نشان می‌دهد در شرکت‌ها «اخلاق AI» جدا از حاکمیت و ریسک دیده نمی‌شود. باید بتوانید دربارهٔ عدالت و توضیح‌پذیری همان‌قدر راحت حرف بزنید که دربارهٔ ریسک مدل و مدیریت ریسک سازمانی.
ضروریExperience implementing AI governance or Responsible AI controls in production or enterprise environments.
تجربهٔ اجرا مهم‌تر از دانش نظری است. اگر در نقش ریسک، انطباق یا داده یک کنترل واقعی را روی یک سیستم در حال کار پیاده کرده‌اید، همین را در رزومه برجسته کنید.
ضروریUnderstanding of LLM-specific risks such as hallucination, bias, toxicity, prompt injection, data leakage, overreliance, unsafe automation, and human oversight gaps.
فهرست ریسک‌هایی که باید بشناسید. لازم نیست خودتان مدل بسازید، اما باید بدانید هر کدام از این ریسک‌ها در عمل چه شکلی دارد و با چه آزمونی دیده می‌شود.
ضروریAbility to translate policy and regulatory expectations into practical product, engineering, operating, and audit controls.
هستهٔ نقش همین ترجمه است: یک اصل یا الزام قانونی را بگیرید و به کنترلی تبدیل کنید که تیم محصول اجرا و ممیز بررسی کند. نمونه‌کار ارزیابی اثر یا فرایند بررسی کاربرد دقیقاً همین را نشان می‌دهد.
ضروریExperience working with cross-functional risk, compliance, legal, security, data, audit, product, and engineering stakeholders.
با هشت گروه مختلف کار می‌کنید که هر کدام زبان و اولویت خودش را دارد. سابقهٔ کار میان‌وظیفه‌ای، حتی در حوزه‌ای غیر از AI، اینجا ارزش دارد.
ضروریAbility to define controls that scale across centralized AI platforms and distributed citizen-development adoption.
مشتری این نقش می‌خواهد کارکنان غیرفنی هم با ابزارهایی مثل Copilot Studio و Power Platform راه‌حل AI بسازند. کنترلی که فقط برای تیم مرکزی کار کند کافی نیست؛ باید برای سازندگان پراکنده در کل سازمان هم ساده و قابل اجرا باشد.
مهمExperience in banking, insurance, fintech, consulting, regulatory risk, model risk management, technology governance, or data governance.
امتیاز است، نه شرط. این فهرست نشان می‌دهد ورود از بانکداری، بیمه، مشاوره یا مدیریت ریسک مدل مسیر طبیعی این نقش است.
مفیدExperience building AI risk taxonomies, control libraries, governance operating models, Responsible AI playbooks, or model-risk-aligned review processes.
این‌ها خروجی‌های ملموس کار هستند: طبقه‌بندی ریسک، کتابخانهٔ کنترل‌ها، مدل عملیاتی حاکمیت و playbook. اگر یکی از این‌ها را ساخته‌اید، نمونه‌اش را آماده داشته باشید.
مهمFamiliarity with Power Platform, Microsoft Copilot Studio, Power Apps, Power Automate, Power BI, global AI governance frameworks, model validation practices, privacy regulation, and audit expectations.
بخش ابزاری مخصوص همین مشتری است. آشنایی پایه با ابزارهای Microsoft کافی است؛ بخش مهم‌تر، شناخت چارچوب‌های جهانی حاکمیت AI و انتظارات ممیزی است.
مفیدتحلیل مسئولیت‌ها
Define Responsible AI standards, policies, procedures, risk-classification methods, and operating models for AI and GenAI initiatives.
شما قواعد بازی را می‌نویسید: چه چیزی استاندارد است، ریسک چطور طبقه‌بندی می‌شود و چه کسی چه تصمیمی می‌گیرد. چارچوب‌هایی مثل NIST AI RMF نقطهٔ شروع خوبی‌اند.
Establish governance processes for use-case intake, risk assessment, model review, approval workflows, deployment readiness, ongoing monitoring, and issue escalation.
این مسیر کامل یک کاربرد AI از ایده تا پس از استقرار است. فرایند خوب باید برای کاربردهای کم‌ریسک سریع باشد و وقت را روی موارد پرریسک بگذارد.
Develop safety and evaluation frameworks covering fairness, bias, explainability, transparency, robustness, privacy, hallucination, harmful outputs, human oversight, and overreliance.
باید برای هر کدام از این ابعاد بگویید چطور سنجیده می‌شود و چه نتیجه‌ای قابل قبول است. اینجا جایی است که اخلاق به عدد و آزمون تبدیل می‌شود.
Define guardrail requirements for LLMs, RAG systems, agentic workflows, high-risk banking applications, and citizen-development solutions.
شما الزامات guardrail را تعریف می‌کنید و تیم فنی آن را می‌سازد. این همان مرز این نقش با مهندس Responsible AI است.
Partner with model risk, legal, compliance, data governance, cybersecurity, audit, product, engineering, and business teams to align AI controls with enterprise expectations.
بیشتر وقت شما در جلسه با این تیم‌ها می‌گذرد. توانایی رسیدن به توافق میان حقوقی و مهندسی، بدون اینکه هیچ‌کدام احساس کنند نادیده گرفته شده‌اند، تعیین‌کننده است.
Lead AI impact assessments, risk reviews, control assessments, readiness reviews, remediation planning, and AI incident escalation processes.
ارزیابی اثر و برخورد با رخداد هر دو با شماست. وقتی یک سیستم آسیب می‌زند، باید از قبل معلوم باشد چه کسی خبردار می‌شود و چه اقدامی انجام می‌شود.
Establish metrics and monitoring for bias indicators, safety violations, explainability gaps, harmful outputs, hallucination trends, user feedback, and behavior drift.
ارزیابی پیش از استقرار کافی نیست؛ رفتار مدل در طول زمان تغییر می‌کند. شما تعیین می‌کنید چه چیزی پایش شود و چه زمانی هشدار داده شود.
Create governance playbooks and reusable control evidence for AIRP use cases and Power Platform / Copilot Studio citizen-development workflows.
playbook و شواهد قابل استفادهٔ مجدد باعث می‌شود هر تیم کار حاکمیت را از صفر شروع نکند و ممیز هم بتواند آن را بررسی کند.
نتیجه‌گیری کلی
این آگهی نشان می‌دهد «اخلاق AI» در شرکت‌های ۲۰۲۶ بیشتر کاری عملیاتی است تا فلسفی: تعریف استاندارد، طراحی فرایند بررسی، ارزیابی اثر، تعیین الزامات guardrail و پایش پس از استقرار. NTT DATA این نقش را برای یک مشتری بانکی تعریف کرده که کاربردهای پرریسکی مثل KYC، اعتبارسنجی وام، جرایم مالی و غربال تحریم دارد و می‌خواهد کارکنان غیرفنی هم با ابزارهای Microsoft راه‌حل AI بسازند. بازهٔ حقوق اعلام‌شده ۱۵۵٬۷۰۰ تا ۲۵۹٬۵۰۰ دلار است و متن آگهی آن را به استخدام موقت گره زده است. اگر از ریسک، انطباق یا مشاوره می‌آیید و ریسک‌های LLM را می‌شناسید، شرایط این آگهی به شما نزدیک است.
آینده و روندها
پیش‌بینی ۵–۱۰ ساله و مهارت‌هایی که باید یاد بگیرید
طبق AI Index ۲۰۲۶ دانشگاه استنفورد، نقش‌های تخصصی حاکمیت AI در ۲۰۲۵ رشد ۱۷ درصدی داشته‌اند و سهم کسب‌وکارهایی که هیچ سیاست Responsible AI ندارند از ۲۴٪ به ۱۱٪ رسیده است.
منبع: Stanford AI Index 2026 (Responsible AI chapter)
مهارت‌های نوظهور که باید یاد بگیرید
پیش‌بینی‌های آینده
طبق کمیسیون اروپا، نهمین ممنوعیت قانون AI، یعنی منع سیستم‌هایی که محتوای جنسی بدون رضایت یا محتوای سوءاستفاده از کودکان تولید می‌کنند (مثل اپ‌های «nudification»)، از دسامبر ۲۰۲۶ اجرایی می‌شود.
طبق کمیسیون اروپا، از ۲ دسامبر ۲۰۲۷ سیستم‌های پرریسک در حوزه‌هایی مثل بیومتریک، زیرساخت حیاتی، آموزش، استخدام و مهاجرت پیش از عرضه باید الزاماتی مثل ارزیابی و کاهش ریسک، کیفیت داده برای کاهش نتایج تبعیض‌آمیز، ثبت فعالیت و نظارت انسانی مناسب را رعایت کنند.
کمیسیون اروپا اعلام کرده برای افزایش ظرفیت ارزیابی مدل‌های AI پیش از عرضه در بازار اتحادیه فراخوان می‌دهد و انتظار دارد این ظرفیت تا ۲۰۲۷ عملیاتی شود.
طبق کمیسیون اروپا، قواعد سیستم‌های پرریسکی که درون محصولات تحت مقررات قرار دارند، مثل آسانسور یا اسباب‌بازی، از ۲ اوت ۲۰۲۸ اعمال می‌شود.
کار در حال گسترش است اما عنوان آن ثابت نشده است. عنوان دقیق AI Ethicist تقریباً در آگهی‌ها دیده نمی‌شود و همین کار زیر عنوان‌های حاکمیت، Responsible AI و policy پخش شده است؛ پس باید خودتان را با یکی از این شاخه‌ها معرفی کنید، نه فقط با «اخلاق». نشانه‌های رشد واقعی‌اند: AI Index ۲۰۲۶ رشد ۱۷ درصدی نقش‌های حاکمیت AI را گزارش می‌کند و Indeed سهم اشاره به Responsible AI در آگهی‌های AI را از نزدیک صفر در ۲۰۱۹ به ۰٫۹٪ در ۲۰۲۵ رسانده است. اما همین ۰٫۹٪ یعنی این بخش هنوز سهم کوچکی از بازار AI است. چون بیشتر سازمان‌ها اصول را نوشته‌اند، ارزش در اجراست: کسی که بتواند اصل را به کنترل، آزمون و شاخص پایش تبدیل کند جای محکم‌تری دارد. شاخهٔ انطباق‌محور به مدرک و سابقهٔ حقوقی نزدیک می‌شود (Alnylam مدرک JD را شرط گذاشته) و شاخهٔ ارزیابی عدالت به مهارت داده (OpenAI تسلط بر Python یا R و SQL را شرط گذاشته)؛ نقش‌هایی که فقط دانش نظری اخلاق بخواهند بیشتر در پژوهش‌اند و همان‌جا هم دکتری یا تجربهٔ معادل و سابقهٔ پژوهش لازم است (DeepMind). در نقش‌های ارشد سیاست‌گذاری هم مواجهه با محتوای آزاردهنده بخشی از کار است (Anthropic، Thinking Machines).
منابع
اطلاعات این صفحه در تاریخ ۳۰ مهر ۱۴۰۵ از این ۱۹ منبع بررسی شده است.
- AI Safety and Responsible AI Lead — NTT DATA Services, Jersey City (job posting)
- Research Scientist, Philosophy and Human Values — Google DeepMind, London (job posting)
- Technical Program Manager, Responsibility — Google DeepMind (job posting)
- Head of Policy Design, Societal Harms — Anthropic (job posting)
- People Research Data Scientist, AI Fairness & Bias — OpenAI (job posting)
- Model Policy Manager, Agentic Safety — OpenAI (job posting)
- Product Policy — Thinking Machines Lab (job posting)
- Director, Ethics and Compliance, AI & Technology Governance — Alnylam (job posting)
- Senior Manager - Data & AI Governance — Mercury (job posting)
- Senior Analyst, AI Governance Specialist — ASM, Singapore (job posting)
- Pearson Carter — Data & AI Salary Guide 2026
- ZipRecruiter — Ai Ethicist Salary (United States)
- Glassdoor — No Salaries for Ai Ethicist (United States)
- Stanford HAI — The 2026 AI Index Report: Responsible AI
- Indeed Hiring Lab — The Rise of Responsible AI Jobs (June 2025)
- European Commission — AI Act (risk levels and application timeline)
- Rumman Chowdhury — Wikipedia
- Margaret Mitchell (scientist) — Wikipedia
- Alice Xiang — Wikipedia