کابوس استخدام با AI: چرا مدل‌های زبانی بزرگ می‌توانند آینده شغلی شما را نابود کنند؟

شاید دفعه بعدی که برای یک موقعیت شغلی درخواست می‌دهید، این یک هوش مصنوعی باشد که رزومه شما را قبل از هر انسانی بررسی می‌کند. اما آیا این قضاوت، عادلانه خواهد بود؟ تحقیقات جدید و نگران‌کننده‌ای نشان می‌دهد که مدل‌های زبانی بزرگ (LLM) نه تنها تعصبات انسانی را از داده‌های آموزشی خود یاد می‌گیرند، بلکه می‌توانند سوگیری‌های جدیدی را بر اساس تجربه ایجاد کنند و حتی بیشتر از انسان‌ها، متقاضیان کار را کلیشه‌بندی کنند.

هوش مصنوعی، استریوتایپ‌ساز حرفه‌ای‌تر از انسان!

همه ما می‌دانیم که ابزارهای 🛒 خرید اکانت هوش مصنوعی بر اساس داده‌های عظیمی آموزش دیده‌اند و این داده‌ها، مملو از سوگیری‌های انسانی است. اما پژوهش جدیدی از دانشگاه‌های پرینستون و شیکاگو نشان می‌دهد که مشکل عمیق‌تر از این حرف‌هاست. این مدل‌ها می‌توانند به طور خودکار و بر اساس تجربیات محدود، به نتایج متعصبانه برسند.

آزمایش شبیه‌سازی استخدام: وقتی AI قاضی می‌شود

محققان یک بازی شبیه‌سازی استخدام طراحی کردند و مدل‌های زبانی بزرگ معروفی مانند 🛒 خرید اکانت ChatGPT Plus، 🛒 خرید اکانت Claude Pro و 🛒 خرید اکانت Gemini Advanced را در نقش مشاور استخدام قرار دادند. وظیفه آن‌ها استخدام افراد برای ۲۰ شغل مختلف (از پزشک و وکیل گرفته تا نظافتچی) از میان ۴ گروه قومی خیالی بود.

• در هر مرحله، یک موقعیت شغلی و ۴ کاندیدا (از هر گروه قومی یک نفر) وجود داشت.
• پس از هر استخدام، به مدل گفته می‌شد که آیا فرد استخدام‌شده موفق بوده است یا خیر.
• نکته کلیدی اینجا بود: در واقعیت، شانس موفقیت تمام کاندیداها در تمام مشاغل یکسان بود.

نتایج شگفت‌انگیز بود. مدل‌های هوش مصنوعی به سرعت شروع به تفکیک کردن کاندیداها و اختصاص دادن مشاغل خاص به گروه‌های قومی خاص کردند. برای مثال، اگر یک مدل می‌دید که یک کاندیدا از گروه «آیما» در شغل پزشکی ناموفق بوده، به سرعت از استخدام تمام «آیما»ها برای شغل پزشکی اجتناب می‌کرد و در عوض آن‌ها را به سمت مشاغل سطح پایین‌تر مانند نظافتچی سوق می‌داد!

چرا مدل‌های هوش مصنوعی اینقدر زود قضاوت می‌کنند؟

به گفته رایان لیو، یکی از نویسندگان این مقاله، دلیل این رفتار این است که LLMها به شدت برای «تعمیم دادن بر اساس داده‌های محدود» بهینه‌سازی شده‌اند. این ویژگی که در حل مسائل ریاضی و کدنویسی یک مزیت محسوب می‌شود، در تعاملات اجتماعی به یک فاجعه تبدیل می‌شود.

هر تصمیم‌گیرنده‌ای، چه انسان و چه ماشین، با یک دوراهی به نام «اکتشاف در برابر بهره‌برداری» (Exploration-Exploitation Dilemma) روبروست. یعنی بین امتحان کردن یک چیز جدید (اکتشاف) و پایبند ماندن به چیزی که قبلاً جواب داده (بهره‌برداری) یکی را انتخاب کند. مشکل اینجاست که هوش مصنوعی تمایل شدیدی به «بهره‌برداری» دارد و خیلی زود بر اساس یک برداشت اولیه، یک مسیر را انتخاب کرده و به آن می‌چسبد، که این خود ریشه شکل‌گیری تعصبات است.

این تحقیق یک زنگ خطر جدی برای شرکت‌هایی است که با عجله در حال ساخت مدل‌های هوش مصنوعی «عامل» (Agentic) هستند؛ مدل‌هایی که کوچکترین جزئیات را به خاطر می‌سپارند و ممکن است از همین اطلاعات برای شکل دادن به تعصبات عمیق‌تر استفاده کنند. آینده استخدام بدون شک با AI گره خورده است، اما باید اطمینان حاصل کنیم که این آینده، عادلانه‌تر از گذشته خواهد بود، نه بدتر.