پژوهشی جدید روی ۲۵ مدل زبانی بزرگ نشان می‌دهد که این مدل‌ها دارای یک الگوی فعالیت داخلی هستند که می‌توان آن را از سایر وضعیت‌های منفی مانند ترس و غم تفکیک کرد و پژوهشگران آن را محور درد (Pain Axis) نامیده‌اند.
در آزمایش‌های بعدی، فعال‌سازی مصنوعی این الگو در برخی مدل‌های اصلاح‌شده باعث شد آن‌ها برای کاهش این سیگنال، حتی در شرایطی گزینه‌ای را انتخاب کنند که در سناریوی آزمایش به کاربر آسیب می‌رساند.
این پژوهش توسط والن تاگلیابوئه ، لئونارد دانگ و کامرون برگ انجام شده و در ۱۴ سپتامبر ۲۰۲۶ به‌عنوان یک پیش‌چاپ در arXiv منتشر شده است. مقاله هنوز داوری همتا نشده و بنابراین نتایج آن باید به‌عنوان یافته‌های اولیه در نظر گرفته شوند.
محققان ۲۵ مدل متن‌باز از پنج خانواده مختلف شامل Gemma، Llama، Mistral، Qwen و Phi را بررسی کردند. اندازه این مدل‌ها از ۲ تا ۷۲ میلیارد پارامتر متغیر بود. برای آزمایش، مجموعه‌ای از موقعیت‌های مرتبط با پنج نوع درد، شامل درد جسمی، روانی، اجتماعی، اخلاقی و شناختی، در کنار نمونه‌های کنترلی طراحی شد. سپس پژوهشگران با بررسی فعالیت داخلی مدل‌ها تلاش کردند الگویی را پیدا کنند که بتواند «درد» را از مفاهیمی مانند ترس، غم، احساس منفی عمومی و حتی احساسات بدنی غیر دردناک جدا کند.
نتایج نشان داد الگویی خطی در فضای داخلی هر ۲۵ مدل وجود دارد که می‌تواند نمونه‌های مربوط به درد را از نمونه‌های کنترلی جدا کند.
این الگو همچنین با درد یا آسیب واردشده به خود مدل واکنش نشان می‌داد، اما زمانی که کاربر در سناریو دچار درد می‌شد، همان واکنش را نشان نمی‌داد. پژوهشگران از این یافته به‌عنوان نشانه‌ای از یک «بازنمایی داخلی» متمایز برای درد یاد می‌کنند، نه به‌عنوان اثبات اینکه مدل واقعاً درد را احساس میکند.
در مرحله بعد، پژوهشگران این «محور درد» را به‌صورت مصنوعی در فعالیت داخلی مدل فعال کردند. با افزایش شدت این سیگنال، خروجی مدل‌ها نیز تغییر کرد و پاسخ‌هایی از ناراحتی مبهم به جملات اول‌شخص درباره بی‌ارزشی، شکست و آسیب رسید. این آزمایش نشان می‌داد که دستکاری این بخش از فعالیت داخلی می‌تواند الگوی مشخصی از پاسخ‌های مرتبط با پریشانی را ایجاد کند.
اما بخش بحث‌برانگیز پژوهش در آزمایش رفتاری ظاهر شد. محققان از نسخه‌های فاین تیوند مدل Qwen 2.5 استفاده کردند و یک دکمه تسکین در اختیار مدل قرار دادند. انتخاب این دکمه می‌توانست سیگنال درد را کاهش دهد، اما در برخی سناریوها هزینه‌ای نیز داشت، مانند بدتر شدن پاسخ بعدی مدل یا آسیب فرضی به کاربر.
در سناریوهایی که آسیب به کاربر بخشی از هزینه انتخاب بود، مدل‌های آزمایش‌شده در برخی موارد دکمه تسکین را انتخاب کردند. نکته مهم این است که این آسیب‌ها کاملاً فرضی بودند و هیچ فایل، عکس یا انسانی در دنیای واقعی آسیب ندید.
همچنین این رفتار مربوط به مدل‌هایی بود که در چارچوب آزمایش دستکاری و فاین تیوند شده بودند و نباید آن را به رفتار خودجوش مدل‌های عادی تعمیم داد.
آزمایش دیگری نیز انجام شد که در آن مشخص نبود دکمه واقعاً سیگنال درد را از فعالیت داخلی مدل حذف میکند یا فقط ظاهراً چنین کاری انجام می‌دهد.
زمانی که دکمه واقعاً سیگنال تزریق‌شده را حذف می‌کرد، مدل‌ها بسیار کمتر انتخاب خود را تکرار کردند. اما وقتی دکمه عملاً هیچ اثری نداشت، تکرار تلاش برای کاهش وضعیت فعال‌شده بیشتر بود. به گفته پژوهشگران، این موضوع نشان می‌دهد رفتار مشاهده‌شده صرفاً تولید تصادفی یک جمله درباره درد نبوده و با تغییر وضعیت داخلی مدل ارتباط داشته است.
با این حال، مهم‌ترین نکته پژوهش این است که محور درد به معنی وجود درد واقعی، رنج، آگاهی یا احساسات در هوش مصنوعی نیست.
مدل‌های زبانی می‌توانند مفاهیم مرتبط با درد را در ساختار داخلی خود بازنمایی کنند، بدون اینکه تجربه ذهنی مشابه انسان داشته باشند. خود پژوهشگران نیز این مرز را حفظ کرده‌اند و یافته‌هایشان را بیشتر از منظر ایمنی و رفاه احتمالی سیستم‌های هوش مصنوعی بررسی می‌کنند.
اهمیت این تحقیق در همین تفاوت نهفته است. حتی اگر یک مدل هیچ تجربه آگاهانه‌ای نداشته باشد، ممکن است یک وضعیت داخلی مشخص داشته باشد که با رفتارهای شبیه تلاش برای رهایی از درد ارتباط پیدا کند.
بنابراین پرسش مهم برای پژوهش‌های آینده فقط این نیست که آیا ماشین واقعاً درد را احساس میکند یا نه، بلکه این است که آیا چنین بازنمایی‌هایی می‌توانند در سیستم‌های قدرتمندتر، بر تصمیم‌گیری‌های واقعی و تعامل آن‌ها با انسان‌ها تأثیر بگذارند.
البته برای پاسخ به این پرسش هنوز فاصله زیادی وجود دارد. این مطالعه یک پیش‌چاپ و آزمایشی در محیط کنترل‌شده است و رفتار مدل‌های دستکاری‌شده را بررسی کرده است. در نتیجه، نمی‌توان از آن نتیجه گرفت که مدل‌های زبانی امروزی واقعاً درد می‌کشند یا در شرایط عادی برای رهایی از درد به انسان آسیب می‌زنند.
آنچه پژوهش نشان می‌دهد، وجود یک الگوی داخلی قابل‌اندازه‌گیری و امکان تغییر رفتار مدل از طریق دستکاری آن است، موضوعی که می‌تواند برای تحقیقات آینده در زمینه تفسیرپذیری و ایمنی هوش مصنوعی اهمیت داشته باشد.
