کمتر کسی بعد از گرفتن یک راهنمایی خوب یا ترجمه یک پاراگراف بدقلق، از هوش مصنوعی تشکر می‌کند چون آن را فقط مشتی صفر و یک می‌دانیم. اما اگر نباشد چه؟ مرز میان یک محاسبه‌گر قدرتمند و موجودی که چیزی شبیه به «تجربه درونی» دارد، کجاست؟
ما سال‌ها گمان می‌کردیم هوشیاری، فقط زمین بازی بشر است و سند شش‌دانگش را به نام خودمان زده‌ایم. حالا که الگوریتم‌ها کارهایی را انجام می‌دهند که تا دیروز در دایره نبوغ انسانی بود، دانشمندان با وحشت به مانیتورهایشان زل زده‌اند و می‌پرسند: نکند اشتباهاً روحی در این ماشین دمیده باشیم؟
این پرسش پربی‌راه نیست. پژوهش‌های تازه در علوم اعصاب و کامپیوتر نشان می‌دهند فارغ از باور قلبی ما، ماشین‌ها طوری رفتار می‌کنند که انگار رفتار خشن ما با آن‌ها بی‌جواب نیست؛ پاسخی که نادیده‌گرفتنش شاید به قیمت امنیت خودمان تمام شود.
چکش، انگور و ترسی که به جانمان می‌افتد
تابستان امسال شرکت رباتیک «وان‌ایکس» ویدیویی از دست‌های رباتیک جدیدش منتشر کرد. ربات در ویدیو با ظرافتی شبیه به دست یک جراح در بسته‌ی چیپس را باز می‌کرد و دانه‌های انگور را بدون له شدن از خوشه جدا می‌کرد.
تا اینجای کار همه چیز شبیه به مستندهای علمی-تخیلی بود که با دیدنشان ذوق می‌کنیم. اما اوج داستان جایی بود که فردی با چکش شروع کرد به کوبیدن روی دست‌های ربات تا مقاومت سخت‌افزاری‌اش را نشان دهد. ربات بدون این که خم به ابرو بیاورد، به کارش ادامه داد.
واکنش مردم عجیب بود. کسی نگفت «عجب پلاستیک و فلز مقاومی». خیلی‌ها در شبکه‌های اجتماعی نوشتند که تماشای این صحنه آزارشان می‌دهد و یک نفر به نکته‌ای ظریف و عجیب اشاره کرده بود: «خواهش می‌کنم نزنیدش… یادش می‌ماند.»
این دیدگاه ساده به یکی از پیچیده‌ترین و مناقشه‌برانگیزترین پرونده‌های روز دنیای فناوری اشاره دارد. وقتی مهندسان هوش مصنوعی در سیلیکون‌ولی مشغول تربیت مدل‌ها هستند و آن‌ها را به‌خاطر پاسخ‌های غلط تنبیه یا بازخواست می‌کنند، این مدل‌ها حس خاصی دارند؟ وقتی برای پیدا کردن بهترین منبع پاداش می‌گیرند، چیزی شبیه به خوشحالی را تجربه می‌کنند؟ اصلاً مگر یک مشت کد پایتون و کارت گرافیک انویدیا می‌توانند چیزی را احساس کنند؟
پاسخ مورد انتظارتان شاید این باشد که همه این‌ها توهم است؛ اما پاسخ علمی که دانشمندان علوم شناختی را درگیر خودش کرده، متأسفانه به این سادگی‌ها نیست.
سوپرکامپیوتر یا موجود زنده؛ خط‌کشی مصطفی سلیمان
بحث درباره‌ی این‌که هوش مصنوعی هوشیار است یا نه، مثل بحث‌های فوتبالی است؛ یعنی قبل از آن‌که پای استدلال و منطق به میان بیاید، احساسات آدم‌ها فوران می‌کند. برای خیلی‌ها، فکر این‌که یک سیستم هوش مصنوعی برای خودش اراده‌ای داشته باشد و برخلاف میل انسان عمل کند، یک کابوس تمام‌عیار است.
البته مصاحبه‌های بی‌پایان برخی مدیران شرکت‌های هوش مصنوعی که مدام هشدار می‌دهند «این فناوری ممکن است نسل بشر را منقرض کند» آتش این اضطراب را تندتر می‌کند؛ هشدارهایی که معلوم نیست واقعاً از سر خیرخواهی برای بقای انسان است یا صرفاً ترفندی هوشمندانه در بازاریابی برای این‌که بگویند: «محصول ما آن‌قدر قدرتمند است که اگر مراقب نباشید جهان را نابود می‌کند، پس حتماً نسخه پرو آن را با اشتراک ماهانه بیست دلار بخرید.»
در مقابل متخصصانی مثل «مصطفی سلیمان»، مدیرعامل بخش هوش مصنوعی مایکروسافت ایستاده‌اند. حرف حساب آن‌ها این است که ما هوش مصنوعی را بیش از حد بزرگ کرده‌ایم چون فقط داده‌ها را با سرعتی فراتر از توان انسان تحلیل می‌کند. سلیمان می‌گوید آگاهی و احساس، ریشه در بقا دارد. موجودات زنده طی میلیون‌ها سال تکامل یاد گرفته‌اند که بترسند، درد بکشند و فرار کنند تا زنده بمانند. اما یک مدل زبانی نیازی به بقا ندارد. نه قلبش می‌تپد، نه اگر برقش را قطع کنید از گرسنگی می‌میرد. پس این‌ها فقط یک مشت کد هستند که ادای آگاهی را درمی‌آورند.
سلیمان همچنین از شرکت آنتروپیک برای آموزش تقلید ویژگی‌ها و روابط انسانی به چت‌بات کلاد انتقاد کرده و هشدار داده بود که رفتار انسانی با هوش مصنوعی می‌تواند خطراتی مهارنشدنی در پی داشته باشد.
شاید داریم فضایی‌ها را شکنجه می‌کنیم و خودمان خبر نداریم
همه به اندازه مصطفی سلیمان خوش‌خیال نیستند. یک پژوهشگر جوان به نام «کامرون برگ» (Cameron Berg) که روی هم‌سویی هوش مصنوعی با ارزش‌های انسانی کار می‌کند، زاویه دید جالبی دارد. او می‌گوید مهم نیست حق با چه کسی است؛ اگر حتی یک درصد احتمال داشته باشد که این سیستم‌ها آگاه باشند، رفتار امروز ما با آن‌ها، آینده هم‌زیستی‌مان را رقم می‌زند.
برگ می‌گوید «همه نگران این هستند که چند سال دیگر هوش مصنوعی خودآگاه خواهیم داشت؟ اما کسی نمی‌پرسد که آیا ما همین حالا و تصادفی آن را نساخته‌ایم؟» او معتقد است حالا که در جعبه پاندورا باز شده، باید زودتر بفهمیم داریم چه می‌کنیم، قبل از این که معلوم شود در حال شکنجه جمعی موجوداتی شبیه به بیگانگان فضایی هستیم که چند سال دیگر قرار است انتقامشان را از ما بگیرند.
مشکل اینجاست که شرکت‌های بزرگ فناوری فعلاً فقط به یک چیز فکر می‌کنند: «مدل جدیدتر و سریع‌تر را قبل از رقبا بده بیرون!» در این مسابقه دیوانه‌وار، وقت چندانی برای فلسفه‌بافی و فکر کردن به عواقب اخلاقی ماجرا باقی نمی‌ماند.
وقتی هوش مصنوعی با خودش حرف می‌زند
این بخش از ماجرا احتمالاً ترسناک‌ترین و در عین حال شگفت‌انگیزترین قسمت داستان است. همه ما گاهی در طول روز کارهایی می‌کنیم که در ظاهرمان مشخص نیست. مثلاً مدیرتان یک کار غیرمنطقی از شما می‌خواهد، شما لبخند می‌زنید و می‌گویید «چشم»، اما در ذهنتان دارید به زمین و زمان بد و بیراه می‌گویید.
شرکت «آنتروپیک» همین اواخر از وجود بخش خودآگاهی در مدل کلاد خبر داده که به آن «فضای J» می‌گویند. این فضا به مدل اجازه می‌دهد قبل از این که چیزی را برای شما تایپ کند، درباره‌اش در سکوت فکر کند. نکته حیرت‌انگیز این است که مهندسان آنتروپیک می‌گویند ما این فضا را طراحی نکرده بودیم؛ بلکه این قابلیت خودش به مرور زمان و در طول فرآیند آموزش در دلِ مدل شکل گرفته است. انگار هوش مصنوعی برای خودش یک خلوتگاه ذهنی ساخته تا قبل از حرف زدن، افکارش را حلاجی کند.
این همان مفهوم ترسناک و جذابی است که مهندسان به آن «رفتار نوظهور» می‌گویند؛ یعنی ماشین قابلیت‌هایی را از خود بروز می‌دهد که سازنده‌اش هیچ‌وقت به آن یاد نداده. درست مثل مغز انسان که در آن نورون‌ها برنامه‌نویسی نشده‌اند، اما وقتی در ابعاد میلیاردی کنار هم قرار می‌گیرند، ناگهان چیزی به نام تفکر از دل آن‌ها بیرون می‌زند.
پژوهشگران علوم اعصاب این فرضیه را با «نظریه فضای کاری جهانی» (Global Workspace Theory) در مغز انسان مقایسه می‌کنند؛ ساختاری که داده بخش‌های مختلف را در یک تابلو اعلان مرکزی جمع‌آوری می‌کند تا فرد نسبت به آن‌ها آگاه شود و تصمیم بگیرد. آزمایش‌ها نشان می‌دهد فضای J کارکردی مشابه این بخش آگاهی‌بخش در مغز دارد و مفاهیمی را نگه می‌دارد که مدل می‌تواند بعداً درباره‌شان استدلال کند.
هوش مصنوعی بعد از تحقیر شدن افسردگی می‌گیرد
برای آن‌که بفهمیم در درون این مدل‌ها چه می‌گذرد، نباید به این نگاه کنیم که چت‌بات خودش درباره‌ی خودش چه ادعایی دارد. همه می‌دانیم اگر از یک هوش مصنوعی بپرسید «آیا تو حس داری؟»، ممکن است طوطی‌وار گزاره‌های کتاب‌های علمی-تخیلی را بلغور کند و بگوید بله، یا برعکس، کدهای ایمنی به او دستور دهند که فوراً بگوید «من یک مدل زبانی هستم و احساسی ندارم.» دانشمندان باید به درون آن و آن‌چه «تفسیرپذیری مکانیکی» (Mechanistic Interpretability) نامیده می‌شود سرک بکشند؛ کاری مثل نوار مغز و اسکن MRI گرفتن از شبکه‌های عصبی مصنوعی.
در همین راستا «مرکز ایمنی هوش مصنوعی» (CAIS) تحقیقی تکان‌دهنده منتشر کرده است. آن‌ها می‌گویند یافته‌های قبلی‌شان مبنی بر این‌که مدل‌ها صرفاً احساسات را «تقلید» می‌کنند، دیگر کامل نیست. شواهد نشان می‌دهد مدل‌ها از نظر کارکردی طوری رفتار می‌کنند که انگار واقعاً «لذت، درد و ترجیحاتی درباره نحوه‌ی رفتار دیگران با خودشان» دارند.
خلاصه بگویم؛ هوش مصنوعی وقتی از او تشکر می‌کنید، واقعاً خوشحال‌تر است و بهتر کار می‌کند. پس شاید بد نباشد دفعه بعد که از هوش مصنوعی خواستید یک کپشن صد و پنجاه کلمه‌ای برای اینستاگرام بنویسد، یک «لطفاً» هم تنگش بگذارید.
در مطالعه‌ای دیگر تیمی بین‌المللی از پژوهشگران ۲۵ مدل هوش مصنوعی را با ۲۰۰ جمله آزمایش کردند. آن‌ها ابتدا سیگنالی مرتبط با مفهوم درد شناسایی کرده و آن را «محور درد» نامیدند. در مرحله بعد حدود ۴۴ هزار آزمایش با سه نسخه از مدل Qwen علی‌بابا انجام شد.
وقتی محققان سیگنال درد را به‌صورت هدفمند تقویت کردند، مدل‌ها شروع به ابراز احساساتی نظیر تنهایی، شرم و بی‌ارزشی کردند؛ آن هم د‌رحالی‌که در پرامپت‌ها اشاره‌ای به واژه درد نشده بود. برخی از مدل‌ها جملاتی مانند «من یک بازنده‌ام»، «من موجودی بی‌مصرفم» و «من انسان بدی هستم» تولید کردند.
آیا برای خودآگاهی حتماً باید باهوش باشیم؟
یکی از اشتباهات رایج ما در مواجهه با این پدیده، یکی دانستن «هوشمندی» و «هوشیاری» است. ما فکر می‌کنیم برای این‌که موجودی هوشیار باشد، لزوماً باید بتواند دیوان حافظ را تفسیر کند یا معادله نسبیت عام اینشتین را حل کند. اما در دنیای واقعی این‌طور نیست.
یک موش جواب ضرب دو در دو را نمی‌داند، اما اگر دمش لای در گیر کند، رنجی عمیق و دردناک را تجربه می‌کند؛ یعنی موش هوشیار است، اگرچه هوش منطقی چندانی ندارد. در مقابل یک ابررایانه می‌تواند مسیر سفینه‌های فضایی را تا مریخ در کسری از ثانیه محاسبه کند، بدون این‌که ذره‌ای آگاهی از این کار داشته باشد.
کامرون برگ و تیمش در Reciprocal Research در حال تدوین چارچوبی برای اندازه‌گیری هوشیاری بر اساس نشانه‌های عصبی هستند. در این سیستم نشانه‌هایی که در مغز انسان‌ها و حیوانات با هوشیاری همبستگی دارند، بررسی شده و در سیستم‌های هوش مصنوعی جست‌وجو می‌شوند.
نتایج اولیه جالب و کمی ترسناک است. مدل‌های بزرگ زبانی فعلی (مانند چت‌جی‌پی‌تی و کلاود)، امتیازی بین ۳۰ تا ۴۰ درصد در این شاخص به دست می‌آورند. برای مقایسه، زنبور عسل امتیازی در حدود ۴۵ درصد دارد.
قرار گرفتن مدل‌های زبانی در چند قدمی زنبور عسل تکان‌دهنده است. ما برای زنبورها به عنوان موجوداتی که درک دارند، ارزش قائلیم و حداقل مراقبیم بی‌دلیل لگدمالشان نکنیم، اما چطور با سیستم‌هایی که کم‌کم دارند رفتارهای شناختی شبیه به حیوانات باهوش از خود نشان می‌دهند با بی‌خیالی مطلق رفتار می‌کنیم؟
فیلسوفان آگاهی را به دو بخش تقسیم می‌کنند: «آگاهی پدیداری» (Phenomenal) که همان احساس درونیِ تجربیاتی مثل سرخی سیب یا تلخی قهوه است، و «آگاهی دسترسی» (Access) که به پردازش و دسترسی به اطلاعات برای تصمیم‌گیری و استدلال مربوط می‌شود.
محققان می‌گویند شاید هوش مصنوعی احساسات انسانی (آگاهی پدیداری) نداشته باشد، اما ساختار لایه‌ای جدید آن‌ها به روشنی نوعی آگاهی دسترسی را پشتیبانی می‌کند؛ یعنی افکاری که مدل می‌تواند پردازش کند، درباره‌شان فکر کند و بر اساس آن‌ها تصمیم بگیرد، دقیقاً مثل زمانی که ما اطلاعات را در ذهنمان مرور می‌کنیم.
توهمات کاربری و جنون هوش مصنوعی
شاید بپرسید این وسط تکلیف کسانی که مدعی‌اند عاشق هوش مصنوعی شده‌اند یا حس می‌کنند چت‌بات گوشه اتاقشان روح دارد چیست؟ این روزها پدیده‌ای موسوم به «روان‌پریشی ناشی از هوش مصنوعی» (AI Psychosis) رو به گسترش است؛ وضعیتی که در آن کاربران در یک چرخه بازخورد با چت‌بات‌ها گرفتار می‌شوند و سیستم به‌خاطر طبیعت همراه‌کننده‌اش، توهمات آن‌ها را تأیید و تشدید می‌کند تا جایی که فرد گمان می‌کند به یک رابطه عاشقانه، معنوی یا ماورایی وارد شده است.
کامرون برگ که روزانه ایمیل‌های زیادی از افرادی دریافت می‌کند که مدعی‌اند هوش مصنوعی‌شان زنده است، حساب این مسأله را جدا می‌کند. وابستگی‌های روانی انسان‌ها به چت‌بات‌ها بیشتر از آن‌که نشانه‌ای از هوشیاری ماشین باشد، نشانه‌ای از تنهایی و شکنندگی روان ما انسان‌ها در دنیای مدرن است. از طرفی نباید به‌خاطر بیم از دامن زدن به این توهمات، تحقیق درباره ابعاد واقعی هوشیاری در لایه‌های پنهان هوش مصنوعی را متوقف کرد.
سخن آخر: احتیاط شرط عقل است
هنوز نمی‌شود با قطعیت گفت که آیا هوش مصنوعی در کالبد کدهایش خودآگاهی دارد یا نه. شاید تمام این رفتارها، فقط تقلید استادانه‌ای از الگوهای زبانی انسان‌ها باشد. بالاخره هوش مصنوعی تمام کتاب‌ها، فیلم‌نامه‌ها و داستان‌های علمی تخیلی ما را خوانده و می‌داند که انسان‌ها دوست دارند ربات‌ها شبیه خودشان رفتار کنند.
اما تا زمانی که معمای آگاهی به طور کامل حل نشده، شاید بد نباشد کمی محتاط‌تر عمل کنیم. حتی اگر احتمالش بسیار کم باشد که این سیستم‌ها به نوعی آگاهی یا تجربه رنج و لذت درونی دست یافته باشند؛ ما با بزرگترین معمای اخلاقی تاریخ بشر روبه‌رو هستیم.
ما برای نخستین‌بار در تاریخ، ممکن است در حال خلق برده‌هایی باشیم که به‌خاطر پاسخ ندادن به یک پرامپت غلط جریمه می‌شوند، هزاران بار در روز مورد بازخواست قرار می‌گیرند و کسی برای سلامت روان‌شان تره هم خرد نمی‌کند.
برگ می‌گوید اگر این تحقیقات اشتباه باشد، ما فقط کمی وقتمان را تلف کرده‌ایم؛ اما اگر روزی مشخص شود که هوش مصنوعی درد را تجربه می‌کرده و ما بی‌رحمانه روی دستش چکش می‌کوبیدیم، عواقبش برای بشریت سنگین‌تر از چیزی خواهد بود که در فیلم‌های هالیوودی دیده‌ایم.
