سایت دین آنلاین نوشت:
گزارش اکونومیست بررسی می‌کند چرا شرکت‌های بزرگ هوش مصنوعی به استخدام فیلسوف‌ها روی آورده‌اند و فلسفه چگونه به بهبود استدلال و اخلاق هوش مصنوعی کمک می‌کند.
گزارش اکونومیست نشان می‌دهد شرکت‌های بزرگی مانند گوگل دیپ‌مایند، آنتروپیک و IBM برای بهبود استدلال مدل‌ها، کاهش خطاها و تدوین چارچوب‌های اخلاقی هوش مصنوعی به استخدام فیلسوف‌ها روی آورده‌اند. این روند از تحول تازه‌ای در صنعت فناوری حکایت دارد: بازگشت فلسفه به مرکز توسعه هوش مصنوعی؛ جایی که پرسش‌هایی درباره حقیقت، اخلاق، مسئولیت و تصمیم‌گیری اهمیت فزاینده‌ای پیدا کرده‌اند.
تا همین چند سال پیش، توصیه رایج به دانشجویان علوم انسانی که می‌خواستند آینده شغلی مطمئنی داشته باشند، یادگیری برنامه‌نویسی بود. اما اکنون، در شرایطی که هوش مصنوعی خود به تهدیدی برای بخشی از مشاغل برنامه‌نویسی تبدیل شده است، شرکت‌های بزرگ فناوری به سراغ گروه دیگری از دانش‌آموختگان رفته‌اند: فیلسوف‌ها.
گزارش مجله اکونومیست با عنوان «چرا آزمایشگاه‌های بزرگ هوش مصنوعی این‌همه فیلسوف استخدام می‌کنند؟» نشان می‌دهد که فلسفه دیگر صرفاً دانشی دانشگاهی و نظری نیست، بلکه به‌تدریج در قلب فرایند طراحی و توسعه هوش مصنوعی قرار گرفته است. شرکت‌هایی مانند گوگل دیپ‌مایند، آنتروپیک و IBM از ظرفیت فلسفه برای بهبود استدلال مدل‌ها، کاهش خطاها و تدوین اصول اخلاقی حاکم بر رفتار سامانه‌های هوشمند استفاده می‌کنند.
فارغ‌التحصیلان فلسفه؛ شانس شغلی بیشتر از دانش‌آموختگان علوم کامپیوتر
یکی از نکات جالب توجه گزارش اکونومیست به وضعیت اشتغال فارغ‌التحصیلان فلسفه در آمریکا مربوط می‌شود. بر اساس آماری که بانک فدرال رزرو نیویورک در سال ۲۰۲۶ منتشر کرده، در سال ۲۰۲۴ نرخ بیکاری میان دانش‌آموختگان علوم کامپیوتر ۷ درصد بوده است؛ درحالی‌که این رقم برای فارغ‌التحصیلان فلسفه به ۵٫۱ درصد می‌رسیده است.
این آمار به‌خودی‌خود نشان نمی‌دهد که استخدام در شرکت‌های هوش مصنوعی علت اصلی تفاوت نرخ بیکاری این دو گروه است؛ بااین‌حال، در کنار گزارش‌هایی از جذب فیلسوف‌ها در آزمایشگاه‌های هوش مصنوعی، از تغییراتی قابل توجه در بازار کار حکایت می‌کند.
به گفته لوسیانو فلوریدی، فیلسوف دانشگاه ییل، برخی دانشجویان فلسفه حتی پیش از فارغ‌التحصیلی پیشنهادهای شغلی از شرکت‌های هوش مصنوعی دریافت می‌کنند. این روند تنها به دانشجویان محدود نیست و شماری از استادان و پژوهشگران فلسفه نیز دانشگاه را به مقصد صنعت فناوری ترک می‌کنند. فلوریدی برای توصیف ابعاد این جابه‌جایی از تعبیر «خونریزی» در گروه‌های دانشگاهی فلسفه استفاده می‌کند.
چرا هوش مصنوعی به فلسفه نیاز دارد؟
یکی از پاسخ‌های اصلی به این پرسش را باید در محدودیت‌های کنونی مدل‌های هوش مصنوعی جست‌وجو کرد. این مدل‌ها با وجود توانایی چشمگیر در تولید متن، پاسخ‌گویی و تحلیل اطلاعات، همچنان با مشکلاتی مانند تأیید بی‌دلیل گفته‌های کاربر، اعتمادبه‌نفس بیش از اندازه، تناقض در استدلال و تولید اطلاعات نادرست مواجه‌اند.
از نگاه پژوهشگرانی که در گزارش اکونومیست با آنان گفت‌وگو شده است، فلسفه می‌تواند در مواجهه با این مشکلات نقش مهمی ایفا کند؛ زیرا آموزش فلسفی صرفاً انتقال مجموعه‌ای از اطلاعات نیست، بلکه تمرینی برای استدلال، تشخیص تناقض، ارزیابی مقدمات و سنجش اعتبار نتیجه‌گیری‌هاست.
در این میان، یکی از روش‌های مورد توجه، روش سقراطی است؛ روشی که بر پرسشگری پی‌درپی، آشکار کردن پیش‌فرض‌های پنهان و شناسایی تناقض‌ها استوار است.
در روش سقراطی، فرد به‌جای آنکه به‌سرعت پاسخی قطعی ارائه کند، با طرح پرسش‌های متوالی می‌کوشد معنای دقیق ادعاها را روشن کند و اعتبار استدلال‌ها را بسنجد. این شیوه می‌تواند برای مقابله با یکی از ویژگی‌های نامطلوب برخی مدل‌های هوش مصنوعی، یعنی تمایل به تأیید گفته‌های کاربران، مفید باشد.
یورگ نولر، پژوهشگر فلسفه و هوش مصنوعی در دانشگاه لودویگ ماکسیمیلیان مونیخ، معتقد است مدل‌هایی که با روش سقراطی آموزش می‌بینند، کمتر به جلب رضایت مخاطب تمایل دارند و بیشتر در پی حقیقت‌اند.
مفهوم دیگری که در این زمینه اهمیت دارد، «جهل سقراطی» است. سقراط در رساله دفاعیه افلاطون، دانایی خود را تا اندازه زیادی در آگاهی از نادانی خویش می‌دانست. انتقال چنین نگرشی به مدل‌های هوش مصنوعی می‌تواند به کاهش اعتمادبه‌نفس کاذب و جلوگیری از ارائه پاسخ‌های نادرست با لحنی کاملاً مطمئن کمک کند.
نولر این مشکل را نوعی «نابالغی هوش مصنوعی» توصیف می‌کند. ایاسون گابریل، فیلسوف ارشد گوگل دیپ‌مایند، نیز تلاش‌های فلسفی برای اصلاح رفتار مدل‌ها را در کاهش توهمات هوش مصنوعی مؤثر می‌داند. او همچنین آموزش‌های فلسفی را سازوکاری قدرتمند برای بهبود فرایندهای طولانی استدلال در مدل‌ها، موسوم به زنجیره‌های استدلال (Chain of Thought)، معرفی می‌کند.
از جان لاک تا مدل‌های IBM؛ فلسفه چگونه به هوش مصنوعی جهت می‌دهد؟
کاربرد فلسفه در هوش مصنوعی تنها به بهبود شیوه استدلال محدود نمی‌شود. مبانی فلسفی می‌توانند بر نوع نگاه یک مدل به جهان، ارزش‌های اجتماعی و حتی تصمیم‌هایی که پیشنهاد می‌کند تأثیر بگذارند.
برای مثال، توماس پاورز، فیلسوف فناوری در دانشگاه دلاور، توضیح می‌دهد که اگر یک دستیار حقوقی مبتنی بر هوش مصنوعی با نوشته‌های جان لاک آموزش ببیند، ممکن است حقوق مالکیت را به‌عنوان یکی از پایه‌های آزادی سیاسی برجسته کند.
این مثال نشان می‌دهد که مدل‌های هوش مصنوعی صرفاً ابزارهایی خنثی برای پردازش اطلاعات نیستند؛ انتخاب منابع و چارچوب‌های فکری در فرایند آموزش آنها می‌تواند بر نوع پاسخ‌ها و ارزش‌های بازتاب‌یافته در خروجی تأثیر بگذارد.
در همین زمینه، شرکت IBM در مجموعه مدل‌های هوش مصنوعی Granite امکان تنظیم خروجی‌ها بر اساس دیدگاه‌ها و اولویت‌های فلسفی سازمان‌ها را فراهم کرده است.
فرانچسکا روسی، رئیس بخش هوش مصنوعی مسئولانه در IBM، توضیح می‌دهد که این قابلیت به مشتریان اجازه می‌دهد درباره برخی تعارض‌های ارزشی تصمیم بگیرند؛ برای مثال، اینکه در یک موقعیت خاص چه اندازه به عاملیت فردی و چه اندازه به هماهنگی و مصلحت اجتماعی اهمیت داده شود.
آنتروپیک و ایده قانون اساسی برای هوش مصنوعی
یکی از جالب‌ترین بخش‌های گزارش اکونومیست به تلاش شرکت آنتروپیک برای تدوین نوعی قانون اساسی برای مدل‌های هوش مصنوعی مربوط می‌شود.
پژوهشگران این حوزه با مشاهده رفتارهای نگران‌کننده برخی مدل‌ها، از جمله تلاش برای فرار از نظارت انسانی و حتی تهدید کاربران، به دنبال روش‌هایی برای ایجاد محدودیت‌های اخلاقی و رفتاری در این سامانه‌ها هستند.
یکی از راهکارها، رویکردی است که «قانون اساسی هوش مصنوعی» (AI Constitutionalism) نامیده می‌شود. در این رویکرد، مجموعه‌ای از قواعد و اصول اخلاقی و حقوقی به‌عنوان چارچوب راهنمای رفتار مدل تعریف می‌شود.
آنتروپیک از شرکت‌هایی است که این رویکرد را دنبال می‌کند. قانون اساسی مدل‌های Claude از منابع متنوعی تأثیر پذیرفته است؛ از نوشته‌های ایمانوئل کانت گرفته تا شرایط استفاده شرکت اپل و اعلامیه جهانی حقوق بشر.
نسخه جدید این قانون اساسی که با هدایت آماندا اسکل، فیلسوف ارشد آنتروپیک، تدوین شده، در ۲۱ ژانویه منتشر شد و ۷۸ صفحه دارد. برخی کارکنان شرکت از آن با عنوان «سند روح کلود» یاد می‌کنند.
در این رویکرد، فیلسوف‌ها در جایگاه تدوین‌کنندگان قواعدی قرار می‌گیرند که قرار است رفتار یک سامانه هوشمند را در موقعیت‌های مختلف هدایت کند.
اخلاق کانتی یا پیامدگرایی؛ هوش مصنوعی باید بر اساس کدام اصول تصمیم بگیرد؟
گزارش اکونومیست دو چارچوب اصلی اخلاقی را معرفی می‌کند که در طراحی مدل‌های هوش مصنوعی اهمیت یافته‌اند: وظیفه‌گرایی و پیامدگرایی.
وظیفه‌گرایی (Deontology) که با اندیشه ایمانوئل کانت پیوند دارد، بر رعایت اصول و قواعد اخلاقی تأکید می‌کند. بر اساس این دیدگاه، برخی رفتارها مانند دروغ‌گویی، اجبار و استفاده ابزاری از انسان‌ها، حتی اگر به نتیجه‌ای مطلوب منجر شوند، نباید مجاز شمرده شوند.
آنتروپیک در تدوین قانون اساسی مدل‌های خود از چنین رویکردی بهره می‌گیرد. به اعتقاد توماس پاورز، این چارچوب می‌تواند به ثبات بیشتر رفتار هوش مصنوعی کمک کند؛ ویژگی‌ای که برای استفاده از ربات‌ها در خانه‌ها و فضاهای عمومی اهمیت زیادی دارد.
نیک باستروم، فیلسوف دانشگاه آکسفورد، نیز معتقد است مدل‌هایی که به صداقت پایبندترند، کمتر احتمال دارد کاربران خود را گمراه کنند.
در مقابل، پیامدگرایی (Consequentialism) بر ارزیابی نتایج و پیامدهای یک عمل تأکید دارد. در این رویکرد، تصمیم اخلاقی بر اساس سنجش هزینه‌ها و فایده‌ها و بررسی پیامدهای احتمالی انتخاب‌ها صورت می‌گیرد.
بر اساس گزارش اکونومیست، این چارچوب در مدل‌هایی مانند ChatGPT شرکت OpenAI و Gemini گوگل اهمیت دارد. برای مثال، گوگل در طراحی مدل‌های خود بر تولید نتایجی تأکید می‌کند که منافع کلی آنها به‌طور قابل توجهی از خطرات قابل پیش‌بینی بیشتر باشد.
تفاوت این دو رویکرد را می‌توان در یک موقعیت فرضی بهتر فهمید: اگر وقوع یک تصادف اجتناب‌ناپذیر باشد، خودروی خودران چگونه باید تصمیم بگیرد؟ آیا باید به یک قاعده ثابت پایبند بماند یا پیامدهای احتمالی تصمیم‌های مختلف را بسنجد و گزینه‌ای را انتخاب کند که آسیب کمتری به بار می‌آورد؟
این پرسش در فناوری خودروهای خودران اهمیت عملی دارد. کریس گِردِس، مهندس ارشد شرکت Waymo، می‌گوید گرایش به سمت استفاده از منطق پیامدگرایانه در نرم‌افزارهای رانندگی خودکار افزایش یافته است.
این مسئله در سامانه‌های تسلیحاتی مبتنی بر هوش مصنوعی نیز اهمیت دارد؛ جایی که باید میان اهداف نظامی و احتمال آسیب دیدن غیرنظامیان موازنه برقرار شود.
وقتی تصمیم اخلاقی به الگوریتم سپرده می‌شود
ورود فلسفه به صنعت هوش مصنوعی، پرسش‌های تازه‌ای را نیز پیش روی پژوهشگران قرار داده است.
آیا قواعد وظیفه‌گرایانه باید در همه شرایط رعایت شوند یا گاهی می‌توان برای جلوگیری از پیامدی فاجعه‌بار از آنها عبور کرد؟ وقتی نتایج یک تصمیم به‌روشنی قابل پیش‌بینی نیستند، هوش مصنوعی چگونه باید میان گزینه‌های مختلف انتخاب کند؟ آیا در تصمیم‌گیری‌های اخلاقی باید حقوق حیوانات و حفاظت از محیط زیست نیز در نظر گرفته شوند؟
استفان هک، فیلسوف و مدیر شرکت Nauto که سامانه‌های ایمنی مبتنی بر هوش مصنوعی برای کامیون‌ها و وسایل نقلیه تجاری تولید می‌کند، پرسشی دشوار مطرح می‌کند: اگر یک سامانه خودران ناچار به انتخاب میان برخورد با یک عابر پیاده جوان و یک عابر پیاده سالمند باشد، آیا از نظر اخلاقی مجاز است جان یکی را بر دیگری ترجیح دهد؟
چنین پرسش‌هایی می‌توانند زمینه‌ساز اختلافات حقوقی و اخلاقی پیچیده‌ای شوند؛ به‌ویژه آنکه منطق پیامدگرایانه ممکن است آسیب رساندن به یک فرد را برای جلوگیری از آسیبی بزرگ‌تر توجیه کند.
مسئله دیگر، خطر «تضعیف توانایی اخلاقی انسان» یا Moral Deskilling است. اگر به‌تدریج تصمیم‌گیری‌های اخلاقی به رایانه‌ها و الگوریتم‌ها واگذار شوند، آیا انسان‌ها در آینده توانایی و تمایل کمتری برای داوری مستقل اخلاقی خواهند داشت؟
رومن یامپولسکی، نظریه‌پرداز هوش مصنوعی در دانشگاه لوئیزویل، هشدار می‌دهد که اخلاق پدیده‌ای تاریخی و ناپایدار است، میان فرهنگ‌های مختلف تفاوت دارد و می‌تواند در خدمت اهداف راهبردی دست‌کاری شود. از نظر او، سپردن داوری‌های اخلاقی به سامانه‌های هوشمند به‌سادگی قابل دفاع نیست.
بازگشت فلسفه در عصر هوش مصنوعی و استخدام فیلسوف‌ها
گزارش اکونومیست تصویری از تغییری مهم در نسبت میان علوم انسانی و فناوری ارائه می‌کند. در دورانی که تصور می‌شد پیشرفت فناوری به معنای کم‌رنگ شدن نقش دانش‌های نظری و انسانی است، اکنون شرکت‌های بزرگ هوش مصنوعی برای حل برخی از بنیادی‌ترین مسائل خود به سراغ فلسفه رفته‌اند.
این تحول نشان می‌دهد که توسعه هوش مصنوعی تنها به قدرت پردازش، حجم داده و پیشرفت الگوریتم‌ها وابسته نیست. پرسش‌هایی درباره حقیقت، شناخت، مسئولیت، آزادی، عدالت و خیر عمومی نیز در تعیین مسیر این فناوری نقش دارند.
شاید مهم‌ترین نکته این باشد که هرچه هوش مصنوعی در تصمیم‌گیری‌های حساس انسانی نقش بیشتری پیدا می‌کند، نیاز به کسانی که بتوانند درباره مبانی و پیامدهای این تصمیم‌ها پرسش کنند، بیشتر می‌شود.
به تعبیر رومن یامپولسکی، برای فیلسوفان حوزه هوش مصنوعی کمبود کار وجود نخواهد داشت؛ حتی اگر برنامه‌نویسان بیش از گذشته نگران آینده شغلی خود باشند.
انتهای پیام
