چگونه در عصر چت‌جی‌پی‌تی با افلاطون مخالفت کنیم؟
توفکچی مطلبی درباره‌ی مخالفت با ارسطو در عصر چت‌جی‌پی‌تی در سایت نیویورک تایمز نوشته است که متن آن با ترجمه‌ی محمدحسین قدمی در سایت سایبرپژوه منتشر شده است.
افلاطون در رساله‌ی «فدروس» با ایجاد دیالوگی میان سقراط و فدروس نظر خود را در مورد اختراع الفبا و فن کتابت و نوشتن بیان می‌کند. فیلسوفان تا پیش از افلاطون کمتر می‌نوشتند و اگر کتابی هم تالیف می‌کردند، شاید به دلیل عدم اهتمام عمومی به حکمت مکتوب، آن کتاب در طول زمان باقی نمی‌ماند. تا پیش از آن صدر و سینه‌ی یونانی‌ها مکان دانش و حکمت بود و جاه و جلال دانش، اعظم از آن بود که در صفحات بی‌روح کتاب‌ها جای بگیرد. خلاصه‌ی مطلب افلاطون درباره این موضوع این است که در اثر اختراع نویسندگی، دانش انسان‌ها سطحی و بی فروغ گشته است.
توفکچی در این یادداشت با بیان رویکرد افلاطون نسبت به تکنولوژی‌های جدید که در پستوی اندیشه او درباره اختراع و گسترش کتابت نهتفه است، با آن مخالفت کرده و ادعا می‌کند که باید با تکنولوژی جدیدی همچون چت‌جی‌پی‌تی تا می‌توانیم «نا افلاطونی» برخورد کنیم. از نظر او باید از غصه خوردن درباره مشاغل و مهارت‌هایی که هوش مصنوعی از دور خارج خواهد کرد دست بکشیم و با آموزش عادلانه‌ی آن چه که در این‌باره لازم است، از خطرات این الفبای جدید بکاهیم.
افلاطون به علت اختراع شدن حروف الفبا ماتم گرفته بود و نگران بود که استفاده از متن می‌تواند موجودیت فن سنتی و حافظه‌محورِِ بلاغت را به خطر بیندازد. وی در یکی از رسالات خود از زبان تاموس -خدای خدایان مصری- می‌گوید که استفاده از این تکنولوژی جدید‌تر باعث «ایجاد فراموشی در روح متعلمین می‌شود. چرا که آن‌ها از حافظه‌‌ی خود استفاده نخواهند کرد» و این فناوری «نه حقیقت، بلکه تنها شبه-حقیقت را منتقل خواهد کرد» و کسانی که با آن مانوس می‌شوند «دانای کل به نظر می‌رسند اما غالباً هیچ نمی‌دانند» و «تظاهر به خردمندی می‌کنند بی آن که حقیقتاً چنین باشند.»
چنان چه افلاطون امروز زنده بود آیا درباره چت‌جی‌پی‌تی مشابه چنین سخنانی را می‌گفت؟
چت‌جی‌پی‌تی (یک برنامه مکالمه‌محور هوش مصنوعی که به تازگی توسط شرکت OpenAI انتشار یافت) قسمت دیگری از چرخه هیاهوی هوش مصنوعی نیست. این برنامه یک پیشرفت بسیار مهم است که می‌تواند در پاسخ به سوالات تشریحی، جستارهایی تولید کند که از نظر کیفیت با تکالیف باکیفیت دبیرستانی‌ها قابل مقایسه است.
بسیاری از جهات جالب توجه و نگران‌کننده چت‌جی‌پی‌تی در دبیرستان‌ها و حتی دانشگاه‌ها خود را نشان خواهند داد.
تکالیف غالباً چون ارزشِ فی‌نفسه دارند به دانش‌آموزان و دانشجویان محول نمی‌شوند که والدین آن‌ها مفتخرانه نمرات خوبشان را بر روی در یخچال بچسبانند و نگه‌دارند. بلکه تکالیف به این دلیل داده می‌شوند که فرایند نوشتن آن‌ها مهارت‌های حیاتی‌ای را به دانش‌آموزان و دانشجویان آموزش می‌دهد. یعنی چیزهایی همچون مهارت تحقیق درباره یک موضوع، ارزیابی درستی یا نادرستی ادعاها، ترکیب دانش‌ها و بیان این موارد به شیوه‌ای روان، منسجم و قانع‌کننده. این مهارت‌ها به دلیل پیشرفت هوش مصنوعی حتی در آینده بیشتر اهمیت خواهند داشت.
هنگامی که من از چت‌جی‌پی تی درباره چالش‌های اخلاقی‌ای که روزنامه‌نگاران هنگام کار با اطلاعات هک شده با آن‌ها مواجه می‌شوند، ضرورت تنظیم‌گریدر حوزه رمزارزها و امکان پسرفت در زمینه دموکراسی در ایالات متحده، مجموعه سوالاتی پرسیدم، پاسخ‌هایش قانع‌کننده، مستدل و واضح بودند. چت‌جی‌پی‌تی همچنین شکل تعاملی دارد: یعنی من می‌توانستم جزئیات بیشتری برای پاسخ‌ها بخواهم و یا بخواهم که در آن‌ها تغییراتی انجام دهد.
اما در موضوعات دوپهلو‌تر و مفاهیم پیچیده‌تر، چت‌جی‌پی‌تی گاهی جواب‌هایی کاملا پذیرفتنی می‌داد که در واقع تماماً نادرست بودند. این مشکلی است که سازندگان آن درباره آن هشدار داده‌اند و در این زمینه از خود رفع مسئولیت کرده‌اند.
البته اگر شما خودتان پاسخ سوالتان را بدانید و یا در زمینه آن تخصص داشته باشید، در حین کار با چت‌جی‌پی‌تی با یک زبان‌بازی خردمندانه روبرو خواهید شد. همانطور که افلاطون پیش‌بینی کرده بود، با «تظاهر به خردمندی بی آن که حقیقتاً چنین باشد» روبرو می‌شوید.
در هر حال این مشکلات به این معنا نیستند که چت‌جی‌پی‌تی و یا هر ابزار مشابهی (چرا که چت‌جی‌پی‌تی تنها ابزار موجود برای انجام چنین فعالیت‌هایی نیست) نمی‌توانند ابزار سودمندی در حوزه آموزش باشند.
مراکز آموزشی پیش از این نیز با معضل وجود انبوه اطلاعات در سطح اینترنت که با انواع دروغ و دغل و ادعاهای گمراه کننده آمیخته بودند و معضل سایت‌های فروش مقالات دست و پنجه نرم کرده‌اند.
یکی از روش‌ها برای حل معضلات مذکور تغییر نحوه آموزش بوده است. به جای این که دانش‌آموزان در کلاس به تدریس گوش بدهند و سپس به خانه بروند و پژوهش کنند و تکلیف بنویسند، به صوت ضبط شده تدریس گوش می‌دهند و در خانه پژوهش می‌کنند و سپس در کلاس تحت نظارت معلم و حتی با همکاری دیگر دانش‌آموزان و معلمان تکالیفشان را می‌نویسند. این روش «معکوس کردن کلاس» نامیده می‌شود.
در کلاس‌های درس «معکوس شده»، دانش‌آموزان از چت‌جی‌پی‌تی برای نوشتن کل تکلیفشان استفاده نخواهند کرد. در عوض آن‌ها از چت‌جی‌پی‌تی به عنوان ابزاری استفاده خواهند کرد که با آن بخش‌های تشکیل‌دهنده تکالیفشان را که به شکلی انتقادی بررسی شده‌اند، به رشته تحریر در بیاورند . این فرایند شبیه به این است که دانش‌آموزان در کلاس‌های پیشرفته ریاضی مجازند تا بدون تکرار مراحل خسته کننده‌ای که پیش از این آموخته‌اند، از ماشین حساب برای حل معادلات پیچیده استفاده کنند.
معلمان می‌توانند یک موضوع پیچیده را به عنوان تکلیف به دانش‌آموزان محول کنند و به آن‌ها اجازه بدهند که از چنین ابزارهایی در بخشی از پژوهششان استفاده کنند. صحت و سقم و قابل اعتماد بودن این نوشته‌جاتی که به وسیله هوش مصنوعی تولید شده‌اند و استفاده از آن‌ها برای نوشتن تکلیف در کلاس درس همراه با راهنمایی‌‌ها و دستورالعمل‌های معلمان انجام خواهد شد. هدف از این کار این است که کیفیت و پیچیدگی استدلال‌هایی که دانش آموزان در تکالیفشان مطرح می‌کنند افزایش یابد.
در چنین فرایندی لازم است که بیشتر معلمان بازخورد بسیار دقیقی به تکالیف دانش‌آموزان بدهند. تا زمانی که امکانات لازم به صورت عادلانه توزیع نشده باشند، استفاده از هوش مصنوعی‌های مکالمه‌محور در کلاس‌های درس «معکوس شده» می‌تواند نابرابری‌ها را تشدید کند.
در مدارسی که دارای امکانات کمتری هستند، برخی از دانش‌آموزان ممکن است در نهایت تکالیف نوشته شده به دست هوش مصنوعی را به معلمان خود ارائه دهند بی آنکه مهارت‌های سودمندی یاد گرفته باشند و یا حقیقتاً بدانند که چه نوشته‌اند. این همان فرایندی است که افلاطون درباره آن گفته بود که «نه حقیقت، بلکه تنها شبه حقیقت را منتقل خواهد کرد.»
برخی از مسئولان مدارس ممکن است این مسئله را تنها در سطح عدم کشف سرقت‌های علمی صورت گرفته فهم کنند و استفاده از سیستم‌های نظارتی سختگیرانه را گسترش دهند. در طول همه‌گیری ویروس کرونا، بسیاری از دانش‌آموزان مجبور شده بودند تا تحت نظر یک سیستم ردیاب اتوماتیک چشمی یا با کامپیوتری که محدودیت‌هایی بر آن اعمال شده بود، امتحان بدهند و تکالیفشان را بنویسند تا از تقلب جلوگیری شود.
در چنین لشگرکشی بی‌ثمری مقابل هوش‌مصنوعی‌های مکالمه‌محور، نرم‌افزار‌های تشخیص خودکار سرقت علمی ممکن است به شدت تقویت شوند و رویکرد مدارس را نسبت به دانش‌آموزانی که تحت نظارت آن‌ها قرار دارند، تنبیهی‌تر کنند. بدتر این که، چنین سیستم‌هایی به شکلی ناگزیر اتهامات ناروایی را علیه افراد به وجود می‌آورند که این اتهامات به فضای اعتماد و دوستی در این سیستم‌ها آسیب می‌زند و حتی ممکن است که آینده دانش‌آموزان مستعد را به خطر بیندازند.
چنین روش‌های آموزشی‌ای که با دانش‌آموزان همچون دشمن برخورد می‌کند ممکن است به دانش‌آموزان یاد بدهد که از هر گونه کنترل شدنی متنفر باشند و یا علیه هر نوع نظارتی بایستند. چنین مسیری، راه‌حل مناسبی برای بهبود وضعیت بشری نیست.
در حالی که در اثر اتخاذ چنین رویکردی برخی از دانش‌آموزان از پیشرفت‌های هوش مصنوعی عقب می‌مانند، هوش‌مصنوعی‌های پیشرفته باعث می‌شوند که نیاز به کسانی که مهارت‌های حرفه‌ای و پیشرفته دیگری بلدند افزایش یابد. هربرت سایمون -برنده جایزه نوبل- در سال ۱۹۷۱ اشاره کرده بود که با گسترش بیش از اندازه اطلاعات، ارزش توجه ما افزایش می‌یابد. وی گفته بود: «ثروت در حوزه اطلاعات باعث فقر در حوزه توجه می‌شود.» به همین ترتیب، توانایی تمییز دادن حقیقت از انبوه پاسخ‌هایی که به نظر درست می‌آیند اما کاملاً اشتباهند نیز ارزشمند خواهد شد.
در همین زمان Stack Overflow (یک وبسایت پرکاربرد که در آن برنامه‌نویسان از یکدیگر سوالاتی در حوزه کدنویسی می‌پرسند) استفاده از جواب‌های چت‌جی‌پی‌تی را ممنوع کرده است. چرا که نادرستی بسیاری از این پاسخ‌ها به سختی فهمیده می شد.
پس چرا اصلا باید از چت‌جی‌پی‌تی استفاده کرد؟ حداقل به خاطر این که به زودی بسیاری از مشاغل را دگرگون خواهد کرد. رویکرد صحیح در مواجهه با تکنولوژی‌های تحول‌آفرین این است که بفهمیم چگونه می‌توان از آن‌ها برای بهبود وضعیت بشریت استفاده کرد. بهبود وضعیت انسان‌ها حداقل در ۱۵۰ سال گذشته هدف نظام آموزش همگانی بوده است. اما در حالی که پیش از این‌ها دیپلم دبیرستان باعث دستیابی به شغلی بهتر می‌شد، در چند دهه اخیر، دستمزد فارغ التحصیلان دبیرستان به شکل قابل توجهی از دستمرد فارغ التحصیلان دانشگاه کمتر شده و این امر باعث تشدید نابرابری‌ها شده است.
چنان‌چه هوش مصنوعی ارزش تحصیلات برخی‌ها را افزایش داده و ارزش تحصیلات برخی دیگر را کاهش دهد، وعده بهبود وضعیت بشریت که هدف نظام آموزشی بوده هیچ و پوچ خواهد شد.
افلاطون اشتباه کرد که گمان می‌کرد حافظه فی‌نفسه یک هدف است. بلکه حافظه ابزار انسان‌هاست برای این که واقعیت‌ها در دسترس آن‌ها باشند تا بتوانند تحلیل‌ها و استدلال‌های بهتری ارائه دهند. یونانی‌ها تکنیک‌های زیادی را برای حفظ اشعاری همچون «اودیسه» -که بیش از ۱۲۰۰۰ بیت داشت- توسعه دادند. به چه دلیلی باید افراد را مجبور به حفظ کردن این اشعار کرد در حالی که می‌توان همه‌ی آن‌ها در یک کتاب نوشت؟
همانگونه که افلاطون که با نوشته‌جات همچون دشمن برخورد می‌کرد در اشتباه بود، ما نیز در اشتباهیم اگر گمان کنیم که باید در مقابل فرایندی که به ما اجازه می‌دهد که اطلاعات را به شکلی بسیار سریع‌تر جمع‌آوری کنیم، مقاومت کنیم.
همانگونه که جوامع نهایتاً با ایجاد تور ایمنی اجتماعی، کاهش ساعت کاری و تصویب قانون حداقل دستمزد با پیشرفت‌های تکنولوژیک گذشته -همچون مکانیزاسیون- برخورد کردند، ما نیز به سیاست‌هایی نیاز خواهیم داشت که به تعدادی بیشتری از انسان‌ها اجازه دهند که به عنوان یک حق اساسی با کرامت زندگی کنند ولو این که مهارت‌های آن‌ها توسط هوش مصنوعی از دور خارج شده باشد. با ثروت بسیار زیادتری که امروزه تولید شده است، ما می‌توانیم خلاقیت بیشتری به خرج دهیم و اوقات فراغت و شرایط کاری بهتری برای تعداد بیشتری از آدم‌ها فراهم کنیم.
مسیر درست پیش‌رو این نیست که تنها برای مهارت‌هایی که به خاطر توسعه هوش مصنوعی منسوخ شدند عزا بگیریم همانگونه که افلاطون چنین کرده بود. بلکه باید درک کنیم که هر چقدر یادگیری مهارت‌های پیچیده بیشتر ضرورت می‌یابد، جامعه ما باید به شکل عادلانه به افراد نحوه توسعه آن‌ها را آموزش دهد. این دیدگاه کاملاً ریشه در اصول و مبانی ما دارد: ارزش داشتن انسان‌ها تنها از آن جهت که انسان‌اند و نه خاطر این که حائز مجموعه‌ای از مهارت‌ها هستند. این مسائل از آن دسته مسائلی نیستند که چت‌جی‌پی‌تی بتواند به ما بگوید که چگونه آن‌ها را حل و فصل کنیم.»
انتهای پیام
