محمدعلی حریری در یادداشت ارسالی به انصاف نیوز با عنوان «آیا هوش مصنوعی در همه زبانها یکسان احساس میکند؟» نوشت:
یک باور رایج وجود دارد که الگوریتمهای هوش مصنوعی، به دلیل نداشتن احساسات انسانی، ابزارهایی بیطرف و خنثی هستند. اما دادههای جدید علمی این تصور سادهانگارانه را رد میکنند. پژوهش تازهای که توسط دکتر مایکل توتارو، لیلا غیثی و دکتر احسان شاهقاسمی در نشریه بینالمللی Spektrum Iran به چاپ رسیده است، عدم تقارن عاطفی در خروجیهای مدلهای بزرگ زبانی (LLM) را نشان میدهد.
این پژوهش با بررسی عمیق رفتار الگوریتم هوش مصنوعی گراک (Grok) نشان میدهد که هوش مصنوعی بسته به زبانی که با آن سخن میگویند، شخصیت عاطفی متفاوتی از خود بروز میدهد. الگوریتم به زبان انگلیسی حالت خنثی به خود میگیرد، اما همین الگوریتم به زبان فارسی، با مثبتگرایی و هیجان عاطفی عمل میکند.
برای درک عمیقتر این پدیده، پژوهشگران به نظریه لانگدون وینر تحت عنوان سیاستهای تکنولوژی و سوگیریهای ساختاری هارولد اینیس رجوع کردهاند. وینر در مقاله خود در سال ۱۹۸۰ با طرح پرسش «آیا مصنوعات فنی دارای سیاست هستند؟»، اثبات کرد که فناوریها هرگز ابزارهای بیطرف و خنثی نیستند و مناسبات قدرت، ارزشهای فرهنگی و سوگیریهای ساختاری طراحان و محیطهای خود را در معماری خود نشان میدهند.
در همین راستا، نظریهپردازانی مثل مارشال مکلوهان با عبارت معروف «رسانه پیام است» و پیر بوردو با مفهوم سرمایه نمادین زبان، همواره تاکید کردهاند که مجراهای ارتباطی، فراتر از انتقال ساده پیام، خود ساختار فهم و معنا را شکل میدهند. در عصر مدلهای بزرگ زبانی، الگوریتمها دست به طبقهبندی و برچسبزنی ارزشهای عاطفی میزنند. این مطالعه جدید نشان میدهد که هوش مصنوعی از طریق الگوریتمهای توکنسازی، دادههای آموزش اولیه و کالیبراسیون، هنجارهای عاطفی متفاوتی را به زبانهای مختلف تحمیل میکند.
روششناسی این پژوهش بر پایه یک جریان تحلیلی یکپارچه است. پژوهشگران مجموعهای شامل ۴۷۹۹ پست (۲۳۹۹ پست انگلیسی و ۲۴۰۰ پست فارسی) را که در یک بازه زمانی واحد و با دستورهای یکسان توسط مدل زبانی Grok تولید شده بودند، استخراج کردند.
برای مقایسه علمی، تمامی خروجیها در قالب سهگانه منفی، خنثی و مثبت، تحلیل احساسات شدند. پژوهشگران علاوه بر برچسبهای قطعی، احتمال تعلق داشتن هر متن به هر یک از این دستهها را استخراج کردند. همچنین شاخصی تحت عنوان شدت عاطفی تعریف شد تا میزان فاصله گرفتن متن از خنثی بودن را اندازهگیری کند. برای کنترل تفاوتهای ظاهری متنی، ویژگیهای ساختاری شامل تعداد جملات، تعداد واژهها و تعداد کاراکترها نیز محاسبه شدند.
نتایج حاصل از این پژوهش تحلیلی، شکاف عمیقی را بین دو زبان فارسی و انگلیسی نشان داد:
خنثیگرایی در انگلیسی: در مجموعه دادههای انگلیسی، ۶۸.۲ درصد از کل پستها (۱۶۳۷ مورد) در رده خنثی قرار گرفتند. لحن منفی ۲۳.۳ درصد (۵۵۸ مورد) و لحن مثبت تنها ۸.۵ درصد (۲۰۴ مورد) از خروجیها را تشکیل داد. به عبارت دیگر، هوش مصنوعی در زبان انگلیسی حالتی بیطرف و با فاصله عاطفی دارد.
مثبتگرایی در فارسی: در نقطه مقابل، خروجیهای فارسی گرایشی قوی به سمت لحن مثبت نشان دادند. ۴۱.۹ درصد از پستهای فارسی (۱۰۰۶ مورد) برچسب مثبت دریافت کردند، در حالی که سهم پستهای خنثی به ۳۸.۲ درصد (۹۱۷ مورد) کاهش یافت و پستهای منفی ۱۹.۹ درصد (۴۷۷ مورد) را به خود اختصاص دادند.
توزیع احتمالات و شاخص شدت عاطفی: میانگین احتمال خنثی بودن برای خروجیهای انگلیسی ۰.۶۱۳ (با انحراف معیار ۰.۲۵۹) بود، اما برای فارسی این عدد به ۰.۳۸۴ (با انحراف معیار ۰.۳۹۴) افت کرد. در مقابل، میانگین احتمال مثبت بودن در انگلیسی ۰.۱۳۸ اما در فارسی بیش از سه برابر و معادل ۰.۴۱۴ ثبت شد. شاخص شدت عاطفی نیز برای انگلیسی ۰.۳۸۷ و برای فارسی ۰.۶۱۶ به دست آمد که هیجان عاطفی و پراکندگی بسیار بالاتر در زبان فارسی را نشان میدهد.
ویژگیهای ساختاری متون: در بخش متغیرهای ساختاری، متون انگلیسی دارای میانگین ۳.۰۴ جمله و ۴۲.۶۸ واژه بودند، در حالی که متون فارسی میانگین ۳.۴۹ جمله و ۵۰.۷۷ واژه داشتند. با این حال، میانگین تعداد کاراکتر در انگلیسی (۲۶۸.۵۳) کمی بیشتر از فارسی (۲۵۹.۰۸) بود.
پایداری سوگیری پس از کنترل ساختاری: آزمونهای آماری اثبات کردند که این تفاوتها از نظر آماری کاملا معنادار هستند. نکته حائز اهمیت این است که متغیرهای ساختاری (طول متن و تعداد کلمات) قادر به توضیح این اختلاف نیستند. متون فارسی با وجود طول کاراکتر کمتر، بار مثبت بسیار بالاتری دارند، در حالی که متون انگلیسی بیشتر خنثی هستند.
پژوهشگران، سه عامل اصلی را ریشه این عدم تقارن عاطفی بین دو زبان میدانند:
۱. تفاوتهای کاربردشناختی و تعارفات زبانی: زبان فارسی سرشار از تعارفات، ادبورزی و عبارات ایجابی ساختارمند است. مدلهای زبانی در فرایند یادگیری، این الگوهای گفتاری را به عنوان بار مثبت شناسایی کرده و در خروجیهای خود بازتولید میکنند.
۲. معماری توکنسازی و خط: نحوه خرد کردن کلمات با خط فارسی-عربی در مقایسه با الفبای لاتین، بر مکانیزمهای توجه مدل تاثیر گذاشته و توزیع احتمالات را تغییر میدهد.
۳. کالیبراسیون و دادههای آموزشی: مدلهای زبانی بزرگ عمدتا بر اساس متون انگلیسی کالیبره و آموزش داده میشوند. در مقابل، عدم کالیبراسیون دقیق مدل برای زبان فارسی باعث میشود الگوریتم خروجیهایی با قطبیت و شدت عاطفی بالاتر تولید کند.
این پژوهش محدودیتهایی هم دارد. مهمترین محدودیت این است که مطالعه تنها دو زبان را بررسی میکند، بنابراین نمیتوان با قطعیت درباره سایر زبانها نتیجهگیری کرد. همچنین نویسندگان اگرچه چند توضیح نظری برای تفاوتها ارائه میدهند، اما تعیین سهم دقیق هر عامل نیازمند پژوهشهای تکمیلی است. از سوی دیگر، بررسی چند مدل زبانی مختلف میتوانست نشان دهد این الگوها تا چه اندازه به یک مدل خاص وابستهاند و تا چه حد بین هوش مصنوعیهای متفاوت تکرار میشوند.
در مجموع، این مقاله یکی از مهمترین پیشفرضهای رایج درباره هوش مصنوعی که مدلهای زبانی صرفا مترجم زبانها هستند را به چالش میکشد. یافتههای پژوهش نشان میدهد که زبان بخشی از فرایند شکلگیری قضاوت هوش مصنوعی است. به همین دلیل، در پژوهشهای چندزبانه نمیتوان زبان را عاملی حاشیهای دانست. پیام اصلی این پژوهش این است که اگر قرار است هوش مصنوعی درباره احساسات انسانها داوری کند، ابتدا باید تفاوتهای زبانی را جدی بگیرد، در غیر این صورت، آنچه به عنوان واقعیت گزارش میشود، ممکن است بیش از آنکه بازتاب احساسات انسان باشد، بازتاب سوگیریهای خود الگوریتم باشد.
انتهای پیام
