آزاده رمضانی در سایت نوشدارو نوشت: «شرکت اوپنایآی (OpenAI) اعلام کرد از این پس اگر حساب کاربری نوجوانان در چتجیپیتی به دلیل نقض قوانین مربوط به تهدید یا ترویج خشونت مسدود شود، به والدین آنها اطلاع خواهد داد. این قابلیت جدید، بخشی از توسعهی ابزارهای نظارت والدین است که سال گذشته برای محافظت بیشتر از کاربران کمسنوسال معرفی شد.
قابلیت کنترل والدین چه امکاناتی دارد؟
پیش از این، والدین میتوانستند با اتصال حساب کاربری خود به حساب فرزندشان، ساعتهای استفاده از این هوش مصنوعی را محدود کنند، محتوای حساس را کمتر کنند یا در صورت تشخیص نشانههایی از خودآزاری در پیامهای نوجوان، هشدار دریافت کنند. اکنون این سیستم گسترش یافته تا خطرات احتمالی برای دیگران را نیز پوشش دهد. در صورت بروز تخلف، والدین پیام هشداری با عنوان «بهروزرسانی مهم» دریافت میکنند که با باز کردن آن، دلیل مسدود شدن حساب فرزندشان (نقض قوانین مربوط به اعمال خشونتآمیز) به آنها اعلام میشود.
زمینهی این تصمیم چه بود؟
این تصمیم پس از یک اتفاق واقعی گرفته شد. بررسیها نشان داد که مظنونِ یک تیراندازی دستهجمعی در سال ۲۰۲۶ در کانادا، پیش از اقدام از چت جیپیتی استفاده کرده بود. اوپنایآی اعلام کرد حساب چتجیپیتی فرد مهاجم را در ژوئن ۲۰۲۵، حدود هشت ماه پیش از حمله، بهدلیل نقض سیاستهای مربوط به فعالیتهای خشونتآمیز مسدود کرده بود؛ اما در آن زمان موضوع را به پلیس گزارش نداد. این موضوع باعث عذرخواهی رسمی سم آلتمن، مدیرعامل اوپنایآی شد.
بااینحال، اوپنایآی در اطلاعیهی رسمی خود نگفته است که قابلیت تازه مستقیماً در واکنش به این حادثه ساخته شده است. این شرکت میگوید هنگام طراحی هشدارها و مداخلات ایمنی با متخصصان مختلف، از جمله سازمان Moonshot که در زمینهی پیشگیری از خشونت آنلاین فعالیت میکند، مشورت کرده است.
این قابلیت به معنای دسترسی والدین به متن گفتوگوهای نوجوان نیست. کنترل والدین امکان خواندن یا پایش زندهی چتها را فراهم نمیکند و اوپنایآی میگوید در هشدارهای ایمنی فقط اطلاعات ضروری برای کمک به نوجوان را به اشتراک میگذارد.
امکانات جدید برای برای خانوادهها
علاوه بر هشدارهای امنیتی، دو قابلیت کاربردی دیگر نیز برای نوجوانان اضافه شده است:
والدین میتوانند «حالت مطالعه» (Study Mode) را مستقیماً از طریق تنظیمات خود فعال کنند. در این حالت، چتجیپیتی معمولاً بهجای ارائهی فوری جواب نهایی، با پرسش، سرنخ و توضیح مرحلهبهمرحله به یادگیری کمک میکند؛ هرچند ممکن است در بعضی موارد پاسخ مستقیم نیز ارائه دهد.
برای تشویق نوجوانان به استفادهی متعادلتر، اگر نوجوانی زمان طولانی و پیوستهای را در این پلتفرم سپری کند، هوش مصنوعی با ارسال پیامهایی به او یادآوری میکند که به استراحت نیاز دارد تا عادتهای سالمتری در استفاده از فناوری شکل بگیرد.
کلام آخر
در نهایت هشدارهای ایمنی و تنظیمات کنترل والدین میتوانند یک لایهی حمایتی مفید برای خانوادهها باشند، اما هیچ سامانهای بیخطا نیست. ممکن است بعضی هشدارها اشتباه باشند یا برخی موقعیتهای جدی شناسایی نشوند. اوپنایآی نیز تأکید میکند این اعلانها جای مراقبت حرفهای یا خدمات اضطراری را نمیگیرند. بهترین نتیجه زمانی به دست میآید که این ابزارها در کنار گفتوگوی مستمر با نوجوان، تعیین قواعد روشن خانوادگی و توجه به تغییرات رفتاری او استفاده شوند.»
انتهای پیام
