خطرات اخلاقیِ دامداری بر پایه‌ی هوش مصنوعی
ویرژینی سیمونو -ژیلبر و جاناتان برچ مطلبی با عنوان «خطرات اخلاقیِ دامداری بر پایه‌ی هوش مصنوعی» در سایت ایان نوشته‌اند که متن آن را تلخیص در سایت مجله‌ی نبشت منتشر شده‌است. متن کامل را در ادامه بخوانید.
«هوش مصنوعی می‌تواند راه‌های جدیدی را برای سوءاستفاده از حیوانات برای منافع مالی باز کند. برای همین به دستورالعمل‌های اخلاقی جدید و قاطعی نیاز است تا بتوان مخاطرات اخلاقیِ دامداری بر مبنای هوش مصنوعی را کاهش داد.
شکلی از دامداری را تصور کنید که برای سهولت کارِ دامدار از هوش مصنوعی برای تغذیه و پرورش دام بهره می‌برد. تنها کاری که دامدار می‌کند، رساندن خوراک به محل پرورش دام است. نیازی نیست دامدار چیز زیادی در موردِ دامِ خود بداند یا حتی تجربهٔ چندانی در کار با آنها داشته باشد. هر مشکلی هم پیش آمد، مهندسانی هستند که از راه دور اشکال‌زدایی کنند. موقعِ برداشت هم نیازی به کشتارگاه نیست؛ هوش مصنوعی این کار را هم انجام می‌دهد. حیواناتِ شما عملا در نوعی جعبه‌سیاه زندگی می‌کنند و می‌میرند و فقط در قالب یک محصولِ حاضر و آماده، دامداری را ترک می‌کنند.
این دامپروریِ آینده نیست، مالِ همین امروز است. این یک مزرعهٔ حشراتِ است که شرکت بریتانیاییِ بتر اوریجین توسعه داده است. البته، پرورش حیوانات بزرگ مثل خوک، مرغ و ماهی معمولا خیلی کمتر از این پیشرفته است. دامپروری‌ها هنوز کاملا خودکار نیستند. اما با پیشرفت سریع تکنولوژی، اتوماسیونْ اجتناب‌ناپذیر است.
ولی ما واقعا چه‌قدر می‌خواهیم هوش مصنوعی در دامپروی مشارکت داشته باشد؟ پیش از آن‌که دیر شود و روند اتوماسیون غیرقابل برگشت شود، باید در این مورد تصمیم بگیریم. و امروز زمان وضع حدود اخلاقی معقول در این زمینه است.
بهتر است از این پرسش شروع کنیم که در حال حاضر هوش مصنوعی در کجاهای دامپروری کاربرد دارد؟
برخی کاربردها بیشتر جلب توجه کرده‌اند. ایدهٔ اصلیِ همهٔ آنها این است که هوش مصنوعی در مرکز یک شبکهٔ کنترل برای مدیریت هوشمند داده‌هایی که از مجموعه‌ای از حسگرهای خودکار به دست می‌آید استفاده شود. این حسگرها می‌تواند روی اندام حیوانات نصب شوند و دمای بدن، تنفس، ضربان قلب، صدا، دمای مقعد و حرکات روده را ردگیری کنند. برخی سنسورها هم فعالیت‌هایی مثل چرا کردن، نشخوار کردن، تغذیه و نوشیدن، علائم لنگیدن یا پرخاشگری را رصد می‌کنند. برچسب‌های هوشمندِ گوش به دامداران امکان می‌دهد تا هر حیوان را جداگانه شناسایی و ردگیری کنند. هوش مصنوعی می‌تواند تحلیل داده‌ها و تصاویر و صداها را برای تشخیص بیماری‌های دام و پیش‌بینی روند بهبود یا وخامتْ آسان‌تر کند. برخی محصولات هوش مصنوعی هم عوامل محیطی از جمله دما و میزان دی‌اکسید کربن را نظارت و کنترل می‌کنند. هدف این ابزارها پیش‌بینی و پیشگیری از شیوع بیماری با تمرکز بر بیماری‌های خطرناک است. ردیاب‌های جی‌پی‌اسِ نصب‌شده روی بدن حیوانات و تصاویر ماهواره‌ایْ اطلاعات مکانیِ زنده ارائه می‌دهند. این اطلاعاتْ وقتی توسط هوش مصنوعی مدیریت شود، به دامداران امکان می‌دهد تا رفتار چرای گاوهای خود را پیش‌بینی کنند، مراتع خود را بهتر مدیریت کنند و نشاط و باروری خاک را حفظ کنند.
همهٔ این‌ها نوید آینده‌ای بهتر برای رفاه حیوانات را می‌دهد. در واقع، ما دوست داریم پیش از پرداختن به مسائل، خوش‌بینیِ خیرخواهانه ابراز کنیم. استدلالِ خوش‌بین‌ها ساده است: دام‌ها موجوداتی دارای احساس‌اند و لذت و درد را حس می‌کنند. رفاه آنها مهم است و نحوهٔ رفتار ما با آنها می‌تواند تأثیر مثبت یا منفی بر آن داشته باشد؛ ولی دامپروری سنتی بدون کمک هوش مصنوعی، مشکلات رفاهی زیادی برای دام‌ها دارد که انسان توجهی به آنها ندارد. هوش مصنوعی این توجه و هوشیاری را افزایش می‌دهد و به دامداران کمک می‌کند تا به حیوانات خود زندگی بهتری ببخشند. در صنعت لبنیات و گوشت، حسگرهای خودکار می‌توانند دام‌ها را از مداخلاتِ نامطلوبِ انسان (مثلا برای سنجش دمای بدن) حفظ می‌کند. سیستم‌های مکان‌یابی امکان می‌دهد حیوانات به جای افسار شدن، آزادانه در محیط بچرخند و بچرند. در صنایع طیور و گوشت خوک، هوش مصنوعی می‌تواند به افزایش کیفیت آب و غذای مرغ یا خوک کمک کند. ابزارهای نظارت به دامداران امکان می‌دهد به سرعت حیوانات بیمار یا زخمی را شناسایی و از آنها مراقبت یا در صورت لزوم اُتانازی کنند. حسگرهای محیط‌زیستی با کمک به پیش‌بینی شیوع امراض، از رنج و مرگ زودهنگام حیوانات زیادی جلوگیری می‌کنند. استفاده از این تکنولوژی یک سرمایه‌گذاریِ سودمند برای دامداران است، چون مرگ و میر و بیماری برای این صنعت زیان‌بار است (فقط یک بیماری واگیر می‌تواند گله‌ای از طیور یا خوک را از بین ببرد و ضرر مالی وارد کند). خوش‌بینانِ هوش مصنوعی معتقدند که حامیان رفاه حیوانات هم باید از سرمایه‌گذاری در دامداری مبتنی بر هوش مصنوعی حمایت کنند.
آیا واقعا حق با آن‌هاست؟ در مورد برخی از این مزایا احتمالا اغراق شده است. این ادعا که عصر جدیدی از مراقبت بر مبنای هوش مصنوعی به زودی آغاز می‌شود، محل تردید است.
در عین حال نباید صرفا روی مزایای کوتاه‌مدت هوش مصنوعی در دامداری دست گذاشت. باید به عواقب بلندمدت هم فکر کرد. دامداری همواره در حال موازنه و سازش بوده است: دامداران به رفاه حیوانات اهمیت می‌دهند، اما باید یک کسب‌وکار پایدار را در بازاری رقابتی حفظ کنند. دامداریِ فشرده یا به‌قول منتقدانش دامداری کارخانه‌ای تا همین حالا هم منشأ نگرانی‌های اخلاقی زیادی بوده است و ما باید در مورد احتمال تشدید بسیاری از مشکلات موجود با ورود هوش مصنوعی هم فکر کنیم.
ما مشخصا باید در مورد انواع دامداری که هوش مصنوعی می‌تواند بهتر در آنها ادغام شود تصمیم بگیریم: یعنی این‌که هوش مصنوعی به سودآوری در چه نوع سیستم‌هایی بیشتر کمک می‌کند؟ در مورد مرغ گوشتی شواهد نشان می‌دهد که سیستم‌های مبتنی بر قفس از نظر رفاه حیوانات در مقایسه با انبارهای بزرگ سرپوشیده وضع بدتری دارند و سیستمِ مبتنی بر انبار هم از مدل دامداری در فضای آزاد بدتر است. ولی سیستم‌های مبتنی بر قفس احتمالا بیشترین بهرهٔ رفاهی را از نظارتِ خودکار خواهند برد. در حال حاضر مرغ‌های مریض و زخمی و مجروح و مُرده معمولا با بررسیِ دستی شناسایی می‌شوند که کاری زمان‌گیر و پرزحمت محسوب می‌شود. در سیستمِ قفس انباشته (چهارطبقه) این بازرسی‌ها می‌تواند برای کارگران خطرناک هم باشد چون مدام در معرض استنشاق آمونیاک هستند. برای همین هم هست که می‌بینیم تولیدکنندگان سیستم قفس انباشته برای تغییر سیستم به قفس‌های پیشرفتهٔ مجهز به سیستم‌های نظارت و کنترل غذا و آب و جمع‌آوری تخم‌مرغ‌های تخم‌گذار تبلیغ می‌کنند. هوش مصنوعی می‌تواند داده‌ها را آناً جمع‌آوری و تجزیه و تحلیل کند، امراض را شناسایی کند و بهره‌وری کلیِ گله را پیش‌بینی کند.
به این ترتیب نمی‌توان در مورد مزایای ادعاییِ هوش مصنوعی در زمینهٔ رفاه حیوانات خیلی خوش‌بین بود. ادعای خوش‌بینان مبنی بر این‌که اهداف تجاری با رفاه حیوانات هم‌سو است (و سیستم‌هایی که اساسا برای افزایش راندمان طراحی شده‌اند باعث بهبود رفاه هم می‌شوند) قابل باور نیست. درست است که اگر سلامتی حیوانات توسط هوش مصنوعی نظارت شود، میزان رفاه‌شان در سیستم‌های مبتنی بر قفس ممکن است نسبت به وضع وحشتناک فعلی بهتر شود. اما در عوض، این سیستم‌های ذاتاً کم‌کیفیت ممکن است سهم بزرگ‌تری از بازار را به دست بگیرند چون هوش مصنوعیْ راندمان اقتصادی آنها را به انحاء مختلف افزایش می‌دهد ــ مثلا کاهش مرگ و میر ناخواسته، مهار شیوع بیماری‌ها ــ و به شرکت‌ها امکان می‌دهد تا کارکنان کمتری استخدام کنند و به آنها آموزش کمتری هم بدهند. نتیجهٔ این‌ها کاهش رفاه حیواناتِ پرورشی خواهد بود. با افزایش مزیت رقابتیِ سیستم‌های کم‌کیفیت، کاهش کلیِ رفاه قابل پیش‌بینی است.
آیا می‌شود این ریسک را با وضع قوانین سختگیرانه برای رفاه حیوانات کاهش داد؟
این در برخی کشورها قابل تصور است. در اتحادیهٔ اروپا محدودیت‌های قانونی برای تراکم دام‌ها (تعداد یا وزن حیوانات در واحد فضا) وجود دارد، و بحث زیادی دربارهٔ ممنوعیت سیستم‌های مبتنی بر قفس شکل گرفت ولی گویا لابی صنعت مانع این جریان شده است. در برخی کشورها هم هوش مصنوعی ممکن است به شرکت‌ها این امکان را بدهد که وضع نامطلوب جاری را حفظ کنند. مثلا در آمریکا هیچ قانونی برای محدود کردن تراکمِ دام‌ها وجود ندارد، در حالی که مطابق آمار سال ۲۰۱۷، بالغ بر ۹۹ درصد حیوانات پرورشی در مزارع صنعتی نگهداری می‌شوند. در کانادا هم هیچ مقرراتی وجود ندارد که مستقیما رفتارِ انسانی با حیوانات پرورشی را الزامی کند؛ اگرچه دولت مرکزی و استان‌ها قوانین زیادی در مورد آزار حیوانات دارند. و اما چین که محرک اصلی دامداری با هوش مصنوعی است، دارای برخی از ضعیف‌ترین قوانین مربوط به رفاه حیوانات در جهان است .
البته تا حالا تمرکز ما بر خطراتی بوده که دامداری مبتنی بر هوش مصنوعی برای حیوانات پرورشی دارد. و این بی‌دلیل هم نبود، چون در این‌گونه بحث‌ها اغلب منافع حیوانات فراموش می‌شود. اما منافع دامداران را هم نباید فراموش کنیم. هوش مصنوعی ممکن است استقلال دامداران در مزارع‌شان را کم کند. هوش مصنوعی پارامترهای حیاتی مثل دما یا رطوبت را در محدودهٔ خاصی نگه می‌دارد، ولی چه کسی این محدوده‌ها را تعیین خواهد کرد؟ اگر اهداف و پارامترها از راه دور توسط رؤسای شرکت‌ها تعیین شود، خطر کاهش شأن و منزلت حرفهٔ دامداری و تبدیل شدنِ خودِ دامدار به ابزاری صرف برای شرکت‌ها وجود دارد.
از طرفی می‌توان انتظار داشت که همزمان با افزایش تراکم انبارهای دامی، در نتیجهٔ استفاده از هوش مصنوعی فرصت‌های شغلی برای کارگرانِ انسانی کمتر شود. ضمن این‌که ماهیت این‌گونه مشاغل هم احتمالا تنزل خواهد کرد. یکی از عمیق‌ترین تهدیدات هوش مصنوعی این است که می‌تواند رابطه دامداران و حیوانات‌شان را منحرف کند. در واقع تکنولوژی‌های هوش مصنوعی به عنوان راهی برای برون‌سپاریِ امور مراقبتی است که به طور سنتی توسط انسان‌ها انجام می‌شد. اما آیا می‌توان وظیفهٔ مراقبت را به ماشین سپرد؟
مراقبتْ رابطه‌ای بین دو موجود زنده و ذی‌شعور است: رابطهٔ بین مراقب و دریافت‌کننده. این رابطهٔ بین یک حیوان و ماشین نیست که در بهترین حالتش شبیه‌سازیِ امر مراقبت است. حیواناتِ تحتِ مراقبتِ ما آسیب‌پذیرند: آنها برای غذا و آب و سرپناه به ما وابسته‌اند. ممکن است برای مراقبتِ واقعی از آنها لازم باشد حس همدردی را در خود پرورش دهیم. برای این کار باید با آنها همچون افراد زنده تعامل کنیم، استعدادها و شخصیت فردی آنها را بشناسیم، بینشی نسبت به زندگی عاطفی آنها به دست آوریم و به رفاه آنها اهمیت بدهیم. حتی دامداری سنتی هم نمی‌تواند به این ایده‌ال برسد و دامداری فشردهٔ مدرن هم بسیار از آن فاصله گرفته است. اما هوش مصنوعی با افزایش فاصلهٔ بین دامداران و حیوانات، مراقبت واقعی را به‌مراتب دشوارتر هم می‌کند.
منتقدانِ چنین طرز فکری شاید بگویند که از لحاظ اخلاقیْ روابطِ مراقبتی به صرفِ پیامدهای خوب‌شان دارای ارزش هستند. یعنی از نظر ابزاریْ ارزشمند هستند. مثلا حس همدردی با حیواناتِ پرورشی باعث می‌شود تا دامداران به رنج آنها بیشتر توجه کنند و برای تسکین‌شان سریع‌تر اقدام کنند. این هم از درد حیوان می‌کاهد هم باعث می‌شود دامدار بیشتر احساس کرامت و غرور کند. شاید هم کسی بگوید که اگر نظارتِ هوش مصنوعیْ همین فایده را بدون ارتباط مستقیم دامدار و حیوان به بار بیاورد، پس نباید نگران از بین رفتن این رابطه باشیم. این بحثْ محل عمیق‌ترین مناقشات در اخلاق حیوانات است: فایده‌گران احتمالا با منتقدانِ اخلاقِ مراقبت هم‌سو هستند اما طرفدارانِ اخلاقِ مراقبتْ ارزش ذاتی برای آن قائل هستند و معتقدند باید آن را حفظ کرد.
استفاده از هوش مصنوعی برای مراقبت از حیوانات در همهٔ اَشکال و شرایطْ مشکل‌ساز نیست: مثلا یک پناهگاهِ پیشرفتهٔ حیوانات که تنها هدفش مراقبت از حیوانات باشد. در این پناهگاهِ فرضی، هوش مصنوعی تنها برای تسهیل روابط مراقبتی بین انسان و حیوانات استفاده می‌شود و جایگزین آن نمی‌شود. حیوانات آزادانه پرسه می‌زنند اما با قلاده یا گردنبندِ مخصوصْ برچسب‌گذاری می‌شوند. برچسب‌ها موقعیتِ مکانیِ حیوان را نشان می‌دهند و امکان شناسایی و مراقبت انفرادی را برای هر کدام فراهم می‌کنند. از طرفیْ هوش مصنوعیْ فیلم‌های زندهٔ دوربین‌های مداربسته را آنالیز می‌کند و علائم زورگویی، پرخاش، و بیماری را زیر نظر دارد، و مصرف غذا و آب حیوانات را بهینه می‌کند و در صورت لزومْ دوزهای انفرادیِ دارو را تزریق می‌کند. در این سیستمْ رفاه حیوان همواره در اولویت است و هیچ‌وقت به‌خاطر اهداف اقتصادی قربانی نمی‌شود.
پس آیا استفاده از هوش مصنوعی برای شناسایی مشکلات و امراضِ در حال ظهور اشتباه است؟ در کل نه. هرچند استفاده از از ابزارهایی مثل حسگرِ رکتوم شاید فعلا خیلی افراطی به نظر برسد.
واقعیت این است که مسائل اخلاقی در این حوزه، خاصِ هوش مصنوعی نیست. مشکل این است که هوش مصنوعی به جای آن‌که به منافع یا ارزش ذاتی حیوانات و وظیفهٔ ما در قبال آنها احترام بگذارد، راه‌های تازه‌ای را برای استفادهٔ مالیِ صرف از حیوانات باز می‌کند. هوش مصنوعیْ مستعد این است که حیوانات را صرفا همچون ابزاری (واحدهایی برای فراوری) ببیند ــ به جای موجوداتی خودآگاه و نیازمند مراقبت. این نتیجهٔ محتمل زمانی است که هوش مصنوعی بدون مهارهای اخلاقی برای افزایش راندمان اقتصادی به کار رود. اما مجبور نیستیم از هوش مصنوعی به این شکل استفاده کنیم.
برگردیم به امروزمان. الان دولت‌ها چگونه باید استفاده از هوش مصنوعی در دامداری را نظارت کنند؟
یک راه این است که به طور پیش‌دستانه هوش مصنوعی را در این کاربرد کلا ممنوع کرد. اما این احتمالا مشکلات جدی و شاید لاینحلی را به بار بیاورد. چون باید با توسل به تعاریفِ قانونی، دامداریِ مبتنی بر هوش مصنوعی را از دامداری با کمک کامپیوتر که از سال‌ها پیش شکل گرفته متمایز کرد؛ در حالی نرم‌افزارهای هوش مصنوعی روی همین کامپیوترها نصب می‌شوند. یک ممنوعیتِ واقعا قابل اجرا که فقط کاربرد هوش مصنوعی را در دامداری هدف بگیرد و به بقیهٔ حوزه‌ها کار نداشته باشد در عمل شاید غیرممکن باشد. واقعیت این است که غولِ هوش مصنوعی دیگر از چراغِ جادو بیرون آمده است.
یک راه عملی‌تر، ایجاد نوعی آیین‌نامه برای این صنعت در حال ظهور است: یعنی مجموعه‌ای از اصول اخلاقی طراحی شده برای کاربردهای دامداری. البته این کار هم ریسک‌هایی دارد. در سال‌های اخیر تلاش زیادی شده تا برای هوش مصنوعیْ اصول اخلاقیِ کلّی وضع شود. اما اصولی که هدفش پوشش دادنِ تمام کاربردهای هوش مصنوعی باشد، بیش‌ازحد سطح بالا و مبهم است و به صنایع امکان می‌دهد تا هرطور می‌خواهند عمل کنند و ادعا کنند که به اخلاقیات پایبند هستند. مثلا یک کارگروه از اتحادیهٔ اروپا در سال ۲۰۱۹ پیشنهاد داد سیستم‌های هوش مصنوعیْ توجه به محیط‌زیست از جمله موجودات زندهٔ دیگر را در دستورکار قرار دهند، اما این ایده به قدری کلّی است که هیچ محدودیتِ معناداری برای استفاده از هوش مصنوعی در دامداری وضع نمی‌کند. بررسیِ ۲۲ مجموعه‌دستورالعملِ اخلاقیِ هوش مصنوعی نشان داد که اخلاق هوش مصنوعی بیشتر به عنوان یک استراتژیِ بازاریابی استفاده می‌شود.
پس این کافی نیست. ما به اصول دقیق برای کاربرد هوش مصنوعی در دامداری نیاز داریم: اصولی که مشخصا برای وضع محدودیت‌های اخلاقی واقعی و هدایت بخش دامداری در مسیر درست تدوین شده اما در عین حال به‌قدر کافی جامع است که طیف گسترده‌ای از کاربردهای آیندهٔ این تکنولوژی را هم پوشش دهد. هدف از این کار باید وضع مجموعه‌ای از اصول قاطع باشد تا استفاده از هوش مصنوعی منتج به بهبود استانداردهای رفاه حیوانات شود و نه از بین بردن آنها.
با این اوصاف، ما چهار اصل را برای شروع این بحث پیشنهاد می‌کنیم.
اصل اول: تکنولوژی‌های هوش مصنوعی نباید منجر به افزایش سقفِ تراکمِ دام شود، و نباید منجر به افزایش کاربرد سیستم‌های فشردهٔ مبتنی بر قفس شود.
همان‌طور که پیش‌تر اشاره شد، همین حالا هم هوش مصنوعی به شرکت‌ها کمک می‌کند تا راندمان شیو‌ه‌های مبتنی بر قفس را افزایش دهند و از نیروی انسانی خود بکاهند. این موضوع باعث می‌شود که این روش‌های ذاتا کم‌کیفیتْ سهم بیشتری از بازار جهانی را به خود اختصاص دهند. توسعهٔ مسئولانهٔ هوش مصنوعی در دامداری باید موضع روشنی در مخالفت با این وضع داشته باشد.
اصل دوم: وقتی سیستم‌های هوش مصنوعی مشکلات رفاهی را نظارت می‌کنند، داده‌های مربوط به تعداد مشکلاتِ شناسایی‌شده، ماهیتِ مشکلات، و کارهایی که دربارهٔ آنها می‌شود، باید آزادانه در دسترس باشد.
شفافیتْ مضمون اصلیِ اخلاقیات هوش مصنوعی است، اما معانی زیادی می‌تواند داشته باشد که برخی مفیدتر از بقیه است. صرفِ استفاده از برچسب برای نشان دادن این‌که هوش مصنوعی در فرآیند تولید فلان محصول نقش داشته، اطلاعات چندانی به دست نمی‌دهد. شفافیتِ معنادار ــ که برای ما مهم است ــ وقتی حاصل می‌شود که عموم مردم به اطلاعات کلیدی دربارهٔ مشکلات رفاهیِ شناسایی‌شده توسط هوش مصنوعی و نحوهٔ برخورد با آنها دسترسی داشته باشند.
اصل سوم: شرکت‌ها باید به خاطر مشکلات رفاهی که توسط سیستم‌های هوش مصنوعی آنها شناسایی شده اما مورد بررسی یا درمان قرار نگرفته مسئول باشند. شرکت‌ها نباید اجازه داشته باشند که برای کاهش هشدارهای کاذب، حساسیتِ سنسورهای مربوط به ریسک‌های سلامت را کم کنند.
برخی از مشکلات رفاهی از نظر اقتصادیْ پرهزینه‌تر از بقیه است. مثلا شیوع آنفولانزای پرندگان می‌تواند بسیار پرهزینه باشد ولی لنگیدنِ یک مرغِ تکی کم‌هزینه است. یک پتانسیلِ اقتصادیِ سیستم‌های تشخیصِ هوش مصنوعی این است که می‌توانند این فاکتور را در نظر بگیرند و به کاربر اجازه دهند تا سطحی از کنترل بر پارامترهای عملکردیْ به‌خصوص حساسیت (مثلا تعداد مواردِ شناسایی‌شده در مقابلِ شناسایی‌نشده) و مشخصات‌شان (مثلا این‌که چند بار هشدار کاذب دریافت شده) را اعمال کند. به این شکل، شرکت‌ها می‌توانند نسبت به پرهزینه‌ترین ریسک‌ها هوشیار باشند و همزمان نسبت به مشکلاتِ کم‌هزینه‌تر آرامش بیشتری داشته باشند.
این خوب است؟ در نبودِ شفافیت و پاسخگوییِ واقعی، نه. فرض کنید شرکتی درمان برخی از مشکلات مثلا شکستگیِ فلان استخوانِ مرغ را بی‌فایده تشخیص می‌دهد و به درستی به نهادهای ناظر و مردم می‌گوید که یک سیستم هوش مصنوعی پیشرفته برای نظارت بر این مشکل دارد؛ ولی این را نمی‌گوید که برای کاهش هزینه‌ها حساسیتِ سیستم را پایین آورده و فقط مواردِ حاد را درمان کرده است. ما باید بتوانیم این‌گونه شرکت‌ها را در صورت قصور در مشکلات سلامتی که توسط سیستم‌های خودشان شناسایی شده پاسخگو کنیم، و باید از کاهش حساسیتِ حسگرهای آنها جلوگیری شود.
آخرین پیشنهاد ما برای حفاظت از کرامت و استقلال دامداران است:
اصل چهارم: تکنولوژی‌های هوش مصنوعی نباید برای سلب استقلال و قدرت تصمیم‌گیری دامداران استفاده شوند. تصمیماتی که در حال حاضر تحت کنترل دامداران است بایستی تحت کنترل آنها باقی بماند.
حالا دنیایی را تصور کنید که در آن اصول چهارگانهٔ فوق اجرا شود. آیا این دنیای ایده‌آل خواهد بود؟ البته که نه: بسیاری از مشکلات باقی خواهند ماند.
در دنیای ایده‌آل، ما با حیواناتِ دیگر ارتباط بسیار متفاوتی داریم و ممکن است اصلا آنها را برای غذا پرورش ندهیم. اما در دنیای واقعیِ غیرایده‌آل ما این پیشنهادها حداقلْ سوءاستفاده از هوش مصنوعی برای پایین آوردن استانداردهای رفاهی را سخت‌تر می‌کند. در صورت اجرای این اصولْ هوش مصنوعی حتی ممکن است برای رفاه حیوانات خوب هم باشد و به جای پنهان کردن آنها در جعبه‌سیاه، آگاهی عمومی را در مورد مسائل رفاهی آنها افزایش می‌دهد و پاسخگویی شرکت‌های دامداری را برای مشکلات رفاهی که ایجاد می‌کنند افزایش می‌دهد.»
انتهای پیام
