تارنگاشت عدالت – دورۀ سوم
چهارشنبه، ۲۵ شهریور ۱۴۰۵
منبع: «چپ» (soL)
نویسنده: فاتح یاشلی*
چهارشنبه، ۱۶ سپتامبر ۲۰۲۶
پرسش اشتباهِ «عصر نسلکشی الگوریتمی»: آیا هوش مصنوعی میتواند بشریت را نابود کند؟
هفته گذشته، یکی از کارکنان شرکت هوش مصنوعی «آنتروپیک» (Anthropic)، استعفانامهای منتشر کرد و با اشاره به هر دو شرکت هوش مصنوعی یعنی «اوپنایآی» (OpenAI) و «آنتروپیک» گفت: «من امروز از آنتروپیک استعفا دادم. هیچکدام از این دو شرکت مسئولانه رفتار نمیکنند. آنها مستقیماً به سمت «اَبَر هوش خود-بهساز» میدوند و با زندگی همه ما قمار میکنند.» بخش تکاندهندهتر این نامه، سطور زیر درباره احتمال پایان دادن هوش مصنوعی به بشریت بود:
«افرادی که هوش مصنوعی میسازند، واقعاً و صادقانه باور دارند که این فناوری میتواند تا پایان این دهه، همه ما را به کشتن بدهد. هیچ فعالیت بشری دیگری تا این حد واجد خطر نیست. (…) جملاتی وجود دارد که من کلمه به کلمه از زبان همکارانم شنیدهام؛ آنها میگویند که ۱ تا ۲ سال بعد برای بشریت “زمان برداشت/دوره حیاتی” یا همان “بازی نهایی” خواهد بود.»
بلافاصله پس از این اظهار نظر، اظهارات داریو آمادی، مدیرعامل «آنتروپیک »مطرح شد. آمادی در تایید این نامه گفت که هوش مصنوعی میتواند ظرف حدود یک سال کل اینترنت را تسخیر کند و احتمال اینکه در ده سال آینده به طور کامل از کنترل خارج شود و به پایان بشریت منجر شود، بیش از ۱۰ درصد است.
پس از همه اینها، آمادی راهکاری پیشنهاد کرد که از شرکتهای بزرگ فناوری که روزبهروز ماهیتی اولیگارشیک به خود میگیرند، انتظار نمیرفت؛ این پیشنهاد «کند کردن» روند توسعه شتابان هوش مصنوعی بود. به عبارت دیگر، شرکتهای فناوری به جای توسعه با این سرعت سرسامآور، باید راه را برای نظارت باز میکردند، استانداردهایی تعیین میشد، مقررات قانونی وضع میگردید و هماهنگی میان دولتها شکل میگرفت. پاسخ فوری سایر شرکتها به این فراخوان آمادی نیز واقعاً غیرمنتظره بود؛ ایلان ماسک و سم آلتمن، مالک «اوپنایآی»، از آمادی حمایت کردند و ۱۳۰۰ کارمند از شرکتهای مختلف نیز بیانیهای را در حمایت از «کند کردن» روندامضا کردند.
ما هنوز نمیدانیم چرا این روند با چنین سرعتی در حال توسعه است و چه چیزی پشت این فراخوان برای «کند کردن» آن نهفته است؛ آیا واقعاً نگرانی از نابودی بشریت در میان است یا اینکه دغدغههای فنی، مالی و اقتصادی دستِ بالا را دارند. با این حال، یکی از معقولترین توجیهات این است که هدف، متوقف کردن سرعت پیشرفت چین است. در واقع، همانطور که غرب پس از نابودی طبیعت و کشاندن کل بشریت به آستانه یک بحران زیستمحیطی، برای متوقف کردن صنعتیشدن چین، فراخوان کاهش انتشار کربن داد، این دعوت نیز ممکن است هدف مشابهی داشته باشد.
موضوع هر چه که باشد، بدون تردید روشن خواهد شد؛ اما آنچه در چارچوب این نوشته به ما مربوط میشود این است که اظهارات مربوط به احتمال نابودی بشریت توسط هوش مصنوعی، به گونهای مطرح میشوند که گویی امروز از هوش مصنوعی علیه بشریت استفاده نمیشود، گویی که این فناوری از مدتی پیش به ابزار سیاستِ مرگ تبدیل نشده و در ماشین جنگی جهانی ادغام نگردیده است. در حالی که ارتشها از مدتها پیش هوش مصنوعی را به بخشی از این ماشین تبدیل کردهاند و همین حالا نیز آن را با سیاهترین روشها علیه بشریت و به گونهای که خودشان را هم از انسانیت ساقط میکند، به کار میگیرند. نشانی اصلی این موضوع نیز البته فلسطین و غزه است که عملاً به آزمایشگاهی برای این دیستوپیا (ویرانشهر) تبدیل شدهاند.
***
در همان روزهایی که نامه کارکنان «آنتروپیک» منتشر شد، مستندی به نام «نازا» (NAZA) جایزه ویژه هیئت داوران را در جشنواره فیلم ونیز از آن خود کرد. یووال آبراهام و راشل سور، نویسندگان و کارگردانان این مستند، شهروندان اسرائیل هستند؛ این دو درست همانند فیلم قبلی خود یعنی «سرزمین دیگری نیست» (No Other Land)، در این فیلم نیز دوباره به روایت اشغال فلسطین توسط اسرائیل و سیاستهای ظالمانه آنها در اراضی فلسطینی پرداخته بودند، با این تفاوت که این بار تمرکز و محوریت فیلم بر روی «هوش مصنوعی» قرار داشت.
این فیلم هنوز در ترکیه نمایش داده نشده است، اما برای دانستن داستان آن، نیازی به تماشای آن نیست. نام فیلم یعنی «نازا» اصطلاحی است که توسط ارتش اسرائیل به کار میرود و به معنای «تلفات غیرنظامی» (خسارت جانبی) است. بدون تردید در هر جنگی تلفات غیرنظامی رخ میدهد و این موضوع یکی از سرفصلهای مورد بحث ارتشهاست؛ اما «تلفات غیرنظامی» در اینجا، به تلفات غیرنظامیان در حملاتی اشاره دارد که در آنها از هوش مصنوعی استفاده میشود و نشان میدهد که در هنگام هدف قرار دادن و زدن یک هدف مشخص، تا چه میزان از سهم مرگ غیرنظامیان پیشبینی شده و پذیرفته شده است؛ مستند نیز دقیقاً همین موضوع را روایت میکند.
اسرائیل به یک سیستم هوش مصنوعی عظیم به نام «لاوندر» (Lavender) مجهز است که کل دادههای مربوط به ۲.۵ میلیون مردم غزه، یعنی سن، جنسیت، ابعاد بدن، چهره، اثر انگشت و پا، شغل، پیشینه خانوادگی، خانه محل سکونت، خیابان، محله و افرادی را که با آنها در ارتباط هستند، به عنوان اطلاعات جمعآوری و به شکل داده پردازش میکند. دستیابی به اطلاعات این افراد از طریق روشهای تعقیب فیزیکی، تصاویر ماهوارهای و پهپادی، دوربینها، رصد مکاتبات ایمیلی، شنود تلفنها و پایش پروفایلهای شبکههای اجتماعی صورت میگیرد و تمامی این موارد پس از رصد و غربالگری، به داده تبدیل میشوند
بر اساس این دادهها، به هر شهروند فلسطینی امتیازی بین ۰ تا ۱۰۰ داده میشود؛ هرچه این امتیاز بالاتر برود، احتمال اینکه شما به عنوان «تروریست» و در نتیجه به عنوان «هدف» علامتگذاری شوید، افزایش مییابد. این سیستم کل نوار غزه را غربال میکند، اما جامعه هدف اصلی آن، مردان جوانی هستند که کادر شبهنظامی بالقوه حماس را تشکیل میدهند. آنچه این امتیاز را تعیین میکند، عبارت است از حرکات، رفتارها، مکانهای پرتردد فرد و همچنین اشخاص و گروههایی که او به صورت حضوری یا از طریق تلفن و کامپیوتر با آنها ارتباط برقرار کرده است. شاخص آستانه برای «تروریست» قلمداد شدن ــ یعنی اینکه با داشتن چه امتیازی تروریست محسوب شوید ـ- توسط شرایط جنگ تعیین میشود؛ فرماندهان میتوانند در دورههایی که سطح تهدیدِ متصور بالاست، این آستانه را پایین بیاورند و با این کار، تعداد اهداف بالقوه، یعنی شمار افرادی را که باید کشته شوند، افزایش دهند.
نام سیستم هوش مصنوعی دیگری که «لاوندر» را همراهی میکند، «هابسورا» (Habsora / به معنای انجیل یا مژده) است. در حالی که «لاوندر» دادههای شخصی را پردازش کرده و درباره کشته شدن یا نشدن افراد تصمیمگیری میکند، «هابسورا» خانهها، ساختمانها، مغازهها، انبارها و تاسیسات زیربنایی را رصد میکند تا از میان آنها اهداف متعلق به حماس را شناسایی کند. به این ترتیب، مختصات حملات و بمبارانهایی که قرار است انجام شوند، استخراج میشود. یکی از رؤسای سابق ستاد مشترک ارتش اسرائیل اظهار داشته است که پیش از «هابسورا»، ارتش اسرائیل فقط میتوانست ۵۰ هدف را در سال تعیین کند، اما پس از ورود هوش مصنوعی به میدان، تنها در یک روز صدها هدف شناسایی میشوند.
هر دو واژه «لاوندر» و «هابسورا» به لحاظ لغوی ریشهای مذهبی دارند و به آیین یهود ارجاع میدهند؛ «لاوندر» به معنای «پاکسازی و تطهیر» است، در حالی که «هابسورا» مفهوم «مژده» را با خود یدک میکشد. با تکیه بر این موضوع، چندان اشتباه نخواهد بود اگر نتیجه بگیریم «لاوندر» و «هابسورا» پیامآوران و مژدهدهندگان پاکسازی غزه از فلسطینیها هستند. به این دو سیستم، سیستم دیگری نیز به نام «بابا کجاست؟» (?Where is Daddy) متصل شده است. از طریق این سامانه، هنگامی که یک مرد فلسطینی که توسط «لاوندر» با امتیاز بالا علامتگذاری شده و حکم مرگش صادر شده است، به خانهای که توسط «هابسورا» شناسایی شده بازمیگردد، به طور مستقیم هدف قرار گرفته و کشته میشود. زیرا آن لحظه، زمانی است که هدف در بیدفاعترین حالت ممکن قرار دارد، امکان فرار به جایی را ندارد و در نتیجه، احتمال نابودی او در بالاترین حد است؛ کسانی هم که ممکن است همراه با او کشته شوند اهمیتی ندارند، آنها صرفاً «تلفات غیرنظامی» (خسارت جانبی) به شمار میروند.
اصطلاح «نازا» که نام فیلمِ اشارهشده در بالا نیز از آن گرفته شده، اصطلاحی است که به غیرنظامیان قتلعامشده و تلفات غیرنظامی در حین بمباران اهدافِ شناساییشده توسط هوش مصنوعی اشاره دارد. در نگاه اول، ممکن است اینطور تصور شود که استفاده از فناوری و هوش مصنوعی در هدفگیری، اهداف نظامی را دقیقتر کرده و شمار کشتهشدگان را کاهش میدهد؛ اما در واقع اسرائیل در حال انجام یک «نسلکشی الگوریتمی» در غزه است و کاملاً برعکس آنچه انتظار میرفت یا ادعا میشد، با ادغام هوش مصنوعی در ماشین جنگی اسرائیل، آمار تلفات غیرنظامیان با افزایشی جهشی و بسیار عظیم مواجه شده است.
پس از حملات ۷ اکتبر، اسرائیل دقیقاً ۳۷ هزار مرد فلسطینی را در غزه به عنوان هدف شناسایی کرد و در لیست ترور خود قرار داد. با این حال، در هنگام ضربه زدن به این اهداف، دو موضوع جدید در تاریخ جنگ مطرح شد؛ نخست اینکه زمان تصمیمگیری فرماندهان برای هدف قرار دادن اهدافِ شناساییشده توسط هوش مصنوعی، برای هر هدف به ۲۰ ثانیه کاهش یافت؛ یعنی روند تصمیمگیری برای کشتن یک انسان به شدت سرعت گرفت، که این عملاً به معنای تصمیمگیریِ خود هوش مصنوعی برای تعیین مقتول است. دومین موضوع، افزایش شمار غیرنظامیانی است که کشته شدن آنها بلامانع و بیاشکال تلقی میشود؛ به طوری که ارتش اسرائیل کشته شدن ۱۵ تا ۲۰ غیرنظامیِ پیرامون هدفِ علامتگذاریشده توسط هوش مصنوعی را در زمان ترور او امری عادی جلوه داد و حتی پذیرفت که این رقم بر اساس اهمیت هدف، میتواند تا ۱۰۰ نفر نیز افزایش یابد.
وقتی حاشیه خطای ۱۰ درصدی هوش مصنوعی نیز به همه اینها اضافه میشود، یکی از بزرگترین قتلعامهای غیرنظامیان در تاریخ رقم میخورد. از زمان حملات ۷ اکتبر تا به امروز، حدود ۸۵ هزار نفر توسط اسرائیل در غزه کشته شدهاند که ۴۴ درصد آنها کودک و ۲۶ درصد آنها زن هستند؛ همچنین ۹۵ درصد از زنان کشتهشده، حداقل یک کودک نیز در کنارشان جان خود را از دست داده است. حتی به قیمت تکرار، باید بگوییم: اسرائیل از هوش مصنوعی در غزه برای دقیقتر کردن اهداف نظامی استفاده نمیکند، بلکه آن را برای نسلکشی یک ملت به کار میگیرد و این، نخستین «نسلکشی الگوریتمی» در تاریخ است. دقیقاً به همین دلیل است که غزه، آزمایشگاهی برای دیستوپیایِ (ویرانشهرِ) پیشِ رو به شمار میرود.
***
اینکه واژه «نازا» (NAZA) از نظر آوایی، کلمه «نازی» را تداعی میکند، به شدت طنزآمیز است؛ چرا که عاملان این «نسلکشی الگوریتمی» در غزه، امروزه نوادگان کسانی هستند که حدود صد سال پیش توسط نازیها در معرض بزرگترین نسلکشی تاریخ قرار گرفتند. همانطور که نازیها تلاش میکردند جامعه آلمان را از یهودیان پاکسازی کنند، امروز اسرائیل دقیقاً همین کار را با مردم فلسطین در اراضی اشغالی انجام میدهد. همانطور که نازیها نسلکشی را به یک «صنعت مرگ» تبدیل کردند و اردوگاههای کار اجباری را به کارخانههای مرگ با بالاترین بازدهی برای یهودیان بدل ساختند، اسرائیل نیز امروز همان کار را با فلسطینیها در غزه، که آن را به یک اردوگاه کار اجباری غولپیکر تبدیل کرده است، انجام میدهد. در اردوگاههای کار اجباری، نیاز به کشتن شمار بیشتری از یهودیان در یک زمان واحد، نازیها را به اختراع اتاقهای گاز سوق داد؛ اتاقهای گازی که به نسلکشی سرعت بخشید و حتی آن را «غیرانسانی و مکانیزه» کرد. به عبارت دیگر، سازوکاری جایگزین شلیک یا به رگبار بستن تکتک یهودیان توسط یک افسر یا سرباز نازی شد که میتوانست با فشردن یک دکمه، صدها نفر را به طور همزمان به کام مرگ بکشد. امروز نیز در غزه، یک صنعت مرگ از طریق هوش مصنوعی پایهگذاری شده است؛ مرگی که به واسطه فناوری، سرعت گرفته و از حضور و تصمیم مستقیم انسانی تهی شده است. دقیقاً به همین دلیل است که مسیرهایی پیوسته، از نسلکشی نازیها تا نسلکشی اسرائیل امتداد یافته است.
اکنون بیایید درنگ کنیم و همان پرسشی را که عنوان این نوشته را شکل میدهد، دوباره بپرسیم: «آیا هوش مصنوعی میتواند بشریت را نابود کند؟» شاید هم نابود کردن را آغاز کرده است، اما ما به عنوان بشریت هنوز متوجه آن نشدهایم.
—————————————
* فاتح یاشلی، استاد علوم سیاسی، دانشگاهی، نویسنده و تحلیلگر مطرح ترکیه است. او فارغالتحصیل رشته مالیه از دانشگاه غازی است و تحصیلات تکمیلی خود را در مقاطع کارشناسی ارشد و دکتری در رشته علوم سیاسی به پایان رساند. وی در حال حاضر با مرتبه علمی دانشیار در دانشگاه «عزت بایسال» بولای ترکیه مشغول به تدریس و تحقیق است. حوزههای اصلی پژوهش و نگارش او شامل فاشیسم، تاریخ سیاسی ترکیه، اندیشههای سیاسی چپ، و تحلیل ساختارهای حاکمیتی میشود.