رامین مالک پژوهشگر حوزه عدالت کیفری در یادداشتی برای اندیشکده رهیافت نوشت:
ظهور و تکامل پرشتاب نظامهای تسلیحاتی خودمختار و نیمهخودمختار، پارادایمهای سنتی حقوق کیفری بینالملل و داخلی را به چالشی بنیادین فراخوانده است. مسأله محوری این یادداشت، تحلیل این چالش نیست که «ابزار» حمله چه بوده است، بلکه پرسش از آن است که وقتی «تصمیم» برای انتخاب و درگیری با هدف، نه از ذهن یک فرمانده یا اپراتور انسانی، بلکه از پردازش الگوریتمیک یک ماشین ناشی میشود، سازوکار انتساب مسئولیت کیفری چگونه باید بازتعریف شود؟ در پاسخ به این پرسش، این نوشتار با تمرکز بر رویارویی بلندمدت میان ایالات متحده، اسرائیل و ایران، نظریه «سبب اقوی از مباشر» در حقوق اسلام و ایران را به عنوان یک راهحل هنجاری قدرتمند پیشنهاد میکند. بر اساس این نظریه، در زنجیره علیت یک جنایت، کسی که «سبب» اصلی وقوع نتیجه است، مسئول شناخته میشود، حتی اگر «مباشر» عمل، یک عامل غیرانسانی (مانند یک الگوریتم) باشد. از این منظر، برنامهنویسان، فرماندهان و سیاستمدارانی که یک سامانه خودمختار را طراحی، تأمین مالی و مستقر کردهاند، به عنوان «سبب اقوی» تمام جنایات ارتکابی توسط آن سامانه، مسئولیت کیفری دارند، حتی اگر نداسته باشند که الگوریتم دقیقاً چه تصمیمی خواهد گرفت یا آسیبی فراتر از حد تصور آنها ایجاد خواهد کرد. این یادداشت، با بهرهگیری از این چهارچوب نظری، نقض اصول بنیادین حقوق بشردوستانه توسط سامانههای خودمختار را واکاوی میکند و نظام حقوقی ایران را به عنوان نمونهای از یک ساختار حقوقی که واجد ظرفیتهای بومی برای پاسخگویی به این جنایات است، تجزیه و تحلیل مینماید.
بخش نخست: فروپاشی مبانی سنتی مسئولیت کیفری و ضرورت بازگشت به «سبب»
۱.۱. بحران هنجاری؛ از تنظیم «سلاح» تا تنظیم «عاملیت»
جامعه بینالمللی بیش از یک دهه است که در چارچوب «کنوانسیون منع یا محدودیت استفاده از سلاحهای متعارف خاص»[1] گرفتار مناقشهای فرسایشی بر سر نظامهای تسلیحاتی خودمختار کشنده[2] است. آخرین تلاشها در گروه کارشناسی دولتی (GGE) در نوامبر ۲۰۲۴ به توصیفی کاری انجامید که یک سامانه خودمختار را به عنوان «ترکیب یکپارچهای از یک یا چند سلاح و اجزای فناورانه که قادر است بدون مداخله کاربر انسانی، هدف را شناسایی، انتخاب و با آن درگیر شود» تعریف میکند. با این حال، این تعریف نه تنها فاقد قدرت الزامآور حقوقی است، بلکه به طرز خطرناکی بر «درگیری با هدف» متمرکز است و لحظه بسیار حیاتیتر یعنی «تصمیمگیری برای حمله» را نادیده میگیرد. بحران اصلی در استاکسنت این نبود که صرفاً یک کد خودکار بود، بلکه مشکل آنجا بود که این کد، بدون ارزیابی انسانی، به طور مستقل اهداف خود را در بستر شبکههای صنعتی ایران شناسایی و رفتار مخرب خود را بر اساس آن تطبیق میداد. اینجاست که حقوق کیفری کلاسیک، که بر پایه انتساب عمل به یک فاعل انسانی بنا شده، به بنبست میخورد. پرسش این نیست که «چه کسی دکمه را فشار داد؟»، بلکه پرسش این است که «چه کسی موجودیتی را خلق کرد که خودش تصمیم میگیرد چه کسی را بکشد؟»
۱.۲. استحاله اصول تفکیک، تناسب و احتیاط در چنگال الگوریتم
اصول بنیادین حقوق بشردوستانه، یعنی تفکیک، تناسب و احتیاط، همگی بر پیشفرض یک کنشگر انسانی با قابلیت « ارزیابی در بستر موقعیت»[3] شدهاند. یک الگوریتم هوش مصنوعی، حتی پیشرفتهترین آن، قادر به درک این نکته نیست که یک ساختمان غیرنظامی، مانند یک بیمارستان، ممکن است به طور موقت و تحت فشار، توسط نیروهای نظامی اشغال شده باشد؛ آیا در این لحظه، هدف همچنان غیرنظامی است؟ این سنجش که نیازمند درک «نیت» و تفسیر نشانههای رفتاری پیچیده و اغلب متناقض است، ذاتاً از توان یک ماشین خارج است. در جنگ 12 روزه، گزارشها حاکی از آن بود که الگوریتمهای هدایتگر حملات، صرفاً بر اساس شناسایی یک آدرس IP یا یک پروتکل صنعتی خاص، یک تصفیهخانه آب یا یک مرکز درمانی را به عنوان «هدف نظامی مشروع» طبقهبندی کردهاند. اصل تفکیک در این لحظه کاملاً فرو میریزد. آزمون تناسب نیز که مستلزم سنجش لحظهای و موردی میان مزیت نظامی و آسیب غیرنظامیان است، در برابر یک سیستم خودمختار که بر اساس یک «تابع هزینه»[4] از پیش تعریفشده و خشک عمل میکند، بیمعنا میشود. اما پرسش حقوقی اینجاست: مسئول این عدم تفکیک و عدم تناسب کیست؟ آیا میتوان ماشین را ملامت کرد؟ یا باید به دنبال کسی گشت که این ماشینِ ناتوان از قضاوت اخلاقی را در میدان رها کرده است؟
۱.۳. نظریه «سبب اقوی از مباشر» به مثابه راهحل خلأ مسئولیتپذیری
هسته اصلی بحران در حقوق کیفری، گسستی است که میان رفتار مادی و عنصر روانی ایجاد میشود. هنگامی که یک سامانه خودمختار به دلیل یادگیری عمیق تقویتی رفتاری پیشبینینشده از خود نشان میدهد و به یک مدرسه حمله میکند، کدام ذهن انسانی را باید ملامت کرد؟ ربکا کروتوف به درستی به رابطه مستقیم میان افزایش پیچیدگی سیستم و احتمال رفتار غیرقابل پیشبینی اشاره میکند. زنجیره خطی «قصد انسانی ← عمل انسانی ← نتیجه مجرمانه» که بنیان حقوق کیفری مدرن را تشکیل میدهد، در اینجا با یک «عامل غیرانسانی» جایگزین شده است.
در این نقطه، حقوق اسلام و حقوق ایران یک راهحل هنجاری دیرینه و قدرتمند ارائه میدهد که میتواند این بنبست را بشکند: نظریه سبب اقوی از مباشر. ماده ۵۲۶ قانون مجازات اسلامی (مصوب ۱۳۹۲) مقرر میدارد: «هرگاه دو یا چند عامل، برخی به مباشرت و برخی به تسبیب در وقوع جنایتی دخالت داشته باشند، عاملی که جنایت مستند به او باشد ضامن است و چنانچه جنایت مستند به تمام عوامل باشد به نحو تساوی ضامن میباشند مگر تأثیر رفتار آنها متفاوت باشد که در این صورت هر یک به میزان تأثیر رفتارشان مسئول هستند.» در فقه اسلامی، این قاعده به صراحت بیان شده است که اگر «سبب» از «مباشر» قویتر باشد، مسئولیت بر عهده سبب است، حتی اگر مباشر یک انسان عاقل و بالغ باشد. حال، اگر مباشر یک انسان باشد که تحت تأثیر یک سبب قویتر عمل میکند، آن سبب میتواند مسئول شناخته شود. به طریق اولی، اگر «مباشر» اساساً یک انسان نباشد، بلکه یک ابزار یا یک ماشین باشد، خالق یا راهانداز آن ماشین به عنوان «سبب» مسئولیت مطلق خواهد داشت. در فقه، تمثیل «سگ هار» را در نظر بگیرید. فرض کنید فردی آگاهانه یک سگ هار و درنده را از قفس آزاد کرده و در یک خیابان شلوغ رها میسازد. این سگ (به مثابه مباشر) به افراد متعددی حمله میکند و آنها را مجروح میسازد. در این سناریو، «مباشر» عمل آسیبرسانی، خود سگ است. اما آیا میتوان سگ را مسئول دانست و او را محاکمه کرد؟ آشکارا خیر. از سوی دیگر، آیا صاحب سگ میتواند ادعا کند «من کسی را گاز نگرفتم» یا «من نمیدانستم سگ دقیقاً به چه کسانی حمله میکند» و بدین ترتیب از مسئولیت شانه خالی کند؟ قطعاً خیر. او به عنوان «سبب» رها شدن این موجود خطرناک، مسئول تمام جراحات و تلفاتی است که سگ وارد میکند. حال، یک سامانه تسلیحاتی خودمختار را در نظر بگیرید که در بستر شبکههای غیرنظامی یک کشور رها میشود. این سامانه «سگ هار» عصر دیجیتال است. برنامهنویسی که کد آن را نوشته، فرماندهی که دستور استقرارش را صادر کرده، و سیاستمداری که این عملیات را تأیید کرده است، همگی در جایگاه «سبب» قرار دارند. آنها «سگ هار» را از قفس آزاد کردهاند و باید مسئولیت تمام «گازگرفتگیهای» الگوریتمی آن را بر عهده بگیرند.[5]
این نظریه، مشکل «قابلیت پیشبینی» را نیز حل میکند. در حقوق کیفری مدرن، یکی از موانع بزرگ برای تعقیب برنامهنویسان و فرماندهان این است که آنها ادعا میکنند «ما نمیدانستیم الگوریتم دقیقاً چه کار خواهد کرد.» اما در نظریه سبب اقوی، این جهل، نه تنها رافع مسئولیت نیست، بلکه خود دلیلی بر اتهام است. کسی که موجودی خطرناک و غیرقابل پیشبینی را در جامعه رها میکند، مسئول تمام پیامدهای آن است، زیرا او «سبب» اصلی ورود این خطر به جامعه بوده است. به بیان ساده، اگر شما یک سگ هار را در خیابان رها کنید، نمیتوانید بعداً ادعا کنید که «من نمیدانستم او چه کسی را گاز میگیرد!» رها کردن سگ هار، خود، عمل مجرمانه است و شما مسئول تمام گازگرفتگیها هستید. الگوریتم خودمختاری که برای شناسایی و نابودی اهداف طراحی شده، «سگ هار» عصر دیجیتال است.
بخش دوم: گسترش میدان تحلیل؛ از سلاح سایبری تا فرمان خودمختار
۲.۱. استاکسنت: «مباشر» غیرانسانی و «سبب» انسانی
استاکسنت را نباید صرفاً یک «کرم کامپیوتری»[6] دید. این عملیات که با نام رمز «بازیهای المپیک» شناخته میشد، نقطه عطفی در تاریخ جنگافزارها بود؛ زیرا برای نخستین بار، یک عامل نرمافزاری به طور مستقل از کنترل مستقیم انسانی، مرز میان فضای سایبری و جهان فیزیکی را درنوردید و با دستکاری کنترلکنندههای منطقی قابل برنامهریزی[7] زیمنس، خرابی فیزیکی قابل توجهی به سانتریفیوژهای تأسیسات نطنز وارد کرد. در این پرونده، استاکسنت «مباشر» عمل تخریب بود؛ این بدافزار بود که سرعت سانتریفیوژها را تغییر داد. اما آیا میتوان این مباشر را مسئول دانست؟ آشکارا خیر. پس باید به دنبال «سبب» گشت و در اینجا سبب، بسیار قوی است: یک برنامه چندساله و چندمیلیارد دلاری که در بالاترین سطوح قدرت در واشنگتن و تلآویو طراحی، تأمین مالی و اجرا شد. رئیس جمهور آمریکا، باراک اوباما که شخصاً دستور تسریع حملات را صادر کرد، آژانس امنیت ملی آمریکا[8] که کد را توسعه داد، و واحد ۸۲۰۰ اسرائیل که در تست و استقرار آن همکاری کرد، همگی «سبب»های این جنایت هستند. بر اساس نظریه سبب اقوی، آنها مسئولیت کیفری کامل در قبال تخریب اموال، اخلال در خدمات عمومی، به خطر انداختن جان کارکنان تأسیسات و تمام پیامدهای پیشبینیشده و نشده این حمله دارند. این مسئولیت، نیازی به اثبات این ندارد که اوباما یا نتانیاهو دقیقاً میدانستند چند سانتریفیوژ از کار میافتد یا چه میزان آلودگی زیستمحیطی ایجاد میشود. صرف اینکه آنها «سبب» رها شدن این موجودیت مخرب در زیرساختهای ایران شدند، برای تحقق مسئولیت کافی است.
۲.۲. جنگ 12 روزه و ظهور «هوش مصنوعی تعیینکننده هدف»
در طول جنگ ۱۲ روزه و جنگ سایبری متعاقب آن، وجه جدیدی از خودمختاری بروز یافت که نظریه سبب اقوی را ضروریتر میکند. بر اساس گزارشهای فنی، در این عملیات از سامانههایی استفاده شد که نه تنها حملات را اجرا میکردند، بلکه خودشان تصمیم به انتخاب اهداف جدید میگرفتند. یک سامانه هوش مصنوعی که با دادههای ترافیک شبکه ایران تغذیه شده بود، میتوانست به طور خودکار الگوهای رفتاری در یک شبکه توزیع برق را تحلیل کرده و بدون هیچ دستور مشخصی از سوی یک اپراتور انسانی، یک پست فرعی برق را که به یک منطقه مسکونی خدمات میداد، به عنوان «گره حیاتی با تأثیر روانی بالا» شناسایی و به لیست اهداف خود اضافه کند. در اینجا، حتی «اپراتور میانی» نیز نمیداند که حمله به کدام اهداف انجام میشود. این امر، نظریههای سنتی مسئولیت فرماندهی را با چالش مواجه میکند، زیرا فرمانده میتواند ادعا کند «من فقط دستور استقرار سامانه را دادم، نمیدانستم چه اهدافی را انتخاب میکند.» اما نظریه سبب اقوی، دقیقاً برای چنین وضعیتی ساخته شده است. فرماندهی که دستور استقرار یک سامانه خودمختار را صادر میکند، «سبب» اصلی تمام تصمیمات بعدی آن سامانه است. او مانند کسی است که یک تیر را از کمان رها میکند؛ ممکن است دقیقاً نداند تیر به کجا میخورد، اما مسئولیت اصابت آن به هر هدفی، اعم از نظامی یا غیرنظامی، بر عهده اوست. واقعیت اینکه این تیر، خودش مسیرش را در هوا تصحیح میکند و هدف جدیدی انتخاب میکند، نه تنها از مسئولیت پرتابکننده نمیکاهد، بلکه آن را تشدید میکند، زیرا او سلاحی رها کرده که از کنترلش خارج است.
بخش سوم: مسئولیت کیفری در چهارچوب حقوق ایران؛ کاربست نظریه «سبب اقوی»
۳.۱. ماده ۵۲۶ قانون مجازات اسلامی و مسئولیت مطلق سبب
نظام حقوقی ایران، به واسطه ریشههای فقهی خود، برای حل معضل عامل غیرانسانی مجهزتر از بسیاری از نظامهای حقوقی غربی است. ماده ۵۲۶ قانون مجازات اسلامی، قاعده «سبب اقوی از مباشر» را به روشنی پذیرفته است. در حملات سایبری خودمختار، این ماده را میتوان به صورت زیر تفسیر کرد:
مباشر: الگوریتم یا بدافزاری که عمل تخریبی را انجام داده است. از آنجا که این مباشر فاقد شخصیت حقوقی و اهلیت است، نمیتوان آن را مسئول دانست.
سبب: تمام افرادی که در زنجیره طراحی، توسعه، تأمین مالی، استقرار و فرماندهی این سامانه نقش داشتهاند. از آنجا که مباشر اساساً یک ابزار است، «سبب» مسئولیت مطلق (یا دستکم، مسئولیت مبتنی بر کمترین آستانه سوءنیت) خواهد داشت.
این تفسیر، مشکل بزرگ «اثبات سوءنیت» را که در بخشهای قبلی به آن اشاره شد، از میان برمیدارد. دادستان ایرانی نیازی ندارد ثابت کند که فلان برنامهنویس در لانگلی «قصد» داشته است که به یک بیمارستان در شیراز آسیب برساند. کافی است ثابت کند که او «سبب» ایجاد و رهاسازی یک موجودیت خطرناک بوده که قابلیت ایجاد چنین آسیبی را داشته است. این رویکرد، با نظریه «مسئولیت مطلق»[9] در کامنلا شباهتهایی دارد، اما ریشههای آن در فقه اسلامی عمیقتر و مستحکمتر است. در فقه، قاعده «من أتلف مال الغیر فهو له ضامن» (هر کس مال دیگری را تلف کند ضامن است) حتی بدون نیاز به اثبات قصد، مسئولیت مدنی و کیفری ایجاد میکند. حال، اگر تلف مال از طریق یک ابزار خودکار انجام شود، مسئولیت متوجه کسی است که این ابزار را به کار گرفته است.
۳.۲. «سبب» در افساد فیالارض و محاربه
برای پر کردن خلأ ناشی از فقدان متهم حاضر، حقوق کیفری ایران دارای ظرفیتهای بالقوه دیگری نیز هست که با نظریه سبب اقوی هماهنگ میشوند. ماده ۲۸۶ قانون مجازات اسلامی در مورد «افساد فیالارض»، به عنوان یک جرم مستقل با ماهیت «کلان»، میتواند چارچوب مناسبی ارائه دهد. اگر فردی «سبب» یک «فساد گسترده» در نظام اقتصادی، امنیتی یا بهداشتی کشور شود، میتواند به عنوان مفسد فیالارض تحت تعقیب قرار گیرد. در این چارچوب، لازم نیست ثابت شود که او «مباشر» تکتک حملات سایبری بوده است. همین که او در جایگاه «سبب اقوی» کل این پویش تخریبی قرار داشته باشد، برای انتساب عنوان افساد فیالارض کفایت میکند. رهاسازی یک سامانه هوش مصنوعی که میتواند به طور خودمختار زیرساختهای حیاتی یک ملت را هدف قرار دهد، خود مصداق بارز «افساد» است، فارغ از اینکه الگوریتم در نهایت چه اهدافی را انتخاب کند. به همین ترتیب، اگر هدف از این اقدام، ایجاد رعب و وحشت در جامعه باشد، عنوان «محاربه» (ماده ۲۷۹) نیز قابل طرح است. سلاح محارب میتواند یک الگوریتم باشد و «سبب» محاربه، کسی است که این سلاح نامرئی را به سوی مردم نشانه رفته است.
۳.۳. چالش جهل به نتیجه و پاسخ قاعده «سبب»
آخرین سنگر دفاعی متهمان این پروندهها، ادعای «جهل به نتیجه» است. یک افسر سایبری میگوید: «من نمیدانستم الگوریتم، شبکه برق یک بیمارستان را هدف قرار خواهد داد.» یا یک برنامهنویس ادعا میکند: «ما کد را برای فلج کردن سانتریفیوژها نوشته بودیم، نمیدانستیم که ممکن است به تأسیسات آب هم نشت کند و آنها را از کار بیندازد.» نظریه سبب اقوی، این دفاع را به طور کامل بیاثر میکند. در منطق فقهی و حقوقی این قاعده، جهل سبب به جزئیات نتیجه، رافع مسئولیت نیست. وقتی شما یک موجود خطرناک را رها میکنید، مسئولیت تمام پیامدهای آن با شماست، حتی پیامدهایی که پیشبینی نمیکردید. دلیل این امر آن است که «سبب»، اولین و قویترین حلقه در زنجیره علیت است. بدون اقدام او، هیچ یک از این نتایج محقق نمیشد. به بیان فلسفی، او «علت تامه» نیست، اما «علت موجده» است و همین برای تحقق مسئولیت کافی است. این قاعده، یک پیام سیاستی روشن نیز دارد: اگر دولتها بدانند که در قبال هر اقدام الگوریتمهای خودمختارشان مسئولیت مطلق دارند، چه در سطح کیفری و چه در سطح حقوقی، در طراحی و استقرار آنها بسیار محتاطتر عمل خواهند کرد. نظریه سبب اقوی، نه تنها یک ابزار برای مجازات عادلانه، بلکه یک مکانیسم پیشگیرانه قدرتمند است.
بخش چهارم: تبارشناسی جرمشناختی «سبب» و خشونت الگوریتمیک
۴.۱. جرم سازمانیافته دولتی و «سبب» نهادی
تحلیل این حملات در چارچوب «جرم خیابانی» یا حتی «جرایم سایبری عادی» یک خطای فاحش تحلیلی است. ما در اینجا با مصداق اعلای «جرم سازمانیافته دولتی» (ویلیام چمبلیس) روبهرو هستیم؛ یعنی اقدامات غیرقانونی که توسط بالاترین سطوح قدرت سیاسی و نظامی طراحی، تأمین مالی و اجرا میشوند. نکته جالب توجه از منظر نظریه سبب اقوی این است که در جرم سازمانیافته دولتی، «سبب» دیگر یک فرد نیست، بلکه یک «نهاد» است. دولت به عنوان یک کل، «سبب» اصلی جنایت است. اما حقوق کیفری هنوز نمیتواند یک دولت را به زندان بیندازد. با این حال، میتواند «نمایندگان انسانی» آن نهاد را که در جایگاه سبب قرار داشتهاند، مسئول بداند. رئیسجمهور، وزیر دفاع، فرمانده سایبری، و حتی برنامهنویسان ارشد، همگی «سبب»های انسانی یک «سبب» نهادی هستند که به صورت مساوی، ضامن خواهند بود. از این منظر، مصونیت سیاسی مقامات عالیرتبه، که یکی از موانع اصلی تعقیب بینالمللی است، در برابر منطق آهنین نظریه سبب اقوی فرو میریزد. اگر رئیسجمهور یک کشور فرمان استقرار یک سامانه خودمختار را صادر کند، او «سبب» تمام جنایات آن سامانه است، فارغ از عنوان تشریفاتیاش.
۴.۲. فنون خنثیسازی و بیاثرسازی آنها توسط نظریه سبب
چگونه یک مهندس نرمافزار در مریلند یا یک افسر جوان در واحد ۸۲۰۰ اسرائیل، وجدان خود را در برابر نوشتن کدی که جان هزاران غیرنظامی را به خطر میاندازد، آرام میکند؟ پاسخ را باید در فنون خنثیسازی (سایکز و ماتزا) جستوجو کرد. نظریه سبب اقوی، پادزهر هر یک از این فنون است:
انکار مسئولیت: «ما فقط الگوریتم را نوشتیم، این خود هوش مصنوعی بود که تصمیم گرفت کدام پست برق را بزند.» پاسخ نظریه سبب: «شما سبب اصلی هستید. بدون کد شما، هیچ تصمیمی گرفته نمیشد. شما مسئول تمام تصمیمات ماشینی هستید که خلق کردهاید.»
انکار آسیب: «ما فقط بیت و بایتها را جابهجا میکنیم، کسی که کشته نمیشود.» پاسخ نظریه سبب: «قطع برق بیمارستان نتیجه مستقیم کد شماست. هر مرگی که در آن بیمارستان رخ دهد، به زنجیره علیتی که شما آغاز کردهاید مستند است.»
انکار قربانی: «ایرانیها خودشان حامی تروریسم هستند، لیاقت این را دارند.» این یک تکنیک سیاسی است، نه حقوقی، و در دادگاه بیاعتبار است. قربانی، صرفنظر از ملیت، تحت حمایت حقوق بشردوستانه قرار دارد.
توسل به وفاداریهای برتر: «امنیت ملی کشورم در خطر بود.» این دفاع در حقوق بینالملل کیفری تحت عنوان «دستور مافوق»[10] صراحتاً در ماده ۳۳ اساسنامه رم رد شده است، مگر در شرایط بسیار محدود که در این پروندهها صادق نیست. نظریه سبب نیز میگوید وفاداری به یک گروه، رافع مسئولیت در قبال جنایت علیه بشریت نیست.
۴.۳. از «فاصله اخلاقی» تا «فاصله علی»: بازیابی مسئولیت
مفهوم «فاصله اخلاقی»[11] که توسط استنلی میلگرام و بعدها توسط جرمشناسان توسعه یافت، توضیح میدهد که چگونه دور شدن فیزیکی و روانی از قربانی، موانع درونی برای ارتکاب خشونت را کاهش میدهد. یک خلبان پهپاد که از اتاقک خود در نوادا موشکی را به سوی هدفی در یمن شلیک میکند، فاصله اخلاقی زیادی با قربانی خود احساس میکند. اما در حملات الگوریتمی، این فاصله به یک «فاصله علی»[12] تبدیل میشود. عامل انسانی نه تنها قربانی را نمیبیند، بلکه حتی «لحظه تصمیمگیری» برای حمله را نیز تجربه نمیکند. او فقط یک کد را اجرا کرده و سپس هیچ نقشی در انتخاب اهداف ندارد. این شکاف، بزرگترین چالش برای انتساب مسئولیت است. نظریه سبب اقوی، این فاصله علی را به طور کامل از میان برمیدارد. این نظریه میگوید: «فرقی نمیکند که تو چند کلیومتر با قربانی فاصله داشتی، یا چند لایه نرمافزاری بین تصمیم تو و مرگ او قرار داشت. تو اولین حلقه این زنجیره بودی، پس تو مسئولی.» این رویکرد، پیامدهای اخلاقی عمیقی دارد: دیگر هیچ کس نمیتواند پشت «جعبه سیاه» الگوریتم پنهان شود.
بخش پنجم: به سوی یک نظام پاسخگویی چندلایه مبتنی بر مسئولیت سبب
۵.۱. ضرورت بازتعریف «کنترل معنادار انسانی» بر پایه نظریه سبب
راهحل نه در ممنوعیت فناوری، بلکه در تثبیت این اصل حقوقی است که هرکس «سبب» ایجاد، استقرار یا فعالسازی یک سامانه خودمختار باشد، مسئولیت کیفری کامل در قبال تمام اقدامات آن سامانه دارد. «کنترل معنادار انسانی»[13] که توسط کمیته بینالمللی صلیب سرخ و سازمانهای حقوق بشری ترویج میشود، در پرتو نظریه سبب اقوی باید به این معنا تفسیر شود: یک انسان باید در جایگاه «سبب» قرار گیرد و این جایگاه، مستلزم مسئولیت کامل است. نمیتوان هم اختیار تصمیمگیری را به ماشین داد و هم از مسئولیت آن شانه خالی کرد. یا انسان کنترل کامل دارد و مسئول است، یا کنترل ندارد که در این صورت نیز مسئول است، زیرا او «سبب» رها شدن یک موجودیت کنترلناپذیر در جهان بوده است. پذیرش این اصل در یک پروتکل الزامآور بینالمللی، میتواند به بحران کنونی پایان دهد.
۵.۲. راهبرد حقوقی ایران: پیگیری کیفری بر اساس «سببیت»
برای ایران، نظریه سبب اقوی نه تنها یک دکترین حقوقی داخلی، بلکه یک سلاح دیپلماتیک و حقوقی در عرصه بینالمللی است. ایران میتواند با مستندسازی دقیق حملات سایبری خودمختار، پروندههای کیفری علیه مقامات آمریکایی و اسرائیلی در دادگاههای داخلی خود بر اساس ماده ۵۲۶ قانون مجازات اسلامی و با استناد به نظریه سبب اقوی تشکیل دهد. در این پروندهها، نیازی به اثبات دقیق اینکه کدام فرد، کدام حمله را دستور داده نیست. کافی است ثابت شود که این افراد، «سبب» اصلی کل برنامه عملیاتی بودهاند. این احکام، اگرچه ممکن است در خارج از ایران قابل اجرا نباشند، اما:
۱. یک سابقه حقوقی مهم در سطح جهانی ایجاد میکنند.
۲. مشروعیت اخلاقی و سیاسی عاملان را به چالش میکشند.
۳. مبنایی برای درخواست استرداد یا استفاده از اصل صلاحیت جهانی فراهم میآورند.
۴. به قربانیان ایرانی یک مسیر رسمی برای احقاق حق، حداقل در سطح نمادین، ارائه میدهند.
نتیجهگیری
آنچه در مورد حملات الگوریتمی به زیرساختهای ایران شاهد آن هستیم، صرفاً یک سری تخلفات فنی یا حقوقی نیست، بلکه نمودی از یک گذار تمدنی در ماهیت قدرت و خشونت است. در این گذار، خطرناکترین پدیده، «قتل بدون قاتل» یا «جنایت بدون مجرم» است که در آن، سردمداران قدرت میتوانند در پناه «عاملیت ماشینی» از چنگال عدالت بگریزند. در برابر این تهدید وجودی برای حاکمیت قانون، نظریه «سبب اقوی از مباشر» که ریشه در خرد کهن حقوق اسلام دارد، چراغ راهنمایی قدرتمند است. این نظریه با قاطعیت اعلام میکند: مهم نیست که مباشر یک جنایت، یک انسان بوده، یک گلوله بوده، یا یک الگوریتم هوش مصنوعی. اگر انسانی «سبب» اصلی وقوع آن جنایت بوده است، مسئولیت کیفری بر عهده اوست و او نمیتواند پشت هیچ حجاب فناورانهای پنهان شود. این اصل ساده اما عمیق، نه تنها بنبست کنونی حقوق کیفری بینالملل را میشکند، بلکه بنیان یک نظام حقوقی عادلانه برای عصر هوش مصنوعی را پیریزی میکند. پذیرش جهانی این اصل، شاید بزرگترین میراث حقوقی ایران برای جامعه بینالمللی در مبارزه با بیکیفری الگوریتمی باشد. تا آن زمان، دولتها و ملتهای قربانی، مانند ایران، چارهای جز مستندسازی خستگیناپذیر این جنایات و پیگیری آنها از طریق منطق آهنین «سببیت» ندارند.
[1] Convention on Certain Conventional Weapons (CCW)
[2] Lethal autonomous weapons (LAWs)
[3] Contextual Judgment
[4] Cost Function
[5] ماده 522- متصرف هر حیوانی که از احتمال حمله آن آگاه است باید آن را حفظ نماید و اگر در اثر تقصیر او، حیوان مزبور به دیگری صدمه وارد سازد، ضامن است. ولی اگر از احتمال حمله حیوان آگاه نبوده و عدم آگاهی ناشی از تقصیر او نباشد، ضامن نیست.
تبصره 1- نگهداری حیوانی که شخص توانایی حفظ آن را ندارد، تقصیر محسوب میشود.
تبصره 2- نگهداری هر وسیله یا شیء خطرناکی که دیگران را در معرض آسیب قرار دهد و شخص قادر به حفظ و جلوگیری از آسیب رسانی آن نباشد، مشمول حکم تبصره(1) این ماده است.
[6] Computer worm
[7] Programmable Logic Controller (PLC)
[8] National Security Agency (NSA)
[9] Strict Liability
[10] Superior Orders
[11] Moral Distance
[12] Causal Distance
[13] Meaningful Human Control
