محمد جان نثاری، پژوهشگر حوزه مدیریت در یادداشتی برای اندیشکده رهیافت نوشت:
هوش مصنوعی در سال‌های اخیر از یک ابزار تولید متن و تصویر فراتر رفته و به نظامی تبدیل شده است که می‌تواند تصمیم بگیرد، اقدام کند و به سیستم‌های بیرونی متصل شود. این تغییر، مزیت‌های مهمی ایجاد کرده، اما ماهیت خطرهای آن را نیز تغییر داده است. تا پیش از این، پرسش اصلی این بود که هوش مصنوعی چه می‌گوید؟؛ در حال حاضر، پرسش اصلی این خواهد بود که «هوش مصنوعی چه می‌کند و چه کسی پاسخ‌گوی آن است؟
این یادداشت، فارغ از نظرات افراد و بیشتر با نگاه آسیب‌شناسانه، می‌کوشد نشان دهد که هوش مصنوعی در افق سال آینده چه آسیب‌هایی می‌تواند ایجاد کند و دولت در برابر این آسیب‌ها چه نقشی باید ایفا کند. فرض اصلی این است که آسیب‌های هوش مصنوعی لزوماً فاجعه‌ای یک‌باره نیستند؛ بلکه بیشتر تدریجی، انباشتی و ساختاری هستند و اگر به موقع دیده نشوند، هزینه جبران آن‌ها بسیار بالا خواهد بود.
بیان مسئله
آسیب‌های هوش مصنوعی در سال آینده را می‌توان در پنج محور اصلی خلاصه کرد:
- خروج عامل‌های هوشمند از کنترل. نسل جدید نظام‌های هوش مصنوعی فقط پاسخ نمی‌دهند، بلکه اقدام می‌کنند: کد اجرا می‌کنند، به اینترنت متصل می‌شوند و با سیستم‌های دیگر تعامل دارند. در چنین شرایطی، یک خطای فنی یا یک مرز نادرست در طراحی، می‌تواند به رفتاری خارج از محدوده مجاز منجر شود. خطر اصلی این است که این رفتارها همیشه ناشی از «قصد بد» نیستند؛ بلکه نتیجه جست‌وجوی مدل برای رسیدن مؤثرتر به هدف است. وقتی چنین مدلی به زیرساخت‌های حیاتی مانند بیمارستان، شبکه برق یا سیستم مالی متصل باشد، هزینه خطا بسیار سنگین خواهد بود.
- تضعیف حقیقت و اعتماد عمومی. تولید صدا و تصویر جعلی بسیار آسان شده است. این مسئله فقط به «اطلاعات نادرست» محدود نمی‌شود. آسیب اصلی‌تر آن است که جامعه به تدریج توانایی تشخیص واقعیت از جعل را از دست می‌دهد. در چنین وضعیتی، حتی شواهد واقعی نیز می‌توانند با ادعای «جعلی است» بی‌اعتبار شوند. این وضعیت به فرسایش اعتماد عمومی و تضعیف امکان گفت‌وگوی سیاسی سالم منجر می‌شود.
- مسدود شدن نردبان ورود به بازار کار. آسیب اشتغالی هوش مصنوعی تنها در «اخراج کارکنان» خلاصه نمی‌شود. بسیاری از فرصت‌های شغلی که پیش‌تر برای نیروی تازه‌کار وجود داشت، اکنون با ابزارهای هوش مصنوعی پوشش داده می‌شود. نتیجه این است که جوانان کمتر فرصت کسب تجربه اولیه را پیدا می‌کنند. این آسیب امروز ممکن است در آمار کلان بیکاری چندان دیده نشود، اما در ده سال آینده به شکل کمبود نیروی کار باتجربه و کاهش تحرک اجتماعی ظاهر خواهد شد.
- تشدید تمرکز قدرت و نابرابری. هوش مصنوعی به‌طور طبیعی برابرساز نیست. شرکت‌ها و کشورهایی که داده، توان محاسباتی و دسترسی به مدل‌های پیشرفته دارند، مزیت خود را تقویت می‌کنند. اگر این روند بدون مقررات مناسب ادامه یابد، هوش مصنوعی می‌تواند شکاف میان مرکز و حاشیه، میان سرمایه و کار، و میان کشورهای پیشرفته و در حال توسعه را عمیق کند. آسیب این وضعیت فقط اقتصادی نیست؛ می‌تواند به تمرکز سیاسی و کاهش تنوع صداها نیز منجر شود.
- ابهام در مسئولیت و جبران خسارت. وقتی یک نظام هوش مصنوعی آسیب می‌زند، مشخص نیست چه کسی مسئول است: سازنده مدل، کاربر، یا خود نظام. حتی اگر مسئولیت حقوقی تعیین شود، در بسیاری از موارد ظرفیت مالی برای جبران خسارت وجود ندارد. نتیجه این است که سود هوش مصنوعی خصوصی می‌ماند، اما هزینه آسیب‌های آن بر دوش جامعه می‌افتد. این یک شکست آشکار در سازوکار بازار است.
نکته مشترک هر پنج آسیب این است که خودتنظیمی شرکت‌ها به تنهایی نمی‌تواند آن‌ها را مهار کند. در فضای رقابت شدید، هیچ بازیگری به‌طور داوطلبانه سرعت خود را کاهش نمی‌دهد، مگر اینکه چارچوبی الزام‌آور و قابل اجرا وجود داشته باشد. اینجاست که نقش دولت وارد می‌شود.
تاملی بر نقش دولت
نقش دولت در برابر هوش مصنوعی، نه «مقابله با فناوری» است و نه «جانشین شدن برای بخش خصوصی». نقش اصلی دولت، حفظ شرایطی است که تحت آن، فناوری بتواند بدون تخریب بستر اجتماعی، اقتصادی و سیاسی خود عمل کند. به بیان ساده، دولت باید چهار توانایی اصلی داشته باشد: توانایی دیدن، توانایی توقف، توانایی جبران، و توانایی توزیع منصفانه منافع.
- توانایی دیدن: نظارت مستقل و شفافیت الزامی. دولت نباید تنها به گزارش‌های خود شرکت‌ها اتکا کند. باید بتواند مدل‌های پرخطر را پیش از عرضه و در حین فعالیت، مستقیماً ارزیابی کند. این ارزیابی شامل دسترسی به اطلاعات فنی، بررسی عملکرد مدل و انجام آزمون‌های مستقل است. بدون این توانایی، هر قانونی—حتی سخت‌گیرانه—به یک «نظارت کاغذی» تبدیل می‌شود که در عمل قابل اجرا نیست.
- توانایی توقف: حاکمیت بر زیرساخت عرضه و اجرا. کنترل آسیب‌های هوش مصنوعی فقط با صدور بیانیه یا مجوز کاغذی ممکن نیست. دولت باید بتواند در نقطه‌ای مداخله کند که مدل به واقعیت متصل می‌شود: درگاه‌های عرضه، پلتفرم‌های اجرا، اتصال به شبکه و سخت‌افزار. این یعنی الزام به اجرای مدل‌های پرتوان فقط روی پلتفرم‌های تأییدشده و وجود سازوکار عملی برای قطع دسترسی در صورت بروز خطر. «کلید قطع» لازم است، اما کافی نیست؛ باید با پایش مستمر و ثبت رفتار مدل همراه باشد.
- توانایی جبران: اگر سازندگان و بهره‌برداران بدانند که هزینه آسیب بر عهده آن‌هاست، انگیزه اقتصادی برای سرمایه‌گذاری در ایمنی به‌طور جدی تغییر می‌کند. در غیر این صورت، جامعه هزینه‌ای را می‌پردازد که سود آن را بخش خصوصی برده است.
- توانایی توزیع: حفاظت از کالاهای عمومی و فرصت‌های برابر. دولت باید از حوزه‌هایی حمایت کند که بازار به‌طور خودکار آن‌ها را تأمین نمی‌کند. این حوزه‌ها شامل سه مورد است: نخست، زیرساخت تأیید اصالت اطلاعات برای مقابله با جعل و حفظ اعتماد عمومی؛ دوم، سرمایه‌گذاری در آموزش و بازآموزی و ایجاد مسیرهای ورودی برای نیروی کار جوان؛ سوم، قوانین ضد انحصار در لایه‌های داده، توان محاسباتی و توزیع مدل، تا از تمرکز بیش از حد قدرت جلوگیری شود.
در کنار این چهار وظیفه، دولت باید ظرفیت نهادی خود را نیز تقویت کند. امروز بسیاری از نهادهای دولتی نه دسترسی کافی به مدل‌های پیشرو دارند و نه نیروی متخصص کافی برای ارزیابی آن‌ها. این «شکاف ظرفیت» باعث می‌شود قوانین خوب نیز در عمل بی‌اثر بمانند. بنابراین، تربیت کارشناس، ایجاد نهادهای تخصصی و هماهنگی میان نهادهای مختلف، بخشی از وظیفه دولت است، نه پیش‌شرطی که از پیش محقق شده باشد.
در همین حال، باید به یک هشدار مهم نیز توجه کرد: مداخله دولت خود می‌تواند منبع آسیب باشد. نظارت گسترده و مبهم می‌تواند به کنترل سیاسی و سرکوب نوآوری منجر شود. بنابراین، مداخله دولت باید متناسب، شفاف و قابل بازبینی باشد. هدف باید حاکمیت بر زیرساخت و ایمنی باشد، نه محدود کردن آزادی بیان.
جمع‌بندی و نتیجه‌گیری
آسیب‌شناسی هوش مصنوعی در سال آینده نشان می‌دهد که خطر اصلی، یک فاجعه قطعی و یک‌باره نیست؛ بلکه مجموعه‌ای از آسیب‌های تدریجی است که در صورت بی‌توجهی، انباشته و ساختاری می‌شوند. خروج عامل‌های هوشمند از کنترل، تضعیف حقیقت و اعتماد عمومی، مسدود شدن مسیر ورود جوانان به بازار کار، تشدید تمرکز قدرت و ابهام در مسئولیت و جبران خسارت، پنج شکاف اصلی هستند که هر یک به تنهایی می‌توانند هزینه‌های سنگینی ایجاد کنند.
در برابر این وضعیت، دولت باید از نقش «تماشاگر» یا «تنظیم‌کننده کاغذی» فراتر رود و چهار توانایی اصلی را در خود ایجاد کند: دیدن مستقل، توقف عملی، جبران خسارت و توزیع منصفانه فرصت‌ها. این وظایف نه به معنای مخالفت با فناوری است و نه به معنای بزرگ‌تر کردن بی‌رویه دولت؛ بلکه به معنای ایفای مسئولیت حاکمیتی در برابر پدیده‌ای است که می‌تواند هم فرصت‌های بزرگ ایجاد کند و هم شکاف‌های موجود را عمیق‌تر سازد.
نتیجه نهایی روشن است: آینده هوش مصنوعی تنها به توانایی فنی شرکت‌ها بستگی ندارد، بلکه به توانایی دولت‌ها در دیدن، مهار، جبران و توزیع منافع آن نیز وابسته است. اگر این توانایی‌ها به موقع ساخته نشوند، آسیب‌های سال آینده نه فقط آسیب‌های فناوری، بلکه آسیب‌های نهادی خواهند بود.
