نقش هوش مصنوعی در جنگ، صلح و سیاست جهان

پژوهشگران به دولت‌ها هشدار می‌دهند باید توجه بیشتری نسبت به آثار احتمالی هوش مصنوعی داشته باشند.

این گزارش تلاش می‌کند با بررسی دیدگاه کارشناسان، نقش‌های احتمالی هوش مصنوعی در آینده جهان را با پاسخ به پرسش ابتدای این گزارش، توضیح دهد.

هوش مصنوعی چه تاثیری در جنگ‌های آینده دارد؟

از جمله کسانی که بارها نسبت به ماهیت خطرناک توسعه هوش مصنوعی هشدار داده‌اند «هنری کسینجر» وزیر خارجه اسبق آمریکا و استاد رئالیست رشته روابط بین‌الملل است. به عقیده او، توسعه پر شتاب هوش مصنوعی در سایه احتمال جنگ مستقیم چین و آمریکا، ممکن است وضعیتی ایجاد کند که برای هیچکس قابل تصور نباشد.

به گزارش واشنگتن پست، کسینجر که بیشتر عمر خود را صرف مطالعه خطرات گسترش تسلیحات اتمی کرده بود، حالا نگران توسعه هوش مصنوعی است که به نظرش می‌تواند ویران‌کننده‌تر از بزرگترین بمب باشد. از نظر او، هوش مصنوعی امکانات بیشتری نسبت به تسلیحات اتمی برای ایجاد بحران دارد زیرا هوش مصنوعی اهداف مورد نظرش را انتخاب کرده و مطابق تصمیم‌های خود عمل‌می‌کند. ویرانی ناشی از استفاده از تسلیحات اتمی واضح است؛ اما هیچکس نمی‌داند هوش مصنوعی چگونه عمل خواهد کرد.

کسینجر: ما توسط ماشین‌هایی محاصره خواهیم شد که نمی‌دانیم چه تصمیم‌هایی می‌گیرند؛ برنامه‌ها و اقداماتی که مشابه تصمیم‌های انسانی نیستند و آثار متفاوتی دارندبه اعتقاد کسینجر، ما توسط ماشین‌هایی محاصره خواهیم شد که نمی‌دانیم چه تصمیم‌هایی می‌گیرند؛ برنامه‌ها و اقداماتی که مشابه تصمیم‌های انسانی نیستند و آثار متفاوتی دارند.

او در سخنرانی‌هایش از مقام‌های ایالات متحده و چین درخواست کرده، پیش از آن‌که دیر شود به فکر اعمال محدودیت بر توسعه هوش مصنوعی باشند. با این حال، بنظر می‌رسد رویه رفتاری دولت‌ها بر خلاف این توصیه در حال شکل‌گیری است.

منافع ناشی از توسعه هوش مصنوعی که می‌تواند به افزایش چشمگیر قدرت دولت‌ها منجر شود، آن‌هارا به یک مسابقه تسلیحاتی دیجیتال کشانده است.

در همین رابطه، وبسایت آمریکایی «فارن افرز» در گزارشی این مساله را مورد بررسی قرار داده که مسابقه تسلیحاتی بر سر هوش مصنوعی در حال افزایش است. براساس این گزارش «چین در سال ۲۰۱۷ از هدف خود برای رهبری جهانی در هوش مصنوعی تا سال ۲۰۳۰ گفت. کاخ سفید نیز در سال ۲۰۱۹ از ابتکار هوش مصنوعی آمریکایی و وزارت دفاع آمریکا نیز از استراتژی هوش مصنوعی رونمایی کرد.»

این مسائل نشاندهنده شکل‌گیری رویه‌هایی هستند که مشابه آن در زمان مسابقه فضایی ایالات متحده و شوروی دیده شده بود. با این حال برخلاف مسابقه فضایی، رقابت بر سر هوش مصنوعی خطرناک است. توسعه فضایی، جدا از این‌که چه کسی در آن پیروز شد به نفع همه بشریت تمام‌شده است. اما در مورد هوش مصنوعی، کشورها در حال رقابت بر سر چیزی هستند که هنوز روشن نیست چه آینده‌ای می‌تواند برای انسان رقم بزند.

«علی رحیمی» یکی از محققان هوش مصنوعی گوگل گفته، همان‌گونه که دانشمندان قرون وسطی تکنیک‌های شیشه‌سازی را آموختند اما فیزیک و شیمی پشت آن‌را درک نمی‌کردند، متخصصان هوش مصنوعی نیز به نتایج قدرتمندی می‌رسند اما نمی‌توانند علم اساسی پشت آن را توضیح دهند. در واقع، محققان ممکن است نتوانند توضیح دهند رفتارهای ماشین‌های مبتنی بر یادگیری عمیق (انواعی از هوش مصنوعی) چرا انجام می‌شود.

این مساله وقتی مهم خواهد بود که بدانیم پیش از این، بارها عملکرد سیستم‌های مبتنی بر هوش مصنوعی حادثه‌ساز بوده است. برای مثال در برخی موارد اتوموبیل‌های خودران، بدون هشدار، به موانع بتنی یا خودروهای پارک شده برخورد کرده‌اند. ماهیت هک‌پذیر این سیستم‌ها خطرات آن‌ها را به عنوان سیستم‌های خود ویرانگر افزایش می‌دهد. در واقع به گزارش فارن افرز «سیستم‌های هوش مصنوعی در لحظاتی ممکن است از یک فوق هوشمند به یک ابر احمق تبدیل شوند.»

بنابراین چنانچه گفته شد، دولت‌ها در حال توسعه سریع سیستم‌هایی هستند که پیامدهای آن‌را نمی‌شناسند. البته، این طبیعت یک مسابقه تسلیحاتی است که در آن دولت‌ها فقط به پیشی‌گرفتن از رقبا فکر می‌کنند؛ مشابه حالتی که در آن شوروی و ایالات متحده بدون توجه به بحران ‌های احتمالی ناشی از گسترش تسلیحات اتمی آن را به یک مسابقه تسلیحاتی تبدیل کرده بودند. البته مسابقه بر سر پیروزی در توسعه هوش مصنوعی، در آمریکا و چین منحصر نخواهد بود. چنانچه ولادیمیر پوتین در سال ۲۰۱۷ گفته بود «ملتی که در توسعه هوش مصنوعی پیشرو باشد، حاکم جهان خواهد شد.»

هوش مصنوعی احتمالا دنیای جنگ‌ها را متحول خواهد کرد؛ در نتیجه این رویکرد ممکن است نه تنها قدرت دولت‌های پیشرو بیشتر شود، نقش و قدرت دولت‌های ضعیف‌تر با تغییرات جدیدی مواجه شود.
فارن پالیسی با گزارشی که به‌تازگی در مورد نظم دیجیتالی جهان منتشر کرد مدعی شده، ابر قدرت آینده جهان نه چین و نه هیچ کشور دیگری، بلکه شرکت‌های دیجیتالی هستند. این شرکت‌ها با در اختیار داشتن کنترل توسعه هوش مصنوعی احتمالا نقش بیشتری در مدیریت جهانی ایفا می‌کنند.

فارن افرز: «سیستم‌های هوش مصنوعی در لحظاتی ممکن است از یک فوق هوشمند به یک ابر احمق تبدیل شوند»

نقش احتمالی هوش مصنوعی در جنگ چیست؟

در یک وجه، این مساله با احتمال کمک هوش مصنوعی به تصمیم‌های انسانی بررسی می‌شود. برای مثال مدیر مرکز امنیت فناوری‌های نوظهور در دانشگاه جرج تاون با گزارش مفصلی تشریح کرده، می‌توان به جایگزینی هوش مصنوعی با انسان برای دفاع سایبری امیدوار بود؛ در مقابل می‌توان انتظار داشت هوش مصنوعی نقش هکر را در حملات سایبری ایفا کند. همین رویه در مورد تصمیم‌گیری‌های حوزه‌های عملیات نظامی‌ هم رخ خواهد داد.

اما در وجه دوم، هوش مصنوعی نه فقط در جایگاه یاری‌دهنده انسان که به عنوان عنصری مستقل و گاهی جایگزین انسان، فعالیت می‌کند. می‌توان انتظار داشت تا در آینده تسلیحاتِ تحت مدیریت هوش مصنوعی یعنی پهپادهای خودکار، جنگنده‌ها و تانک‌های اتومات، تغییرات جدی در جنگ‌ها ایجاد کنند. البته، اکنون نیز بسیاری از تسلیحات نظامی مانند پدافندهای دفاعی، خودکار عمل می‌کنند اما در حال حاضر خطای این سیستم‌ها در نهایت با مدیریت اپراتور انسانی قابل کنترل است.

در مقابل اما، سیستم‌های هوش مصنوعی به دلیل نبود تفکر انسانی و سرعت زیاد که اجازه مدیریت ثانویه انسان را هم در مواقع بحرانی نمی‌دهد، ممکن است مرتکب اشتباه‌های بزرگی شوند که آغازگر جنگ است و یا شدت و وسعت جنگ‌های ایجاد شده را تغییر می‌دهد.
این‌که هوش مصنوعی به خواب و آذوقه نیاز ندارد و جز تلفات انسانی هم محسوب نمی‌شود، سبب می‌شود پدیده روان‌شناسی جنگ، صورت دیگری گرفته و ماهیت جنگ‌ها دگرگون شود. این مسائل اهمیت خطرهای ناشی از هوش‌ مصنوعی را افزایش می‌دهد؛ با این حال چنانچه توضیح داده خواهد شد، وجوه مثبتی هم برای هوش مصنوعی قابل تصور است.

هوش مصنوعی چه نقشی در صلح دارد؟

نشریه فارن پالیسی در گزارشی با عنوان «هوش مصنوعی چگونه می‌تواند دیپلماسی را متحول کند» به مواردی اشاره کرده که در آن هوش مصنوعی در خدمت دیپلماسی خواهد بود. به عقیده نویسنده این گزارش، اگرچه دیپلماسی همچنان یک هنر انسانی باقی می‌ماند اما تکیه آن به علم و تکنولوژی بیشتر خواهد شد.

در نخستین مورد، نقش هوش مصنوعی در ترجمه اطلاعات هنگام مذاکره پررنگ خواهد بود؛ هوش مصنوعیِ توسعه‌یافته می‌تواند نیاز به مترجم در مذاکرات را کاهش دهد. از طرفی، با وجود دسترسی پرسرعت هوش مصنوعی به اطلاعات طبقه‌بندی شده، این فناوری طراحی‌شده توسط دولت‌ها می‌تواند سریعتر از دیپلمات‌ها اطلاعات را استخراج کرده و ارائه دهد. در نتیجه دیپلمات‌ها برای دسترسی به اطلاعاتی که هنگام مذاکره نیاز دارند سرعت بیشتری خواهند داشت.

به گزارش این مجله آمریکایی، هوش مصنوعی در برآورد نظرهای عمومی نیز کاربرد خواهد داشت تا مذاکره‌کنندگان خیلی زود در مورد آثار احتمالی تصمیم‌ها در میان افکار عمومی با خبر شوند. همچنین تجزیه و تحلیل ویدئوهای ضبط‌شده اتاق‌های مذاکرات، برای تفسیر واکنش‌های احتمالی طرف مقابل، با کیفیت بیشتری دنبال می‌شود.

نقش دیگر هوش مصنوعی در طراحی سناریوهای احتمالی اجرایی در مذاکرات است. فارن پالیسی می‌نویسد: «در طول نخستین دور مذاکرات هسته‌ای ایران، تیمی در وزارت انرژی ایالات متحده یک نمونه از سایتی هسته‌ای در ایران ساختند تا تغییرات غنی‌سازی را آزمایش کنند. در آینده، هوش مصنوعی می‌تواند سناریوهای آزمایشی را سریع‌تر و با هزینه بسیار کمتر اجرا کند.»

هوش مصنوعی با ارائه راهکارهایی برای شفافیت روابط بین‌الملل، ارائه مکانیسم‌های گفت‌وگوی بهتر و ایجاد شرایطی برای تضمین تعهدهای طرفین، دولت‌ها را به طور خودکار به سمت صلح بیشتر می‌کشانددر عین حال، هوش مصنوعی با طراحی مکانیسم‌های دریافت غرامت و یا نظارت‌های دقیق بر اجرای تعهدها، می‌تواند تضمین‌های جدی‌تری برای اجرای توافق‌ها ایجاد کرده که فضای شک و تردید در روابط بین‌الملل را تحت شعاع قرار داده و همکاری بین‌المللی را افزایش می‌دهد؛ در نتیجه می‌توان انتظار داشت هوش مصنوعی نقش قابل توجهی در گسترش صلح جهانی با کمک به دیپلماسی داشته باشد.

هوش مصنوعی؛ خوب یا بد؟

این‌که در نهایت، هوش مصنوعی به صلح بیشتر کمک می‌کند و یا در خدمت جنگ خواهد بود پرسش اساسی پژوهشگرانی است که رابطه هوش مصنوعی و سیاست بین‌الملل را بررسی می‌کنند.

دسته‌ای از اندیشمندان، آن‌چه هوش مصنوعی در آینده جهان ایجاد می‌کند را وابسته به رویکرد و نگرش انسان‌ها می‌دانند. برای مثال افرادی که معتقدند انسان ذاتا به دنبال منازعه است طبیعتا وجود هوش مصنوعی را در خدمت منازعه‌های بیشتر فرض می‌کنند.

در مقابل گروهی دیگر که انسان را صلح‌طلب می‌شناسند، معتقد به خدمت هوش مصنوعی به صلح هستند؛ با این حال گروهی دیگر، هوش مصنوعی را فقط ابزاری در خدمت انسان می‌دانند که می‌تواند روش‌های تعاملات انسانی را متحول کند.

بر این اساس، هوش مصنوعی با ارائه راهکارهایی برای شفافیت روابط بین‌الملل، ارائه مکانیسم‌های گفت‌وگوی بهتر و ایجاد شرایطی برای تضمین تعهدهای طرفین، دولت‌ها را به طور خودکار به سمت صلح بیشتر می‌کشاند. از طرفی، اگرچه وجود هوش مصنوعی جنگ‌ها را ویران‌کننده‌تر می‌کند، ممکن است این فناوری با کاهش خطای محاسباتی رهبران از شروع جنگ جلوگیری کند. در نتیجه رقابت بر سر توسعه هوش مصنوعی لزوما ماهیتی خطرناک ندارد.

«کای فوی لی» متخصص تایوانی هوش مصنوعی در کتابش با عنوان «ابر قدرت‌های هوش مصنوعی» گفته، مردم باید رقابت بر سر هوش مصنوعی را مانند صادرات نخستین ماشین بخار ببینند، نه مسابقه تسلیحاتی جهانی. به هر حال، دقیق‌ترین تحلیل‌ها در مورد آینده آثار هوش مصنوعی، تحلیل‌هایی مبتنی بر ابهام است. هنوز برای هیچ‌کس روشن نیست که توسعه و پیشرفت هوش مصنوعی در نهایت به نفع جهان است یا به ضرر آن.

حسین مهدی‌تبار تحلیلگر امور بین‌الملل

..............................

منابع:‌

https://foreignpolicy.com/۲۰۲۳/۰۳/۲۱/ai-artificial-intelligence-diplomacy-negotiations-chatgpt-quantum-computing

https://www.realinstitutoelcano.org/en/analyses/diplomacy-in-the-age-of-artificial-intelligence

https://www.washingtonpost.com/opinions/۲۰۲۲/۱۱/۲۴/artificial-intelligence-risk-kissinger-warning-weapons

https://www.foreignaffairs.com/reviews/review-essay/۲۰۱۸-۱۱-۱۶/beyond-ai-arms-race

https://www.foreignaffairs.com/articles/۲۰۱۹-۰۴-۱۶/killer-apps

https://bigthink.com/the-future/future-of-war-ai

https://www.militarystrategymagazine.com/article/does-artificial-intelligence-change-the-nature-of-war

https://foreignpolicy.com/۲۰۲۳/۰۴/۱۱/ai-arms-race-artificial-intelligence-chatgpt-military-technology