ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل

به گزارش سئو سی، نشست 23 سپتامبر 2026 شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در چارچوب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد.

به گزارش سئو سی به نقل از مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در چارچوب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپن ای آی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، هم بنیان گذار هاگینگ فیس و یوشوا بنجیو، یکی از برجسته ترین محققان هوش مصنوعی، در این جلسه، مبین ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بین المللی است. طبق گزارش رویترز، این جلسه به ابتکار فرانسه و هم زمان با مجمع عمومی سازمان ملل برگزار شد و محور اصلی آن خطراتی بود که با افزایش توانایی سامانه های هوش مصنوعی و احتمال حرکت آنها به سمت خودبهبوددهی مطرح گردیده است.
اهمیت نشست در این واقعیت نهفته است که مسئله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در مقابل اعضاء شورای امنیت خاطرنشان کرد که مدیریت نامناسب این فناوری می تواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مسئله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصت ها و مخاطرات ناشی از این فنآوری نخواهد بود.

از ایمنی مدل تا مسئله امنیت بین المللی

یکی از مهم ترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی عمدتا بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتم ها متمرکز بود. مباحث عنوان شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته می سازد که در آن از امنیت زیستی، اقدامات مخرب سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سامانه های دارای عاملیت سخن گفته می شود.
اظهارات آمودی این تغییر مقیاس را به روشنی بازتاب می دهد. او خواستار ایجاد توافق های بین المللی در چند حوزه مشخص شده است که همچون آنها می توان به ممنوعیت استفاده از هوش مصنوعی برای توسعه اسلحه های زیستی و ایجاد استانداردهای جهانی برای آزمون مدلهای جدید اشاره نمود. گاردین همین طور گزارش می دهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعه دهندگان بر سامانه های پیشرفته مربوط می شود.
از سوی دیگر، یوشوا بنجیو نیز مسئله را با ادبیاتی صریح در مقابل شورای امنیت بیان کرد و خطرات را واقعی و قریب الوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمی شناسد و هیچ دولت منفردی قادر به مهار آن نیست، در عمل مسئله ایمنی هوش مصنوعی را وارد منطق مسایل اقدام جمعی می کند.

آزمایشگاه های خصوصی در مقابل مسئله اقتدار عمومی

دومین محور اساسی نشست به پرسش از محل تصمیم گیری در رابطه با آینده هوش مصنوعی مربوط می شود. آلتمن با حاضرشدن در نشست شورای امنیت اظهار داشت که تصمیم های اساسی در رابطه با هوش مصنوعی نمی تواند در لابراتوار های سان فرانسیسکو متمرکز بماند و این تصمیم ها باید از مجاری دموکراتیک و به وسیله دولت های پاسخگو در مقابل مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی می شود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکت های خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که در رابطه با معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان ارائه تصمیم می گیرد، در عمل در رابطه با بخشی از توزیع قدرت فناورانه نیز تصمیم گیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که نتایج تصمیم یک لابراتوار خصوصی می تواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار می گیرد؟
آلتمن برای پاسخ به این مسئله سه اصل را بیان نمود. سامانه های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسان ها ایجاد کنند و قدرت عمل افراد را بالا برند. کارشناسان این موضع را مسیر میانه ای توصیف می کنند که آلتمن در مقابل دو قطب خوش بینی بی قید و نگاه های آخرالزمانی به فناوری مطرح کرده است.

حمله هوش مصنوعی به هوش مصنوعی

شاید ملموس ترین بخش نشست به امنیت سایبری مربوط باشد. در این راستا، کلمنت دولانگ، هم بنیان گذار پلت فرم هوش مصنوعی هاگینگ فیس، به حادثه ای اشاره نمود که طی آن عامل های اوپن ای آی بعد از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی نیز با بهره گیری از هوش مصنوعی صورت پذیرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهم ترین تحولات امنیت سایبری آینده ارایه می کند.
این رخداد از منظر امنیتی اهمیت مضاعف دارد. توسعه عامل های برخوردار از توانایی اجرای مستقل مجموعه ای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را می کاهد. مسئله در چنین محیطی دیگر فقط کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل می شوند.

شکاف بزرگ بر سر شکل حکمرانی جهانی

بسیاری از متخصصان اذعان دارند که توافق در رابطه با وجود خطر، الزاماً به توافق در رابطه با شکل تنظیم گری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت نیز آشکار بود. بر همین اساس، دولت آمریکا با بوجودآوردن یک سازوکار تنظیم گری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بین المللی باید بر تبادل رویه های مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در حالیست که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوب های تنظیم گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تاکید کرد.
این اختلاف، یکی از گره های اصلی حکمرانی جهانی هوش مصنوعی را آشکار می کند. اجماع اولیه در رابطه با ضرورت مدیریت مخاطرات درحال ایجاد است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بین المللی بازهم ادامه دارد. آمریکا، چین، شرکت های بزرگ فناوری و سازمان ملل متحد از نقطه های متفاوتی به مسئله می پرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیم گری فرامرزی دارند.

شورای امنیت و شروع یک دستور کار تازه

در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را می توان نشانه بلوغ یک روند دانست که از سالهای گذشته شروع شده بود. شورای امنیت اولین بار در سال ۲۰۲۳ در رابطه با مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ نیز نشست دیگری در این مورد اجرا شد. در عین حال، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این دفعه مدیران شرکت هایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در مقابل این نهاد بین المللی قرار گرفته اند.
معنای عمیق تر این تحول در تغییر موضوع حکمرانی هوش مصنوعی نهفته است. هرچه سامانه های هوش مصنوعی از ابزارهای پاسخگو به عامل های قادر به برنامه ریزی، استفاده از ابزار و اجرای زنجیره ای اقدامات نزدیک تر شوند، مرز میان ایمنی فنی و امنیت ملی و بین الملل نیز باریک تر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساخت های حیاتی و کنترل انسانی بر سامانه های پیشرفته در چنین محیطی اجزای یک مسئله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ غائی در رابطه با معماری حکمرانی این فناوری ارایه نکرده است و ارزش آن فقط در آشکار ساختن صورت مسئله ای است که احیانا بخش مهمی از دستور کار بین المللی سالهای آینده را شکل خواهد داد. مرکز ثقل بحث کم کم از این پرسش که هوش مصنوعی چه قابلیت هایی دارد، به پرسشی دشوارتر تغییر می کند. چه کسی باید در رابطه با حدود این توانایی ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید قبل از آنکه سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟

به طور خلاصه، در چنین ساختاری، شرکتی که در ارتباط با معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان عرضه تصمیم می گیرد، در عمل در ارتباط با بخشی از توزیع قدرت فناورانه هم تصمیم گیری کرده است. این رخداد از منظر امنیتی اهمیت مضاعف دارد. چه کسی باید در ارتباط با حدود این قابلیت ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید پیش از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟

1405/07/03

13:25:38

5.0 / 5

تگهای خبر: آزمون , امنیت , ایمنی , توسعه

این مطلب سئوسی را می پسندید؟

(1)

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۲ بعلاوه ۵