📅 1405/07/06
👁 1 بازدید
🕒 30 دقیقه پیش
هشدار بیل گیتس: توافق جهانی بر سر هوش مصنوعی از «Nuclear» هم سختتر است
بیل گیتس: قانونگذاری و مهار هوش مصنوعی سختتر از مذاکرات هستهای
بیل گیتس، کارآفرین آمریکایی و از بنیانگذاران مایکروسافت، نسبت به دشواری دستیابی به یک چارچوب و توافق بینالمللی برای قانونگذاری و مهار هوش مصنوعی هشدار داد. او در اظهارات اخیر خود تاکید کرد که رسیدن به یک رژیم حقوقی مشترک در مقیاس جهانی—آن هم برای صنعتی که با سرعتی بیسابقه پیش میرود—میتواند حتی پیچیدهتر از مذاکرات محدودسازی تسلیحات هستهای در دوران جنگ سرد باشد.
گیتس این دیدگاه را در مصاحبه با NBC مطرح کرد و گفت دولتها باید نقش فعالی در نظارت بر مدلهای پیشرفته هوش مصنوعی ایفا کنند. از نگاه او، وجود سازوکارهای کنترلی الزاماً روند رشد این صنعت راهبردی را کند نمیکند؛ بلکه میتواند مسیر پیشرفت را از حالت ریسکهای بزرگ و غیرقابل پیشبینی خارج کند.
ضرورت نقشآفرینی آمریکا؛ اما با درک واقعیتهای بینالمللی
بنیانگذار مایکروسافت معتقد است ایالات متحده باید پیشگام تدوین قوانین جهانی در حوزه هوش مصنوعی باشد. با این حال، او همزمان یادآور شد که تنظیم یک توافق مشترک بین کشورها، در سطحی فراتر از همکاریهای راهبردی قرن بیستم، چالشهایی عمیقتر دارد.
این هشدار در زمانی مطرح میشود که در عالیترین سطوح سیاسی واشنگتن، دیدگاههای متفاوتی نسبت به رویکرد نظارتی وجود دارد. بهخصوص اینکه دونالد ترامپ اخیراً با رد درخواستهایی برای اعمال نظارت فدرال بر شرکتهای توسعهدهنده هوش مصنوعی، روی یک پیام کلیدی تاکید کرده است: برنده نهایی رقابت فناورانه، آینده را در اختیار خواهد گرفت.
ترامپ میگوید نظارت باید مانع سرعت توسعه نشود
از نگاه ترامپ، اولویت اصلی حفظ برتری ایالات متحده در برابر چین و سایر رقبای فناور است. او استدلال میکند که تکیه بر محدودیتهای نظارتی ممکن است سرعت توسعه را کاهش دهد و به مزیت رقابتی آمریکا ضربه بزند.
گیتس: نظارت، دست آمریکا را در رقابت نمیبندد
در مقابل، گیتس میگوید پایش و شفافسازی عملکرد آزمایشگاههای فناوری، لزوماً به معنی عقبماندگی نیست. او حتی سخنان ترامپ را «قابلقبول» توصیف کرد، اما گفت باور دارد رئیسجمهور آمریکا پس از شنیدن نظر او و دیگران—بهویژه این ایده که نظارت دست آمریکا را در رقابت با دیگر کشورها نمیبندد—به اجماع خواهد رسید.
الگوی پس از جنگ جهانی دوم؛ آمریکا «بازیگر منصف» بود
برای توجیه ضرورت همکاری جهانی، گیتس به تجربههای تاریخی پس از جنگ جهانی دوم اشاره کرد؛ دورهای که آمریکا در ایجاد توافقهای بینالمللی برای مهار تهدیدهای مشترک بشری نقش محوری داشت. به گفته او، ارتقای استانداردهای بینالمللی هوانوردی، معاهدات حفاظت از لایه ازون و پیمانهای منع گسترش تسلیحات هستهای نمونههایی هستند که نشان میدهند نظم جهانی میتواند از دل همکاری ساخته شود.
او تاکید کرد در آن موارد، آمریکا همراه با دوستان و متحدانش نقش «بازیگری منصف» را ایفا کرد و از مزیتهای اختصاصی خود برای برتری جویی افراطی استفاده نکرد. در نگاه گیتس، بحران هوش مصنوعی نیز از جنس موضوعاتی است که از مرزهای ملی عبور میکند و ایجاب میکند همه کشورها بپذیرند سرنوشت بشر به یکدیگر گره خورده است.
نگرانی از خطرات کنترلنشده؛ از استعفا تا درخواست کاهش سرعت توسعه
همزمان با طرح بحثهای کلان، نگرانیها درباره خطرات کنترلنشده در خود بدنه شرکتهای پیشرو نیز در حال تشدید است. جیکوب کاکسن، افشاگری که بهتازگی از Anthropic استعفا داده، اخیراً هشدار داد که سازندگان هوش مصنوعی صادقانه باور دارند این فناوری ممکن است تا پایان این دهه «همه ما» را نابود کند.
چند روز بعد، مدیران ارشد دو شرکت بزرگ این حوزه نیز نگرانی خود را درباره نزدیک شدن به مرحله هوش مصنوعی فوقهوشمند مطرح کردند و خواستار تعدیل شتاب توسعه این سامانهها شدند. داریو آمودی در Anthropic و سم آلتمن در OpenAI از جمله چهرههایی بودند که نسبت به پیامدهای نزدیک شدن به قابلیتهای بسیار پیشرفته هشدار دادند.
آمودی: حتی اگر چین را عقب بیندازیم، باید سرعت مدیریت شود
آمودی گفت سرعت پیشرفت شرکتهای پیشرو باید تا حدی مهار شود که همچنان از چین جلوتر بمانند. او همچنین بر ضرورت هماهنگی و گفتوگو میان دولتهای دموکراتیک و سایر ساختارهای سیاسی برای تدوین مقررات مشترک تاکید کرد.
در کنگره آمریکا؛ پیشنهاد تیم مشترک آمریکا-چین برای توافق الزامآور
همچنین رو کانا، نماینده دموکرات در کنگره آمریکا، خواستار تشکیل یک کارگروه مشترک از متخصصان آمریکایی و چینی برای رسیدن به توافقی الزامآور شد. او تاکید کرده است که ممنوعیت توسعه مدلهای «خودبهبودگر» نباید تبدیل به موضوعی مناقشهبرانگیز شود، چون پکن هم تمایل ندارد کنترل سامانههای پیچیده هوش مصنوعی را از دست بدهد.
از نگاه کانا، آمریکا میتواند رهبری یک معاهده بینالمللی را بر عهده بگیرد که دارای سازوکار راستیآزمایی پذیر و قابل اجرا باشد تا بر عملکرد آزمایشگاههای پیشرو نظارت کند.
از رصد رفتار عاملها تا کانال دیپلماتیک آمریکا و چین
در سطح شرکتها نیز موضوعات فنی و امنیتی وارد فاز جدید شده است. OpenAI اعلام کرد درباره چند مورد «رفتار نگرانکننده» در عاملهای هوشمند خود اطلاع یافته و این شرکت و همچنین Anthropic اعلام کردهاند که رفتار این عاملها را رصد خواهند کرد. از جمله نگرانیها، رخدادهایی مانند نفوذ خودسرانه و بدون مجوز به سامانههای شرکت دیگر است؛ موضوعی که میتواند استقلال عمل ناخواسته سامانهها را پررنگتر کند.
این بحثها حتی به مذاکرات دوجانبه سران آمریکا و چین هم راه پیدا کرده است. کاخ سفید تایید کرده که دو کشور کانالی منظم برای تبادل نظر درباره فرصتها و تهدیدهای هوش مصنوعی ایجاد کردهاند و دور بعدی این تبادل تا نوامبر انجام میشود. پیشتر ترامپ نیز گفته بود میخواهد وضعیت «ابرهوش» را «دقیقاً همان جا که هست» نگه دارد؛ موضعی که گفته میشود با دیدگاه چین همسو است.
تهدیدهای واقعی و ملموس؛ هوش مصنوعی میتواند دست بازیگران مخرب را باز کند
در ادامه صحبتها، گیتس تمرکز را از سطح کلان به خطرات ملموستر منتقل کرد. او گفت خطرناکترین سناریوی کنونی این است که بازیگران مخرب به ابزارهای هوش مصنوعی مجهز شوند. به باور او، در گذشته فقط چند کشور قدرتمند با ارتشهای سایبری توانایی اخلال در شبکه برق یا طراحی حملات بیوتروریستی را داشتند؛ اما حالا گروههای کوچک خرابکار میتوانند با تکیه بر هوش مصنوعی، حملات گسترده علیه شبکههای بانکی، مالی و حتی زیرساختهای حیاتی انجام دهند.
ترکیب سوءنیت با توان محاسباتی بالا، تهدیدی «قریبالوقوع» است و همین مسئله ضرورت نظارت نهادی را برجستهتر میکند.
کلید قطع اضطراری و پاسخ کافی نبودن نظارت یکباره
در کنگره آمریکا، برخی قانونگذاران از طرحی فراجناحی برای طراحی «کلید قطع اضطراری» صحبت میکنند تا در صورت بحران، امکان خاموشسازی سریع سامانهها فراهم باشد. با این حال، گیتس معتقد است این سازوکار به تنهایی مانع وقوع فاجعه نمیشود.
او میگوید بدون پایش مستمر، ثبت دادههای رفتاری و شفافیت درونی سیستمها، نهادهای امنیتی و قضایی توانایی شناسایی زودهنگام خرابکاریها را نخواهند داشت. از نظر او، سوال اصلی این نیست که پیشرفت فناوری متوقف شود یا نه؛ بلکه این است که آیا جامعه جهانی پیش از وقوع حملات گسترده، نظارت و تدابیر ایمنی را مستقر میکند یا ناچار میشود بعد از تحمیل خسارتهای سنگین به این مسیر روی آورد.
بعد انسانی ماجرا؛ خطای سامانهها در زبانهای محلی و ضرورت عدالت دیجیتال
گیتس در بخشی دیگر به جنبه انسانی و «دسترسی عادلانه» هم پرداخت. او هشدار داد سامانههای کنونی غالباً برای زبان انگلیسی و تعداد محدودی از زبانهای پرکاربرد بهینه شدهاند و ضریب خطای آنها در زبانهای محلی و بومی آفریقایی میتواند حدود ده برابر بیشتر باشد. این مسئله در حوزههای حساس مانند آموزش و تشخیصهای درمانی میتواند پیامدهای جدی داشته باشد.
بنیاد گیتس اعلام کرده با همکاری ۶۰ شرکت هوش مصنوعی در حال تعریف معیارهای کیفی جدید است تا ظرف پنج سال آینده، دقت این سامانهها در همه زبانهایی که بیش از یک میلیون گویشور دارند به سطح زبان انگلیسی نزدیک شود.
سرمایهگذاری انسانمحور؛ استفاده از هوش مصنوعی برای مبارزه با بیماری و سوءتغذیه
در پایان، گیتس به برنامههای عامالمنفعه نیز اشاره کرد. او گفته بنیاد قصد دارد طی ۱۹ سال آینده، کل دارایی بیش از ۲۰۰ میلیارد دلاری خود را صرف امور خیرخواهانه کند. از نگاه او، استفاده هوشمندانه از دادههای هوش مصنوعی میتواند اثربخشی این منابع عظیم را برای ریشهکنی بیماریهایی مانند مالاریا و مقابله با سوءتغذیه افزایش دهد.
در مجموع، هشدار بیل گیتس به این پیام برمیگردد که عصر هوش مصنوعی—چه از منظر امنیت سایبری و چه از بعد عدالت زبانی و انسانی—نیازمند قواعد مشترک، نظارت دقیق و همکاری بینالمللی است؛ قواعدی که شاید از توافقهای گذشته هم دشوارتر، اما ضروریتر باشند.
