اندرو بیلی، رئیس بانک انگلستان، در روز چهارشنبه خواستار انجام تستهای سختافزاری و دقیق بر روی سیستمهای هوش مصنوعی به منظور شناسایی آسیبپذیریها و ایجاد تدابیر ایمنی قبل از تصویب مقررات شده است.
خطرات واقعی هوش مصنوعی
در نخستین مقالهاش برای یک پلتفرم آنلاین، بیلی اظهار داشت که خطرات مرتبط با هوش مصنوعی "واقعی و به طور فزایندهای قابل توجه" هستند و تأکید کرد که توسعه این فناوری نباید متوقف یا ممنوع شود. او افزود: "برعکس، مزایای آن بسیار زیاد است" و بر لزوم وجود یک سیستم برای مداخله و تعیین مرزهای روشنی که هوش مصنوعی در آن فعالیت میکند، تأکید کرد.
بیشتر بخوانید: هشدار پژوهشگران هوش مصنوعی درباره خطرات اتوماسیون پژوهش
اقدامات در حال انجام در انگلستان
بیلی تصریح کرد که کارهای مهمی در حال حاضر در انگلستان برای تست سیستمهای هوش مصنوعی در حال انجام است و به موسسه امنیت هوش مصنوعی کشور اشاره کرد که بخشی از تلاشها برای توسعه استانداردها محسوب میشود. او گفت: "اما سرعت پیشرفت باید تسریع شود" و افزود: "ما باید با احتیاط پیش برویم".
وی همچنین خاطرنشان کرد که تستها به طور حتم ناکامیها و مواردی را نشان خواهند داد که "مدلها به طور غیرمنتظرهای عمل خواهند کرد". او توضیح داد: "این شواهدی نیست که تستها شکست خوردهاند، بلکه شواهدی است از اینکه چرا تستها ضروری هستند".
بیلی تأکید کرد که تستها نباید به عنوان جایگزینی برای مقررات آینده در نظر گرفته شوند و گفت که ممکن است چارچوب مقرراتی رسمی در طول زمان شکل بگیرد. او گفت: "اما به نظر من، مقررات جای مناسبی برای شروع نیست".
رئیس بانک انگلستان به خصوص هوش مصنوعی پیشرفته، که به عنوان هوش مصنوعی مرزی شناخته میشود، را مورد توجه قرار داد و هشدار داد که بدون مکانیزمهای مداخله مؤثر، چنین سیستمهایی میتوانند به "یک حلقه بسته تبدیل شوند که در آن مدل به تدریج خود را مدیریت میکند".
در همین حال، دونالد ترامپ، رئیسجمهور ایالات متحده، درخواستها برای کاهش سرعت توسعه هوش مصنوعی را رد کرده و گفته است که ایالات متحده در رقابت هوش مصنوعی، از چین پیشی دارد. او گفت: "و به طور صادقانه، میخواهم این وضعیت را حفظ کنم زیرا هرکس در هوش مصنوعی پیروز شود، پیروز خواهد بود".
ترامپ همچنین پس از دیدار با مدیران شرکتهایی مانند OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google اعلام کرد که آنها یک مدرک "اخلاقی الزامی" را امضا کردهاند که به عنوان یک "نوع حفاظت" در برابر خطرات بالقوه هوش مصنوعی عمل خواهد کرد. او همچنین این توافق را "هوش فوقالعاده" نامید.
این توافقنامه بیان میکند که تدابیر باید اطمینان حاصل کند که سیستمها طبق هدفهای تعیین شده عمل میکنند و مشکلات بالقوه به سرعت شناسایی و برطرف میشوند. طبق این توافق، هر شرکت شرکتکننده باید چهار لایه از کنترلها و ممیزیها را در زمینه توسعه و استقرار مدلها پیادهسازی کند.
بیشتر بخوانید: روس اتم پیشنهاد ساخت واحد جدید ۱۰۰۰ مگاواتی نیروگاه هستهای در ارمنستان را ارائه کرد · چین: گفتوگو با ایالات متحده راهی مهم برای پیشرفت هوش مصنوعی است
