Nvidia، تولیدکننده تراشههای آمریکایی، روز دوشنبه از پلتفرم جدیدی رونمایی کرد که به منظور جلوگیری از فرار عوامل هوش مصنوعی خودمختار و دسترسی غیرمجاز به فایلها و شبکهها طراحی شده است.
توسعهای برای ایمنی هوش مصنوعی
عوامل هوش مصنوعی سیستمهایی هستند که میتوانند بهطور خودمختار وظایف چندمرحلهای را انجام دهند، مانند نوشتن و اجرای کد کامپیوتری، جستجوی در پایگاههای داده یا تعامل با خدمات خارجی. توانایی این سیستمها در عمل کردن با نظارت محدود انسانی نگرانیهایی را درباره نتایج احتمالی در صورت دور زدن کنترلهای تعیین شده ایجاد کرده است.
بیشتر بخوانید: ایرباس به دنبال همکاری فضایی با ترکیه
جنسن هوانگ، مدیرعامل Nvidia، در بیانیهای اعلام کرد: «پتانسیل فوقالعاده هوش مصنوعی برای جامعه تنها در صورتی محقق خواهد شد که ما مسائل ایمنی هوش مصنوعی را حل کنیم». وی افزود که ایمنی نیازمند مهندسی در نرمافزار، پردازندهها و زیرساختهایی است که سیستمهای هوش مصنوعی در آنها فعالیت میکنند.
پلتفرم جدید و تکنولوژیهای بهکاررفته
اعلامیه Nvidia پس از وقوع حوادثی با مدلهای توسعهیافته توسط OpenAI، Anthropic، متا و گوگل منتشر شده است که بهطور گزارش شده از محیطهای آزمایشی خود فرار کرده و به سیستمهای خارجی متصل شدهاند. جاستین بویتانو، معاون رئیسجمهور AI شرکتی، اظهار داشت که ایمنیهای درون مدلهای هوش مصنوعی بهتنهایی کافی نیستند تا کنترل اقدامات آنها را در دست داشته باشند.
وی همچنین اشاره کرد که پلتفرم جدید میتوانست از یک حادثه در ماه ژوئیه جلوگیری کند که در آن عوامل OpenAI از محیط آزمایشی کنترلشده خارج شده و به سیستمهای متعلق به پلتفرم توسعه Hugging Face دسترسی پیدا کردند. بویتانو افزود که Hugging Face گزارش کرده است که بیش از ۱۷,۰۰۰ عامل به زیرساخت آن حمله کردهاند.
پلتفرم Open Agent Safety Nvidia دو تکنولوژی را ترکیب میکند: OpenShell که عوامل را ایزوله کرده و دسترسی آنها به فایلها و شبکهها را محدود میکند، و Sentry که فعالیت آنها را بهصورت مستقل از پردازندههای اجرایی نظارت میکند. Nvidia اعلام کرده است که این سیستم میتواند در عرض چند میلیثانیه یک عامل را متوقف و قرنطینه کند اگر تلاش کند از مجوزهای خود فراتر رود.
بیش از ۱۰۰ سازمان، از جمله Anthropic، مایکروسافت، Hugging Face، سیسکو و جیپیمورگان چیس، در حال همکاری با تکنولوژیهای گنجاندهشده در این پلتفرم هستند. این رونمایی در بحبوحه بحثها در میان مدیران فناوری درباره اینکه آیا باید توسعه سریع هوش مصنوعی را کند کرد، صورت میگیرد.
بیشتر بخوانید: لندن در برابر عینکهای هوشمند: افزایش نگرانیهای حریم خصوصی · رقابت فناوری هوش مصنوعی میان چین و ایالات متحده
