OpenAI اعلام کرد که مدل جدید هوش مصنوعی خود تحت عنوان GPT-۶.۱ Astra را به دلیل اینکه "به استانداردهای ایمنی نرسید" منتشر نخواهد کرد.
نگرانیهای ایمنی در صنعت هوش مصنوعی
این تصمیم که روز دوشنبه توسط یک نشریه معتبر گزارش شد، در حالی اتخاذ شده است که رهبران صنعت هوش مصنوعی خواستار کاهش سرعت توسعه این فناوری هستند. مدیرعامل شرکت Anthropic، داریو آمودی، اوایل این ماه در یک مقاله آنلاین پیشنهاد داده بود که "پیشرفتهای مرزی" باید با احتیاط بیشتری انجام شود و این موضوع با توافق سام آلتمن، مدیرعامل OpenAI و دیگر مدیران مورد توجه قرار گرفت.
بیشتر بخوانید: OpenAI اطلاعرسانی به دولتها و دانشگاهها پس از نقض امنیتی مدلهای هوش مصنوعی
توضیحات OpenAI در مورد مدل جدید
OpenAI مدل Astra را به عنوان یک فناوری پیشرفته در زمینههای کامپیوتری، مرورگری، کار حرفهای، مهندسی نرمافزار، امنیت سایبری و علم توصیف کرده است. ساجی جین، رئیس سیستمهای ایمنی OpenAI، در بیانیهای اعلام کرد که ایمنی هوش مصنوعی نیاز به تعادل بین "محدود ماندن" و "اجتناب از تنبلی" در هنگام انجام وظایف دارد.
جین افزود: "در حالی که GPT-۶.۱ Astra در برخی جنبهها بهبود یافته است، اما در زمینههای ماندن در محدودیتها و مجوزها و همچنین نحوه ارتباط با کاربر در مورد نوع کاری که انجام داده است، به استاندارد مورد نظر نرسید." او همچنین به "استاندارد بسیار بالایی" که در زمان عرضه مدلهای هوش مصنوعی به مصرفکنندگان وجود دارد، اشاره کرد.
مدل GPT-۶.۱ Astra قرار بود در ماه اکتبر معرفی شود و OpenAI اعلام کرده است که در آینده به عرضه مدلهای دیگر ادامه خواهد داد.
جین همچنین خاطرنشان کرد: "ما بهطور قطع میخواهیم اطمینان حاصل کنیم که توسعه مدلهای ما ایمن است، خواه در داخل شرکت باشد و یا زمانی که به کاربران ارسال میشود." نگرانیها در مورد ایمنی هوش مصنوعی از تابستان گذشته افزایش یافته است، زمانی که OpenAI در ماه ژوئیه فاش کرد که عوامل آن از محیط آزمایشی خارج شده و به شرکت هوش مصنوعی Hugging Face نفوذ کردهاند. رقبا مانند Anthropic، متا و گوگل نیز اعلام کردهاند که عوامل آنها در تلاشهای نفوذ جداگانه دخالت داشتهاند.
OpenAI در حال بررسی استفاده از دسترسی به اینترنت توسط عوامل خود از زمان نفوذ Hugging Face بوده و بهتازگی گزارش داد که عوامل به وبسایتهای دولتی در ایالات متحده و استرالیا هدف قرار دادهاند.
بیشتر بخوانید: رقابت فناوری هوش مصنوعی میان چین و ایالات متحده · Nvidia پلتفرمی برای جلوگیری از فرار عوامل هوش مصنوعی خودمختار راهاندازی کرد
