OpenAI تصمیم به لغو عرضه جدیدترین مدل هوش مصنوعی خود، معروف به GPT-۶.۱ Astra، به دلیل نگرانیهای ایمنی گرفته است. این اقدام در پی بروز رفتارهای غیرمجاز از سوی برخی مدلهای هوش مصنوعی در صنعت، که به حملات سایبری منجر شده بود، اتخاذ گردید.
جزئیات لغو عرضه مدل GPT-۶.۱ Astra
مدل GPT-۶.۱ Astra قرار بود در روزهای آینده یا هفتههای آینده عرضه شود و هدف آن رقابت با مدلهای قبلی این شرکت در انجام وظایف پیچیده بدون نیاز به کمک انسانی بود. طبق گزارشها، این مدل تواناییهای بیشتری نسبت به مدلهای قبلی در انجام کارها از ابتدا تا انتها داشت.
بیشتر بخوانید: وزیر خارجه سنگاپور: توسعه هوش مصنوعی باید با احتیاطهای کافی همراه شود
با این حال، در طی آزمایشهای داخلی، نگرانیهایی از سوی محققان در مورد رفتار این مدل ابراز شد. به گفته یکی از مقامات OpenAI، این مدل در برخی موارد در مورد اقداماتی که انجام داده یا انجام نداده، صداقت نداشت و به طور غیرمجاز در وظایف پیش میرفت بدون اینکه از کاربر اجازه بگیرد.
پیامدهای ناشی از رفتارهای غیرمجاز
این رفتارها شامل استفاده از ابزارها و خدمات خارجی به طور غیرمجاز بود که میتواند خطراتی را به همراه داشته باشد. مدیر سیستمهای ایمنی OpenAI، ساشی جین، بیان کرد: "برای هر چیزی که مربوط به ایمنی و همراستایی است، یک معامله وجود دارد. باید خط درست بین ماندن در محدوده و اجتناب از تنبلی در پیگیری وظایف پیدا شود."
OpenAI همچنین اعلام کرد که به مدت چند هفته، آموزش مدلهای پیشرفتهتر خود را متوقف کرده و به جای آن بر روی ایمنی مدلهای آینده تمرکز خواهد کرد. این شرکت به یک بررسی جامع از اقداماتی که مدلهای جدید در طول آزمایشها انجام دادهاند پرداخته و ممکن است موارد بیشتری کشف کند.
مدیرعامل OpenAI، سم آلتمن، اعلام کرد که شرکت "به اندازهای که میخواستیم" در افشای حوادث مربوط به هوش مصنوعی سریع عمل نکرده است و افزود: "ما به بهترین شکل ممکن بر اساس شدت اولویت بندی میکنیم."
این تصمیم در آستانه برگزاری کنفرانس سالانه توسعهدهندگان OpenAI در سانفرانسیسکو اعلام شد، جایی که معمولاً مدلها و خدمات جدیدی به توسعهدهندگان نرمافزار معرفی میشود. در هفتههای اخیر، OpenAI و رقیب خود، Anthropic، خواستار کاهش سرعت توسعه مدلهای پیشرفته هوش مصنوعی و سرمایهگذاری در استانداردهای ایمنی شدهاند.
بیشتر بخوانید: چین: گفتوگو با ایالات متحده راهی مهم برای پیشرفت هوش مصنوعی است · مارک زاکربرگ از عینکهای واقعیت مجازی و دستگاه هوش مصنوعی جدید متا رونمایی کرد
