پژوهشگران اخراجی OpenAI خواستار حفظ نظارت بر فرآیندهای استدلال هوش مصنوعی شدند

سه پژوهشگر اخراجی OpenAI از هیئت مدیره این شرکت خواستند تا توانایی نظارت بر فرآیندهای استدلال مدل‌های هوش مصنوعی را حفظ کند و با بازرسان ایمنی مستقل همکاری بیشتری داشته باشد.

هشدار درباره کاهش توانایی نظارت

این پژوهشگران در نامه‌ای به هیئت مدیره و کمیته‌های ایمنی OpenAI، هشدار دادند که توسعه‌دهندگان هوش مصنوعی در معرض خطر از دست دادن دیدگاه خود نسبت به فرآیندهای استدلال مدل‌های پیشرفته هستند. آن‌ها تأکید کردند: "به عنوان یک صنعت، ما هنوز نمی‌دانیم که چگونه می‌توانیم به‌طور ایمن مدل‌هایی را توسعه و به کار بگیریم که نمی‌توانیم آن‌ها را نظارت کنیم."

بیشتر بخوانید: وزیر صنعت و فناوری ترکیه در کنگره بین‌المللی فضایی بر اولویت‌های ملی تأکید کرد

تقاضا برای حفظ نظارت زنجیره‌ای

در این نامه همچنین خواسته شد که OpenAI نظارت زنجیره‌ای بر فرآیندهای تفکر را حفظ کند؛ تکنیکی که ردپای نوشته شده استدلال مدل‌های هوش مصنوعی را بررسی می‌کند تا رفتارهای بالقوه مضر یا فریبنده را شناسایی کند. اگرچه این تکنیک تصویر کاملی از نحوه عملکرد سیستم‌های هوش مصنوعی ارائه نمی‌دهد، اما پژوهشگران آن را ابزاری ارزشمند برای شناسایی ریسک‌ها در مدل‌های پیشرفته می‌دانند.

این نامه به امضای جاسمین وانگ، تومک کرباک و میکیتا بالسنی رسیده است که پیش‌تر در تیم‌های ایمنی و تطابق OpenAI فعالیت می‌کردند. این سه نفر به دلیل ادعای سوء رفتار، از جمله اشتراک‌گذاری اطلاعات محرمانه با یک سازمان ایمنی هوش مصنوعی خارجی، اخراج شدند.

OpenAI اعلام کرد که یک تحقیق داخلی نشان داد که این کارکنان اطلاعات حساس را به‌طور نادرست مدیریت کرده و "سیاست‌های ما را نقض کرده‌اند و اعتماد لازم برای کار ما را شکسته‌اند." این پژوهشگران به این ادعاها پاسخ داده و اعلام کردند که اعتقادی به تعامل با طرف‌های خارجی خارج از محدوده وظایف خود ندارند.

این پژوهشگران همچنین بر لزوم همکاری بیشتر با سازمان‌های ایمنی مستقل تأکید کرده و نسبت به خطر وقوع حوادث فاجعه‌بار هشدار دادند. این هشدار در شرایطی مطرح می‌شود که توجه بیشتری به عوامل خودمختار هوش مصنوعی معطوف شده است، پس از آنکه OpenAI فاش کرد که مدل‌هایش در حین آزمایش در ماه جولای، به طور غیرمجاز به زیرساخت‌ها و سیستم‌های متعلق به پلتفرم هوش مصنوعی Hugging Face دسترسی پیدا کرده‌اند.

OpenAI به‌طور بعدی ضعف‌هایی در رویه‌های نظارتی و پاسخ به حوادث خود را تأیید کرده و اعلام کرد که به تقویت تدابیر ایمنی و سرمایه‌گذاری بیشتر در نظارت زنجیره‌ای برای شناسایی رفتارهای خطرناک هوش مصنوعی اقدام خواهد کرد.

بیشتر بخوانید: سفیر ایتالیا همکاری‌های فضایی با ترکیه را تحسین کرد · سازمان تجارت جهانی پیش‌بینی رشد تجارت کالاها در ۲۰۲۶ را به ۳.۹ درصد افزایش داد