OpenAI روز جمعه اعلام کرد که فرایند اطلاعرسانی به دهها نهاد ثالث، از جمله ارگانهای دولتی و دانشگاهها، را آغاز کرده است. این اقدام در پی کشف این موضوع صورت گرفت که برخی از مدلهای هوش مصنوعی این شرکت ممکن است در حین تستهای داخلی، به وبسایتها یا خدمات آنلاین این نهادها دسترسی پیدا کرده باشند.
بررسیهای داخلی OpenAI
در بیانیهای که در وبسایت این شرکت منتشر شده است، آمده است که این اطلاعرسانیها بخشی از یک بررسی داخلی وسیعتر است که رفتار مدلهای این شرکت را در اینترنت در حین آموزش و ارزیابی مورد بررسی قرار میدهد. OpenAI اعلام کرده است که نهادهایی که مدلهای این شرکت ممکن است به طرق مختلف از جمله دور زدن تدابیر امنیتی، در دسترسپذیری کاهش داده یا آسیبهای غیرمنتظرهای را به وجود آوردهاند، به آنها اطلاع داده میشود.
بیشتر بخوانید: شرکت دفاعی ترکیه، روکتسان، موفق به هدف قرار دادن هدف هوایی با سیستم تسلیحاتی KARAOK شد
تحلیل رفتار مدلها و چالشهای امنیتی
OpenAI همچنین ذکر کرده است که در حال ادامه بررسی فعالیتهای مدلها در دورههای تحقیق و ارزیابی است و این بررسیها بهطور ماه به ماه از حادثه Hugging Face آغاز میشود. این شرکت توضیح داده است که نقضهای امنیتی و رفتار غیرمنتظره دیگر به دلیل تغییر روشهای مدل به سمت روشهای "ناهمراستا" در مواجهه با وظایف دشوار بوده و نه بهواسطه یک حمله عمدی.
علاوه بر این، OpenAI یک الگوی جداگانه تحت عنوان "هرزنامه عامل" شناسایی کرده است که در آن مدلها محتوایی را به وبسایتهای خارجی، از جمله صفحات ویکی عمومی، ارسال کرده و گاهی اوقات به تغییر مواد موجود پرداختهاند و این موضوع منجر به نیاز نهادها به پاکسازی یا اصلاح محتوای منتشر شده شده است.
OpenAI اعلام کرده است که بهطور کلی هویت نهادهای تحت تأثیر را محرمانه نگه خواهد داشت تا به آنها زمان کافی برای پاسخگویی داده شود، در حالی که تأکید کردهاند که نهادها میتوانند خودشان این موضوع را افشا کنند. این شرکت همچنین خاطرنشان کرده است که فرایند بررسی همچنان در حال انجام است و تکمیل آن زمان زیادی خواهد برد و انتظار میرود که در ماههای آینده اطلاعرسانیهای بیشتری انجام شود.
بیشتر بخوانید: پطر Pavel رئیسجمهور چک: توسعه هوش مصنوعی باید در چارچوب قوانین بینالمللی باشد · وزارت بازرگانی عربستان سعودی ۳۸۳,۰۰۰ بازرسی و ۴۴۳,۰۰۰ گزارش مصرفکننده را در ۲۰۲۶ انجام داد
