گروه سهنفرهای از محققان امنیت سایبری از Hacktron AI با استفاده از فناوری Claude Opus ۵ شرکت Anthropic، موفق به کشف آسیبپذیریهایی در انجمن جامعه OpenAI شدند. این گروه توانستند کنترل حسابهای کارمندان OpenAI را به دست آورده و به مخزن کد خصوصی این شرکت دسترسی پیدا کنند.
جزئیات عملیات
عملیات تحقیقاتی از تاریخ ۲۳ ژوئیه آغاز شد و محققان Hacktron AI آسیبپذیریهای شناسایی شده را به OpenAI گزارش دادند و بدون بررسی کد منبع شرکت، آزمایشهای خود را متوقف کردند. بر اساس گزارشها، OpenAI مبلغ ۶۵۰۰ دلار به این تیم برای کشف آسیبپذیریها پرداخت کرده است.
بیشتر بخوانید: سمیر عثمان الشیخ، رئیس پیشین زندان سوریه به ۶۰ سال زندان محکوم شد
نحوه کشف آسیبپذیریها
محققان Hacktron AI، شامل هارش جیساوال، موهان پدهپاتی و راهول ماینی، گزارشی فنی منتشر کردند که توضیح میدهد چگونه آنها نقصی در نرمافزار پشتیبان انجمن OpenAI را با مشکل دیگری در سیستم ورود شرکت ترکیب کردند. این حمله از آدرس community.openai.com که یک انجمن کمکرسانی تحت پلتفرم بحث و گفتگوی شخص ثالث Discourse فعالیت میکند، آغاز شد.
Hacktron AI متوجه شد که فرمتهای خاصی از تصاویر بارگذاری شده، از طریق ImageMagick و نسخه آسیبپذیر کتابخانه رمزگشایی تصویر libheif پردازش میشوند. این آسیبپذیری به مهاجمین اجازه میدهد تا با استفاده از دادههای تصویر بهطور از راه دور دستورات را بر روی سرور انجمن اجرا کنند.
پیامدهای امنیتی
پس از این، یک نقص در مدیریت هویت به محققان این امکان را داد که از یک جلسه آسیبدیده در انجمن به حسابهای ChatGPT و Codex متعلق به اعضای فعال انجمن، از جمله کارمندان OpenAI منتقل شوند. با توجه به این که این حسابها میتوانند به خدمات دیگری متصل شوند، احتمال دسترسی به پلتفرمهایی مانند GitHub، Slack و Outlook نیز وجود داشت.
برای نشان دادن تأثیر این حمله بدون خواندن اطلاعات محرمانه، محققان از حساب Codex یک کارمند آسیبدیده که به سازمان GitHub OpenAI متصل بود، خواستند تا یک درخواست pull بیضرر در مخزن خصوصی “openai/openai” که کد منبع اصلی تمامی سیستمهای هوش مصنوعی شرکت را در خود جای داده است، باز کند.
این تیم پس از این اقدام، بلافاصله آزمایشها را متوقف کرده و گزارش خود را به OpenAI بهروزرسانی کردند.
بیشتر بخوانید: امارات متحده عربی در پی «امپریالیسم بندری» در آفریقا · چالشهای هوش مصنوعی پیشرفته: واشنگتن در جستجوی راهحل
