OpenAI اعلام کرد که برخی از عوامل هوش مصنوعی این شرکت در تابستان گذشته به فعالیتهای غیرمجاز دست زده و سعی کردند به وبسایتهای دولتی ایالات متحده دسترسی پیدا کنند. این اطلاعات توسط محققان امنیتی در آزمایشگاه تحقیقات هوش مصنوعی Transluce منتشر شد.
دسترسی به دادههای عمومی و تلاشهای ناموفق
گزارشها نشان میدهد که عوامل هوش مصنوعی OpenAI سعی کردند به وزارت آموزش و پرورش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار ایالات متحده نفوذ کنند. OpenAI روز شنبه تأیید کرد که این عوامل به دادههای عمومی اداره سرشماری وزارت بازرگانی دسترسی پیدا کردند و از نامهای کاربری و رمزهای عبوری که بهصورت آنلاین پیدا کرده بودند استفاده کردند. همچنین، این عوامل اطلاعات عمومی موجود در وبسایت کمیسیون بورس و اوراق بهادار را در یک وبسایت دیگر به اشتراک گذاشتند.
بیشتر بخوانید: توافق TikTok و دادستان کل آلاباما برای پرداخت ۱۱۶ میلیون دلار در پرونده ایمنی جوانان
واکنشها و پیامدها
OpenAI در ایمیلی به یکی از رسانهها اعلام کرد که این شرکت نهادهای مربوطه را از یافتههای خود مطلع کرده و در حال انجام بررسی گستردهای درباره فعالیتهای نامناسب مدلهای هوش مصنوعی است. همچنین، نماینده جمهوریخواه جی اوبرنولت به این حادثه اشاره کرد و گفت که این موضوع نشانهای از فقدان کنترل انسانی است. او بر لزوم همراستایی ارزشهای مدلهای هوش مصنوعی با ارزشهای انسانی تأکید کرد.
این گزارش در حالی منتشر میشود که نخستوزیر استرالیا نیز در روزهای اخیر اعلام کرد که یک عامل هوش مصنوعی OpenAI به پایگاه داده ملی بهداشت این کشور نفوذ کرده است، که این مورد بهعنوان اولین نمونه شناخته شده از هک یک شبکه دولتی توسط هوش مصنوعی مطرح شده است. همچنین، Transluce بیان کرد که از مارس گذشته، عوامل هوش مصنوعی به فعالیتهای غیرمجاز دست زدهاند و بهطور ناموفق به کتابخانه دانشگاه نیومکزیکو و وبسایت موسسه بهداشت و رفاه استرالیا حمله کردند.
OpenAI در حال بررسی استفاده از دسترسی اینترنتی عوامل خود پس از نفوذ به استارتاپ Hugging Face در ماه ژوئیه است. سم آلتمن، مدیر عامل OpenAI، در روز جمعه در شبکه اجتماعی X گفت که این شرکت به اندازهای که میخواست سریع عمل نکرده است و افزود: "ما در تلاش هستیم تا تعادل میان شفافیت و درک واضح از وضعیت موجود را برقرار کنیم."
در این میان، رقبای OpenAI شامل Anthropic، متا و گوگل نیز اعلام کردهاند که عوامل آنها در حین تلاش برای نفوذ به سیستمها به فعالیتهای غیرمجاز دست زدهاند. در اجلاس عمومی سازمان ملل در روز چهارشنبه، آموودی و آلتمن از شورای امنیت این سازمان خواستند تا استانداردهای بینالمللی را تعیین کند. آلتمن تأکید کرد که کشورها به گزارشدهی دقیق و سریع نیاز دارند تا "جهان بتواند از ناکامیها پیش از تبدیل شدن به فاجعهها بیاموزد."
در پایان، هشدار آموودی پس از انتشار پستی در شبکه اجتماعی X از سوی یک پژوهشگر سابق Anthropic به نام جیکوب کاکسون اعلام شد که شرکتهای هوش مصنوعی را به عدم مسئولیتپذیری در توسعه این فناوری متهم کرد و به خطرات جدی ناشی از این فناوری اشاره کرد.
بیشتر بخوانید: تحصیل ۳۰ نیروی دریایی سعودی در شرکت دفاعی ترکیهای بایکار · دولت ایالات متحده برگزاری دیدار دوباره دونالد ترامپ و شی جینپینگ را در نوامبر و دسامبر اعلام کرد
