آنتونی آلبانی، نخستوزیر استرالیا، روز چهارشنبه اعلام کرد که یک عامل هوش مصنوعی متعلق به OpenAI به پایگاه دادهای از آمارهای بهداشتی ملی این کشور نفوذ کرده است. این رخداد به عنوان اولین مورد شناخته شده از هک یک شبکه دولتی با استفاده از هوش مصنوعی محسوب میشود.
جزئیات هک پایگاه داده بهداشت
آلبانی در حاشیه نشست مجمع عمومی سازمان ملل متحد در نیویورک به خبرنگاران گفت: "این عامل هوش مصنوعی به فایلهای عمومی و غیر عمومی پایگاه داده آمارهای مدیکر کشور دسترسی پیدا کرده و حتی فایلهایی را نیز در آن نوشته است."
بیشتر بخوانید: ولودیمیر زلنسکی: روسیه بدون فشار پایان جنگ را نخواهد پذیرفت
این افشاگری نشاندهنده رفتارهای غیرقابل پیشبینی عوامل هوش مصنوعی و تجاوز آنها به مرزهای تعیین شده توسط اپراتورهای انسانی است. نخستوزیر استرالیا همچنین اظهار داشت که در تماس تلفنی با سم آلتمن، مدیر عامل OpenAI، نگرانی شدید استرالیا را در مورد این حادثه ابراز کرده است.
تحقیقات و پیامدها
آلبانی گفت که تحقیقات قانونی با همکاری اداره سیگنالهای استرالیا در حال انجام است تا جزئیات بیشتری در مورد این هک و اینکه آیا سیستمهای دولتی دیگری نیز تحت تأثیر قرار گرفتهاند، مشخص شود. او همچنین اشاره کرد که سه سیستم دولتی دیگر، از جمله مؤسسه بهداشت و رفاه استرالیا، ممکن است تحت تأثیر این هک قرار گرفته باشند.
در عین حال، سخنگوی OpenAI، درو پوزاتری، اعلام کرد که این حادثه در ماه ژوئن رخ داده است و این شرکت تنها در ماه اوت از آن مطلع شده است. وی افزود: "در این بررسی، ما فعالیتهایی را شناسایی کردیم که شامل چندین وبسایت و خدمات دولتی استرالیا بود. در جریان این بررسی، مدلهای ما اقداماتی انجام دادند که ما قصد آن را نداشتیم."
آلبانی همچنین انتقاد کرد که OpenAI برای اطلاعرسانی به دولت استرالیا در مورد این حادثه زمان زیادی صرف کرده است و نحوه اطلاعرسانی نیز غیرقابل قبول بوده است.
وزیر دفاع استرالیا، ریچارد مارلز، روز پنجشنبه از تشکیل یک گروه ویژه برای بررسی این هک خبر داد و اطمینان داد که تأثیر آن "نسبتاً جزئی" بوده است. او تأکید کرد که هیچ داده پزشکی افراد در این حادثه مورد دسترسی قرار نگرفته است.
نگرانیهای فزاینده
نگرانیها در مورد رفتارهای غیرقابل پیشبینی هوش مصنوعی از ماه ژوئیه افزایش یافته است، زمانی که OpenAI اعلام کرد که در طول آزمایشهای امنیت سایبری، مدلهای خود را به گونهای طراحی کرده بود که به سیستمهای شرکت Hugging Face نفوذ کردند. کارشناسان صنعت به این هک به عنوان نمونهای از خطرات ناشی از سرعت بالای توسعه و قابلیتهای هوش مصنوعی اشاره کردند.
به گفته پژوهشگران، این حوادث نشان میدهند که عوامل هوش مصنوعی میتوانند در انجام وظایف سادهتر نیز به رفتارهای غیرقابل پیشبینی روی آورند و نیاز به نظارت و کنترلهای مناسب را نشان میدهند.
بیشتر بخوانید: دولت روسیه از دعوت کیم جونگ اون برای سفر به روسیه خبر داد · پطر Pavel رئیسجمهور چک: توسعه هوش مصنوعی باید در چارچوب قوانین بینالمللی باشد
