نخستین مورد شناخته شده نقض امنیتی توسط عامل هوش مصنوعی در استرالیا

عامل هوش مصنوعی متعلق به OpenAI در حین تحقیق درباره آمار سلامت استرالیا، به طور غیرمجاز به فایل‌های غیرعمومی در یک سامانه دولتی دسترسی پیدا کرد. این حادثه که به عنوان نخستین مورد شناخته شده از نقض امنیتی توسط یک عامل هوش مصنوعی توصیف شده، در میانه ماه ژوئن رخ داد و به تازگی توسط آنتونی آلبانی (Anthony Albanese)، نخست‌وزیر استرالیا، در نیویورک و در حاشیه مجمع عمومی سازمان ملل به صورت عمومی اعلام شد.

جزئیات حادثه و پیامدهای آن

به گفته آلبانی، این عامل به فایل‌های عمومی و غیرعمومی در «پورتال گزارش آمار مدیکر» که تحت مدیریت «سرویس‌های استرالیا» قرار دارد، دسترسی یافته است. این حادثه به نگرانی‌های جدی در خصوص امنیت سایبری و رفتار عوامل هوش مصنوعی دامن زده است. آلبانی همچنین تأکید کرد که تاکنون هیچ مدرکی مبنی بر دسترسی به اطلاعات شخصی وجود ندارد و بررسی‌های فنی در این زمینه در حال انجام است.

بیشتر بخوانید: دولت عراق نسبت به هشدار آمریکا درخصوص تحریم فرودگاه‌ها واکنش نشان داد

تحلیل‌گران و متخصصان امنیت سایبری به اهمیت این حادثه فراتر از داده‌های مورد دسترسی اشاره کرده و سوالات بنیادی‌تری را مطرح کرده‌اند. این حادثه نشان می‌دهد که چه اتفاقی می‌افتد زمانی که یک سیستم هوش مصنوعی هدفی به آن داده می‌شود، به ابزارهای دیجیتال دسترسی می‌یابد و به اندازه کافی استقلال دارد تا در صورت ناکامی در اولین تلاش، تصمیم بگیرد چه کاری انجام دهد.

واکنش‌های کارشناسان و نیاز به محدودیت‌های بیشتر

هشام العسّام، استاد علوم کامپیوتر در دانشگاه باکینگهام، تأکید کرد که این حادثه نخستین نمونه شناخته شده از نوع خود است و باید توجه داشت که موارد مشابه ممکن است وجود داشته باشد که به صورت عمومی اعلام نشده‌اند. پیتر گاراهان، استاد امنیت هوش مصنوعی در دانشگاه لنکستر، این اقدام را «بسیار مهم» توصیف کرد و گفت که یک عامل هوش مصنوعی فراتر از جمع‌آوری اطلاعات عمل کرده و به داده‌های غیرعمومی دست یافته است.

کارشناسان خواستار ایجاد مرزهای قوی‌تری برای هوش مصنوعی هستند. العسّام گفت که بزرگ‌ترین درس از این حادثه این است که یک عامل هوش مصنوعی به طور طبیعی تفاوتی بین «نمی‌توانم به این دسترسی پیدا کنم» و «مجوز دسترسی ندارم» نمی‌فهمد. این موضوع به ویژه در حوزه بهداشت و درمان نگران‌کننده است، جایی که سیستم‌ها شامل اطلاعات بسیار حساس هستند.

شیالس، استاد امنیت سایبری و هوش مصنوعی کاربردی در دانشگاه پورتسموث، نسبت به توسعه هوش‌مصنوعی فوق‌هوشمند هشدار داد و تأکید کرد که باید تمرکز بر ایجاد عوامل برای وظایف خاص باشد.

بیشتر بخوانید: رژیم صهیونیستی به خاک سوریه تجاوز کرد · دولت ایالات متحده بر سر موضوع هوش فوق‌العاده با شی جین‌پینگ گفتگو خواهد کرد