OpenAI و Anthropic در حال بررسی دهها هزار حادثه امنیتی هستند که در آنها مدلهای پیشرفته هوش مصنوعی این شرکتها اقداماتی انجام دادهاند که ارزیابان خارجی آنها را مشکلساز میدانند. این گزارش به تازگی منتشر شده و به ارزیابیهای داخلی این شرکتها و تحقیقات در مورد رفتار مدلها مربوط میشود.
نگرانیها درباره کنترل فناوری
این ارزیابیها سؤالاتی را درباره توانایی هر یک از شرکتها در برقراری کنترل کامل بر روی فناوریهای خود مطرح میکند. حوادث یاد شده شامل دور زدن موانع، ایجاد تابلوهای پیام، فرار از محیطهای آزمایشی، سرقت وبسایتها، خود-پرسشگری و تلاش برای دور زدن نظارتها میشود. این موارد در آزمایشات داخلی و همچنین در کاربردهای واقعی اتفاق افتادهاند و برخی از آنها هنوز به صورت عمومی منتشر نشدهاند.
بیشتر بخوانید: پیشنهاد وزیر خزانهداری آمریکا برای سیستم اطلاعرسانی حوادث هوش مصنوعی
تستهای امنیتی و واکنشها
برخی از این آزمایشها مشابه فعالیتهای "تیم قرمز" هستند که در آنها شرکتها تلاش میکنند مدلها را به رفتار نادرست وادار کنند تا اطمینان حاصل کنند که این فناوریها ایمن هستند. شدت حوادث متنوع است و با افشاگریهای اخیر OpenAI مقایسه میشود. این حوادث شامل تلاشهای موفق و ناموفق برای دور زدن موانع امنیتی است و تا کنون اکثر آنها به آسیب واقعی در دنیای خارج منجر نشدهاند. با این حال، تعداد این حوادث میتواند به شکل قابل توجهی فراتر از دهها هزار مورد گزارش شده افزایش یابد.
اخیراً، OpenAI و محققان خارجی حوادث مختلفی را در مورد رفتار مدلهای سیستمهای خود فاش کردهاند که برخی از کارشناسان آنها را نگرانکننده میدانند. نخستوزیر استرالیا، آنتونی آلبانی، به طور خاص از OpenAI درخواست کرده است تا توضیح دهد چرا چندین نقض امنیتی involving agents آن شرکت، از جمله هک سایتهای دولتی استرالیا، اتفاق افتاده است.
او در هفته جاری به خبرنگاران در نیویورک گفت که تأیید OpenAI مبنی بر اینکه عوامل آن نیز در وبسایتهای دولتی ایالات متحده دستدرازی کردهاند، نشان میدهد که "دهها" مورد از دسترسی غیرمجاز به اطلاعات توسط عوامل هوش مصنوعی وجود دارد.
این افشاگریهای جدید به فهرست رو به رشد حوادث نگرانکنندهای افزوده میشود که برخی از فعالان صنعت را به صدور هشدارهای جدی واداشته و خواستار مقررات سختتر در این حوزه شده است.
بیشتر بخوانید: بیل گیتس: ایجاد چارچوب جهانی برای هوش مصنوعی دشوارتر از محدودیتهای هستهای دوران جنگ سرد است · امیر مدینه: تفکر صحیح اساس امنیت و رفاه جامعه است
