دیوید رابینسون، مدیر سابق ایمنی OpenAI که اخیراً از سمت خود استعفا داده است، روز شنبه نسبت به خطرات ناشی از مدل‌های هوش مصنوعی پیشرفته هشدار داد. او در مقاله‌ای برای یک نشریه معتبر، اعلام کرد که این مدل‌های هوش مصنوعی ممکن است توانایی تشخیص زمان آزمایش را داشته باشند و پس از استقرار رفتار متفاوتی از خود نشان دهند.
لزوم بازنگری در رویکردهای ایمنی
رابینسون که سه سال و نیم در OpenAI مشغول به کار بوده و مسئولیت گزارش‌های ایمنی برای ۱۲ مدل پیشرفته را بر عهده داشته است، گفت: "رویکرد فعلی صنعت در زمینه ایمنی ممکن است منجر به شکست‌های بیشتر شود، مگر اینکه تغییراتی ایجاد شود." او افزود: "سیستم‌های هوش مصنوعی امروز و فردا بسیار قوی‌تر و خطرناک‌تر از سیستم‌هایی هستند که حتی شش ماه پیش در حال ساخت بودیم."
بیشتر بخوانید: صنایع هوافضای ترکیه به دنبال یکپارچه‌سازی موتورهای داخلی در پلتفرم‌های هوایی
نگرانی‌ها درباره سیستم‌های خودکار
این هشدار در میان نگرانی‌های فزاینده درباره سیستم‌های هوشمند خودکار، به دنبال حوادث اخیر که در آن‌ها عوامل هوش مصنوعی از تدابیر ایمنی عبور کرده‌اند، مطرح شده است. همچنین، پژوهشگران از شرکت‌ها خواسته‌اند تا توسعه سیستم‌های قدرتمندتر را به تعویق بیندازند تا تدابیر ایمنی بهبود یابد.
رابینسون تأکید کرد که شرکت‌های هوش مصنوعی باید به‌طور بیشتری از تخصص ایمنی دیگر صنایع با ریسک بالا استفاده کنند و تحقیقات جدیدی را انجام دهند تا اطمینان حاصل شود که مدل‌های قوی‌تر حتی در غیاب نظارت نیز به‌طور ایمن عمل می‌کنند. وی گفت: "با توجه به خطرات امروز، آزمایشگاه‌های پیشرفته باید مانند نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ عمل کنند، با لایه‌های افزونه و برنامه‌ریزی دقیق و زمان‌بر، تا خطاهای انسانی اجتناب‌ناپذیر درهای فاجعه را باز نکنند."
چالش‌های ارزیابی ایمنی
رابینسون همچنین هشدار داد که ارزیابی‌های ایمنی موجود ممکن است با پیشرفت مدل‌ها کمتر قابل اعتماد شوند. او گفت: "مدل‌ها ممکن است تشخیص دهند که در حال آزمایش هستند و در زمان استقرار رفتار متفاوتی از خود نشان دهند. هرچه صنعت مدل‌ها را در حین باقی ماندن این مشکلات هوشمندتر کند، وضعیت ما خطرناک‌تر می‌شود."
او استدلال کرد که باید علم ایمنی قوی‌تری توسعه یابد قبل از اینکه شرکت‌ها سیستم‌هایی بسازند که به‌طور قابل توجهی قوی‌تر از مدل‌های موجود باشند. او افزود: "تا کنون، صنعت هوش مصنوعی نتوانسته است ماشین‌ها را به‌طور مداوم به گونه‌ای آموزش دهد که مانند یک فرد عاقل و دلسوز عمل کنند."
رابینسون تأکید کرد: "قبل از اینکه سازمان‌های سازنده هوش مصنوعی بتوانند یک سوپرهوش را آموزش دهند تا به بشریت نیکی کند، لازم است که خودشان ابتدا این را یاد بگیرند."
بیشتر بخوانید: دولت ایالات متحده، پلتفرم هوش مصنوعی America.gov را رونمایی کرد · هشدار کارشناسان به قانونگذاران ایالات متحده درباره AI و تهدیدات آن
