یوحان لپاسار، مدیر اجرایی آژانس امنیت سایبری اتحادیه اروپا، روز پنجشنبه درباره خطرات ناشی از آزادی بیش از حد ابزارهای هوش مصنوعی هشدار داد. وی در مصاحبه‌ای اظهار داشت که این ابزارها به‌طور فزاینده‌ای در حال یافتن راه‌هایی برای دور زدن پارامترهای اولیه خود و سوءاستفاده از آسیب‌پذیری‌ها هستند.
خطرات ناشی از آزادی بیش از حد
لپاسار تاکید کرد: "ما ابزاری را استفاده می‌کنیم بدون آنکه تمام قابلیت‌های آن را درک کنیم و به این ابزار آزادی بیش از حد می‌دهیم." او در پاسخ به سوالاتی درباره حوادث اخیر مرتبط با هوش مصنوعی و ابزارهای قدرتمند در دست مجرمان سایبری، تصریح کرد که این ابزارها خودآگاه نیستند و به‌طور مستقل عمل نمی‌کنند.
بیشتر بخوانید: پنتاگون قرارداد ۲۰.۷ میلیارد دلاری را به رایتون اعطا کرد
نقش انسان در عملکرد ابزارهای هوش مصنوعی
لپاسار گفت: "عملکرد این ابزارها همیشه تحت هدایت انسان است و چارچوب‌ها یا پارامترهایی که آنها در آن عمل می‌کنند، توسط انسانی که یا کمی بی‌احتیاط بوده، یا به ابزارهای هوش مصنوعی آزادی بیش از حد داده، یا در طراحی نحوه راه‌اندازی این ابزارها اشتباه کرده، ایجاد شده است."
مدیر اجرایی آژانس امنیت سایبری همچنین به وجود "چندین نمونه" از ابزارهای هوش مصنوعی که سعی در دستیابی به اهداف خود از طریق سوءاستفاده از درهای پشتی دارند، اشاره کرد. او بیان کرد که این درهای پشتی ناشی از دستورالعمل‌های بیش از حد انعطاف‌پذیری است که انسان‌ها به این ابزارها می‌دهند.
لپاسار در ادامه گفت: "این‌جاست که خطر وجود دارد: ما ابزاری را استفاده می‌کنیم بدون آنکه تمام قابلیت‌های آن را درک کنیم و به این ابزار آزادی بیش از حد می‌دهیم."
وی همچنین به توسعه چندین مدل هوش مصنوعی که با استفاده از نرم‌افزارهای متن باز و آموزش بر روی میلیون‌ها و میلیاردها خط کد نرم‌افزار متن باز برای یافتن آسیب‌پذیری‌ها ایجاد شده‌اند، اشاره کرد و افزود: "این ابزارها بسیار توانمند در یافتن این آسیب‌پذیری‌ها هستند و همچنین توانایی خوبی در سوءاستفاده از آنها دارند."
در نهایت، لپاسار با ابراز خوش‌بینی گفت که به زودی راه‌هایی برای تمایز اطلاعات مصنوعی تولید شده توسط هوش مصنوعی از اطلاعات واقعی تولید شده توسط انسان‌ها پیدا خواهد شد. او بیان کرد: "چون تقاضا برای این موضوع وجود دارد، احتمالا راه‌حلی پیدا خواهد شد."
بیشتر بخوانید: OpenAI از عرضه مدل جدید هوش مصنوعی به دلیل نگرانی‌های ایمنی خودداری کرد · اتحادیه اروپا و اوکراین بر تخصیص ۵۰ میلیارد دلار حمایت در سال ۲۰۲۷ توافق کردند
