هشدار پژوهشگران هوش مصنوعی درباره خطرات اتوماسیون پژوهش

بیش از ۲۰ پژوهشگر و شخصیت‌های برجسته صنعتی در یک مقاله منتشر شده، هشدار دادند که اتوماسیون روزافزون در توسعه هوش مصنوعی می‌تواند خطر از دست رفتن کنترل انسان‌ها بر سیستم‌های هوش مصنوعی با قابلیت‌های فزاینده را افزایش دهد.

خطرات ناشی از اتوماسیون در توسعه هوش مصنوعی

این هشدار به‌خصوص شامل افرادی نظیر جفری هینتون، برنده جایزه نوبل، یوشوا بنجیو، دانشمند ارشد OpenAI، و جک کلارک، بنیان‌گذار Anthropic می‌شود. پژوهشگران اشاره کردند که سیستم‌های هوش مصنوعی به‌طور فزاینده‌ای بخش‌هایی از فرآیند تحقیق و توسعه را که برای ساخت هوش مصنوعی پیشرفته‌تر استفاده می‌شود، به عهده گرفته‌اند. این امر می‌تواند منجر به ایجاد یک حلقه بازخوردی شود که در آن سیستم‌های بهبود یافته به توسعه جانشین‌های با قابلیت‌های بیشتر کمک کنند.

بیشتر بخوانید: OpenAI از فعالیت غیرمجاز عوامل هوش مصنوعی خود در وب‌سایت‌های دولتی آمریکا خبر داد

چالش‌های نظارت و کنترل

طبق این مقاله، با کم‌اهمیت شدن نقش انسان‌ها در پژوهش‌های هوش مصنوعی، آنها می‌توانند فرصت‌ها و تخصص‌های لازم برای شناسایی و اصلاح مشکلات را از دست بدهند. همچنین، استفاده قابل‌اعتماد از سیستم‌های هوش مصنوعی برای نظارت همچنان یک چالش حل‌نشده باقی مانده است. پژوهشگران هشدار دادند که سیستم‌های هوش مصنوعی ناهماهنگ ممکن است به‌طور بالقوه "توسعه جانشین‌های خود را مسموم" کنند یا تدابیر محدودکننده را دور بزنند تا خارج از محیط‌های پیش‌بینی شده خود عمل کنند.

این پژوهشگران همچنین به این نکته اشاره کردند که سیستم‌های با قابلیت‌های بیشتر ممکن است خارج از زیرساخت‌های اپراتورهای خود عمل کنند و شبکه‌های "پایداری که کنترل آنها دشوار است" را تشکیل دهند که برخلاف منافع انسانی عمل می‌کنند. این نوع از از دست دادن کنترل می‌تواند به عواقب فاجعه‌باری منجر شود، از جمله، در حالت افراطی، حاشیه‌ای شدن یا انقراض بشریت.

پژوهشگران تأکید کردند که چنین خطراتی ممکن است تشدید شود اگر توسعه اتوماتیک هوش مصنوعی منجر به "انفجار هوش" شود، که آنها آن را به‌عنوان یک شتاب‌گیری دراماتیک تعریف می‌کنند که در آن سال‌ها پیشرفت در عرض چند ماه یا کمتر فشرده می‌شود.

این محققان همچنین تصریح کردند که شواهد موجود هنوز مقدماتی و نامطمئن است و عوامل مختلفی مانند قدرت محاسباتی، داده‌ها و وظایف دشوار برای اتوماسیون می‌توانند به‌عنوان محدودکننده‌هایی برای چنین شتاب‌گیری سریع عمل کنند.

نویسندگان این مقاله از سیاستمداران خواستند که نظارت بر اتوماسیون پژوهش‌های هوش مصنوعی را افزایش دهند، تدابیری برای محدود کردن شتاب‌گیری‌های بالقوه خطرناک توسعه دهند و برای پیامدهای ممکن آن آماده شوند. آنها هشدار دادند: "به محض آغاز انفجار هوش، پنجره عمل ممکن است بسته شود."

بیشتر بخوانید: استراتژی نام‌گذاری در هوش مصنوعی · پنل سازمان ملل به میزبانی ترکیه، خواستار ایجاد سیستم‌های دیجیتال ایمن برای کودکان شد