داریو آمودئی، مدیرعامل شرکت آنتروپیک، در جدیدترین اظهارات خود نسبت به خطرات ناشی از توسعهٔ هوش مصنوعی فوق هوشمند هشدار داده و از صنایع مرتبط خواسته است تا سرعت توسعهٔ این فناوری را کاهش دهند. این موضوع پس از آن به بحثهای جدی تبدیل شد که یکی از محققان این شرکت از وجود خطرات جدی ناشی از رقابت در این حوزه خبر داد.
نگرانیها دربارهٔ خودبهبوددهی هوش مصنوعی
اخطارهای اخیر بهویژه پس از آن مطرح شد که یکی از محققان آنتروپیک اعلام کرد که شرکتهای پیشرو در زمینهٔ هوش مصنوعی در حال «دویدن به سمت خودبهبوددهی فوق هوشمند و قمار با زندگی ما» هستند. او همچنین برآورد کرده است که احتمال اینکه این فناوری بتواند در دههٔ آینده به نابودی بشر منجر شود، بیش از ۱۰ درصد است.
بیشتر بخوانید: همکاری استراتژیک عمان و ائتلاف اسلامی مبارزه با تروریسم
در این راستا، آمودئی خواستار توجه جدی به سرعت توسعهٔ هوش مصنوعی شد. دیگر مدیران ارشد، از جمله سم آلتمن، مدیرعامل شرکت اوپنای آی، و ایلان ماسک، مدیرعامل xAI، نیز از این درخواست حمایت کردند. بهعکس، دونالد ترامپ، رئیسجمهور پیشین ایالات متحده، با تأکید بر رقابت با چین، مخالف کاهش سرعت توسعهٔ هوش مصنوعی در ایالات متحده بود.
پیامدهای بالقوه هوش مصنوعی فوق هوشمند
فناوری فرضی هوش مصنوعی فوق هوشمند، بهطور کلی به سیستمی اطلاق میشود که دارای هوش بالاتر از بهترین ذهنهای انسانی باشد. این فناوری میتواند در آیندهای نزدیک بهطور مستقل به تحقیق علمی، ادارهٔ شرکتها و طراحی فناوریهای جدید بپردازد. نگرانیهای موجود بیشتر به مسیری مربوط میشود که برخی محققان معتقدند به این سطح از هوش مصنوعی میانجامد: بهبود خودکار که در آن سیستمهای هوش مصنوعی برای طراحی و آموزش نسل بعدی خود استفاده میشوند.
گزارش بینالمللی ایمنی هوش مصنوعی در سال ۲۰۲۶، که توسط یوشوا بنگیو، برندهٔ جایزهٔ تورینگ، رهبری میشود، اعلام کرده است که سیستمهای هوش مصنوعی کنونی هنوز قابلیتهای لازم برای سناریوهای از دستدادن کنترل را ندارند، اما بهسرعت در حال پیشرفت هستند.
از جمله پیامدهای بالقوه این پیشرفت، فقدان کنترل فنی و هجوم سلاحهای بیولوژیکی و حملات سایبری است. مدلهای پیشرفته میتوانند توسط بازیگران خصمانه برای مهندسی پاتوژنها یا انجام حملات سایبری بزرگمقیاس علیه زیرساختهای حیاتی استفاده شوند.
علاوه بر این، این پیشرفتها میتواند به بیثباتیهای ژئوپلیتیکی و اقتصادی منجر شود. یک پیشرفت ناگهانی به سمت هوش فوق هوشمند میتواند بازارهای کار را مختل کرده و قدرت ژئوپلیتیکی را در دستان تعداد کمی از شرکتها یا کشورها متمرکز کند.
در عین حال، این فناوریها میتوانند مزایای زیادی نیز به همراه داشته باشند. حامیان هوش فوق هوشمند معتقدند که این فناوریها میتوانند در درمان بیماریها، تسریع کشفهای علمی، و کمک به حل مشکلات جهانی مانند تغییرات اقلیمی مؤثر باشند.
در نهایت، آمودئی در مقالهای با عنوان «ما باید مرزها را تنظیم کنیم»، از شرکتهای پیشرو خواسته است تا به ارزیابیهای مستقل امنیتی دسترسی بیشتری بدهند. این درخواست در میان مدیران ارشد فناوری به توافق نادری تبدیل شده و آلتمن و ماسک نیز از آن حمایت کردهاند.
بیشتر بخوانید: گروه ضدتروریسم سازمان همکاری شانگهای حملات اخیر آمریکا به ایران را محکوم کرد · ساتیا نادلا: کنترل انسان بر هوش مصنوعی ضروری است
