جیکوب کاکسون، پژوهشگر شرکت استارتاپ AI آنتروپیک، روز سهشنبه بهطور عمومی از سمت خود استعفا داد و در این راستا به نگرانیهای خود درباره فناوریهای در حال ظهور اشاره کرد. این اقدام باعث به وجود آمدن سیلی از واکنشها و پیامها در درون شرکت شد.
واکنشها به استعفای کاکسون
در یک گروه چت داخلی که توسط برخی کارمندان آنتروپیک مشاهده شد، یکی از کارکنان نوشت: "این همان چیزی است که همه ما میگوییم؛ تنها تفاوت این است که اکنون این موضوع بهطور عمومی مطرح شده است." کارمند دیگری نیز افزود: "جیکوب بحث را از چت داخلی به صحنه عمومی آورده و این یک چیز خوب است." این واکنشها بهویژه در میان پژوهشگران AI شرکتهای آنتروپیک، OpenAI، متا و گوگل طنینانداز شد.
بیشتر بخوانید: دولت چین و نظام ارزیابی شهروندان
نگرانیهای مربوط به ایمنی هوش مصنوعی
برخی پژوهشگران به تحلیل پستهای اجتماعی کاکسون پرداختند؛ از جمله پستی که در آن توضیح داده بود که چگونه OpenAI و آنتروپیک با این فناوری با جان انسانها بازی میکنند. بسیاری از کارکنان AI به پیامرسانی داخلی، چتهای رمزگذاریشده و شامهای خصوصی روی آوردند تا تلاشهایی را برای افزایش آگاهی نسبت به خطرات هوش مصنوعی سازماندهی کنند.
در میان این تلاشها، اقداماتی از سوی متخصصان AI برای متوقف کردن توسعه فناوری از سوی مدیران ارشد شرکتهای خود به منظور خرید زمان برای کار بر روی آن بهطور ایمن صورت گرفت. برخی دیگر نیز از کاکسون پیروی کرده و نگرانیهای خود را بهطور عمومی مطرح کردند. ایوان هابینگر، پژوهشگر ایمنی در آنتروپیک، در یک پست شبکه اجتماعی اظهار داشت که او بر این باور است که احتمال بیش از ۱۰ درصد وجود دارد که AI "تمام انسانها را در دهه آینده نابود کند". جولی استیل، پژوهشگر ایمنی در OpenAI، خواستار کاهش سرعت توسعه فناوریهای AI شد.
اندریاس کیرش، یکی از کارکنان گوگل دیپمایند، نیز نسبت به احتمال نابودی بشریت از سوی هوش مصنوعی ابراز نگرانی کرد و این خطرات را به دو دسته "خطرات فوری" و "خطرات بلندمدت" تقسیم کرد. این تحولات نشاندهندهی نگرانیهای فزاینده در میان پژوهشگران و متخصصان AI درباره ایمنی و کنترل فناوریهای در حال پیشرفت است.
بیشتر بخوانید: اخطارهای جدید درباره خطرات هوش مصنوعی برای بشر از سوی صنعت هوش مصنوعی · آینده شغلی فارغالتحصیلان کامپیوتر و اقتصاد در خطر است!
