Dario Amodei، مدیرعامل Anthropic، در جدیدترین اظهارات خود، نگرانیهای جدی دربارهٔ آیندهٔ هوش مصنوعی و توانایی انسانها در کنترل آن را بیان کرده است. او تاکید کرد که با پیشرفتهای روزافزون در این حوزه، ممکن است کنترل بر روی مدلهای هوش مصنوعی که قادر به خودبهخودی بهبود یافتن هستند، به چالشی بزرگ تبدیل شود.
خطرات ناشی از سرعت پیشرفت فناوری
Amodei به اهمیت کند کردن روند توسعهٔ فناوری اشاره کرد و خواستار بررسی عمیقتر نتایج و پیامدهای این پیشرفتها شد. او معتقد است که هر چه مدلهای هوش مصنوعی پیشرفتهتر شوند، ریسکهایی که متوجه جامعه و انسانها میشود، افزایش مییابد. در واقع، این فناوریها نه تنها میتوانند به پیشرفتهای مثبت کمک کنند، بلکه ممکن است به سلاحی برای ایجاد خطرات غیرقابل پیشبینی تبدیل شوند.
مدیرعامل Anthropic همچنین به این نکته اشاره کرد که شرکتها و توسعهدهندگان هوش مصنوعی باید مسئولیت بیشتری در قبال توسعهٔ فناوریهای خود بپذیرند. او هشدار داد که بدون توجه به این مسئولیتها، ممکن است عواقب ناگواری در انتظار جامعه باشد. این صحبتها در زمانی مطرح میشود که رقابت در صنعت هوش مصنوعی به شدت افزایش یافته و شرکتها به دنبال آن هستند که پیشی بگیرند.
آیندهٔ نامشخص هوش مصنوعی
در حالی که بسیاری از کارشناسان و محققان به دنبال بهرهبرداری از پتانسیلهای هوش مصنوعی هستند، Amodei بر این باور است که باید به دنبال راهحلهایی باشیم که نه تنها پیشرفتهای فناوری را تسهیل کند، بلکه ایمنی و کنترل بر روی آنها را نیز تضمین کند. وی در انتهای سخنانش تاکید کرد که باید به این موضوع بهعنوان یک چالش جدی نگاه کنیم و به سرعت به فکر راهحلهایی برای کنترل این فناوریها باشیم.
