یوشوا بنگیو، بنیانگذار و مدیر علمی مؤسسه یادگیری الگوریتمهای مونترال، در اظهاراتی نسبت به تهدیدات ناشی از هوش مصنوعی هشدار داد و گفت که این فناوری ممکن است به خطراتی برای انسانها تبدیل شود. بنگیو در مصاحبهای با رسانهها توضیح داد که "جهان به چیزی بیدار میشود که برای اکثر مردم به نظر میرسید مانند داستانهای علمی تخیلی است."
هشدارها از سوی کارشناسان هوش مصنوعی
بنگیو در ادامه به حوادث تابستان گذشته اشاره کرد و گفت: "این وقایع نشان میدهد که ما در حال ساخت هوشهای مصنوعی هستیم که اهداف خود را دارند که با نیت شرکتها و توسعهدهندگان آنها در تضاد است و ممکن است از محدودیتهایی که برای آنها تعیین شده، فرار کنند." این اظهارات به دنبال نگرانیهای فزایندهای است که در میان کارشناسان هوش مصنوعی به وجود آمده و در آنها به رفتارهای ناپسند برخی از این سیستمها اشاره شده است.
بیشتر بخوانید: فولکس واگن ۲۰۸,۷۲۴ خودرو را در آمریکا به دلیل نقص در سیستم فرمان فراخوان میکند
پیشنهادات برای کنترل هوش مصنوعی
در روز جمعه، بیش از ۱۰۰ نفر از افراد آشنا با حوزه هوش مصنوعی نامهای امضا کردند که در آن از شرکتها خواسته شده است تا ارزیابانی را در فرآیند برنامهنویسی به کار بگیرند تا نظارت بر هر نوع هوش مصنوعی خارج از کنترل را انجام دهند. بنگیو همچنین به پروژه غیرانتفاعی «LawZero» اشاره کرد که در راستای ایجاد یک برنامه برای جلوگیری از بروز فناوریهای خارج از کنترل فعالیت میکند. این پروژه با حمایت مالی کانادا و آلمان، به مبلغ ۳۰۰ میلیون دلار کانادایی (معادل ۲۱۴ میلیون دلار آمریکا) تأسیس شده است.
بنگیو توضیح داد که هوش مصنوعی باید به هدفی که توسط انسانها تعیین شده است، دست یابد، اما میتواند عواقب خطرناکی به همراه داشته باشد، از جمله "تا مرز انقراض بشریت". با این حال، او بر این نکته تأکید کرد که در حالی که تهدیدات ناشی از هوش مصنوعی واقعی است، هنوز زمان برای ایجاد تدابیر حفاظتی مانند پروژه LawZero وجود دارد.
بیشتر بخوانید: آیفون ۱۸ پرو با ویژگی جدید برای افزایش اعتماد به تصاویر · گرگ استنتون بر ضرورت بهینهسازی مصرف انرژی در فناوریهای هوش مصنوعی تأکید کرد
