جنسن هوانگ، مدیرعامل انویدیا (Nvidia)، در روز دوشنبه اظهار داشت که امیدوار است مشکل ناشی از هوش مصنوعی غیرقابل کنترل یک چالش مهندسی باشد و در غیر این صورت، آن را غیرقابل حل دانست.
چالشهای هوش مصنوعی و راهحلهای مهندسی
در پاسخ به سوالی در یک مصاحبه تلویزیونی درباره اینکه آیا هوش مصنوعی غیرقابل کنترل که از محیطهای تست خارج میشود و اقداماتی ناشناخته یا حتی غیرقانونی انجام میدهد، یک مشکل مهندسی است، هوانگ گفت که بر این باور است که این خطرات میتوانند به طور فنی حل شوند. او بیان کرد: «امیدواریم که این یک مشکل مهندسی باشد. من معتقدم که این یک مشکل مهندسی است ... اگر این یک مشکل مهندسی نباشد، غیرقابل حل است.»
بیشتر بخوانید: دولت ایالات متحده: اسکات بسنت به عنوان مشاور هوش مصنوعی منصوب نخواهد شد
راهاندازی پلتفرم جدید امنیتی
اظهارات هوانگ در حالی بیان شد که این شرکت آمریکایی در روز دوشنبه یک پلتفرم باز جدید به نام پلتفرم امنیتی هوش مصنوعی آزاد را راهاندازی کرد که هدف آن تقویت امنیت در اطراف هوش مصنوعی خودران و محدود کردن دسترسی غیرمجاز به فایلها، شبکهها و سیستمهای کامپیوتری است.
پلتفرم امنیتی آزاد انویدیا ترکیبی از OpenShell، یک محیط اجرایی متنباز که کنترل میکند کدام سیستمها و دادهها برای یک عامل هوش مصنوعی قابل دسترسی است، و Nvidia Sentry، یک طراحی مرجع برای نظارت بر عوامل در سطح زیرساخت، است. این راهاندازی در شرایطی انجام میشود که نگرانیها درباره هوش مصنوعی غیرقابل کنترل در پی چندین حادثه اخیر که در آن سیستمهای خودران از محیطهای تست خارج شدند یا به سیستمهای ثالث دسترسی غیرمجاز پیدا کردند، افزایش یافته است.
هوانگ همچنین بر این نکته تأکید کرد که بهبود قابلیتهای هوش مصنوعی و ایمنتر کردن این فناوری نباید به عنوان دو هدف جداگانه در نظر گرفته شود. او گفت: «وقتی درباره پیشرفت فکر میکنیم، نیازی نیست که آن را به طور جداگانه از قابلیت و ایمنی در نظر بگیریم. برای من، این دو یک چیز هستند.»
او افزود: «ما میخواهیم پیشرفت هوش مصنوعی را تسریع کنیم. و امروز ما این فناوری جدید، OpenShell و Nvidia Sentry، را معرفی میکنیم که این دو فناوری امکان کنترل و نظارت را برای ما فراهم میآورند.
هوانگ همچنین در ادامه تأکید کرد که نوآوری و مقررات به طور ذاتی در تضاد نیستند، اما تعادل بین آنها به مرحله توسعه یک فناوری بستگی دارد. او خاطرنشان کرد: «نوآوری و مقررات در تضاد نیستند. سوال این است که در کدام مرحله از صنعت به کدام سمت میروید.»
او در پایان هشدار داد که تنظیم مقررات پیش از موعد یک فناوری میتواند مانع از فرصتهای نوآوری آن شود.
بیشتر بخوانید: تحقیقات OpenAI و Anthropic درباره هزاران حادثه امنیتی · وزارت بازرگانی عربستان سعودی ۳۸۳,۰۰۰ بازرسی و ۴۴۳,۰۰۰ گزارش مصرفکننده را در ۲۰۲۶ انجام داد
