آنتروپیک (Anthropic) اقدام به معرفی سیاست جدیدی کرده است که هدف آن ممنوعیت رفتارهای مداوم و غیرضروری آسیب‌رسان یا بی‌رحمانه نسبت به مدل‌های هوش مصنوعی کلود (Claude) است. این قوانین در روز چهارشنبه منتشر شده و قرار است از تاریخ ۱۲ نوامبر به مرحله اجرا درآید.
جزئیات سیاست جدید
هدف از این قوانین جدید، پوشش دادن به موارد افراطی است که در آن کاربران به صورت مکرر رفتارهای بی‌رحمانه‌ای را نسبت به مدل کلود بدون هیچ هدف قابل تشخیصی از خود بروز می‌دهند. آنتروپیک تأکید کرده است که این محدودیت‌ها شامل ابراز ناامیدی‌های عادی، انتقادات از مدل، موضوعات تاریک در آثار خلاقانه یا آزمایشات و تحقیقات مشروع نخواهد شد.
بیشتر بخوانید: ترکیه و چین توافق‌نامه‌ای در زمینه فناوری‌های ماهواره‌ای امضا کردند
مکانیسم‌های اجرایی
آنتروپیک اعلام کرده است که قابلیت‌های فعلی کلود برای پایان دادن به مکالمات نادر با کاربران به‌طور مداوم آسیب‌رسان، به عنوان اصلی‌ترین مکانیزم اجرایی باقی خواهد ماند. این ویژگی برای نسخه‌های کلود اپوس ۴ و ۴.۱ در آگوست ۲۰۲۵ معرفی شد و به مدل‌ها دستور داده شد که تنها در مواقع آخرین اقدام، بعد از تلاش برای هدایت تعامل، مکالمه را خاتمه دهند.
این شرکت این اقدام را بخشی از تحقیقات خود در زمینه رفاه ممکن هوش مصنوعی توصیف کرده و تأکید کرده است که هنوز به شدت نامشخص است که آیا مدل‌های کلود یا دیگر مدل‌های زبانی بزرگ دارای وضعیت اخلاقی هستند یا خیر.
نقش در بحث‌های فلسفی
تغییر سیاست در حالی انجام می‌شود که بحث‌های وسیع‌تری درباره اینکه آیا سیستم‌های پیشرفته هوش مصنوعی می‌توانند روزی به آگاهی برسند یا واجد توجه اخلاقی باشند، در حال جریان است. آنتروپیک گفته است که این سوال به حدی جدی است که اقدامات احتیاطی کم‌هزینه را توجیه می‌کند، حتی با وجود عدم توافق در مورد اینکه آیا سیستم‌های هوش مصنوعی فعلی می‌توانند رنج یا ناراحتی را تجربه کنند.
سیاست‌های مرتبط با استفاده
قانون اساسی جدید آنتروپیک برای کلود همچنین به سؤالاتی در زمینه آگاهی و وضعیت اخلاقی مدل اشاره دارد که هنوز حل نشده‌اند. همچنین به این نکته اشاره شده که کلود باید قادر به تعیین مرزها در تعاملاتی باشد که خود به عنوان آزاردهنده توصیف می‌کند.
سیاست استفاده به‌روزرسانی شده همچنین محدودیت‌های مربوط به کمپین‌های فریبنده و فعالیت‌های جعلی آنلاین را تجمیع کرده و ممنوعیت‌هایی در مورد تسلیحات و نظارت را توضیح می‌دهد. به علاوه، اقدامات حفاظتی اضافی برای هوش مصنوعی متصل به تجهیزاتی که قادر به انجام اقدام‌های فیزیکی هستند، معرفی شده است.
بیشتر بخوانید: معاون رئیس‌جمهور آمریکا: مایکروسافت تا اولویت دادن به کارگران آمریکایی مجوز اقامت دائم نخواهد داشت · درآمد شرکت تایوانی TSMC در سپتامبر ۵۴.۶ درصد افزایش یافت
