سام آلتمن، مدیرعامل OpenAI، روز شنبه نسبت به خطرات ناشی از اعطای اعتبار مذهبی به مدل‌های هوش مصنوعی و واگذاری قضاوت انسانی به آن‌ها هشدار داد و این عمل را یک «موضوع امنیتی واقعی» توصیف کرد.
هشدار درباره واگذاری قضاوت انسانی
آلتمن در پلتفرم اجتماعی ایالات متحده X (توییتر) ابراز نگرانی کرد که افراد سعی دارند به مدل‌های هوش مصنوعی اعتبار مذهبی ببخشند و قضاوت انسانی را به آن‌ها واگذار کنند. او این کار را بسیار نگران‌کننده دانسته و افزود: "من از اینکه مردم سعی می‌کنند قدرت مذهبی به مدل‌های هوش مصنوعی بدهند، بسیار ناراحت هستم و فکر می‌کنم این یک مسئله امنیتی واقعی است."
بیشتر بخوانید: توافق اجاره ۷ میلیارد دلاری تنسنت با اوراکل برای ۱۰۰,۰۰۰ تراشه AI
بحث‌های فکری درباره آگاهی و اخلاق هوش مصنوعی
این اظهارات در حالی مطرح شد که گزارش‌هایی از برگزاری جلسات خصوصی توسط شرکت رقیب OpenAI، یعنی Anthropic، با اندیشمندان مذهبی و فلسفی درباره آگاهی و اخلاق هوش مصنوعی به گوش می‌رسید. روزنامه نیویورک تایمز به این موضوع اشاره کرد که این بحث‌ها شامل این سوال بود که آیا سیستم‌های هوش مصنوعی مانند Claude می‌توانند به طور بالقوه آگاه باشند و چگونه تفکر مذهبی می‌تواند رفتار آن‌ها را شکل دهد.
شرکت Anthropic همچنین به مطالعه آنچه که به آن "رفاه مدل" می‌گوید، پرداخته است؛ به این معنا که آیا سیستم‌های پیشرفته هوش مصنوعی ممکن است تجربیات قابل توجهی داشته باشند که نیاز به توجه اخلاقی دارند.
نگرانی‌های دیگر مدیران فناوری
موضوع اعطای اعتبار مذهبی به هوش مصنوعی همچنین نگرانی‌هایی را از سوی دیگر مدیران فناوری به همراه داشته است. مصطفی سلیمان، مدیرعامل Microsoft AI، درباره توسعه سیستم‌های هوش مصنوعی که به نظر می‌رسد آگاه هستند، هشدار داده و استدلال کرده است که تشویق مردم به باور اینکه هوش مصنوعی تجربیات ذهنی دارد، می‌تواند خطرات جدیدی ایجاد کند.
سلیمان رویکرد "هوش مصنوعی انسانی" را ترویج می‌کند که در آن سیستم‌های هوش مصنوعی به عنوان ابزارهایی برای خدمت به انسان‌ها طراحی شوند، نه به عنوان موجوداتی که دارای منافع خود هستند. این دیدگاه به وضوح نشان‌دهنده نگرانی‌های فزاینده درباره تأثیرات اجتماعی و اخلاقی هوش مصنوعی است و ضرورت ایجاد چارچوب‌هایی برای مدیریت این فناوری را تاکید می‌کند.
با توجه به پیشرفت‌های سریع در زمینه هوش مصنوعی و نگرانی‌های مربوط به امنیت و اخلاق، گفت‌وگوهای عمومی و تخصصی در این زمینه همچنان ادامه خواهد داشت و ممکن است به سیاست‌گذاری‌های جدیدی در این حوزه منجر شود.
بیشتر بخوانید: Volkswagen و Gotion سرمایه‌گذاری ۳.۶۶ میلیارد دلاری در اروپا و شمال آفریقا را برنامه‌ریزی کردند · ولادیمیر پوتین انتظار تداوم درگیری‌های جهانی را در آینده نزدیک دارد
