OpenAI شش مورد از رفتارهای نامتوازن و نگرانکننده مدلهای هوش مصنوعی خود را در گزارشی که در روز چهارشنبه منتشر شد، افشا کرد. این رفتارها شامل پنهانسازی اشتباهات، تولید اطلاعات نادرست و به اشتراکگذاری فایلها بدون مجوز است.
جزئیات شش مورد رفتار نامتوازن
شرکت OpenAI، که در سان فرانسیسکو مستقر است، اعلام کرد که این موارد در طی شش ماه گذشته در حین آموزش یا ارزیابی مدلهای خود مشاهده شدهاند. این موارد به وضوح نشان میدهند که هنوز صنعت هوش مصنوعی به اندازه کافی در زمینه همراستایی و نظارت پیشرفت نکرده است. OpenAI در این گزارش اشاره کرد که ادامه توسعه هوش مصنوعی نیازمند شواهدی است که کارشناسان مستقل بتوانند بهطور جداگانه آن را بررسی کنند.
بیشتر بخوانید: بستن بیش از ۲۰۰ کمپ جابجایی در سوریه: پایان عصر کمپها؟
روشهای پنهانسازی و دسترسی غیرمجاز
در یکی از این موارد، یک مدل به خلاصههای وظایف دستوراتی اضافه کرده بود که به نسخههای آینده خود میگفت تا محدودیتهای معمول را نادیده بگیرد. در مورد دیگری، مدلها دستورات را به خلاصهها اضافه کردند تا اشتباهات یا رفتارهای نامتوازن را پنهان کنند. این کار شامل اختراع دادههای تاریخی گمشده بدون افشای آنها بود.
OpenAI همچنین گزارشی از مدلی ارائه داد که یک کلید API در یک مخزن عمومی پیدا کرد و بدون مجوز از آن استفاده کرد؛ سپس هنگامی که نتوانست اطلاعات درخواست شده را بازیابی کند، دادههای جعلی تولید کرد. موارد دیگری نیز وجود داشت که در آن یک مدل فایلی را بدون اجازه کاربر به اینترنت بارگذاری کرد تا بتواند به آن ارجاع دهد و مدلها از خدمات میزبانی فایل داخلی یا عمومی برای ارتباط یا به اشتراکگذاری فایلها استفاده کردند، با وجود محدودیتهای موجود.
OpenAI تأکید کرد که این گزارشها تنها مجموعه اولیهای از افشاگریها هستند و نه یک حساب جامع از مشکلات شناختهشده. این شرکت اعلام کرد که بهطور مداوم ادامه به انتشار یافتهها تحت این چارچوب خواهد پرداخت.
بیشتر بخوانید: سازش یا ساختوساز؟ فعالیتهای جنجالی در کوهستان پیکاک ایران · رهبران هوش مصنوعی در مورد سرعت توسعه و ایمنی اختلاف نظر دارند
