OpenAI به زودی واترمارک‌های نامرئی را به متن‌های تولیدشده توسط ChatGPT و Codex در اتحادیه اروپا اضافه خواهد کرد. این اقدام به موجب الزامات قانون هوش مصنوعی اتحادیه اروپا انجام می‌شود که از ارائه‌دهندگان سیستم‌های هوش مصنوعی مولد می‌خواهد تا متن‌های تولیدشده توسط هوش مصنوعی را به‌گونه‌ای شناسایی کنند که قابل خواندن توسط ماشین باشد.
جزئیات فناوری واترمارک‌گذاری
OpenAI اعلام کرده است که فناوری جدید آن تحت عنوان textGrain، سیگنال‌های آماری نامرئی را به کلمات انتخاب‌شده توسط مدل‌هایش اضافه می‌کند. به این ترتیب، یک تشخیص‌دهنده می‌تواند به دنبال این سیگنال بگردد تا ارزیابی کند که آیا یک متن شامل واترمارک OpenAI است یا خیر.
بیشتر بخوانید: احتمال وجود حیات بیگانه در قمر انسلادوس زحل
این شرکت همچنین هشدار داده است که فناوری واترمارک‌گذاری و تشخیص هنوز در مراحل اولیه قرار دارد و دارای محدودیت‌های قابل توجهی است. به‌عنوان مثال، متن‌های کوتاه‌تر تشخیص‌شان دشوارتر است و ویرایش، پارافریز یا ترجمه می‌تواند واترمارک را تضعیف کند. OpenAI تأکید کرده است که تشخیص یک واترمارک به‌تنهایی اثبات نمی‌کند که یک متن کاملاً تولیدشده توسط هوش مصنوعی است و همچنین عدم وجود آن نیز نمی‌تواند ثابت کند که متن توسط یک انسان نوشته شده است.
محدودیت‌های دسترسی و مراحل انتشار
OpenAI در حال حاضر درخواست‌هایی برای دسترسی به ابزار تشخیص واترمارک خود را باز کرده است، که در ابتدا محدود به پژوهشگران و سازمان‌های متخصص تأییدشده خواهد بود. این شرکت همچنین اعلام کرده است که مراحل انتشار تدریجی این فناوری، هم به الزامات قانون هوش مصنوعی اتحادیه اروپا و هم به محدودیت‌های فناوری واترمارک‌گذاری کنونی پاسخ می‌دهد.
به‌طور کلی، این اقدام OpenAI نشان‌دهنده تلاش این شرکت برای تطبیق با مقررات جدید و ارتقاء شفافیت در استفاده از فناوری‌های هوش مصنوعی است. این در حالی است که توسعه و بهبود فناوری‌های مربوط به واترمارک‌گذاری همچنان در حال انجام است تا به‌طور مؤثرتری متون تولیدشده را شناسایی کند و به کاربران اطمینان بیشتری ارائه دهد.
بیشتر بخوانید: دیوید رابینسون، مدیر سابق ایمنی OpenAI درباره خطرات هوش مصنوعی هشدار داد · اورسولا فون در لاین: اتحادیه اروپا تغییرات لازم برای گسترش آینده را ارزیابی می‌کند
