به گزارش خبرگزاری مهر به نقل از انگجت، پس از انتشار گزارشی در نشریه وال استریت ژورنال مبنی برآنکه اوپن ای آی ابزاری در اختیار دارد که می تواند مقالات نوشته شده با چت جی پی تی را با دقت بالا تشخیص دهد، این شرکت اطلاعاتی درباره تحقیقاتش درباره واترمارک دار کردن متن هایش را همراه دلیل آنکه چرا این روش ردیابی را به اشتراک نگذاشته، اعلام کرد.
طبق گزارش با وجود آنکه ابزار مذکور آماده عرضه است، اما بحث و گمانه زنی ها درباره ارائه شدن یا نشدن آن مانع اصلی در اشتراک گذاری آن بوده است. اوپن ای آی در یک به روزرسانی در ماه می در پستی وبلاگی نوشته است: تیمهای ما یک روش واترمارک دار کردن متن توسعه داده اند که مشغول بررسی آن هستیم و همزمان روی گزینه های جایگزین تحقیق می کنیم.
به گفته شرکت واترمارک دار کردن متن یکی از راه حل های متعدد از جمله متا داده و ابزارهای دسته بندی است که به عنوان بخشی از تحقیقات گسترده در زمینه منشأ متن مورد بررسی قرار گرفت.
اوپن ای آی مدعی است این ابزار در برخی شرایط بسیار دقیق است اما هنگامیکه با برخی از انواع دستکاری در متن مانند استفاده از سیستم های ترجمه، تغییر جمله بندی با یک مدل هوش مصنوعی مولد دیگر یا درخواست از هوش مصنوعی برای قراردادن کاراکتری خاص بین لغات و سپس حذف کردن آن، روبرومی شود، عملکرد خوبی ندارد.
در بخشی از بیانیه آمده است: مثلا ممکن است این ابزار استفاده از هوش مصنوعی به عنوان یک ابزار مفید برای نوشتن مقالات برای افراد غیرانگلیسی زبان را با مشکل روبرو کند.
شرکت توسعه دهنده چت جی پی تی در همین پست وبلاگی روی این ریسک ها تمرکز و همچنین اعلام کرده عرضه ابزارهای احراز هویت برای محتوای صوتی بصری را در اولویت قرار داده است.
