شرکت اوپن‌ای‌آی(OpenAI) که خالق ربات گفتگوگر هوش مصنوعی ChatGPT است، اعلام کرده است که به دنبال نشانه‌گذاری(واترمارک) متون تولیدی این ربات است تا دست دانش آموزان و دانشجویانی را که از آن برای تقلب استفاده می‌کنند، رو کند.
به گزارش ایسنا، شرکت اوپن‌ای‌آی در حال آماده سازی ابزار جدیدی است که تاکنون در انتشار آن مردد بوده است.
به نقل از وال استریت ژورنال، این شرکت در حال کار بر روی ابزاری است که می‌تواند مقالات نوشته شده توسط ChatGPT را با درجه بالایی از دقت تشخیص دهد.
اوپن‌ای‌آی اطلاعات کمی درباره تحقیقات خود در زمینه واترمارک متون به اشتراک گذاشته توسط ChatGPT و اینکه چرا این کار را انجام می‌دهد، منتشر کرده است.
بر اساس گزارش وال استریت ژورنال، بحث در مورد اینکه آیا این ابزار باید منتشر شود، آن را با وجود اینکه به نظر می‌رسد آماده است، از انتشار بازداشته است.
شرکت اوپن‌ای‌آی در یک به‌روزرسانی که روز گذشته منتشر کرد، گفت: تیم‌های ما یک روش واترمارک متن را توسعه داده‌اند که ما همچنان در حال بررسی جایگزین‌ها هستیم.
این شرکت گفت که واترمارک کردن یکی از راه‌حل‌های متعدد، از جمله طبقه‌بندی‌کننده‌ها و ابرداده‌ها است که به عنوان بخشی از «تحقیقات گسترده در زمینه منشأ متن» مورد بررسی قرار گرفته است.
طبق گفته اوپن‌ای‌آی، این ابزار در برخی موقعیت‌ها «بسیار دقیق بوده است»، اما در صورت مواجهه با شکل‌های خاصی از دستکاری، مانند استفاده از سیستم‌های ترجمه، بازنویسی با مدل مولد دیگر، یا درخواست از مدل برای درج یک الگوی خاص به خوبی عمل نمی‌کند.
اوپن‌ای‌آی می‌گوید واترمارک کردن متن می‌تواند به شکل نامناسبی بر برخی گروه‌ها تأثیر بگذارد. به عنوان مثال می‌تواند استفاده از هوش مصنوعی را به عنوان یک ابزار نوشتاری مفید برای انگلیسی‌زبان‌های غیر بومی دشوار کند.
در حال حاضر اوپن‌ای‌آی در حال سنجیدن این خطرات است. ضمن اینکه این شرکت انتشار ابزارهای احراز هویت برای محتوای سمعی و بصری را در اولویت قرار داده است.
سخنگوی اوپن‌ای‌آی در بیانیه‌ای گفت که این شرکت به دلیل پیچیدگی‌های موجود و تأثیر احتمالی آن بر اکوسیستم گسترده‌تر فراتر از اوپن‌ای‌آی، «رویکردی سنجیده» را برای نشانه‌گذاری متون اتخاذ می‌کند.