واترمارک ChatGPT چگونه کار می کند و چرا می توان آن را شکست داد

ChatGPT از OpenAI راهی را برای ایجاد خودکار محتوا معرفی کرد، اما برنامه‌هایی برای معرفی ویژگی واترمارکینگ برای آسان‌تر کردن تشخیص آن، برخی افراد را عصبی می‌کند. این نحوه کار واترمارک ChatGPT است و چرا ممکن است راهی برای شکست آن وجود داشته باشد.

ChatGPT ابزاری باورنکردنی است که ناشران آنلاین، وابسته ها و سئوکاران به طور همزمان آن را دوست دارند و از آن می ترسند.

برخی از بازاریابان آن را دوست دارند زیرا در حال کشف راه‌های جدیدی برای استفاده از آن برای تولید خلاصه محتوا، طرح‌های کلی و مقالات پیچیده هستند.

ناشران آنلاین از احتمال هجوم محتوای هوش مصنوعی به نتایج جستجو و جایگزینی مقالات تخصصی نوشته شده توسط انسان می ترسند.

در نتیجه، اخبار مربوط به ویژگی واترمارکینگ که تشخیص محتوای نوشته شده توسط ChatGPT را باز می کند نیز با نگرانی و امید پیش بینی می شود.

واترمارک رمزنگاری

واترمارک یک علامت نیمه شفاف (آرم یا متن) است که بر روی یک تصویر تعبیه شده است. واترمارک نشان می دهد که نویسنده اصلی اثر کیست.

تا حد زیادی در عکس ها و به طور فزاینده ای در فیلم ها دیده می شود.

واترمارک کردن متن در ChatGPT شامل رمزنگاری در قالب جاسازی الگوی کلمات، حروف و نقطه گذاری در قالب یک کد مخفی است.

اسکات آرونسون و واترمارکینگ ChatGPT

یک دانشمند کامپیوتر با نفوذ به نام اسکات آرونسون در ژوئن 2022 توسط OpenAI استخدام شد تا روی ایمنی و تراز هوش مصنوعی کار کند.

ایمنی هوش مصنوعی یک زمینه تحقیقاتی است که به مطالعه راه هایی می پردازد که هوش مصنوعی ممکن است برای انسان ها مضر باشد و راه هایی برای جلوگیری از این نوع اختلالات منفی ایجاد کند.

مجله علمی Distill که شامل نویسندگان وابسته به OpenAI است، ایمنی هوش مصنوعی را اینگونه تعریف می کند:

هدف از ایمنی بلندمدت هوش مصنوعی (AI) این است که اطمینان حاصل شود که سیستم‌های هوش مصنوعی پیشرفته به‌طور قابل اعتمادی با ارزش‌های انسانی همسو هستند – اینکه آنها به‌طور قابل اعتماد کارهایی را انجام می‌دهند که مردم می‌خواهند انجام دهند.

AI Alignment حوزه هوش مصنوعی است که با اطمینان از همسویی هوش مصنوعی با اهداف مورد نظر مرتبط است.

یک مدل زبان بزرگ (LLM) مانند ChatGPT را می توان به روشی استفاده کرد که ممکن است برخلاف اهداف AI Alignment که توسط OpenAI تعریف شده است، استفاده شود، یعنی ایجاد هوش مصنوعی که به نفع بشریت باشد.

بر این اساس، دلیل واترمارک، جلوگیری از سوء استفاده از هوش مصنوعی به گونه ای است که به بشریت آسیب برساند.

آرونسون دلیل واترمارک کردن خروجی ChatGPT را توضیح داد:

بدیهی است که این می تواند برای جلوگیری از سرقت علمی آکادمیک مفید باشد، اما به عنوان مثال، تولید انبوه تبلیغات…

واترمارکینگ ChatGPT چگونه کار می کند؟

واترمارک ChatGPT سیستمی است که یک الگوی آماری، یک کد را در انتخاب کلمات و حتی علائم نگارشی جاسازی می کند.

محتوای ایجاد شده توسط هوش مصنوعی با الگوی نسبتاً قابل پیش بینی انتخاب کلمه تولید می شود.

کلمات نوشته شده توسط انسان و هوش مصنوعی از یک الگوی آماری پیروی می کنند.

تغییر الگوی کلمات استفاده شده در محتوای تولید شده راهی برای “واترمارک کردن” متن است تا تشخیص دهد که آیا این متن محصول تولید کننده متن هوش مصنوعی است یا خیر.

ترفندی که واترمارک کردن محتوای هوش مصنوعی را غیرقابل تشخیص می‌کند این است که توزیع کلمات همچنان ظاهری تصادفی شبیه به متن معمولی تولید شده توسط هوش مصنوعی دارد.

از این به عنوان توزیع شبه تصادفی کلمات یاد می شود.

شبه تصادفی یک سری تصادفی آماری از کلمات یا اعداد است که در واقع تصادفی نیستند.

واترمارک ChatGPT در حال حاضر استفاده نمی شود. با این حال اسکات آرونسون در OpenAI در سابقه اعلام کرده است که برنامه ریزی شده است.

در حال حاضر ChatGPT در پیش نمایش است، که به OpenAI اجازه می دهد تا از طریق استفاده در دنیای واقعی “ناهمترازی” را کشف کند.

احتمالاً واترمارکینگ ممکن است در نسخه نهایی ChatGPT یا زودتر از آن معرفی شود.

اسکات آرونسون در مورد نحوه عملکرد واترمارک نوشت:

پروژه اصلی من تاکنون ابزاری برای واترمارک کردن خروجی های یک مدل متنی مانند GPT بوده است.

اساساً، هر زمان که GPT متن طولانی تولید می‌کند، ما می‌خواهیم یک سیگنال مخفی غیرقابل توجه در انتخاب کلمات آن وجود داشته باشد، که می‌توانید بعداً برای اثبات اینکه، بله، از GPT آمده است، استفاده کنید.

آرونسون نحوه عملکرد واترمارک ChatGPT را بیشتر توضیح داد. اما ابتدا، درک مفهوم توکنیزاسیون بسیار مهم است.

توکن‌سازی مرحله‌ای است که در پردازش زبان طبیعی اتفاق می‌افتد، جایی که ماشین کلمات موجود در یک سند را می‌گیرد و آنها را به واحدهای معنایی مانند کلمات و جملات تجزیه می‌کند.

Tokenization متن را به شکل ساختار یافته ای تغییر می دهد که می تواند در یادگیری ماشین استفاده شود.

فرآیند تولید متن به این صورت است که ماشین حدس می‌زند کدام توکن بر اساس توکن قبلی بعدی می‌آید.

این کار با یک تابع ریاضی انجام می شود که احتمال اینکه توکن بعدی چه خواهد بود، که توزیع احتمال نامیده می شود را تعیین می کند.

کلمه بعدی پیش بینی می شود اما تصادفی است.

خود واترمارکینگ همان چیزی است که هارون آن را شبه تصادفی توصیف می کند، به این معنا که یک دلیل ریاضی برای یک کلمه یا علامت نگارشی خاص وجود دارد، اما هنوز از نظر آماری تصادفی است.

در اینجا توضیح فنی واترمارکینگ GPT آمده است:

برای GPT، هر ورودی و خروجی رشته‌ای از نشانه‌ها است که می‌تواند کلمات باشد، اما همچنین علائم نگارشی، بخش‌هایی از کلمات یا بیشتر – در مجموع حدود 100000 نشانه وجود دارد.

در هسته خود، GPT دائماً یک توزیع احتمال روی توکن بعدی ایجاد می کند که مشروط به رشته توکن های قبلی است.

پس از اینکه شبکه عصبی توزیع را تولید کرد، سرور OpenAI در واقع یک توکن را با توجه به آن توزیع نمونه‌برداری می‌کند – یا نسخه‌ای تغییر یافته از توزیع، بسته به پارامتری به نام دما.

با این حال، تا زمانی که دما غیرصفر باشد، معمولاً در انتخاب نشانه بعدی تصادفی وجود دارد: می‌توانید بارها و بارها با همان اعلان اجرا کنید و هر بار یک تکمیل متفاوت (یعنی رشته‌ای از نشانه‌های خروجی) دریافت کنید. .

بنابراین برای واترمارک کردن، به جای انتخاب تصادفی توکن بعدی، ایده انتخاب آن به صورت شبه تصادفی با استفاده از یک تابع شبه تصادفی رمزنگاری است که کلید آن فقط برای OpenAI شناخته شده است.

واترمارک برای کسانی که متن را می خوانند کاملاً طبیعی به نظر می رسد زیرا انتخاب کلمات از تصادفی بودن همه کلمات دیگر تقلید می کند.

اما این تصادفی بودن حاوی یک سوگیری است که فقط توسط شخصی که کلید رمزگشایی آن را دارد می تواند شناسایی شود.

این توضیح فنی است:

برای نشان دادن، در مورد خاصی که GPT دارای یک دسته از توکن‌های ممکن بود که به همان اندازه محتمل بود، شما به سادگی می‌توانید هر توکنی را انتخاب کنید که g را به حداکثر برساند. این انتخاب برای کسی که کلید را نمی‌دانست به طور یکنواخت تصادفی به نظر می‌رسد، اما کسی که کلید را می‌دانست می‌تواند بعداً g را روی همه n گرم جمع کند و ببیند که به طور غیرعادی بزرگ است.

واترمارکینگ یک راه حل برای حفظ حریم خصوصی است

من بحث‌هایی را در رسانه‌های اجتماعی دیده‌ام که در آن برخی از افراد پیشنهاد می‌کردند که OpenAI می‌تواند از هر خروجی‌ای که تولید می‌کند رکوردی نگه دارد و از آن برای شناسایی استفاده کند.

اسکات آرونسون تأیید می کند که OpenAI می تواند این کار را انجام دهد اما انجام این کار باعث ایجاد یک مشکل حریم خصوصی می شود. استثناء احتمالی مربوط به وضعیت اجرای قانون است که وی توضیح بیشتری در مورد آن نداد.

نحوه تشخیص واترمارکینگ ChatGPT یا GPT

چیز جالبی که به نظر می رسد هنوز به خوبی شناخته نشده است این است که اسکات آرونسون خاطرنشان کرد که راهی برای شکست دادن واترمارک وجود دارد.

نگفت که هست ممکن است برای شکست دادن علامت گذاری، او گفت که آن را می توان شکست بخورد

اکنون، همه اینها را می توان با تلاش کافی شکست داد.

به عنوان مثال، اگر از هوش مصنوعی دیگری برای بازنویسی خروجی GPT استفاده کرده باشید، بسیار خوب، ما قادر به تشخیص آن نخواهیم بود.

به نظر می‌رسد که می‌توان این واترمارکینگ را حداقل در ماه نوامبر که اظهارات فوق بیان کرد، شکست داد.

هیچ نشانه ای مبنی بر اینکه واترمارکینگ در حال حاضر در حال استفاده است وجود ندارد. اما زمانی که مورد استفاده قرار گرفت، ممکن است ناشناخته باشد که آیا این حفره بسته شده است یا خیر.

نقل قول

پست وبلاگ اسکات آرونسون را اینجا بخوانید.

تصویر برجسته توسط Shutterstock/RealPeopleStudio