نرم افزار تشخیص محتوای هوش مصنوعی: آیا می توانند ChatGPT را تشخیص دهند؟

ما در عصری زندگی می‌کنیم که فناوری‌های هوش مصنوعی در حال رونق هستند و با معرفی ChatGPT، دنیا طوفانی شده است.

ChatGPT قادر به انجام طیف وسیعی از وظایف است، اما یکی از مواردی که به خوبی انجام می دهد نوشتن مقاله است. و در حالی که مزایای آشکار بسیاری برای این وجود دارد، تعدادی چالش را نیز به همراه دارد.

به نظر من، بزرگترین مانعی که محتوای نوشتاری تولید شده توسط هوش مصنوعی برای صنعت نشر ایجاد می کند، گسترش اطلاعات غلط.

ChatGPT، یا هر ابزار هوش مصنوعی دیگری، ممکن است مقالاتی تولید کند که ممکن است حاوی خطاهای واقعی باشند یا کاملاً نادرست باشند.

تصور کنید شخصی که در پزشکی تخصص ندارد، یک وبلاگ پزشکی راه اندازی کرده و از ChatGPT برای نوشتن محتوا برای مقالات خود استفاده می کند.

محتوای آنها ممکن است حاوی خطاهایی باشد که فقط توسط پزشکان حرفه ای قابل شناسایی است. و اگر آن محتوای وبلاگ در رسانه‌های اجتماعی پخش شود یا حتی در جستجو رتبه‌بندی شود، می‌تواند به افرادی که آن را می‌خوانند و توصیه‌های اشتباه پزشکی را دریافت می‌کنند آسیب برساند.

چالش بالقوه دیگری که ChatGPT ایجاد می کند این است که چگونه دانش آموزان می توانند از آن در کارهای نوشتاری خود استفاده کنند.

اگر کسی بتواند فقط با اجرای یک دستور (و بدون نیاز به انجام هیچ کار واقعی) یک مقاله بنویسد، کیفیت آموزش را به شدت کاهش می دهد – زیرا یادگیری در مورد یک موضوع و بیان ایده های خود کلید مقاله نویسی است.

حتی قبل از معرفی ChatGPT، بسیاری از ناشران از قبل با استفاده از هوش مصنوعی محتوا تولید می کردند. و در حالی که برخی صادقانه آن را افشا می کنند، برخی دیگر ممکن است این کار را نکنند.

BankRate شروع به انتشار مقالاتی کرد که از طریق هوش مصنوعی نوشته شده بودند، آنها حتی آن را در سایت افشا می کنند. من بیش از 160 مقاله پیدا کرده ام. اولین مقاله ای که توانستم پیدا کنم مربوط به آوریل 2022 است. دیدن رتبه بندی این مقالات جالب است.
یافته اصلی توسط @tonythill. #AI #gptchat #سئو pic.twitter.com/BY9JlUZBiz

— جان شهاتا (@JShehata) 11 ژانویه 2023

همچنین، گوگل اخیراً عبارت خود را در مورد محتوای تولید شده با هوش مصنوعی تغییر داده است، به طوری که لزوماً مخالف دستورالعمل های این شرکت نباشد.

به همین دلیل است که تصمیم گرفتم ابزارهای موجود را امتحان کنم تا بفهمم صنعت فناوری در تشخیص محتوای تولید شده توسط ChatGPT یا به طور کلی هوش مصنوعی کجاست.

من دستورات زیر را در ChatGPT برای تولید محتوای نوشتاری اجرا کردم و سپس آن پاسخ ها را از طریق ابزارهای تشخیص مختلف اجرا کردم.

• سئوی محلی چیست؟ چرا مهم است؟ بهترین شیوه های سئوی محلی.”
• مقاله ای در مورد حمله ناپلئون بناپارت به مصر بنویسید.
• “تفاوت های اصلی آیفون و سامسونگ گلکسی چیست؟”

در اینجا نحوه عملکرد هر ابزار آمده است.

1. Writer.com

برای پاسخ اولین درخواست، Writer.com با شکست مواجه شد و محتوای ChatGPT را 94٪ تولید شده توسط انسان تشخیص داد.

اسکرین شات از writer.com، ژانویه 2023

برای درخواست دوم، کار کرد و آن را به عنوان محتوای نوشته شده با هوش مصنوعی تشخیص داد.

اسکرین شات از writer.com، ژانویه 2023

برای اخطار سوم، دوباره شکست خورد.

اسکرین شات از writer.com، ژانویه 2023

با این حال، زمانی که من متن واقعی نوشته شده توسط انسان را آزمایش کردم، Writer.com آن را به عنوان 100٪ ساخته شده توسط انسان بسیار دقیق تشخیص داد.

2. کپی لیکس

Copyleaks در تشخیص هر سه درخواست به عنوان نوشته شده با هوش مصنوعی کار بسیار خوبی انجام داد.

اسکرین شات از کپی لیکس، ژانویه 2023

3. Contentatscale.ai

Contentatscale.ai در تشخیص هر سه درخواست به‌عنوان نوشته‌شده با هوش مصنوعی کار بسیار خوبی انجام داد، حتی اگر اولین درخواست، ۲۱٪ امتیاز انسانی را به‌دست آورد.

4. اصالت.ai

Originality.ai در هر سه دستور کار بسیار خوبی انجام داد و آنها را به‌عنوان نوشته‌شده با هوش مصنوعی تشخیص داد.

همچنین، هنگامی که من با متن واقعی توسط انسان بررسی کردم، آن را به عنوان 100٪ ساخته شده توسط انسان شناسایی کردم، که ضروری است.

متوجه خواهید شد که Originality.ai هیچ مشکل سرقت ادبی را شناسایی نمی کند. این مورد ممکن است در آینده تغییر کند.

با گذشت زمان، مردم از همان دستورات برای تولید محتوای نوشته شده با هوش مصنوعی استفاده می کنند که احتمالاً به تعدادی پاسخ بسیار مشابه منجر می شود. هنگامی که این مقالات منتشر می شوند، سپس توسط ابزار سرقت علمی شناسایی می شوند.

5. GPTZero

این ابزار غیرتجاری توسط ادوارد تیان ساخته شده است و به طور خاص برای شناسایی مقالات تولید شده توسط ChatGPT طراحی شده است. و دقیقاً این کار را برای هر سه درخواست انجام داد و آنها را به عنوان تولید شده توسط هوش مصنوعی تشخیص داد.

برخلاف سایر ابزارها، تجزیه و تحلیل دقیق تری از مسائل شناسایی شده، مانند تجزیه و تحلیل جمله به جمله، ارائه می دهد.

طبقه‌بندی‌کننده متن هوش مصنوعی OpenAI

و در نهایت، بیایید ببینیم که OpenAi چگونه پاسخ های تولید شده خود را تشخیص می دهد.

برای اعلان های 1 و 3، با طبقه بندی آن به عنوان “احتمالاً AI تولید شده” متوجه شد که یک هوش مصنوعی درگیر است.

AI Text Classifier. به احتمال زیاد توسط هوش مصنوعی تولید شده است

اما با کمال تعجب، برای دومین فرمان شکست خورد و آن را به عنوان “بعید به وجود آمده توسط هوش مصنوعی” طبقه بندی کرد. من با اعلان‌های مختلف بازی کردم و متوجه شدم که در حال حاضر، هنگام بررسی آن، تعداد کمی از ابزارهای بالا محتوای هوش مصنوعی را با دقت بالاتری نسبت به ابزار خود OpenAi تشخیص می‌دهند.

AI Text Classifier. بعید است که توسط هوش مصنوعی تولید شده است

تا زمان این چک، یک روز قبل آن را آزاد کرده بودند. من فکر می کنم در آینده، آنها آن را تنظیم کنند، و بسیار بهتر عمل خواهد کرد.

نتیجه

ابزارهای فعلی تولید محتوای هوش مصنوعی وضعیت خوبی دارند و قادر به شناسایی محتوای تولید شده توسط ChatGPT (با درجات مختلف موفقیت) هستند.

هنوز هم ممکن است کسی از طریق ChatGPT کپی ایجاد کند و سپس آن را بازنویسی کند تا غیرقابل تشخیص باشد، اما ممکن است تقریباً به اندازه نوشتن از ابتدا به کار نیاز داشته باشد – بنابراین مزایای آن فوری نیست.

اگر به رتبه‌بندی مقاله‌ای در گوگل که توسط ChatGPT نوشته شده است فکر می‌کنید، برای لحظه‌ای در نظر بگیرید: اگر ابزارهایی که در بالا به آنها نگاه کردیم می‌توانستند آن‌ها را به‌عنوان تولیدشده توسط هوش مصنوعی تشخیص دهند، برای Google، شناسایی آنها باید یک تکه کیک باشد.

علاوه بر این، گوگل رتبه‌دهندگان کیفیتی دارد که به سیستم خود آموزش می‌دهند تا مقالات نوشته‌شده با هوش مصنوعی را حتی بهتر با علامت‌گذاری دستی آن‌ها در هنگام پیدا کردنشان تشخیص دهد.

بنابراین، توصیه من این است که استراتژی محتوای خود را بر روی محتوای تولید شده توسط ChatGPT ایجاد نکنید، بلکه از آن صرفاً به عنوان یک ابزار دستیار استفاده کنید.

منابع بیشتر:

تصویر ویژه: /Shutterstock