بررسی آنلاین محصولات در حال تبدیل شدن به میدان جنگ برای هوش مصنوعی پیشرفته است

در میدان نبرد بررسی های آنلاین، هوش مصنوعی آن در مقابل هوش مصنوعی است.

هوش مصنوعی مولد که می‌تواند نظرات انسانی را منتشر کند، توسط هوش مصنوعی آموزش دیده برای شناسایی نظرات جعلی ملاقات می‌کند. این نوعی درگیری است که پیامدهایی برای مصرف کنندگان و همچنین آینده محتوای آنلاین دارد.

سعود خلیفه، بنیانگذار و مدیر عامل Fakespot، استارت آپی که از هوش مصنوعی برای شناسایی بررسی های تقلبی استفاده می کند، گفت که شرکت او شاهد هجوم نقدهای جعلی تولید شده توسط هوش مصنوعی بوده است. Fakespot روی راهی برای شناسایی محتوای نوشته شده توسط پلتفرم های هوش مصنوعی مانند ChatGPT کار می کند.

او گفت، چیزی که امروزه بسیار متفاوت است این است که مدل ها به حدی مطلع هستند که می توانند در مورد هر چیزی بنویسند.

بررسی‌های آنلاین جعلی تقریباً به اندازه بررسی‌های آنلاین واقعی وجود داشته است، اما این مشکل به لطف نگرانی‌های گسترده‌تر در مورد فناوری پیشرفته هوش مصنوعی که اکنون به طور گسترده در اینترنت در دسترس است، فوریت جدیدی پیدا کرده است.

پس از سال ها کنترل این مشکل به صورت موردی، کمیسیون تجارت فدرال ماه گذشته قانون جدیدی را برای مقابله با بررسی های تقلبی پیشنهاد کرد. در صورت تصویب، این قانون نوشتن نقدهای جعلی، پرداخت هزینه برای بررسی، پنهان کردن نظرات صادقانه و سایر روش های متقلبانه را ممنوع می کند و جریمه های سنگینی را برای افرادی که آن را نقض می کنند اعمال می کند.

اما اینکه دقیقاً چه چیزی یک بررسی جعلی است یا نیست، اکنون کمتر مشخص نیست، و فناوری شناسایی بررسی های جعلی هنوز در حال پیشرفت است.

مایکل اتلسون، وکیل بخش شیوه های تبلیغاتی FTC، گفت: ما نمی دانیم، واقعاً هیچ راهی وجود ندارد که بدانیم بازیگران بد واقعاً تا چه اندازه از هر یک از این ابزارها استفاده می کنند، و چه تعداد ممکن است توسط ربات ها در مقابل انسان تولید شده باشند. این واقعاً نگرانی جدی‌تری است و تنها گوشه‌ای از این نگرانی است که از این چت‌بات‌ها برای ایجاد انواع محتوای جعلی آنلاین استفاده می‌شود.

برخی نشانه‌ها وجود دارد که نشان می‌دهد بررسی‌های تولید شده توسط هوش مصنوعی در حال حاضر رایج هستند. سی‌ان‌بی‌سی در ماه آوریل گزارش داد که برخی از بررسی‌های آمازون نشانه‌های واضحی از دخالت هوش مصنوعی دارند، که بسیاری از آنها با عبارت Like an language AI شروع می‌شوند.

آمازون در میان بسیاری از فروشندگان آنلاین است که سال ها با بررسی های جعلی دست و پنجه نرم کرده است. یکی از سخنگویان گفت که این شرکت هر هفته میلیون‌ها بررسی دریافت می‌کند و به طور فعال 200 میلیون بررسی جعلی مشکوک را در سال 2022 مسدود کرده است. این شرکت از ترکیبی از محققان انسانی و هوش مصنوعی برای شناسایی نظرات جعلی استفاده می‌کند و از مدل‌های یادگیری ماشینی استفاده می‌کند که عواملی مانند تاریخچه بررسی کاربران، فعالیت ورود به سیستم و اتصال به حساب‌های دیگر را تجزیه و تحلیل می‌کند.

مسائل پیچیده تر این واقعیت است که بررسی های ایجاد شده توسط هوش مصنوعی کاملاً بر خلاف قوانین آمازون نیستند. یکی از سخنگویان آمازون گفت که این شرکت به مشتریان اجازه می دهد نظرات تولید شده توسط هوش مصنوعی را تا زمانی که معتبر باشند و دستورالعمل های خط مشی را نقض نکنند، پست کنند.

غول تجارت الکترونیک همچنین نشان داد که ممکن است به کمک نیاز داشته باشد. در ماه ژوئن، دارمش مهتا، معاون فروش شرکت‌های وابسته آمازون در سراسر جهان، در یک پست وبلاگ شرکت خواستار همکاری بیشتر بین بخش خصوصی، گروه‌های مصرف‌کننده و دولت‌ها برای مقابله با مشکل فزاینده بررسی‌های جعلی شد.

سوال مهم این است که آیا هوش مصنوعی تشخیصی می‌تواند از هوش مصنوعی که بررسی‌های جعلی ایجاد می‌کند، پیشی بگیرد؟ خلیفه گفت، اولین بررسی‌های جعلی تولید شده توسط هوش مصنوعی که توسط Fakespot شناسایی شد، چند ماه پیش از هند منتشر شد و توسط مزارع بررسی جعلی که به‌عنوان مزارع بررسی جعلی به فروش می‌رسند، تولید شد. هوش مصنوعی مولد این پتانسیل را دارد که کار آنها را بسیار آسان کند.

بووان دینگرا، استادیار علوم کامپیوتر در دانشگاه دوک، گفت که این قطعا آزمون سختی برای موفقیت این ابزارهای تشخیص است. زیرا اگر الگوها دقیقاً با روشی که مردم چیزی می نویسند مطابقت داشته باشد، واقعاً نمی توانید تفاوت بین این دو را تشخیص دهید. من انتظار ندارم به این زودی شاهد رد شدن آشکارسازهایی باشم که با رنگ های درخشان آزمایش را پشت سر بگذارند.

چندین مطالعه نشان داده‌اند که انسان‌ها در تشخیص نظرات نوشته‌شده توسط هوش مصنوعی مهارت خاصی ندارند. بسیاری از فن‌آوران و شرکت‌ها روی سیستم‌های کشف محتوای تولید شده توسط هوش مصنوعی کار می‌کنند، برخی مانند OpenAI، شرکت پشتیبان ChatGPT، حتی روی هوش مصنوعی کار می‌کنند تا هوش مصنوعی خود را کشف کنند.

بن ژائو، استاد علوم کامپیوتر در دانشگاه شیکاگو، گفت: تقریبا غیرممکن است که هوش مصنوعی با چالش نابود کردن بررسی های تولید شده توسط هوش مصنوعی مقابله کند، زیرا بررسی های ایجاد شده توسط ربات ها اغلب از بررسی های انسانی قابل تشخیص نیستند.

او گفت که این یک تعقیب گربه و موش است، اما در نهایت هیچ چیز اساسی وجود ندارد که محتوای تولید شده توسط هوش مصنوعی را متمایز کند. سیستم هایی را خواهید یافت که ادعا می کنند می توانند متن نوشته شده انسان را از متن ChatGPT تشخیص دهند. اما تکنیک های زیربنایی آنها در مقایسه با آنچه که آنها سعی در انجام آن دارند بسیار ساده است.

با توجه به اینکه 90٪ از مصرف کنندگان می گویند هنگام خرید آنلاین نظرات را می خوانند، این چشم اندازی است که برخی از حامیان مصرف کننده را نگران می کند.

ترزا موری، مدیر نظارت بر مصرف کنندگان گروه تحقیقاتی منافع عمومی ایالات متحده، گفت که این برای مصرف کنندگان وحشتناک است. در حال حاضر، هوش مصنوعی به کسب‌وکارهای سرکش کمک می‌کند تا در چند ثانیه نظرات واقعی و با صدایی واقعی را از بین هزاران نفر منتشر کنند.