Discord سرورهای دوستیابی نوجوانان، جنسی سازی کودکان را ممنوع می کند

رئیس اعتماد و ایمنی Discord در سان فرانسیسکو روز سه‌شنبه گفت که پلتفرم چت محبوب در حال تغییر و شفاف‌سازی سیاست‌های ایمنی کودکان خود است، از جمله سیاست‌های مربوط به قرار ملاقات با نوجوانان و مواد سوء استفاده جنسی از کودکان توسط هوش مصنوعی، اعلامیه‌ای که پس از تحقیقات NBC News در ماه گذشته منتشر شد. به ایمنی کودک روی سکو.

جان ردگریو، معاون اعتماد و ایمنی Discord، گفت که Discord در حال گسترش سیاست‌های خود برای رسیدگی به هوش مصنوعی مولد است. که ممکن است محتوای جعلی ایجاد کند و جنسی سازی کودکان، به طور خاص ممنوع کردن تصاویر هوش مصنوعی از سوء استفاده جنسی از کودکان و حتی جنسی سازی کودکان در چت های متنی. واشنگتن پست ماه گذشته گزارش داد که تصاویر جنسی کودک توسط هوش مصنوعی در ماه های اخیر در سراسر اینترنت پخش شده است.

Discord یک مرکز برای جوامعی است که به ایجاد تصاویر هوش مصنوعی مولد اختصاص داده شده است و میزبان چندین ادغام است که به کاربران امکان می دهد آنها را تولید کنند. تصاویر با مضمون جنسی اغلب در این سرورها ایجاد می شوند.

یکی از سخنگویان دیسکورد گفت که به‌روزرسانی‌های خط‌مشی از سه‌ماهه آخر سال 2021 انجام شده است، بخشی از تلاشی که شامل مشاوره با کارشناسان ایمنی کودکان بود و با گزارش اخیر ارتباطی نداشت.

این شرکت در یک پست وبلاگی با اعلام تغییرات اعلام کرد که خط‌مشی به‌روز شده در مورد مواد سوء استفاده جنسی از کودکان شامل هر گونه محتوای متنی یا رسانه‌ای که کودکان را جنسی می‌کند، از جمله مطالب کارتونی، واقعی عکس‌برداری و سواستفاده جنسی از کودکان توسط هوش مصنوعی را شامل می‌شود. هدف این به روز رسانی این است که اطمینان حاصل شود که جنسی سازی کودکان در هر زمینه ای توسط بازیگران بد عادی نمی شود.

ردگریو همچنین گفت که این شرکت در حال ارائه تغییرات و شفاف‌سازی‌هایی برای ممنوعیت قرار ملاقات با نوجوانان است که کارشناسان قبلاً به NBC News گفته‌اند فرصتی قابل توجه برای بزرگسالانی است که به دنبال استثمار یا پرورش کودکان هستند.

Discord در پست وبلاگ خود نوشت: در این زمینه، ما همچنین معتقدیم که قرار آنلاین می تواند منجر به به خطر انداختن خود شود. بر اساس این سیاست، سرورهای دوستیابی نوجوانان در این پلتفرم ممنوع است و ما با کاربرانی که این رفتار را انجام دهند، اقدام خواهیم کرد.

ردگریو در ارائه‌ای در TrustCon، کنفرانسی برای متخصصان اعتماد و ایمنی که در سانفرانسیسکو برگزار شد، گفت که این شرکت چنین روابط آنلاین را یک خطر بزرگ برای جوانان می‌داند.

او گفت: «ما دیگر اجازه ملاقات با نوجوانان را در پلتفرم خود نخواهیم داد زیرا می دانیم که تعقیب نوجوانان یک عامل مهم آسیب است.

دستورالعمل Discord قبلاً گفته بود که این شرکت “فضاهایی را که دوستیابی بین نوجوانان را تشویق یا تسهیل می کند را حذف خواهد کرد.” ماه گذشته، تحقیقات NBC News صدها سرور Discord را پیدا کرد که به نظر می‌رسید مواد آزار کودکان را تبلیغ می‌کردند و برخی از سرورهایی که خود را به عنوان سرورهای دوستیابی نوجوان یا کودک تبلیغ می‌کردند و درخواست تصاویر برهنه از افراد زیر سن قانونی داشتند. علاوه بر این، NBC News در طول شش سال گذشته 35 مورد را شناسایی کرده است که در آن افراد بزرگسال به اتهام آدم ربایی، تعقیب یا تجاوز جنسی که گفته می شود مربوط به ارتباطات در Discord بوده، تحت پیگرد قانونی قرار گرفته اند.

NBC News 165 مورد دیگر شامل چهار گروه مجرمانه را شناسایی کرد که در آن بزرگسالان به اتهام انتقال یا دریافت مطالب سوء استفاده جنسی از کودکان از طریق Discord یا استفاده از آن برای اخاذی از کودکان برای ارسال تصاویر گرافیکی جنسی از خود تحت پیگرد قانونی قرار گرفتند. اخاذی

ردگریو خاطرنشان کرد که این شرکت همچنین سیاست خود را برای منع موارد مراقبت از نوجوانان مسن تر از نوجوانان جوان تر به روز کرد. در پست وبلاگ، این شرکت گفت: «نوجوانان مسن‌تری که در نظافت یک نوجوان جوان‌تر شرکت می‌کنند، بررسی می‌شوند و طبق خط‌مشی رفتار جنسی و نظافت نامناسب کودکان ما اقداماتی انجام می‌شود.»

به عنوان بخشی از به روز رسانی سیاست های خود، Discord از انتشار ابزارهای کنترل والدین بیشتری خبر داده است. در یک ابزار جدید Family Center، والدین و فرزندان می‌توانند انتخاب کنند والدین به‌روزرسانی‌هایی درباره فعالیت‌های فرزندانشان در این پلتفرم دریافت کنند.