اینستاگرام به دلیل اینکه به کاربران اجازه می دهد تصاویر سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی را تبلیغ کنند، با شکایت قضایی مواجه شده است.
این به دنبال تحقیقات پلیسی است که نشان می‌دهد شکارچیان از اینستاگرام برای تبلیغ وب‌سایت‌هایی استفاده می‌کنند که مطالب توهین‌آمیز می‌فروشند که تنها با دو کلیک فاصله دارد.
در جایی که کمپین‌ها آن را «مرز جدید وحشت» می‌نامند، پدوفیل‌ها از نرم‌افزار هوش مصنوعی برای ایجاد هزاران تصویر جنسی از کودکان استفاده می‌کنند که با وقاحت در اینستاگرام به فروش می‌رسانند و به کاربران می‌گویند برای خرید مطالب ناشایست بر روی سایت‌هایشان کلیک کنند.
شرکت حقوقی Schillings به نمایندگی از بنیاد خیریه کودکان 5Rights، علیه غول رسانه‌های اجتماعی متا که مالک اینستاگرام، فیس‌بوک و واتس‌اپ است، یک «دعوی اساسی» راه‌اندازی کرده است.
این ادعا می‌کند که اینستاگرام با انتشار محتوایی که هم بزرگسالان و هم کودکان را در معرض خطر قرار می‌دهد، «در استثمار آنلاین از کودکان شریک است».
به یک پرونده پلیس شواهد اشاره می کند که “به وضوح نشان می دهد که تصاویر جنسی کودکان توسط هوش مصنوعی در اینستاگرام گسترده است و اینستاگرام کاربران را به محتوای غیرقانونی متصل می کند.”
بارونس بیبان کیدران، بنیانگذار بنیاد 5Rights، که از یک محیط دیجیتال امن برای کودکان دفاع می کند، متعهد شد که اگر متا اقدامی انجام ندهد، به دادگاه می کشد و هشدار داد: “شروع به کار در پلتفرم های متا بسیار آسان است و دو کلیک بعد شما می توانید به دادگاه مراجعه کنید. در جهنم هستند.”
گزارش جداگانه‌ای امروز نشان می‌دهد که گزارش‌های عمومی از تصاویر خشونت‌آمیز تولید شده توسط هوش مصنوعی در وب عمومی در عرض تنها شش ماه چهار برابر شده است، به دنبال یک روند جدید وحشتناک که در آن مجرمان عکس‌های کودکان بی‌گناه را از رسانه‌های اجتماعی می‌دزدند و از نرم‌افزاری برای “آشکار کردن” استفاده می‌کنند. . » قربانیان، تصاویر را دستکاری می کنند تا خیالات پیچ خورده خود را برآورده کنند.
گزارشی از سوی بنیاد دیده بان اینترنت هشدار داد که بریتانیا در «نقطه اوج وحشتناکی» قرار دارد، زیرا ابزارهای هوش مصنوعی اکنون قادر به تولید تصاویر و ویدیوهای واقعی هستند به طوری که تشخیص واقعیت از جعلی غیرممکن است و این امر کار را برای افسران دشوارتر می کند. نجات قربانیان
بارونس کیدرون گفت: “با دیدن این تصاویر جنسی باعث شد که بخواهم گریه کنم. آنها دخترانی بسیار جوان با لباس های کم پوش در حالت های آشکار هستند. مواد سوء استفاده جنسی از کودکان با هوش مصنوعی مرز جدیدی از وحشت ایجاد می کند و اینستاگرام مردم را به آنجا می آورد و به کاربران امکان دسترسی به مطالب سوء استفاده جنسی از کودکان را می دهد.
“کودکان مورد سوء استفاده قرار می گیرند و متا به ایجاد اشتها برای این مواد کمک می کند. اگر کسب و کار شما این است که مردم را وادار به کلیک کردن کنید و به میمون چیزی را که کلیک می کنند نمی دهید، این کوری عمدی است زیرا انگیزه اصلی کسب درآمد است.
هنگامی که افسران پلیس مخفی در ماه دسامبر شروع به تحقیق کردند، ده ها حساب کاربری با نام هایی مانند “خم” پیدا کردند که تصاویر جنسی کودکان خردسال را که توسط هوش مصنوعی تولید شده بود نشان می داد.
در کنار عکس‌های نیمه برهنه، پیوندهایی به وب‌سایت‌های پرداخت به ازای مشاهده و کانال‌های پیام‌رسان فوری تلگرام با تصاویری از تجاوز به کودکان واقعی وجود داشت.
در طول تحقیقات شش ماهه، الگوریتم‌های اینستاگرام حساب‌های مشابه بسیاری را به افسران توصیه کردند و این نگرانی را ایجاد کردند که کودکانی که از این سایت‌ها بازدید می‌کنند در چنگ باندهای کودک آزاری بیفتند.
شیلینگ گفت که باز بودن مطالب آزار کودکان را «مشروعیت می‌بخشد» زیرا پدوفیل‌ها می‌توانند بدون پنهان شدن در تاریک وب در دید آشکار با هم ارتباط برقرار کنند.
برای درک نحوه کار، بارونس کیدران به پلیس اجازه دسترسی به عکس های او را داد و آنها توانستند نشان دهند که چگونه هوش مصنوعی تصویری از هشت سال سوء استفاده او ایجاد کرده است.
او گفت: “دیدن آن تصاویر وحشتناک بود، من دیگر نمی توانم به عکس های خودم در کودکی نگاه کنم و آن تصاویر را نبینم.”
در ماه ژانویه، افسران چهار پروفایل مجرم را از طریق ویژگی پیام در اپلیکیشن اینستاگرام علامت گذاری کردند، اما هیچ اتفاقی نیفتاد.
پلیس سپس درخواست رسمی برای اطلاعات در مورد حساب ها کرد، اما هیچ پاسخی از متا دریافت نکرد.
ماه گذشته، شیلینگ پرونده ای از شواهد را ارائه کرد که خواستار تحقیقات مستقل بود.
متا تا زمانی که میل با آن تماس گرفت و مدعی شد نامه را دریافت نکرده است قادر به پاسخگویی نبود.
او از آن زمان همه حساب ها را حذف کرده است. متا گفت: «همه حساب‌های متخلف اوایل امسال توسط ما حذف شدند. چه یک هوش مصنوعی یا یک شخص واقعی، بهره کشی از کودکان به هر شکلی وحشتناک است و ما قوانین روشنی علیه آن داریم.
«ما مرتباً موارد آشکار چنین محتوایی را به مرکز ملی کودکان گمشده و استثمار شده گزارش می‌کنیم.
ما همچنین راهنمایی هایی را با سایر شرکت ها برای مبارزه با سوء استفاده از پلتفرم های مختلف به اشتراک می گذاریم و از مجریان قانون در تلاش های آنها برای دستگیری و تعقیب مجرمان حمایت می کنیم.”