گزارش تازه: هزاران ویدئو پورنوگرافی کودکان با هوشمصنوعی ساخته و در شبکههای اجتماعی پخش شده است
تاریخ انتشار
بر اساس این گزارش در بخش نظرات این ویدئوها، لینکهایی به گروههای فروش محتوای پورنوگرافی کودکان در تلگرام قرار داده شده است.
این ویدئوها که با استفاده از هوش مصنوعی ساخته شدهاند، با وجود آنکه طبق قوانین تیکتاک انتشار چنین محتوایی ممنوع است، میلیونها لایک و اشتراکگذاری دریافت کردهاند. گروه راستیآزمایی «مالدیتا» در اسپانیا اعلام کرده است که بیش از ۲۰ حساب کاربری در این پلتفرم شناسایی کرده که در مجموع بیش از ۵۲۰۰ ویدئو با محوریت دختران خردسال منتشر کردهاند. در این ویدئوها، کودکان با بیکینی، لباس فرم مدرسه یا لباسهای تنگ به تصویر کشیده شدهاند.
به گفته مالدیتا، این حسابها در مجموع بیش از ۵۵۰ هزار دنبالکننده دارند و شمار لایکهای آنها به حدود شش میلیون میرسد. بررسیها همچنین نشان میدهد که در بخش نظرات این ویدئوها، لینکهایی به پلتفرمهای خارجی از جمله گروههای تلگرامی وجود دارد که به فروش محتوای پورنوگرافی کودکان میپردازند. مالدیتا اعلام کرده ۱۲ گروه تلگرامی شناساییشده در این تحقیق را به پلیس اسپانیا گزارش داده است.
این گزارش همچنین میگوید گردانندگان این حسابها از راه فروش ویدئوها و تصاویر تولیدشده با هوش مصنوعی از طریق سرویس اشتراکی تیکتاک درآمد کسب میکنند. در این مدل، کاربران با پرداخت هزینه ماهانه به محتوای اختصاصی دسترسی پیدا میکنند و بر اساس قوانین تیکتاک حدود ۵۰ درصد از این درآمد به این پلتفرم میرسد.
این گزارش در شرایطی منتشر شده است که شماری از کشورها در نقاط مختلف جهان از جمله استرالیا، دانمارک و اتحادیه اروپا، یا محدودیتهایی برای استفاده کاربران زیر ۱۶ سال از شبکههای اجتماعی اعمال کردهاند یا در حال بررسی چنین اقداماتی با هدف حفظ امنیت کودکان و نوجوانان در فضای آنلاین هستند.
بر اساس مقررات تیکتاک، تولیدکنندگان محتوا موظفاند در صورتی که در ساخت یک ویدئو از هوش مصنوعی استفاده شده باشد، این موضوع را بهطور مشخص اعلام کنند. همچنین طبق دستورالعملهای این پلتفرم، محتوایی که «برای افراد مضر» تشخیص داده شود، میتواند از شبکه اجتماعی حذف شود.
با این حال، گزارش سازمان مالدیتا نشان میدهد که بیشتر ویدئوهای بررسیشده فاقد هرگونه نشانی بوده که استفاده از هوش مصنوعی در تولید آنها را مشخص کند. تنها در برخی موارد، ویدیوها دارای نشان «TikTok AI Alive» بودهاند؛ برچسبی که بهطور خودکار هنگام تبدیل تصاویر ثابت به ویدیو در داخل این پلتفرم اضافه میشود.
تلگرام و تیکتاک در بیانیهای مشترک به یورونیوز نکست اعلام کردهاند که «بهطور کامل متعهد» به جلوگیری از انتشار محتوای مرتبط با سوءاستفاده جنسی از کودکان در پلتفرمهای خود هستند. تلگرام میگوید تمامی فایلهای رسانهای بارگذاریشده در بخش عمومی این پیامرسان را اسکن کرده و آنها را با محتوای سوءاستفاده جنسی از کودکان که پیشتر از پلتفرم حذف شدهاند، تطبیق میدهد تا از انتشار مجدد چنین محتواهایی جلوگیری شود.
تلگرام اعلام کرده است که در سال ۲۰۲۵ بیش از ۹۰۹ هزار گروه و کانال را که حاوی محتوای سوءاستفاده جنسی از کودکان بودهاند، از این پیامرسان حذف کرده است.
تیکتاک نیز میگوید ۹۹ درصد از محتوایی که برای افراد زیر سن قانونی مضر تشخیص داده میشود، بهطور خودکار از پلتفرم حذف میشود و افزون بر آن، ۹۷ درصد از محتوای متخلف تولیدشده با هوش مصنوعی نیز بهصورت پیشگیرانه شناسایی و حذف شده است.
این پلتفرم تاکید کرده است که بهمحض شناسایی حسابهایی که محتوای جنسی صریح مرتبط با کودکان منتشر میکنند، بلافاصله برای محدودسازی یا مسدود کردن آنها اقدام میکند و موارد مربوطه را به مرکز ملی کودکان گمشده و مورد سوءاستفاده قرارگرفته آمریکا گزارش میدهد.
به اینستاگرام یورونیوز فارسی بپیوندید
تیکتاک همچنین به شبکه سیانان گفته است که تنها در فاصله ماههای آوریل تا ژوئن ۲۰۲۵، بیش از ۱۸۹ میلیون ویدئو را از این شبکه اجتماعی حذف کرده و بیش از ۱۰۸ میلیون حساب کاربری را مسدود کرده است.
