منظمة تحذر من استغلال المتحرشين بالأطفال لتقنيات الذكاء الاصطناعي

حذرت منظمة خيرية لمكافحة إساءة معاملة الأطفال من أنه يتم تشجيع متحرشين بالأطفال على استخدام تقنيات الذكاء الاصطناعي لتوليد صور عارية للأطفال، بهدف ابتزازهم لتزويد المعتدين بمحتوى إباحي أكثر تطرفا، بحسب تقرير لصحيفة «الغارديان».

وقالت مؤسسة مراقبة الإنترنت، إنها عثرت على دليل إرشادي على شبكة الإنترنت المظلم (Dark Web)، يتضمن قسما يحث المجرمين على استخدام برامج «التعرية» لإزالة الملابس من الصور التي يرسلها لهم الأطفال.

وأشارت المؤسسة التي تعمل على إيجاد وإزالة مواد الاعتداء الجنسي على الأطفال عبر الإنترنت، إلى انه يمكن استخدام الصورة التي تم التلاعب بها لابتزاز الطفل وإكراهه على إرسال مواد إباحية أكثر خطورة.

وقالت المؤسسة: «هذا هو الدليل الأول الذي رأيناه على أن الجناة ينصحون ويشجعون بعضهم بعضا على استخدام تقنيات الذكاء الاصطناعي لهذه الأغراض».

هل يمكن مراقبة مولدات صور الذكاء الاصطناعي لمنع ذلك؟

سبق أن حذرت الجمعية الخيرية، العام الماضي، من ارتفاع حالات الابتزاز الجنسي، حيث يتم التلاعب بالضحايا لإرسال صور جنسية لأنفسهم ثم يتم تهديدهم بنشر تلك الصور ما لم يدفعوا المال.

كما أشارت المؤسسة إلى نماذج أولى من استخدام الذكاء الاصطناعي لإنشاء محتوى إساءة «واقعي بشكل مذهل».

ويتباهى مؤلف الدليل الذي يقع في نحو 200 صفحة، بأنه «نجح في ابتزاز فتيات يبلغن من العمر 13 عاما لإرسال صور عارية عبر الإنترنت».

وقالت المؤسسة إنها أرسلت الدليل الذي عثرت عليه إلى وكالة الجرائم الوطنية في المملكة المتحدة.

والشهر الماضي، كشفت «الغارديان»، أن حزب العمال يدرس حظر الأدوات التقنية التي تسمح للمستخدمين بإنشاء صور للأشخاص من دون ملابس.

وذكرت المؤسسة الخيرية في تقريرها السنوي، أن عام 2023 كان «أكثر الأعوام تطرفا على الإطلاق».

وأشارت إلى أنها عثرت على أكثر من 275 ألف صفحة ويب لمحتويات تتضمن اعتداءات جنسية على الأطفال العام الماضي، وهو أعلى رقم تسجله، وحددت كمية قياسية من المواد التي تندرج ضمن «الفئة أ»، والتي يمكن أن تشمل أشد الصور وحشية.

ولفتت المؤسسة إلى أن أكثر من 62 ألف صفحة تحتوي على محتوى من «الفئة أ»، مقارنة بـ 51 ألفاً في العام السابق، 2022.

وكشفت المؤسسة أنها عثرت على 2401 صورة لمواد اعتداء جنسي على الأطفال مُنتَجة ذاتيا، وهي المواد التي يتم فيها استغلال الضحايا أو تهديدهم لتصوير الانتهاكات الجنسية بحق أنفسهم، وقد تم إنتاج هذه الصور من قبل أطفال تتراوح أعمارهم بين 3 و6 سنوات. وأفاد محللون بأنهم لاحظوا وقوع هذه الاعتداءات في بيئات منزلية مثل غرف النوم والمطابخ.

وقالت الرئيسة التنفيذية للمؤسسة سوزي هارغريفز، إن المجرمين الانتهازيين الذين يحاولون التلاعب بالأطفال «ليسوا تهديدا بعيدا».

وأكدت أنه «إذا كان الأطفال دون سن السادسة مستهدفين بهذه الطريقة، فنحن بحاجة إلى إجراء محادثات مناسبة لأعمارهم الآن للتأكد من أنهم يعرفون كيفية اكتشاف المخاطر».

وأوضحت هارغريفز أن قانون سلامة الإنترنت، الذي تم إقراره العام الماضي ويفرض واجب الرعاية على شركات وسائل التواصل الاجتماعي لحماية الأطفال يحتاج لأن يكون فعالا.

من جهته، قال توم توجندهات، وزير الدولة للأمن ببريطانيا، إن على الآباء أن يتحدثوا مع أطفالهم حول استخدام وسائل التواصل الاجتماعي.

وحذر من أن «المنصات التي تفترض أنها آمنة قد تشكل خطرا»، مضيفا أن على شركات التكنولوجيا تقديم ضمانات أقوى لمنع الإساءة.

ووفقا للأبحاث التي نشرتها جهة تنظيم الاتصالات البريطانية «أوفكوم» الأسبوع الماضي، فإن ربع الأطفال الذين تتراوح أعمارهم بين 3 و4 سنوات يمتلكون هاتفا جوالا، ونصف الأطفال دون سن 13 عاما لديهم حسابات على وسائل التواصل الاجتماعي.

وتستعد الحكومة لإطلاق استشارة في الأسابيع المقبلة ستتضمن مقترحات لحظر بيع الهواتف الذكية للأطفال دون سن 16 عاما ورفع الحد الأدنى لسن مواقع التواصل الاجتماعي من 13 إلى 16 عاما، وفق «الغارديان».