توجهت عضو الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب، خديجة الزومي، بسؤال كتابي إلى وزيرة الانتقال الرقمي وإصلاح الإدارة، نبهت فيه إلى ما وصفته بالمخاطر المتزايدة لبعض تطبيقات الذكاء الاصطناعي على النساء والقاصرات، وما قد يترتب عنها من انتهاكات جسيمة للحقوق الأساسية وتهديد مباشر للكرامة الإنسانية.
وأبرزت البرلمانية، في سؤالها الكتابي، أن الذكاء الاصطناعي، رغم ما يتيحه من إمكانات تقنية هائلة ويساهم به في تطوير الحياة الرقمية اليومية، أفرز في الآونة الأخيرة ممارسات مقلقة تمس بشكل مباشر حقوق الأفراد، وعلى رأسها الحق في الكرامة الإنسانية، والحق في الصورة، وحماية الحياة الخاصة.
وسجلت الزومي أن بعض تطبيقات الذكاء الاصطناعي التوليدي، من قبيل تطبيقات إنتاج الصور والمحتوى، تورطت في إنشاء صور إباحية ومشينة لأشخاص حقيقيين دون علمهم أو موافقتهم، مستهدفة بشكل خاص النساء والقاصرات، معتبرة أن هذه الممارسات تمثل شكلاً جديداً وخطيراً من العنف الرقمي القائم على النوع الاجتماعي، لما تحمله من آثار نفسية واجتماعية خطيرة قد تمتد إلى تفكيك الأسر وتدمير مستقبل الضحايا.
وأشار السؤال البرلماني إلى أن خطورة هذه الظواهر دفعت عدداً من الدول إلى فتح تحقيقات رسمية واتخاذ إجراءات تقييدية أو حظر مؤقت لبعض التطبيقات، بعد ثبوت قصور الضوابط التقنية والأخلاقية في منع إنتاج وتداول محتوى مزيف يُستعمل أحياناً في التشهير والابتزاز والضغط النفسي.
وفي هذا السياق، تساءلت عضو الفريق الاستقلالي عن مدى انتشار استعمال هذه التطبيقات داخل الفضاء الرقمي المغربي، والمخاطر التي تنطوي عليها في ما يخص المساس بكرامة النساء وأمن الفتيات القاصرات، مطالبة الوزيرة بالكشف عن تقييم وزارتها لخطورة بعض تطبيقات الذكاء الاصطناعي التوليدي التي تُستعمل في إنتاج محتوى إباحي مزيف.
كما دعت الزومي إلى توضيح التدابير الوقائية والتشريعية والتقنية التي تعتزم الحكومة اتخاذها لحماية النساء والقاصرات من هذه الممارسات، وكذا عن نية السلطة التنفيذية في تقنين استعمال الذكاء الاصطناعي أو تحيين الإطار القانوني الجاري به العمل، مع تعزيز التنسيق بين القطاعات المعنية للتصدي لهذه الانتهاكات والحد من آثارها الاجتماعية والنفسية.
ويأتي هذا السؤال البرلماني في سياق وطني ودولي متزايد النقاش حول أخلاقيات الذكاء الاصطناعي، وضرورة الموازنة بين تشجيع الابتكار التكنولوجي وضمان حماية الحقوق والحريات الأساسية في الفضاء الرقمي.
