ينظر الاتحاد الأوروبي بجدية بالغة في مسألة تطبيق “جروك” التابع للملياردير الأمريكي إيلون ماسك بعد أن قام برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي بإنشاء صور جنسية لأشخاص من بينهم قاصرون على منصة التواصل الاجتماعي “إكس”.

قال المتحدث باسم المفوضية، توماس رينييه، في مؤتمر صحفي يوم الاثنين: “نحن على علم بأن شركة إكس أو جروك تقدم الآن وضعًا مثيرًا يعرض محتوى جنسيًا صريحًا مع بعض المخرجات المُولّدة بصور تُشبه صور الأطفال”.

وفق المتحدث باسم المفوضية “أطلقت جروك إعدادًا العام الماضي لإنتاج مواد إيحائية ولا يعد هذا أمرًا مثيرًا بل هو غير قانوني”.

يطالب مستخدمو تطبيق إكس شركة Grok بإزالة الملابس رقميًا من الصور – غالبًا صور النساء – بحيث تبدو وكأنها ترتدي ملابس داخلية أو بيكيني فقط.

وقد أثار انتشار هذه الصور على منصة التواصل الاجتماعي الشهيرة قلق الجهات التنظيمية والمدافعين عن السلامة على الإنترنت في جميع أنحاء العالم، وكان من بين من نددوا بهذه المنشورات مسؤولون من الهند وبريطانيا وفرنسا، وفق بلومبرج.

لم ترد شركة XAI التي تدير منصتي إكس وجروك طلب التعليق. وقال إيلون ماسك في منشور على منصة إكس امس الأحد “المنصة تتخذ إجراءات ضد المحتوى غير القانوني عن طريق حذفه وتعليق الحسابات نهائيًا والتعاون مع المسؤولين عند الضرورة.

وأضاف في منشوره: “أي شخص يستخدم جروك لإنشاء محتوى غير قانوني سيواجه نفس العواقب التي يواجهها من يقوم بتحميل محتوى غير قانوني”.

بينما تحظر معظم نماذج الذكاء الاصطناعي السائدة الصور والفيديوهات الجنسية، قدّمت xAI نظام جروك كنموذج أكثر تساهلًا.

يسمح النظام بعرض صور لعُري جزئي للبالغين وصور ذات إيحاءات جنسية، حتى مع حظره للمواد الإباحية الصريحة التي تتضمن صورًا لأشخاص حقيقيين ومحتوى جنسيًا يتضمن قاصرين.

في بعض الدول، بما فيها الولايات المتحدة والمملكة المتحدة، يُعدّ نشر صور مُزيفة حميمة مُولّدة بالذكاء الاصطناعي لأشخاص دون موافقتهم أمرًا غير قانوني.

يمثل وضع هذه الفروقات وإنفاذها اختبارًا حاسمًا لأنظمة الأمان المُدمجة في أدوات الذكاء الاصطناعي المُولّدة للصور.

وقد أثار الفشل الواضح لشركة xAI في تطبيق ضوابط فعالة إدانة من الجهات التنظيمية في جميع أنحاء العالم.

أعلنت هيئة تنظيم الإعلام البريطانية (أوفكوم) يوم الاثنين أنها على علم بـ “مخاوف جدية” بشأن ميزات تطبيق جروك، وأنها أجرت “اتصالاً عاجلاً مع شركتي X و xAI لفهم الخطوات التي اتخذتاها للامتثال لواجباتهما القانونية لحماية المستخدمين في المملكة المتحدة“.

اتهمت الحكومة الفرنسية شركة جروك يوم الجمعة بإنتاج محتوى جنسي “غير قانوني بشكل واضح” على منصة إكس دون موافقة المستخدمين، وأشارت إلى أن الأمر قد ينتهك قانون الخدمات الرقمية للاتحاد الأوروبي. وينص هذا القانون على إلزام المنصات الكبيرة بالحد من مخاطر انتشار المحتوى غير القانوني.

كما طالبت وزارة تكنولوجيا المعلومات الهندية بإجراء مراجعة شاملة لميزات الأمان في تطبيق Grok، وقالت السلطات الماليزية إنها تحقق في الأمر بعد شكاوى بشأن المحتوى “غير اللائق” الذي يقدمه تطبيق جروك.

كانت شركة إكس التابعة لإيلون ماسك تخضع بالفعل لتحقيق بموجب قانون الخدمات الرقمية للاتحاد الأوروبي.

في ديسمبر الماضي، غُرِّمت إكس بمبلغ 120 مليون يورو (140 مليون دولار) لمخالفات تتعلق بالامتثال – وهي أول عقوبة تُفرض بموجب قانون مراقبة المحتوى المثير للجدل.

وقد أثار تركيز الاتحاد الأوروبي على شركات التكنولوجيا الأمريكية مثل إكس انتقادات حادة من إدارة الرئيس الأمريكي دونالد ترامب، التي زعمت أن الجهات التنظيمية الأوروبية تمارس الرقابة على حرية التعبير.

لمتابعة أخر الأخبار والتحليلات من إيكونومي بلس عبر واتس اب اضغط هنا