الفشل الفطري في الحد من انتشار العديد من صور المشاهير من الذكاء الاصطناعي على Facebook

لقد أزالت Meta أكثر من عشرة صور احتيالية ، جنسيًا للممثلات والرياضيات الشهيرة بعد إجراء تحقيقات أخبار CBS AI-صور DeepFake التي تم تعويضها على منصة الشركة على Facebook.

تم تقاسم العشرات من الصور المزيفة والجنسية للغاية للجهات الفاعلة ميراندا كوسجروف وجانيت ماكوردي وأريانا غراندي وسكارليت جوهانسون ونجمة التنس السابقة ماريا شارابوفا على نطاق واسع من قبل العديد من حسابات الفيسبوك ، وحصلت على مئات الآلاف من الإعجابات والعديد من عمليات الراحة على المنصة.

وقال إرين لوغان المتحدث باسم Meta لـ CBS News: “لقد أزلنا هذه الصور لانتهاك سياساتنا وسنواصل مراقبة الوظائف الأخرى التي تنتهك. هذا تحد على مستوى الصناعة ، ونحن نعمل باستمرار على تحسين تكنولوجيا الكشف والإنفاذ لدينا”. في بيان أرسل بريدًا إلكترونيًا يوم الجمعة.

أظهر تحليل لأكثر من عشرة من هذه الصور من قبل Defender الواقع ، وهو منصة تعمل على اكتشاف الوسائط التي تم إنشاؤها من الذكاء الاصطناعى ، أن العديد من الصور كانت صورًا عميقة-مع أجسام من الذكاء الاصطناع صور حقيقية. من المحتمل أن يتم إنشاء عدد قليل من الصور باستخدام أدوات خياطة الصور التي لا تشمل الذكاء الاصطناعي ، وفقًا لتحليل Reality Defender.

وقال بن كولمان ، المؤسس المشارك والمدير التنفيذي لشركة Reality Defender يوم الأحد: “لا تتمتع جميع المواد الإباحية Deepfake تقريبًا بموافقة الموضوع”. “هذا المحتوى ينمو بمعدل مذهل ، خاصة وأن التدابير الحالية لوقف هذا المحتوى نادراً ما يتم تنفيذها.”

طلبت CBS News تعليقات من ميراندا كوسجروف وجانيت ماكوردي وأريانا غراندي وماريا شارابوفا في هذه القصة. رفض يوهانسون إصدار أي تعليق ، وفقًا لممثل للممثل.

بموجب سياسة ميتا البلطجة والتحرش ، تحظر الشركة “فوتوشوب أو رسومات جنسية مهينة” على منصاتها. تمنع الشركة أيضًا العري البالغين ، والنشاط الجنسي ، والاستغلال الجنسي للبالغين ، ويهدف لوائحها إلى منع المستخدمين من مشاركة أو تهديد بمشاركة الصور الحميمة غير التوافقية. قامت Meta أيضًا بطرح استخدام ملصقات “AI Info” لتمييز المحتوى بوضوح الذي يتم معالجته AI.

لكن تبقى الأسئلة حول فعالية شرطة شركة التكنولوجيا لمثل هذا المحتوى. عثرت CBS News على عشرات الصور التي تم إنشاؤها من الذكاء الاصطناعى ، والتي لا تزال متاحة للجمهور و McCurdy متاحًا للجمهور على Facebook حتى بعد المشاركة الواسعة في هذا المحتوى ، في انتهاك لشروط الشركة ، تم وضع علامة على Meta.

إحدى هذه الصور العميقة لـ Cosgrave التي كانت لا تزال خلال عطلة نهاية الأسبوع قد تم مشاركتها من خلال حساب مع 2.8 مليون متابع.

الممثلان – كل من نجمتين سابقان في برنامج Nickelodeon Show Icarly ، المملوكة لشركة CBS News’s Paramount Global – هما الأكثر استهدافًا لمحتوى DeepFake ، استنادًا إلى صور الأرقام العامة التي حللتها CBS News.

وقال مجلس الإشراف في Meta ، وهي هيئة شبه مستقلة تتكون من خبراء في مجال حقوق الإنسان وحرية التعبير ، ويقدم توصيات لاعتدال المحتوى على منصات Meta ، CBS News في بيان عبر البريد الإلكتروني أن اللوائح الحالية للشركة حول محتوى DeepFake جنسي غير كافية.

استشهد مجلس الإشراف بالتوصيات التي قدمها إلى META على مدار العام الماضي ، بما في ذلك حث الشركة على توضيح قواعدها من خلال تحديث حظرها ضد “Photoshop الجنسي المهون” لتشمل على وجه التحديد كلمة “غير متناسقة” وتشمل معالجة الصور الأخرى على وجه التحديد تقنيات مثل الذكاء الاصطناعي.

كما أوصى المجلس بأن يطوى Meta حظره على “Photoshop الجنسي المهين” في لوائح الاستغلال الجنسي للبالغين للشركة ، لذلك سيتم تطبيق معتدلة هذا المحتوى بشكل أكثر صرامة.

سأل Meta إلى الإرشادات على موقع الشفافية على موقع الشفافية ، الذي يوضح أن الشركة قد رفضت حتى الآن أن الشركة قد رفضت حتى الآن الاقتراحات ، على الرغم من أن Meta لاحظت في بيانها أنها لا تزال تدرس طرقًا للإشارة إلى عدم الموافقة في تم إنشاؤها من الذكاء الاصطناعي. وقال ميتا أيضًا إنها تفكر في إصلاحات لسياسات الاستغلال الجنسي للبالغين ، “لالتقاط روح” توصيات المجلس.

“لقد أوضح مجلس الإشراف أن الصور الحميمة غير المتناظرة هي انتهاك خطير للخصوصية والكرامة الشخصية ، وإيذاء النساء والفتيات بشكل غير متناسب. وقال مايكل ماكونيل ، الرئيس المشارك لمجلس الإشراف ، لـ CBS News يوم الجمعة ، العواقب “.

وقال ماكونيل: “يراقب مجلس الإدارة بنشاط استجابة Meta وسيواصل الضغط من أجل الحصول على ضمانات أقوى ، وإنفاذ أسرع ، ومساءلة أكبر”.

Meta ليست الشركة الوحيدة لوسائل التواصل الاجتماعي التي تواجه مسألة محتوى DeepFake على نطاق واسع.

في العام الماضي ، قامت منصة Elon Musk X بمنع عمليات البحث المتعلقة بـ Taylor Swift مؤقتًا بعد صور إباحية مزيفة تم إنشاؤها من الذكاء الاصطناعى في تشابه المغني على نطاق واسع على المنصة وحصل على ملايين من المشاهدات والانطباعات.

وقال فريق السلامة في المنصة في منشور في ذلك الوقت: “إن نشر صور عري غير متساو (NCN) محظور بشكل صارم على X ولدينا سياسة تسامح صفري تجاه هذا المحتوى”.

وجدت دراسة نشرتها حكومة المملكة المتحدة في وقت سابق من هذا الشهر أن عدد صور Deepfake على منصات التواصل الاجتماعي تتوسع بمعدل سريع ، مع توقع الحكومة أن يتم تقاسم 8 ملايين من Deepfakes هذا العام ، ارتفاعًا من 500000 في عام 2023.