بعد أزمة تايلور سويفت .. كل ما تحتاج معرفته عن الـ Deepfakes؟

انتشرت بسرعة صور جنسية صريحة لتايلور سويفت، والتي ربما تم إنشاؤها بواسطة الذكاء الاصطناعي، على وسائل التواصل الاجتماعي هذا الأسبوع، وشوهد بعضها ملايين المرات قبل منصات مثل “، مما أشعل الجدل حول تنظيم الذكاء الاصطناعي.

ما هي التزييفات العميقة؟

Deepfakes عبارة عن مقاطع فيديو أو صور مزيفة واقعية تم إنشاؤها باستخدام تقنية تبديل الوجه والصوت. غالبًا ما تنتشر على منصات التواصل الاجتماعي وقد أصبحت أفضل في تقليد صوت الشخص. لقد حدث هذا في وقت تكافح فيه أدوات التعرف على الصور التي يصنعها الذكاء الاصطناعي من أجل مواكبة ذلك. وهذا يجعل من الصعب على هذه المنصات تحديد مقاطع الفيديو التي بها مشكلات.

وقد حذر المشاهير متابعيهم من الوقوع في فخ التزييف العميق، كما أدى الوصول السهل إلى تقنية التصوير الفوتوغرافي بالذكاء الاصطناعي إلى إنشاء أداة جديدة لاستهداف النساء، مما يسمح لأي شخص تقريبًا بإنتاج ومشاركة صوره العارية.

قبل الانتخابات الرئاسية لعام 2024، يمنح الذكاء الاصطناعي أيضًا للسياسيين الأعذار لرفض الأدلة التي قد تكون ضارة باعتبارها مزيفة من إنتاج الذكاء الاصطناعي، ويحدث هذا في نفس الوقت الذي يتم فيه استخدام التزييف العميق الحقيقي للذكاء الاصطناعي لنشر المعلومات المضللة.

هل التزييف العميق غير قانوني؟

لا يوجد قانون فيدرالي من شأنه أن يجعل إنشاء التزييف العميق غير قانوني على المستوى الوطني، على الرغم من أن بعض المشرعين قدموا مشاريع قوانين للمحاولة، وفي الكونجرس، قدم النائب جوزيف موريل (DN.Y.) مشروع قانون يسمى قانون منع الصور الحميمة Deepfakes . وهو ما يقول إنه سيجعل إنشاء هذه الأنواع من مقاطع الفيديو جريمة فيدرالية.

وكتب موريل يوم الخميس على موقع X: “إن انتشار الصور الصريحة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لتايلور سويفت أمر مروع – ولسوء الحظ، يحدث هذا للنساء في كل مكان، كل يوم”.

وفي مؤتمر صحفي يوم الجمعة، قالت المتحدثة باسم البيت الأبيض كارين جان بيير إن إدارة بايدن “منزعجة” من انتشار الفيروس، وقالت إن شركات التواصل الاجتماعي يجب أن “تمنع انتشار المعلومات المضللة والصور الحميمة غير التوافقية لأشخاص حقيقيين”. “.

أصدر الرئيس بايدن أيضًا أمرًا تنفيذيًا في أكتوبر، قال بيان للبيت الأبيض إنه سيضع معايير وأفضل الممارسات للمحتوى الناتج عن الذكاء الاصطناعي. لكنها لا تصل إلى حد مطالبة الشركات بتسمية الصور ومقاطع الفيديو والصوت الناتجة عن الذكاء الاصطناعي.

وفي مؤتمر صحفي بالبيت الأبيض يوم 26 يناير، قالت المتحدثة باسم كارين جان بيير إن الإدارة “منزعجة” من انتشار صور تايلور سويفت التي تم إنشاؤها بواسطة الذكاء الاصطناعي، ويقول بعض المشرعين في الولاية إن الحكومة الفيدرالية كانت بطيئة في التصرف.

ردًا على ذلك، تحاول الولايات أن تقود الطريق في تنفيذ حواجز حماية ضد الذكاء الاصطناعي، مع اتخاذ بعض التدابير للحماية من استخدام التزييف العميق في الانتخابات، بما في ذلك تكساس وكاليفورنيا، وجورجيا وفيرجينيا، من بين ولايات أخرى، حظرت إنشاء مواد إباحية عميقة التزييف. دون رضاهم.

ومع ذلك، يرى البعض أن حظر جميع أنواع مقاطع الفيديو المزيفة العميقة يمكن أن ينتهك التعديل الأول للدستور، لأن مقاطع الفيديو هي “أشكال تعبير من الناحية الفنية”، وفقًا لمجلة برينستون لو ريفيو. وكتبت المجلة أن مقاطع الفيديو الإباحية المزيفة التي تم الحصول عليها بالتراضي لن تكون محمية. بموجب التعديل الأول، هناك استثناءات تشمل القذف والتشهير والألفاظ النابية.

ويحذر بعض الباحثين القانونيين أيضًا من أن صور الذكاء الاصطناعي المزيفة قد لا تندرج تحت حماية حقوق الطبع والنشر لأنها مستمدة من مجموعات بيانات تضم ملايين الصور.

كيفية اكتشاف التزييف العميق

بين ديسمبر 2018 وديسمبر 2020، تضاعف عدد مقاطع الفيديو المزيفة العميقة المكتشفة عبر الإنترنت كل ستة أشهر، وفقًا لشركة Sensity AI، التي تتعقب مقاطع الفيديو المزيفة العميقة. وجدت شركة Sensity أن ما لا يقل عن 90 بالمائة من مقاطع الفيديو كانت إباحية بدون موافقة، ومعظمها يتضمن… لقطات معدلة لنساء.

ووجد الباحثون أنه في عام 2023، تم تحميل أكثر من 143000 مقطع فيديو مع أكثر من 4.2 مليار مشاهدة على أكثر 40 موقعًا لمقاطع الفيديو المزيفة شيوعًا مع انتشار المواد الإباحية التي أنشأها الذكاء الاصطناعي في جميع أنحاء العالم.

ولكن مع تطور التكنولوجيا، أصبح اكتشاف التزييف العميق أكثر صعوبة على نحو متزايد. تمنع سياسات جوجل ظهور الصور الجنسية غير الرضائية في نتائج البحث، لكن التزييف العميق لا يزال من الممكن أن يظهر على محركات البحث، وقد أنشأت بعض الشركات أدوات لمحاولة اكتشاف ما إذا كان مقطع الفيديو… ربما تم إنشاؤه بواسطة الذكاء الاصطناعي، لكن هذه الأدوات ليست مثالية.

وجد الباحثون في معهد ماساتشوستس للتكنولوجيا أن البشر والآلات يمكنهم التعرف على الصور المزيفة بمعدل مماثل، وأن كلاهما يرتكب أخطاء عند القيام بذلك. واقترح هؤلاء الباحثون أن يولي البشر اهتمامًا وثيقًا لوجوه الأشخاص في الصور ومقاطع الفيديو التي يعتقدون أنها قد تكون مزيفة، بما في ذلك النظارات. الفرد وشعر الوجه ومعدل الرمش، كلها قد تبدو غير طبيعية.