5 مرات خدعت منظمة العفو الدولية الإنترنت في عام 2023

يشبه التزييف العميق طفرات الفيروسات ، حيث أن أفضلها أو حتى “أكثرها فاعلية” مقلقة للغاية. بعد أن أصبح الذكاء الاصطناعي التوليدي سائدًا في العام الماضي مع الإصدار الواسع لروبوتات الدردشة النصية ، اندلعت وسائل التواصل الاجتماعي مع الصور والأصوات التي تم إنشاؤها بواسطة الخوارزميات لتتماشى معها. لذا ، بينما استمر الذكاء الاصطناعي في تحدي الانتصارات ، كان الخاسر هو قبضة الجميع على الواقع.

على الجانب الإيجابي ، بعض التزييف العميق لا يبدو(يفتح في علامة تبويب جديدة) كانت تهدف إلى خداع أي شخص. بل إن البعض غريب الاطوار بصراحة(يفتح في علامة تبويب جديدة). لسوء الحظ ، فإن تلك التي تنتشر فيروسية تقع في منطقة رمادية من الناحية الأخلاقية.

هذه هي المزيفات العميقة من النصف الأول من عام 2023 التي أحدثت تناثرًا لأن زيفها العميق ليس مزيفًا بدرجة كافية للراحة. استمتع بها ، ولا تتردد في مشاركتها كترفيه ، ولكن من فضلك لا تستخدمها لنشر الخدع. العالم لديه أكاذيب أكثر من كافية فيه بالفعل.

1. النسخة الوهمية لاعتقال ترامب

بينما كان العالم ينتظر اعتقال الرئيس السابق دونالد ترامب ، قرر الصحفي ومؤسس بيلنجكات إليوت هيغينز أن يكون مبدعًا. باستخدام مولد الصور بالذكاء الاصطناعي Midjourney ، ابتكر هيغينز صورًا لترامب يقاوم الاعتقال بعنف ، وهو يركض من شرطة نيويورك ، ويقوم بأنشطة مختلفة في السجن بينما كان يرتدي بذلة برتقالية.

ربما تم حذف التغريدة
(يفتح في علامة تبويب جديدة)

في الواقع ، سلم ترامب نفسه إلى سلطات إنفاذ القانون في 20 أبريل ، وسمح لمكتب المدعي العام لمنطقة مانهاتن بالتنازل عن الصورة. لذا فإن أولئك الذين يأملون في رؤية نسخة حقيقية من خيال الذكاء الاصطناعي أصيبوا بخيبة أمل على الأرجح بسبب الواقع غير الدرامي للمتهم.

2. “بابا بالنسياغا” الذي كان أفضل من أن يكون حقيقيًا

عندما انتشرت صورة البابا فرانسيس مرتديًا سترة بيضاء ضخمة منفوخة في مارس ، كان الإنترنت مسرورًا لرؤية ترقية البابا المبتذلة للملابس. لسوء الحظ ، كانت مزيفة. كانت صورة البابا في البخاخ على طراز بالنسياغا مخلوق(يفتح في علامة تبويب جديدة) بواسطة عامل بناء يبلغ من العمر 31 عامًا باستخدام Midjourney.

ربما تم حذف التغريدة
(يفتح في علامة تبويب جديدة)

لكن الصورة كانت واقعية بما يكفي لخداع الكثير من الناس ، بما في ذلك كريسي تيجن غرد(يفتح في علامة تبويب جديدة)، “اعتقدت أن سترة البابا المنتفخة كانت حقيقية ولم أفكر فيها مرة أخرى. لا يمكنني النجاة من مستقبل التكنولوجيا.” نسمعك يا كريسي.

3. هاري بوتر يخدم بالنسياغا (وليس) الواقعية

على ما يبدو ، فإن الذكاء الاصطناعي التوليدي وبالنسياغا يسيران جنبًا إلى جنب ، حيث تمت الإشارة إلى دار الأزياء مرتين في نفس الشهر. لكن هذه المرة ، أعطى Midjourney شخصيات هاري بوتر علاج Balenciaga. “أنت بالنسياغا ، هاري” ، هذا ما قاله هاجريد المشتعل لهاري بوتر مع وجنتيه الغائرتين وعبوس عابس فوق موسيقى النشوة المظلمة.

ربما تم حذف التغريدة
(يفتح في علامة تبويب جديدة)

في الفيديو ، يتم تحطيم جميع الشخصيات الرئيسية بشكل ما ، مع عظام خدود حادة ومظهر ذابل يذكرنا بحملة أزياء تأخذ نفسها على محمل الجد. يُطلق على مقطع فيديو YouTube ، الذي تم إنشاؤه بواسطة Demonflyingfox ، اسم “Harry Potter by Balenciaga” ، لذلك لم يكن القصد منه أبدًا خداع الناس ليجعلهم يعتقدون أنه حقيقي. لكن الطريقة التي تُظهر بها النغمة والجماليات وتقديم شخصيات هاري بوتر كنماذج Balenciaga هي مثال صارخ على ما يمكن أن تحققه أدوات مثل Midjourney.

4. تعاون Weeknd و Drake الذي لم يحدث أبدًا

في أبريل 2023 ، أسقطت The Weeknd و Drake أغنية واحدة بعنوان “القلب على كمي”. إلا أنهم لم يفعلوا. تم إنشاؤه بواسطة AI من قبل منشئ مجهول اسمه Ghostwriter. أصبحت الأغنية فيروسية ، ليس بسبب جاذبيتها (وهي جذابة) ، ولكن بسبب مشكلات حقوق النشر الفوضوية التي يطرحها الذكاء الاصطناعي على صناعة الموسيقى.

على الرغم من أنه من غير الواضح ما هي التكنولوجيا المستخدمة لإنشاء الأغنية ، إلا أنه من السهل جدًا إنشاء مقاطع صوتية عميقة. هناك العديد من الأدوات التي تستخدم النص إلى الكلام أو مقطع صوتي موجود لاستنساخ صوت شخص ما بشكل أساسي وجعله يقول ما تريد.

تمت إزالة الأغنية في النهاية من YouTube و Spotify و Apple Music وخدمات البث الأخرى بسبب انتهاك حقوق النشر. في بيان إلى Billboard ، قالت شركة يونيفرسال ميوزيك جروب The Weeknd و Drake:

إن تدريب الذكاء الاصطناعي التوليدي باستخدام موسيقى فنانينا (والذي يمثل خرقًا لاتفاقياتنا وانتهاكًا لقانون حقوق الطبع والنشر) بالإضافة إلى توفر المحتوى المخالف الذي تم إنشاؤه باستخدام الذكاء الاصطناعي التوليدي على DSPs ، يطرح السؤال حول أي جانب من التاريخ يريد جميع أصحاب المصلحة في النظام الإيكولوجي الموسيقي أن يكون إلى جانب الفنانين والمعجبين والتعبيرات البشرية الإبداعية ، أو إلى جانب التزوير العميق والاحتيال وحرمان الفنانين من التعويض المستحق لهم.

5. الانفجار في خدعة البنتاغون

على عكس Balenciaga Pope الذي كان غير ضار إلى حد كبير ، تُظهر الصورة المزيفة لانفجار في البنتاغون مدى خطورة الذكاء الاصطناعي التوليدي في أيد شائنة. في مايو ، انتشرت على موقع تويتر صورة للنيران وسحب الدخان المتصاعدة من انفجار واضح بالقرب من البنتاغون.

ربما تم حذف التغريدة
(يفتح في علامة تبويب جديدة)

تم فضح الصورة بسرعة باعتبارها مزيفة من قبل سلطات إنفاذ القانون المحلية. لكن الصورة المزيفة كانت لها عواقب حقيقية ، مما تسبب في تراجع قصير في سوق الأسهم. استنادًا إلى السياج غير الواضح أمام المبنى وأحجام الأعمدة غير المتساوية ، كان من الواضح تمامًا أن الصورة تم إنشاؤها بواسطة AI أو تم التلاعب بها رقميًا. ولكن مع تقدم الذكاء الاصطناعي التوليدي ، سيكون من الصعب اكتشاف التزييف العميق.