عاجل
رئيس حزب الوفد
د.عبد السند يمامة
رئيس مجلس الإدارة
د.أيمن محسب
رئيس التحرير
د. وجدى زين الدين
رئيس حزب الوفد
د.عبد السند يمامة
رئيس مجلس الإدارة
د.أيمن محسب
رئيس التحرير
د. وجدى زين الدين

استخدام الذكاء الاصطناعي لتزييف أصوات المشاهير

 الذكاء الاصطناعي
الذكاء الاصطناعي

قبل أيام قليلة، أطلقت شركة ElevenLabs لبدء تشغيل الكلام، إصدارًا تجريبيًا من نظامها الأساسي الذي يمنح المستخدمين القدرة على إنشاء أصوات اصطناعية جديدة تمامًا لتحويل الصوت إلى كلام أو استنساخ صوت شخص ما.

 

لقد استغرق الإنترنت بضعة أيام فقط لبدء استخدام هذا الأخير لأغراض خسيسة، كشفت الشركة على Twitter أنها ترى عددًا متزايدًا من حالات إساءة استخدام استنساخ الصوت وأنها تفكر في طريقة لمعالجة المشكلة من خلال تطبيق ضمانات إضافية.

 

في حين أن ElevenLabs لم تشرح بالتفصيل ما تعنيه حالات إساءة الاستخدام، عثرت Motherboard على منشورات 4chan مع مقاطع تعرض أصواتًا مولدة تبدو وكأن المشاهير يقرؤون أو يقولون شيئًا مشكوكًا فيه.

 

أحد المقاطع، على سبيل المثال، ورد أنه ظهر بصوت يشبه إيما واتسون تقرأ جزءًا من Mein Kampf. كما نشر المستخدمون مقاطع صوتية تظهر فيها مشاعر كراهية المتحولين والعنف والعنصرية. ليس من الواضح تمامًا ما إذا كانت جميع المقاطع تستخدم تقنية ElevenLab، ولكن المنشور الذي يحتوي على مجموعة كبيرة من الملفات الصوتية على 4chan تضمن رابطًا لمنصة بدء التشغيل.

 

ربما لا ينبغي أن يكون ظهور المقاطع الصوتية "deepfake" هذا مفاجئًا، حيث رأينا قبل بضع سنوات، حدوث ظاهرة مماثلة. أدت

التطورات في مجال الذكاء الاصطناعي والتعلم الآلي إلى زيادة عدد مقاطع الفيديو المزيفة، وتحديدًا المواد الإباحية المزيفة، حيث يتم تغيير المواد الإباحية الموجودة لاستخدام وجوه المشاهير. ونعم، استخدم الناس وجه إيما واتسون لبعض مقاطع الفيديو هذه.


تجمع ElevenLabs الآن التعليقات حول كيفية منع المستخدمين من إساءة استخدام تقنيتها. في الوقت الحالي، تتضمن أفكاره الحالية إضافة المزيد من الطبقات إلى التحقق من الحساب لتمكين استنساخ الصوت، مثل مطالبة المستخدمين بإدخال معلومات الدفع أو المعرف.

 

كما تفكر أيضًا في جعل المستخدمين يتحققون من ملكية حقوق الطبع والنشر للصوت الذي يريدون استنساخ ، مثل حملهم على إرسال عينة بنص مطلوب.

 

أخيرًا، تفكر الشركة في إسقاط أداة Voice Lab الخاصة بها تمامًا وجعل المستخدمين يرسلون طلبات استنساخ الصوت التي يتعين عليها التحقق منها يدويًا.