Internet Up in Arms as 4Chan User يستخدم AI Voice Simulator لتزييف صوت Emma Watson ، مما يجعلها تقرأ السيرة الذاتية لهتلر
أطلق الموظفون السابقون في Google و Palantir معًا شركة Elevenlabs الناشئة ، والتي تهدف إلى إنشاء مقاطع صوتية مزيفة عالية الجودة للمشاهير من خلال أداة استنساخ الصوت بالذكاء الاصطناعي. لكن إطلاق النسخة التجريبية سرعان ما أدى إلى نتائج عكسية حيث أساء الكثيرون استخدام أصوات المشاهير ، بما في ذلك إيما واتسون ، من خلال أداة استنساخ الصوت بالذكاء الاصطناعي.
لقد شعر العديد من المعجبين بالغضب من الاستخدام غير الأخلاقي وغير الأخلاقي لأداة الذكاء الاصطناعي بعد أن أساء بعض المتصيدون استخدام أصوات المشاهير المفضلة لديهم لتمرير تعليقات فاحشة. لكن الشركة الناشئة أكدت للجميع أنها ستغير نموذجها لتجنب المزيد من المشكلات.
غضب المعجبون بعد أن أساء مستخدم 4Chan استخدام صوت إيما واتسون من خلال أداة الذكاء الاصطناعي
أدى إدخال أداة استنساخ الصوت AI من Elevenlabs إلى اشتعال الإنترنت بعد أن استغل العديد من المتصيدون استخدام هذه الأداة المجانية. على الرغم من أن الكثيرين يستخدمون البرنامج لإنشاء محتوى مفيد ، فقد أساء جزء من الإنترنت استخدام الأداة لجعل المشاهير ينشرون الافتراءات العنصرية والتعليقات الفاحشة وإساءة استخدام إيما واتسون كان الصوت هو القشة الأخيرة.
حديثاً. أبلغت Motherboard عن إساءة استخدام شديدة لبرنامج AI لإنشاء صوت مزيف عميق. لكن القشة التي قصمت ظهر البعير كانت مستخدم 4Chan ، الذي أنشأ مقطعًا من هاري بوتر نجمة إيما واتسون القراءة كفاحي ، السيرة الذاتية للديكتاتور النازي أدولف هتلر.
غضب المعجبون من هذا الاستخدام غير الأخلاقي لبرنامج إيما واتسون والمشاهير الآخرين بما في ذلك جو روجان ، وروبن ويليامز ، إلخ. إساءة استخدام أداة استنساخ الصوت الخاصة بهم.
اقرأ أيضًا: طلب مدير 'سجين أزكابان' من هاري بوتر تريو كتابة مقال عن شخصيتهم - كتبت إيما واتسون 16 صفحة ، وكان لدانيال رادكليف ملخص من صفحة واحدة ، ولم يكتب روبرت جرينت واحدًا
تتعهد Elevenlabs بتجنب المزيد من إساءة استخدام أداة الذكاء الاصطناعي
كانت شركة Startup غارقة في الاستجابة الإيجابية لها أيضًا في البداية ، حيث كان الكثيرون يستخدمون أداة استنساخ الصوت AI لإنشاء مفيد. لكن سرعان ما واجهت الشركة مشكلة بعد أن بدأ المتصيدون في استغلال البرنامج لأغراض شائنة. أكدت شركة Elevenlabs للإنترنت أنها تبحث بعمق في الأمر وتتوصل إلى الحلول الممكنة.
على الرغم من أن منشئي Elevenlabs اعترفوا بأنه يمكنهم تتبع المستخدمين الذين يسيئون استخدام قوة أداة الذكاء الاصطناعي ، إلا أنهم يبحثون عن تدابير أمان إضافية لتجنب هذه المشكلة. شارك المبدعون أفكارًا مختلفة للتعامل مع هذه المسألة ، والتي تشمل مقدمة للتحقق اليدوي لكل استنساخ والتحقق الكامل من هوية المستخدم من خلال الدفع أو أي طريقة أخرى.
على الرغم من أن الاختبار التجريبي لشركة Startup قد بدأ ببداية مختلطة ، إلا أن العديد من المعجبين غاضبون من الاستخدام غير الأخلاقي لأصوات المشاهير من خلال أداة الذكاء الاصطناعي ، وخاصة Emma Watson. لكن الناس أقروا أيضًا بأن الشركة الناشئة لم تتجاهل الموقف واتخذت تدابير فعالة للتعامل مع هؤلاء المتصيدين على الإنترنت.
مصدر: نائب
