لا يمكن للناس بالكاد التعرف

لا يمكن للناس بالكاد التعرف

لا يمكن للناس رؤية الوسائط التي تم إنشاؤها من الذكاء الاصطناعي

الصور التي يتم إنشاؤها بواسطة KI ونصوص وملفات صوتية مقنعة لدرجة أنه لم يعد بإمكان الناس التمييز بينهم عن المحتوى الذي من صنع الإنسان. هذا هو نتيجة مسح عبر الإنترنت مع حوالي 3000 مشارك من ألمانيا والصين والولايات المتحدة الأمريكية. أجرى الدراسة الدكتورة ليا شونهير ، الدكتورة ثورستن هولز الدكتورة ثورستن هولز ، التي أجراها Cispa-Faculty ، وقدمت في ندوة IEEE 45 حول الأمن والخصوصية في سان فرانسيسكو. أجريت الدراسة بالتعاون مع جامعة رور بوشوم وجامعة ليبنيز في هانوفر وتو برلين.

التطور السريع للذكاء الاصطناعي في السنوات الأخيرة يتيح الجماهير والنصوص والملفات الصوتية بنقرات قليلة. ومع ذلك ، فإن هذا التطور يحمل المخاطر ، وخاصة فيما يتعلق بالرأي السياسي. مع الانتخابات المهمة القادمة هذا العام ، مثل الانتخابات البرلمانية في الاتحاد الأوروبي أو الانتخابات الرئاسية في الولايات المتحدة الأمريكية ، هناك خطر من استخدام وسائل الإعلام التي تم إنشاؤها من الذكاء الاصطناعي للتلاعب السياسي. هذا خطر كبير على الديمقراطية.

نتائج الدراسة مذهلة: يجد الناس صعوبة في التمييز بين الوسائط الحقيقية ووسائل الإعلام التي تم إنشاؤها. ينطبق هذا على جميع أنواع الوسائط مثل النصوص والملفات الصوتية والصور. من المثير للدهشة أن هناك بعض العوامل التي يمكن أن تفسر ما إذا كان الناس أفضل في التعرف على الوسائط التي تم إنشاؤها من الذكاء الاصطناعي. بالكاد لا توجد أي فروق ذات دلالة إحصائية بين الفئات العمرية المختلفة أو الخلفيات التعليمية أو المواقف السياسية أو محو الأمية الإعلامية.

تم إجراء مسح كمي على الإنترنت في ألمانيا والصين والولايات المتحدة الأمريكية للدراسة. تم تعيين المشاركين بطريق الخطأ في إحدى فئات الوسائط الثلاث (النص أو الصورة أو الصوت) ورأوا وسائط حقيقية و AI التي تم إنشاؤها. بالإضافة إلى ذلك ، تم جمع البيانات الاجتماعية السيرة الذاتية حول الوسائط التي تم إنشاؤها من الذكاء الاصطناعي وعوامل أخرى. تم تضمين ما مجموعه 2،609 سجلات بيانات في التقييم.

توفر الدراسة رؤى مهمة لأبحاث الأمن السيبراني. هناك خطر من استخدام النصوص التي أنشأتها الذكاء الاصطناعي وملفات الصوت في هجمات الهندسة الاجتماعية. يعد تطوير آليات الدفاع لسيناريوهات الهجوم مهمة مهمة للمستقبل. بالإضافة إلى ذلك ، يتعين علينا أن نفهم بشكل أفضل كيف يمكن للناس التمييز بين الذكاء الاصطناعي الذي تم إنشاؤه على الإطلاق. تهدف دراسة المختبر المخطط إلى مطالبة المشاركين بمعرفة ما إذا كان يتم إنشاء شيء ما أم لا. بالإضافة إلى ذلك ، يجب تطوير العمليات الفنية للتحقق من الحقائق الآلية.

يمكن الاطلاع على المنشور العلمي الكامل للدراسة تحت الرابط المحدد.

الجدول: نظرة عامة على نتائج الدراسة

| فن الإعلام | عدد المصنفة حقا | عدد المصنفة التي تم إنشاؤها بواسطة KI |
| ———– | ———————- | —————————— |
| نص | 65 ٪ | 35 ٪ |
| صورة | 52 ٪ | 48 ٪ |
| الصوت | 60 ٪ | 40 ٪ |

توضح الدراسة أن غالبية المشاركين الذين صنفوا من الذكاء الاصطناعى أنشأوا الوسائط على أنها من صنع الإنسان ، بغض النظر عن نوع الوسيلة.

توفر نتائج هذه الدراسة معرفة قيمة حول تصور والاعتراف بالوسائط التي تم إنشاؤها من الذكاء الاصطناعي وتمثل نقاط انطلاق مهمة لمزيد من البحث في هذا المجال. يبقى أن نرى كيف سيتطور تطور الذكاء الاصطناعي في المستقبل وما هو عواقب ذلك على المجتمع.

المصدر: cispa-helmholtz center لأمن المعلومات/OTS