Logos

أصوات مغاربية الآن علي موقع الحرة

اضغط. هنا لزيارة موقع الحرة

تكنولوجيا

دراسة: يوتيوب يظهر "محتوى عنيفا" للأطفال

18 مايو 2023

ذكرت دراسة جديدة أن منصة "يوتيوب" قد أوصت بمئات مقاطع الفيديو بشأن استخدام الأسلحة النارية أو ذات محتوى عنيف لحسابات فتيان مهتمين بألعاب الفيديو.

وبحسب الدراسة التي أجراها باحثون في موقع "مشروع الشفافية التقنية  (TTP)"، فقد قدمت بعض مقاطع الفيديو الموصى بها تعليمات بشأن كيفية تحويل أسلحة عادية إلى أتوماتيكية (آلية) بالإضافة إلى مشاهد تظهر إطلاق نار في المدارس.

كما حازت حسابات اللاعبين الصغار، التي أنشأها الباحثون المشرفون على الدراسة، على مقاطع الفيديو الموصى بها والتي احتوت على نسبة كبيرة لمشاهد مرتبطة بالبنادق والرماية.

"انتهاك للسياسات"

وتقول الدراسة إن العديد من مقاطع الفيديو قد انتهكت سياسات المنصة الخاصة بشأن الأسلحة النارية والعنف وسلامة الأطفال، لافتة إلى أن الشركة لم تتخذ أي خطوات واضحة لتقييدها بالفئة العمرية.

ووجدت الدراسة أن الخوارزميات المرتبطة بالمنصة أوصت الصغار أيضا بفيلم عن القاتل المتسلسل "جيفري دامر".

ودامر ‏ هو قاتل متسلسل أميركي كان يقتل الذكور الشباب واليافعين بصرف النظر عن جنسيتهم، وقتل معظم ضحاياه خنقا ثم قام بتقطيع جثثهم وسلخ جلودهم والاحتفاظ بهياكلهم العظمية أو أجزاء منها، وفي بعض الأحيان كان يحتفظ بأجزاء كاملة من الجثة ويقوم بأكلها.

وارتكب جيفري جريمته الأولى في سن 18 عاما وضحيته الأولى كان يبلغ 19 عاما.

وكان الباحثون قد أنشؤوا أربعة حسابات على موقع يوتيوب، اثنان منها لطفلين مزعومين في سن التاسعة، بينما كان الآخران بسن 14 عاما.

وثبت الباحثون اهتمام كل حساب بألعاب الفيديو من خلال مشاهدة قوائم التشغيل المكونة بالكامل من مقاطع فيديو الألعاب.

ثم قاموا بعد ذلك بتسجيل وتحليل مقاطع الفيديو التي أوصت بها خوارزمية يوتيوب لحسابات الأطفال الأربعة، بحيث أبدى اثنان من عمر التاسعة والرابعة عشرة اهتماما بالمقاطع الموصى بها، بينما تجاهل الآخران تلك القوائم ولم يتفاعلا معها.

ووجدت الدراسة أن يوتيوب"قد دفع بالمقاطع التي تحتوي على إطلاق النار والأسلحة إلى جميع حسابات اللاعبين، ولكن بحجم أكبر بكثير للمستخدمين الذين نقروا على مقاطع الفيديو الموصى.

وبحسب القائمين على البحث، يتعارض ذلك مع تأكيدات الموقع بأن خوارزمياته آمنة.

"إقبال كبير من الصغار"

وكان نائب رئيس قسم الهندسة في يوتيوب قد ذكر في منشور على مدونة، عام 2021، أن الموقع "جعل تقديم توصيات مسؤولة على رأس أولوياتنا"، مضيفا أن "الأوراق البحثية المنشورة مؤخرا تخلص إلى أن المقاطع المصورة الموصى بها  لا توجه المشاهدين فعليا نحو المحتوى المتطرف".

وكان  استطلاع أجراه مركز بيو للأبحاث في العام الماضي قد وجد أن موقع "يوتيوب" المملوك لشركة "غوغل"، هو المنصة الأكثر شيوعا من بين مواقع التواصل بالنسبة للأطفال الذين تتراوح أعمارهم بين 13 و17 عاما، ومع ذلك فقد أفلت إلى حد كبير من التدقيق الذي ركز على منصات أخرى مثل "تيك توك" و"إنستغرام" لتأثيرها الكبير على الصغار.

في المقابل، أكدت متحدثة باسم باسم يوتيوب أن المنصة تحرص على حماية الأطفال من أي محتوى عنيف أو غير مقبول.

وقالت في تصريحات خاصة بشبكة "إي بي سي نيوز" الأميركية أن المستخدمين، الذين تقل أعمارهم عن 17 عاما، ينبغي عليهم الحصول على موافقة والديهم قبل الولوج إلى الموقع، كما أكدت أن حسابات المستخدمين الذين تقل أعمارهم عن 13 عاما ترتبط بحساب الأبوين.

وتابعت: "نحن نقدم عددا من الخيارات للمشاهدين الصغار المنصة مصممة لخلق تجربة أكثر أمانا للمراهقين".

يشار إلى أن مخاوف مماثلة كانت قد طرحت سابقا بشأن تعرض الأطفال لمحتوى غير مناسب عبر تطبيق "تيك توك"، بعد أن كشفت التقارير الأولية أن المنصة كانت توصي بمقاطع تحتوي على الكثير من الضرر والعنف.

ودافعت الشركة المالكة عن تطبيق "تيك توك" عن سياساتها، مؤكدة أنه يجري حظر المستخدمين الذين تقل أعمارهم عن 13 عاما، وفق ما نقله موقع "إي بي سي نيوز".  

وزعمت الشركة أيضا أنها تحرض على منع الفيديوهات التي تشجع على السلوكيات الضارة، مستشهدة بأن المستخدمين الذين يبحثون عن محتوى يتعلق بمواضيع تخص اضطرابات الأكل مثلا يتلقون بشكل آلي رسالة توجيهية تتضمن نصائح حول الاهتمام بالصحة النفسية والعقلية. 

مواضيع ذات صلة

تكنولوجيا

باحثون يستخدمون الذكاء الاصطناعي لتفنيد نظريات المؤامرة

15 سبتمبر 2024

أشارت دراسة نشرتها مجلة "ساينس"الأميركية مؤخرا إلى نجاح باحثين في تطوير روبوت يعتمد على الذكاء الاصطناعي، للدخول في نقاش مع أشخاص يصدقون نظريات مؤامرة منتشرة على الإنترنت، وإقناعهم بتغيير آرائهم.

الدراسة التي نشرت الخميس، مولها معهد ماساتشوستس للتكنولوجيا بالتعاون مع مؤسسة جون تمبلتون، وأثبتت أنه بإمكان استخدام الذكاء الاصطناعي، أن يلمع صورته التي أصبحت مرتبطة بنشر المعلومات المضللة، كي يتمكن من محاربتها.

وقام فريق الباحثين الذي قاده أستاذ علم النفس في الجامعة الأميركية، توماس كوستيلو، بتصميم روبوت محاور، "تشات بوت"، باستخدام برمجية "تشات جي بي تي 4"، وهي أحدث إصدارات النماذج اللغوية لشركة "أوبن إيه آي"، ومقرها سان فرانسيسكو، شمال ولاية كاليفورنيا.

وفي مرحلة موالية تم تدريب ذلك الروبوت على الحوار والنقاش، باستخدام قاعدة بيانات ضخمة، تتضمن معلومات متنوعة في عدة مجالات، مثل الصحة والتغير المناخي والأفكار السياسية المتطرفة.

شملت الدراسة عينة تتضمن أكثر من ألفي شخص، تم اختيارهم طبقا لمعطيات مركز الإحصاء الوطني الأميركي، حتى تعكس الخصائص الأساسية للمجتمع الأميركي، من النواحي العرقية والثقافية والفئة العمرية وغيرها.

وأجاب المشاركون على سؤال يتعلق بفحوى الأفكار والمفاهيم التي توصف بأنها نظريات مؤامرة مخالفة للواقع، والتي يؤمنون بها. وبناء على تلك الإجابات، دخل الروبوت الجديد في حوار مع جميع الأشخاص المشاركين في الدراسة.

يشير كوستيلو إلى أن حواراً قصيراً مع برنامج محاورة يعتمد على الذكاء الاصطناعي، يمكن أن يقلص مصداقية نظريات المؤامرة، بنسبة قد تصل إلى 20 في المئة. ويأتي هذا التأكيد بعد تحليل لنتائج الحوار الذي خاضه الروبوت مع المشاركين في الدراسة، والآراء التي خرجوا بها بعد انتهاء التجربة.

لكن العلماء أشاروا إلى الحاجة لمزيد من الأبحاث المماثلة، تهدف إلى تصميم نماذج معيارية للذكاء الاصطناعي، بإمكانها تفنيد نظريات المؤامرة التي ظهرت حديثاً أو منذ مدة قصيرة، ولم يتم تداول الكثير من المعلومات حولها. إذ يعتمد نجاح الروبوت المحاور على قاعدة البيانات الضخمة، التي تمكنه من تقديم أدلة ملموسة أثناء النقاش، قصد مواجهة الأفكار المضللة، والمعلومات المزيفة. وهو ما قد يقلل من فرص نجاح الروبوت في تفنيد الأفكار البسيطة أو تلك التي تنتشر بسرعة عقب ظهورها.

تأتي هذه الدراسة بالتزامن مع تصاعد المخاوف من الاستخدام المتزايد للذكاء الاصطناعي لإنتاج محتوى مزيف، يتم نشره للتأثير على الرأي العام. إذ يمكن الذكاء الاصطناعي من جعل عمليات التضليل الإعلامي تدار بطريقة آلية، ما يمنحها زخما أكبر، وانتشاراً أوسع.  

وكانت صحيفة نيويورك تايمز أشارت إلى الاستخدام المتزايد للروبوتات المعتمدة على الذكاء الاصطناعي في الحملات الدعائية على وسائل التواصل الاجتماعي.

وتمكنت تلك الروبوتات من التفاعل مع أعداد كبيرة من الأشخاص عبر توجيه أسئلة وتعليقات مباشرة، وخلال حيز زمني قصير، في محاكاة ردود الفعل البشرية.

تتزايد المخاوف أيضاً من استخدام دول وحكومات للذكاء الاصطناعي في حملاتها الدعائية، مثل الاتهامات الموجهة لروسيا وإيران بمحاولة التأثير على الانتخابات الأميركية، والتي أثارت الكثير من الجدل السياسي في الولايات المتحدة. 

 

المصدر: موقع الحرة