جرس كنيسة مار توما في مدينة الموصل يُدقّ مجدداً      البطريرك ساكو يستقبل الوفد الاقتصادي الاجتماعي البولندي      رئيس واعضاء من مجلس إدارة غرفة التجارة الكلدانية الأمريكية في زيارة الى العاصمة واشنطن      سيادة المطران مار موريس مطران الجزيرة والفرات للسريان الأرثوذكس يستقبل رئيس المجلس الوطني الكوردي في سوريا محمد إسماعيل      الثقافة السريانية تلجأ للإدعاء العام في دهوك بعد تعدي شركة سيارات على موقع أثري آشوري      رئيس "السرياني العالمي" مهنئاً بتشكيل الحكومة: للإسراع في تطبيق القرارات الدولية      بيان ختامي لورشة عمل "رؤية سورية جديدة على ضوء التنوع"      غبطة البطريرك ساكو يدعو جميع الكنائس الكلدانية إلى صيام الباعوثا من اجل السلام      قداسة البطريرك مار أوا الثالث يستقبل نيافة المطران هوفنان ديرديريان و نيافة المطران كيغام خاشاريان/ كاليفورنيا      مديرية آثار دهوك ترفع دعوى قضائية ضد شركة "لكزس" بسبب التعدّي على منطقةٍ جروانة الأثرية الآشورية بناحية شيخان      تأكيد سعودي قاطع بشأن وضع "الكحول" في مونديال 2034      حكومة إقليم كوردستان تصدر قراراً لتشجيع المواطنين على اقتناء السيارات الكهربائية      سياسي يحذر من "فصائل مسلحة اجنبية" في معسكرات العراق الرسمية      تفش غير مسبوق لمرض السل في الولايات المتحدة      علماء روس يطورون تقنية مبتكرة تغير طريقة تخزين المعلومات الرقمية      مسؤول كوردي يحذر: التجنيد مستمر داخل مخيم الهول      تقرير استخباراتي: إسرائيل تدرس ضرب منشآت إيران النووية      "أوبن إيه آي" تضع اللمسات النهائية لتصميم أول رقائق ذكاء اصطناعي خاصة بها هذا العام      الذكاء الاصطناعي، البابا: السؤال هو ما إذا كان الإنسان يصبح حقًا أفضل      العفو العام يشمل أكثر من 57 ألف معتقل عراقي
| مشاهدات : 625 | مشاركات: 0 | 2025-01-17 10:58:18 |

دراسة: محركات البحث تغذي الذكاء الاصطناعي بمعلومات "مضللة وعنصرية"

هاتف ذكي وجهاز كمبيوتر محمول يعرضان شعارات مختبر أبحاث الذكاء الاصطناعي OpenAI وروبوت ChatGPT، أكتوبر 2023 - AFP

 

عشتارتيفي كوم- الشرق/

 

طور باحثون من جامعة برمنجهام إطار عمل جديد لتحسين أداء نماذج اللغة الكبيرة المستخدمة في الذكاء الاصطناعي التوليدي، مثل ChatGPT، عبر دمج مبادئ من علم اللغة الاجتماعي، بهدف معالجة التحديات الناجمة عن انتشار المعلومات المضللة والمحتوى التمييزي، بما في ذلك القوالب النمطية العنصرية والجنسية.

وتشير دراسة نُشرت في دورية "فرونتيرز: أرتفيشيال إنتلجينس" Frontiers in Artificial Intelligence، إلى أن التحيزات الاجتماعية والمعلومات الخاطئة التي تنتجها أنظمة الذكاء الاصطناعي غالباً ما تعود إلى القصور في قواعد البيانات اللغوية التي تُدرَّب عليها.

وأكد الباحثون أن تمثيل التنوع اللغوي بدقة يمكن أن يحسن بشكل كبير من أداء هذه الأنظمة، ويجعلها أكثر دقة وموثوقية وأخلاقية.

وتعتبر محركات البحث التي تغذي الذكاء الاصطناعي المولد من أبرز التطورات التكنولوجية في عصرنا الحالي، إذ توفر أدوات قوية لتحليل النصوص وإنتاج المحتوى، لكن هذه المحركات ليست خالية من العيوب، إذ تعاني من مجموعة مشكلات يمكن أن تُلحق الضرر بالمجتمع، مثل انتشار المعلومات المضللة والمحتوى التمييزي.

وهذه التحديات تنبع بشكل رئيسي من القصور في قواعد البيانات اللغوية التي تُستخدم لتدريب هذه النماذج، وتميل محركات البحث إلى تكرار المعلومات المضللة إذا كانت جزءاً من البيانات التي تم تدريبها عليها، ويؤدي ذلك إلى انتشار واسع للأخبار الزائفة والمعلومات غير الدقيقة، مما يمكن أن يؤثر سلباً على القرارات الفردية والمجتمعية؛ إذ يمكن للمعلومات الخاطئة حول القضايا الصحية أو السياسية أن تضلل الجمهور وتؤدي إلى عواقب وخيمة.

 

التمييز والعنصرية

وتعاني نماذج الذكاء الاصطناعي من التحيزات الموجودة في بيانات التدريب، والتي قد تحتوي على قوالب نمطية تمييزية ضد فئات معينة من الناس، وهو ما يؤدي إلى إنتاج محتوى قد يكون عنصرياً أو جنسياً، مما يعزز من التمييز الاجتماعي ويضر بالفئات المهمشة.

كما تفتقر بعض النماذج إلى التمثيل الكافي للهجات واللغات المختلفة، مما يؤدي إلى أداء ضعيف عند التعامل مع مستخدمين من خلفيات ثقافية، ولغوية متنوعة، وهو ما يمكن أن يؤدي إلى إقصاء بعض الفئات من الفوائد التي تقدمها هذه التكنولوجيا.

وللتغلب على التحيزات اللغوية والاجتماعية، يجب أن تشمل مجموعات البيانات المستخدمة في تدريب نماذج اللغة مجموعة متنوعة من اللغات واللهجات والسياقات الاجتماعية المختلفة، إذ يساعد هذا في تقليل التحيزات ويعزز قدرة النماذج على فهم السياقات المختلفة بدقة.

وبحسب الدراسة؛ فإن دمج مبادئ علم اللغة الاجتماعي في تطوير نماذج اللغة يساعد في فهم كيفية تأثير التنوع الاجتماعي والثقافي على استخدام اللغة، وهو ما يمكن أن يؤدي هذا إلى تحسين دقة النماذج وجعلها أكثر وعياً واحتراماً للتنوع.

كما يجب مراجعة البيانات المستخدمة في التدريب بعناية لإزالة أو تعديل المحتوى الذي يحتوي على معلومات مضللة أو تحيزات اجتماعية، ويقول الباحثون إن هذه الخطوة أساسية لضمان أن النماذج لا تتعلم أو تكرر الأنماط السلبية.

ويقول المؤلف الرئيسي للدراسة، جاك جريف، إن الذكاء الاصطناعي قد يميل إلى إنتاج تصورات سلبية عن بعض الأعراق أو الأجناس بسبب البيانات التي يُدرَّب عليها، والتي قد تحتوي على أفكار ضارة أو غير دقيقة أو عنصرية أو معلومات مضللة.

وأضاف أن تدريب نماذج اللغة على مجموعات بيانات متنوعة تعكس التنوع اللغوي، يمكن أن يعزز القيمة المجتمعية لهذه الأنظمة.

وأوصت الدراسة بزيادة التنوع الاجتماعي واللغوي في بيانات التدريب بدلاً من مجرد توسيع حجمها، مشددة على أهمية دمج الرؤى من العلوم الإنسانية والاجتماعية لتطوير أنظمة ذكاء اصطناعي تخدم البشرية بشكل أفضل.

 










أربيل - عنكاوا

  • رقم الموقع: 07517864154
  • رقم إدارة القناة: 07504155979
  • البريد الألكتروني للإدارة:
    [email protected]
  • البريد الألكتروني الخاص بالموقع:
    [email protected]
جميع الحقوق محفوظة لقناة عشتار الفضائية © 2007 - 2025
Developed by: Bilind Hirori
تم إنشاء هذه الصفحة في 0.5036 ثانية