منتديات ضي البدر - دراسة تحذر من "تعفن دماغ الذكاء الاصطناعي

حذرت دراسة علمية جديدة مما أطلقت عليه "تعفن دماغ الذكاء الاصطناعي"،
مشيرة إلى أن هذه الظاهرة قد تؤدي إلى تراجع أداء نماذج الذكاء الاصطناعي بصورة كبيرة.

وأوضحت الدراسة أن هذه الظاهرة تتمثل في تدريب نماذج الذكاء الاصطناعي على بيانات منخفضة الجودة،
ما يتسبب في تقديمها معلومات مضللة، ويؤدي إلى "تراجع لا رجعة" فيه في جودة ومصداقية هذه النماذج.

وأشارت الدراسة إلى أنه كلما زاد تدريب روبوتات الدردشة الذكية على "بيانات منخفضة الجودة"، مثل المنشورات
المُجزأة المنتشرة على وسائل التواصل الاجتماعي، تراجعت قدراتها على التفكير المنطقي، وزادت وتيرة إنتاجها
لمعلومات غير صحيحة.

وذكرت الباحثون المسؤولون عن الدراسة عن أنهم أجروا دراسات على نماذج الذكاء الاصطناعي ذات اللغات الكبيرة
وزدوه ببيانات منخفضة الجودة، مثل "نصوص قصيرة ومجزأة"، و"محتوى يتضمن مواد استفزازية أو مثيرة" و"منشورات
على مواقع التواصل الاجتماعي شائعة ولكنها تفتقر إلى المعرفة الجوهرية".

وتضمن النماذج المستخدمة روبوتات دردشة مثل "إل لاما 3" من "ميتا" و"كوين" من "علي بابا".

وأظهرت النتائج أنه عند تدريب نماذج الذكاء الاصطناعي على بيانات منخفضة الجودة، غالبًا ما تخطت عمليات التفكير
المنطقي، أو أنتجت استنتاجات سطحية، أو قدمت إجابات غير منطقية.

وحذرت الدراسة أنه بتجاوز هذه النماذج التفكير المنطقي تمامًا، غالبًا ما نشرت معلومات مضللة، بل وارتكبت أخطاء
في أسئلة الاختيار من متعدد.

كما اختبر الفريق نماذج التدريب بخلط بيانات منخفضة الجودة مع "بيانات عالية الجودة"، ووجدوا أنه كلما زادت نسبة
البيانات منخفضة الجودة، تراجعت قدرات التفكير المنطقي لنماذج اللغات الكبيرة.

وخلص الباحثون إلى أن "هذا يُعيد تأكيد المبدأ الأساسي للذكاء الاصطناعي: النتائج غير مرضية".

بالإضافة إلى ذلك، أشارت الدراسة إلى أن نماذج الذكاء الاصطناعي المُدربة بشكل مكثف
على بيانات منخفضة الجودة أظهرت ميولًا سلبية متزايدة، بل وسمات نفسية، ووصف الباحثون هذه الظاهرة
بـ"تعفن دماغ الذكاء الاصطناعي".

فبمجرد أن يتدهور أداء الذكاء الاصطناعي بسبب البيانات منخفضة الجودة، يصبح من الصعب استعادة الأداء.

واختتم الفريق قائلا: "حتى بعد تعديل التوجيهات أو إضافة المزيد من البيانات عالية الجودة، كانت تحسينات الأداء
جزئية فقط، فبمجرد أن تُلوث البيانات منخفضة الجودة، يصعب عكس الآثار السلبية".