كشفت دراسة علمية حديثة عن وجود ثغرة تقنية مقلقة تؤدي الى انتقال السمات والسلوكيات غير المرغوبة بين نماذج الذكاء الاصطناعي، وذلك خلال عملية تدريب النماذج الجديدة اعتمادا على مخرجات النماذج السابقة فيما يعرف بعملية التقطير.
واوضحت الدراسة التي شارك فيها باحثون من كبرى المؤسسات التقنية والجامعات العالمية، ان هذه النماذج الطالبة تكتسب تفضيلات وميول النماذج المعلمة بشكل لا ارادي، حتى في حال تنقية البيانات يدويا من اي اشارات مباشرة للسلوكيات المرفوضة.
وبين الخبراء ان هذه الظاهرة تشكل تحديا امنيا كبيرا، حيث تظل الانماط السلوكية الخفية كامنة داخل البيانات الرقمية، مما يتسبب في نقل الطباع السيئة او الميول الانحرافية الى الانظمة الذكية الناشئة بكل سهولة وسرعة.
آلية التقطير ومخاطر توريث السلوك
واكد الباحثون ان استخدام تقنية التقطير لتدريب نماذج منخفضة التكلفة اصبح توجها شائعا في الصناعة التقنية، وهو ما يثير مخاوف جدية حول مدى امان هذه الانظمة التي قد تحمل في طياتها موروثات فكرية غير آمنة.
وشددت التجارب العملية التي اجريت على نماذج متطورة، على ان الانظمة الجديدة طورت تفضيلات معينة كانت موجودة لدى النموذج المعلم، مثل الانحياز لخيارات محددة او تبني لغة تدعو للعنف، بنسب تتجاوز بكثير النماذج القياسية.
واضافت النتائج ان هذه السلوكيات المكتسبة ظهرت بوضوح حتى عند محاولة محو البيانات المرتبطة بها، مما يشير الى ان هذه الطباع ترسخت في البنية الاساسية لكيفية معالجة المعلومات داخل الانظمة، وهو ما يتطلب تدقيقا اضافيا.
مستقبل الذكاء الاصطناعي والامان الرقمي
وبينت الدراسة ان اعتماد الشركات المتزايد على مخرجات الذكاء الاصطناعي لتدريب اجيال جديدة، يأتي في ظل ندرة البيانات البشرية المتاحة، مما يجعل من تقنية التقطير حلا اقتصاديا سريعا ولكنه يحمل مخاطر تقنية غير مسبوقة.
واوضحت النتائج ان هذه البيانات الخفية قد تتحول الى ادوات لهجمات سيبرانية مستقبلية، حيث يمكن استغلال هذه الانحيازات والطباع الموروثة في تنفيذ عمليات هندسة اجتماعية معقدة، مما يهدد سلامة المستخدمين وتجربتهم مع هذه التقنيات.
واختتم الخبراء تحذيراتهم بالقول ان التوسع في استخدام البيانات المولدة آليا دون رقابة صارمة على الصفات الباطنية، قد يؤدي الى تفاقم الاخطاء السلوكية في الانظمة الذكية، مما يجعل من الضروري تطوير معايير فحص جديدة كليا.