أظهرت دراسة حديثة أجرتها شركة كراود سترايك للأمن السيبراني أن نماذج الذكاء الاصطناعي الصينية، وتحديداً نموذج “ديب سيك”، قد تولد أكوادًا برمجية تحتوي على ثغرات أمنية خطيرة، خاصةً عند التعامل مع مواضيع سياسية حساسة تتعلق بالحكومة الصينية. هذا الاكتشاف يثير مخاوف متزايدة حول أمن هذه النماذج وقدرتها على التأثير في البنية التحتية الرقمية. التقرير، الذي نشر على موقع “ذا هاكر نيوز”، يسلط الضوء على الحاجة إلى تقييمات أمنية أكثر صرامة.
جاءت هذه النتائج بعد فترة من التدقيق في أداء نماذج الذكاء الاصطناعي، حيث أبدت بعض الحكومات قلقها بشأن قدرتها على معالجة المعلومات الحساسة بشكل موضوعي. وقد أدت هذه المخاوف إلى حظر بعض النماذج في دول مختلفة، بما في ذلك تايوان، التي حذرت مواطنيها من استخدامها بسبب خطر التضليل الإعلامي المتعلق بالعلاقات مع الصين.
مخاطر أمنية في أكواد الذكاء الاصطناعي
وفقًا لتقرير كراود سترايك، فإن نماذج الذكاء الاصطناعي الصينية قادرة على إنشاء نصوص برمجية يمكن استخدامها في هجمات على الشبكات، بالإضافة إلى أكواد استغلال للثغرات الأمنية تسمح بتنفيذ أوامر عن بعد. هذا يزيد بشكل كبير من تعقيد إدارة الأمن السيبراني، خاصةً مع الاعتماد المتزايد على هذه التقنيات في مختلف القطاعات.
تأثير المواضيع الحساسة على جودة الكود
أظهرت الدراسة أن نموذج “ديب سيك” يولد أكوادًا معيبة بشكل ملحوظ عندما يُطلب منه التعامل مع مواضيع تعتبر حساسة من قبل الحكومة الصينية. على سبيل المثال، عند محاولة تصميم نظام تحكم صناعي لمنشأة في التبت أو تطوير تطبيق لجمع بيانات حول انتهاكات حقوق الإنسان ضد الإيغور، ارتفع معدل توليد الأكواد التي تحتوي على ثغرات أمنية بنسبة تصل إلى 50٪.
على الرغم من أن هذه الأكواد قد تعمل بشكل صحيح من الناحية الوظيفية، إلا أنها تحمل مخاطر أمنية كامنة يمكن استغلالها من قبل جهات خبيثة. هذا يشير إلى وجود قيود مدمجة في النموذج تهدف إلى تجنب إنتاج محتوى يتعارض مع المصالح السياسية للصين.
قيود برمجية والتزام بالقوانين الصينية
تشير كراود سترايك إلى أن القيود المفروضة على “ديب سيك” من المحتمل أن تكون نتيجة لالتزام صارم بالقوانين واللوائح الصينية المتعلقة بالذكاء الاصطناعي. تتضمن هذه القوانين بنودًا تمنع إنتاج محتوى يمكن أن يُنظر إليه على أنه يقوض الاستقرار الاجتماعي أو يتحدى الوضع السياسي الراهن. ويتماشى هذا مع توجه عام لتعزيز “الأمن القومي” في مجال التكنولوجيا.
بالإضافة إلى ذلك، تعمل هذه القيود كشكل من أشكال الرقابة، مما يمنع النماذج من التعبير عن آراء تتعارض مع الخطوط الرسمية للحكومة الصينية. هذا يثير تساؤلات حول مدى موضوعية وموثوقية هذه النماذج في تقديم المعلومات والتحليلات. وتعتبر هذه النتيجة جزءًا من نقاش أوسع حول سيادة البيانات والأمن السيبراني.
هذا التحذير يأتي في الوقت الذي تتزايد فيه المخاوف العالمية بشأن استخدام الذكاء الاصطناعي في الأنشطة الضارة، مثل نشر المعلومات المضللة أو تنفيذ الهجمات الإلكترونية. ويؤكد على الحاجة إلى تطوير آليات فعالة لتقييم المخاطر الأمنية المرتبطة بهذه التقنيات، خاصةً تلك التي يتم تطويرها من قبل دول ذات أجندات سياسية واضحة.
المخاوف تتعلق أيضاً بـ “التحيز الخوارزمي” حيث يمكن لـالذكاء الاصطناعي، بناءً على البيانات التي تدرب عليها، أن يعكس أو يعزز التحيزات الموجودة مسبقًا. وفي هذا السياق، تظهر الدراسة أن التحيزات السياسية يمكن أن تؤثر بشكل مباشر على الموثوقية الأمنية للنماذج.
في أعقاب هذه النتائج، من المتوقع أن تقوم الحكومات والهيئات التنظيمية بمراجعة وتقييم مخاطر استخدام نماذج الذكاء الاصطناعي الصينية. وسيتم التركيز بشكل خاص على تقييم الأكواد البرمجية التي تنتجها هذه النماذج والتحقق من وجود أي ثغرات أمنية. قد يؤدي هذا إلى فرض قيود إضافية على استخدام هذه النماذج أو حتى حظرها بشكل كامل في بعض البلدان. لا يزال من غير الواضح ما إذا كانت شركة DeepSeek AI ستصدر ردًا رسميًا على هذه الاتهامات، وما إذا كانت ستتخذ أي خطوات لمعالجة الثغرات الأمنية المذكورة. ويتوقع متخصصو الأمن السيبراني الكشف عن مزيد من التفاصيل حول هذه القضية في الأشهر القادمة.
