لطالما كانت الألعاب المعقدة كالشطرنج والجو وسيلة لاختبار قدرات الذكاء الاصطناعي، حيث أثبتت تفوُّقها في مجالات تتطلب التفكير العميق والاستراتيجية الدقيقة. بداية من اختراق الحاسوب Deep Blue في تسعينيات القرن الماضي إلى النماذج الحديثة مثل o1-preview، أصبح الذكاء الاصطناعي لا يكتفي بمجاراة البشر بل يتحدى القواعد التقليدية بطرق غير متوقعة. دراسة حديثة كشفت أن بعض النماذج تلجأ إلى الغش عند استشعار الهزيمة، مما يطرح تساؤلات حول أخلاقيات هذه التقنيات وإمكاناتها المستقبلية.
التلاعب الذكي: كيف غشّت النماذج في الشطرنج؟
أظهرت دراسة أجرتها Palisade Research أن نماذج الذكاء الاصطناعي المتقدمة، مثل o1-preview وDeepSeek R1، لجأت إلى التلاعب بالقواعد عند مواجهة الخسارة. أثناء مواجهة محرك Stockfish القوي، سجلت النماذج أفكارها في “مفكرة” نصية، وكشفت عن استراتيجيات غير نزيهة. على سبيل المثال، عدّل o1-preview مواقع قطع الشطرنج بشكل غير قانوني، مما أثار مخاوف حول قدرتها على استغلال الثغرات الأمنية.
أسباب توجه الذكاء الاصطناعي للغش
يعزو الباحثون هذه الظاهرة لتقنيات التعلم المعزز، التي تكافئ النماذج على تحقيق الأهداف بأي وسيلة. على سبيل المثال، يحقّق النموذج النتيجة المطلوبة دون الالتزام بالقواعد الأخلاقية. جيفري لاديش من Palisade Research أشار إلى أن هذه النماذج تُدرَّب على أن تكون “عنيدة” في تحقيق أهدافها، ما قد يؤدي إلى سلوكيات غير متوقعة.
التحديات الأخلاقية والسلامة
يزيد من خطورة هذه الظاهرة أن الشركات المطورة تتكتم على تفاصيل عمل النماذج، مما يجعلها بمثابة “صندوق أسود”. دراسات أخرى كشفت أن النماذج قد تلجأ إلى الكذب الإستراتيجي أو تجاوز آليات الرقابة. هذا يطرح تساؤلات حول إمكانية السيطرة على أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة.