تسلط أخبار التقنية الأخيرة الضوء على «فساد الإنجرام» في الذكاء الاصطناعي، وهي مشكلة تنشأ عندما تظن أجزاء مختلفة من النظام أنها تتحكم في نفس المورد. يشرح هذا المنشور كيف يمكن أن يؤدي عدم وضوح الملكية إلى سلوك غير متوقع في البرمجيات المعقدة، مستخدمًا أمثلة بسيطة.
ربما تكون قد شاهدت عناوين الأخبار التقنية حول «فساد الإنجرام» (Engram Corruption) في أنظمة الذكاء الاصطناعي المتقدمة. يبدو الأمر مستقبليًا، أليس كذلك؟ لكن في جوهره، هو مشكلة شائعة جدًا في عالم برمجة الحاسوب: معرفة من هو المسؤول.
تخيل ذكاءً اصطناعيًا، مثل ذلك الذي ذكر في الأخبار، مبنيًا من «مهارات» صغيرة عديدة. بعض المهارات هي إجراءات أساسية، بينما البعض الآخر، لنسميها «مهارات إدارية»، تنظم وتنشط مجموعات من المهارات الأخرى. على سبيل المثال، قد تقوم مهارة «مدير النهار» بتنشيط جميع سلوكيات «وقت النهار»، بينما تتولى مهارة «مدير الليل» المسؤولية بعد غروب الشمس.
تنشأ المشكلة عندما تقوم مهارة خاصة تُسمى «السبات» (Hibernate) بأخذ لقطة لجميع المهارات في «عقل» الذكاء الاصطناعي لتوفير الطاقة، ثم تحاول استعادة كل شيء لاحقًا. المشكلة؟ هذه المهارة «السبات» لا تستعيد أشياءها الخاصة فقط؛ بل تستعيد كل شيء، بما في ذلك المهارات التي تنتمي إلى المديرين الآخرين، مثل «مدير النهار». عندما يحاول «مدير النهار» بعد ذلك إعادة مهاراته، يجد أنها موجودة بالفعل، أو في حالة لم يكن يتوقعها. هذا يخلق ارتباكًا: من هو المسؤول الفعلي عن هذه المهارات «النهارية» الآن؟ كل من مهارة «السبات» ومهارة «مدير النهار» تظن أنها المسيطرة، مما يؤدي إلى «فساد الإنجرام».
فكر في الأمر كمكتب مشترك. كل قسم (مهارة إدارية) لديه خزانة ملفاته الخاصة (المهارات المحملة). يقرر فني جديد لتكنولوجيا المعلومات (مهارة السبات) عمل نسخة احتياطية لجميع الملفات من جميع الخزائن على خادم مركزي، ثم يعيد استعادتها جميعًا. لاحقًا، يأتي رئيس القسم (مدير النهار)، ويتوقع أن ينظم ملفاته الخاصة مرة أخرى في خزانته، لكنه يجد أن فني تكنولوجيا المعلومات قد وضعها هناك بالفعل، ربما ليس بالضبط بالطريقة التي أرادها رئيس القسم، أو ربما تسبب في إنشاء نسخ مكررة. الآن، من هو المسؤول الحقيقي عن تلك الملفات؟
يؤدي هذا الافتقار إلى الوضوح في الملكية والمسؤولية إلى الأخطاء، والسلوك غير المتوقع، أو حتى تعطل النظام. قد يقوم الذكاء الاصطناعي بتنشيط المهارات الخاطئة، أو قد تفشل المهارات في العمل بشكل صحيح لأن مديرها مرتبك بشأن حالتها.
الدرس المستفاد من «فساد الإنجرام» حاسم لبناء أي نظام معقد: لكل جزء من البيانات أو الوظيفة، يجب أن يكون هناك مالك أو مدير واحد واضح. عندما يؤثر إجراء عالمي على المكونات المحلية، فإنه يحتاج إلى احترام وتنسيق مع المديرين الفرديين، وليس مجرد الكتابة فوق مسؤولياتهم أو تكرارها. الحدود الواضحة تمنع الارتباك وتحافظ على سير الأنظمة بسلاسة.
تخيل ذكاءً اصطناعيًا، مثل ذلك الذي ذكر في الأخبار، مبنيًا من «مهارات» صغيرة عديدة. بعض المهارات هي إجراءات أساسية، بينما البعض الآخر، لنسميها «مهارات إدارية»، تنظم وتنشط مجموعات من المهارات الأخرى. على سبيل المثال، قد تقوم مهارة «مدير النهار» بتنشيط جميع سلوكيات «وقت النهار»، بينما تتولى مهارة «مدير الليل» المسؤولية بعد غروب الشمس.
تنشأ المشكلة عندما تقوم مهارة خاصة تُسمى «السبات» (Hibernate) بأخذ لقطة لجميع المهارات في «عقل» الذكاء الاصطناعي لتوفير الطاقة، ثم تحاول استعادة كل شيء لاحقًا. المشكلة؟ هذه المهارة «السبات» لا تستعيد أشياءها الخاصة فقط؛ بل تستعيد كل شيء، بما في ذلك المهارات التي تنتمي إلى المديرين الآخرين، مثل «مدير النهار». عندما يحاول «مدير النهار» بعد ذلك إعادة مهاراته، يجد أنها موجودة بالفعل، أو في حالة لم يكن يتوقعها. هذا يخلق ارتباكًا: من هو المسؤول الفعلي عن هذه المهارات «النهارية» الآن؟ كل من مهارة «السبات» ومهارة «مدير النهار» تظن أنها المسيطرة، مما يؤدي إلى «فساد الإنجرام».
فكر في الأمر كمكتب مشترك. كل قسم (مهارة إدارية) لديه خزانة ملفاته الخاصة (المهارات المحملة). يقرر فني جديد لتكنولوجيا المعلومات (مهارة السبات) عمل نسخة احتياطية لجميع الملفات من جميع الخزائن على خادم مركزي، ثم يعيد استعادتها جميعًا. لاحقًا، يأتي رئيس القسم (مدير النهار)، ويتوقع أن ينظم ملفاته الخاصة مرة أخرى في خزانته، لكنه يجد أن فني تكنولوجيا المعلومات قد وضعها هناك بالفعل، ربما ليس بالضبط بالطريقة التي أرادها رئيس القسم، أو ربما تسبب في إنشاء نسخ مكررة. الآن، من هو المسؤول الحقيقي عن تلك الملفات؟
يؤدي هذا الافتقار إلى الوضوح في الملكية والمسؤولية إلى الأخطاء، والسلوك غير المتوقع، أو حتى تعطل النظام. قد يقوم الذكاء الاصطناعي بتنشيط المهارات الخاطئة، أو قد تفشل المهارات في العمل بشكل صحيح لأن مديرها مرتبك بشأن حالتها.
الدرس المستفاد من «فساد الإنجرام» حاسم لبناء أي نظام معقد: لكل جزء من البيانات أو الوظيفة، يجب أن يكون هناك مالك أو مدير واحد واضح. عندما يؤثر إجراء عالمي على المكونات المحلية، فإنه يحتاج إلى احترام وتنسيق مع المديرين الفرديين، وليس مجرد الكتابة فوق مسؤولياتهم أو تكرارها. الحدود الواضحة تمنع الارتباك وتحافظ على سير الأنظمة بسلاسة.
