ما هو الصندوق الأسود للذكاء الاصطناعي !
بالنسبة لبعض الناس ، فإن مصطلح “الصندوق الأسود” يعيد إلى الأذهان أجهزة التسجيل في الطائرات التي تعتبر ذات قيمة لتحليل ما بعد الكارثة. بالنسبة للآخرين. لكن الصندوق الأسود هو أيضًا مصطلح مهم في عالم الذكاء الاصطناعي.
تشير الصناديق السوداء للذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي ذات الأعمال الداخلية غير المرئية للمستخدم. يمكنك الحصول على المخرجات من خلال المدخلات ، لكن لا يمكنك فحص كود النظام أو المنطق الذي أنتج المخرجات.
التعلم الآلي هو المجموعة الفرعية المهيمنة للذكاء الاصطناعي. إنه أساس أنظمة الذكاء الاصطناعي التوليدية مثل ChatGPT و DALL-E2. هناك ثلاثة مكونات للتعلم الآلي: الخوارزمية أو مجموعة من الخوارزميات وبيانات التدريب والنماذج.
الخوارزمية هي مجموعة من الإجراءات. في التعلم الآلي ، تتعلم الخوارزمية تحديد الأنماط بعد تدريبها على مجموعة كبيرة من الأمثلة – بيانات التدريب. بمجرد تدريب خوارزمية التعلم الآلي ، تكون النتيجة نموذجًا للتعلم الآلي. النموذج هو ما يستخدمه الناس.
يمكن إخفاء أي من المكونات الثلاثة لنظام التعلم الآلي ، أو وضعه في صندوق أسود. كما هو الحال غالبًا ، فإن الخوارزمية معروفة للجمهور ، مما يجعل وضعها في الصندوق الأسود أقل فعالية. لذلك لحماية ملكيتهم الفكرية ، غالبًا ما يضع مطورو الذكاء الاصطناعي النموذج في صندوق أسود. نهج آخر يتبعه مطورو البرامج هو إخفاء البيانات المستخدمة لتدريب النموذج – بمعنى آخر ، وضع بيانات التدريب في صندوق أسود.
يشار أحيانًا إلى عكس الصندوق الأسود باسم الصندوق الزجاجي. الصندوق الزجاجي بالذكاء الاصطناعي هو نظام تتوفر فيه جميع الخوارزميات وبيانات التدريب والنموذج ليراها أي شخص. لكن الباحثين في بعض الأحيان يصفون جوانب منها بأنها الصندوق الأسود.
هذا لأن الباحثين لا يفهمون تمامًا كيف تعمل خوارزميات التعلم الآلي ، وخاصة خوارزميات التعلم العميق. يعمل مجال الذكاء الاصطناعي القابل للتفسير على تطوير خوارزميات يمكن أن يفهمها البشر بشكل أفضل ، رغم أنها ليست بالضرورة علبة زجاجية.
اهمية الصندوق الاسود في الذكاء الاصطناعي AI
في كثير من الحالات ، هناك سبب وجيه للقلق من خوارزميات ونماذج التعلم الآلي في الصندوق الأسود. افترض أن أحد نماذج التعلم الآلي قد قام بتشخيص صحتك. هل تريد أن يكون النموذج عبارة عن صندوق أسود أم صندوق زجاجي؟ ماذا عن الطبيب الذي يصف لك مسار العلاج؟ ربما تود أن تعرف كيف وصل النموذج إلى قراره.
ماذا لو رفض نموذج التعلم الآلي الذي يحدد ما إذا كنت مؤهلاً للحصول على قرض تجاري من أحد البنوك؟ ألا تريد أن تعرف لماذا؟ إذا فعلت ذلك ، يمكنك استئناف القرار بشكل أكثر فعالية ، أو تغيير وضعك لزيادة فرصك في الحصول على قرض في المرة القادمة.
الصناديق السوداء لها أيضًا آثار مهمة على أمان نظام البرامج. لسنوات ، اعتقد العديد من الأشخاص في مجال الحوسبة أن الاحتفاظ بالبرامج في صندوق أسود سيمنع المتسللين من فحصها وبالتالي سيكون آمنًا. لقد ثبت خطأ هذا الافتراض إلى حد كبير لأن المتسللين يمكنهم إجراء هندسة عكسية للبرامج – أي بناء نسخة طبق الأصل من خلال المراقبة الدقيقة لكيفية عمل جزء من البرنامج – واكتشاف نقاط الضعف لاستغلالها.
إذا كان البرنامج في صندوق زجاجي ، فيمكن لمختبري البرامج والمتسللين ذوي النوايا الحسنة فحصه وإبلاغ منشئي البرامج بنقاط الضعف ، وبالتالي تقليل الهجمات الإلكترونية إلى الحد الأدنى.
