جوجل تريد إنهاء أوهام الذكاء الاصطناعي من خلال تعليمه الشك
يستند هذا المقترح إلى مفهوم يُسمى "الشك الصادق"، والذي يهدف إلى ضمان أن تستجيب نماذج اذكاء الإصطناعي بشكل صحيح ليس فقط عندما تعرف الإجابة، بل أيضًا عندما لا تكون متأكدة تمامًا.
حتى الآن، كان تحسين موثوقية النماذج ينطوي على حل وسط. فغالبًا ما يؤدي تقليل الأخطاء إلى امتناع الذكاء الاصطناعي عن الاستجابة في الحالات التي يمتلك فيها معلومات صحيحة، مما يحد من فائدته.
ووفقاً للباحثين، تخلق هذه الظاهرة ما يسمونه "ضريبة المرافق". ولتجنب الأخطاء، ينتهي الأمر بالأنظمة بفقدان جزء كبير من إجاباتها الصحيحة.
يقترح النهج الجديد التخلي عن فكرة أن كل إجابة خاطئة هي مجرد وهم. وبدلاً من ذلك، يميز بين الأخطاء المؤكدة (عندما يكون الذكاء الاصطناعي متأكدًا من خطئه) والاستجابات التي تتضمن بعض الشك أو التلميح.
وبالتالي، إذا استجاب النموذج بعبارات مثل "أعتقد" أو "أفضل تقدير لدي هو"، فلا يُعتبر ذلك فشلاً، بل فرضية مفيدة يمكن للمستخدم تقييمها.
يكمن جوهر النظام في مواءمة ثقة النموذج الداخلية مع كيفية تعبيره عن تلك الثقة. بعبارة أخرى، يجب ألا يُظهر الذكاء الاصطناعي الشك إلا عندما يكون مستوى يقينه الداخلي منخفضًا بالفعل.
سيُمكّن هذا النموذج من الاستجابة بثقة عندما يكون متأكدًا، والتعبير عن الشك عندما يكتشف عدم يقين حقيقي، وتجنب كل من الثقة المفرطة والحذر الزائد.
يُعد هذا المفهوم ذا أهمية خاصة في أنظمة الذكاء الاصطناعي المستقلة حيث لا تكتفي النماذج بالإجابة على الأسئلة فحسب، بل تستخدم أيضًا أدوات خارجية مثل محركات البحث أو قواعد البيانات.
هنا، يعمل عدم اليقين الحقيقي بمثابة "نظام تحكم داخلي" يحدد متى يستشير المعلومات الخارجية ومتى يعتمد على معرفته الخاصة.
يتمثل أحد التحديات الرئيسية في تدريب النماذج على التعبير عن عدم اليقين بواقعية. وهذا أمر معقد لأن "مستوى معرفة" الذكاء الاصطناعي يتغير أثناء التدريب، مما يصعب معه تحديد متى ينبغي له التردد ومتى لا ينبغي له ذلك.
علاوة على ذلك، ثمة خطر يتمثل في أن يتعلم النموذج محاكاة الشك دون أن يعكس ثقته الداخلية الحقيقية.
ويشير الباحثون إلى أن الحل لا يكمن فقط في زيادة كمية البيانات أو حجم النماذج، ولكن في جعلها أكثر وعياً بقيودها.
from حوحو للمعلوميات https://ift.tt/o2mcfpI
via IFTTT
0 رد على "جوجل تريد إنهاء أوهام الذكاء الاصطناعي من خلال تعليمه الشك"
إرسال تعليق