خبير دولي: إجابات الذكاء الاصطناعي مضللة والإشراف البشري ضروري

أكد خبير دولي على أن الإشراف البشري ضروري لضمان دقة المحتوى الناتج وصلاحيته للاستخدام، في مختلف مجالات البحث التقليدي وبالذكاء الاصطناعي التوليدي، موضحاً أنه هناك أساليب إضافية لوضع الأسس اللازمة للذكاء الاصطناعي التوليدي في السياق المؤسسي، ومن ضمن ذلك الرسوم البيانية المعرفية، ومجموعات النماذج، والهندسة المتقدمة للأوامر.

إجابات الذكاء الاصطناعي مضللة والإشراف البشري ضروري

وقال دارين ستيوارت، نائب الرئيس للتحليلات في شركة “جارتنر” في دراسة نشرتها الشركة: على الرغم من هذه التطورات، إلا أنه يمكن لأي مساعد رقمي معزز بالذكاء الاصطناعي أن يولد استجابات غير صحيحة أو مضللة في بعض الأحيان، ولذلك لابد من التحقق من صحة أي محتوى يتم إنشاؤه بواسطة حل نموذج لغات كبيرة أو حل توليد معزز بالاسترداد (RAG)، ولذلك فإن الإشراف البشري ضروري لضمان دقة المحتوى الناتج وصلاحيته للاستخدام.

تضييق الفجوة بين محركات البحث

ونستعرض عبر “” نتائج الدراسة التي صدرت لتناقش أثر الذكاء الاصطناعي التوليدي على وظائف البحث التقليدية، لاسيما في الاستخدامات المؤسسية.

وقال ستيوارت: تؤدي محركات البحث والمساعدات الرقمية المعززة بالذكاء الاصطناعي مهمة حاسمة تتمثل في توفير المعلومات والأجوبة على استفسارات المستخدمين، ومع ذلك، غالباً ما يتساءل مهندسو تطبيقات أماكن العمل الرقمية عما إذا كان للمساعدات الرقمية المعززة بالذكاء الاصطناعي القدرة على الحلول محل البحث المؤسسي، وعلى الرغم من الاختلافات بين هذه التقنيات إلا أنها ترفد بعضها البعض في حقيقة الأمر ولا يستبدل أحدها الآخر.

وأضاف: لقد أدت الضجة التي أثيرت خلال الفترة الماضية حول الذكاء الاصطناعي التوليدي إلى تضييق الفجوة بين محركات البحث والمساعدات الرقمية المعززة بالذكاء الاصطناعي حيث تعتبر المحركات والمساعدات نصفين لحل مركب، ولذلك من المهم فهم دور كل منهما في مهام متمايزة لكل من محركات البحث والمساعدات الرقمية المعززة بالذكاء الاصطناعي.

البيانات الوصفية

يتمثل الغرض الأساسي من البحث المؤسسي في ضمان إمكانية إيجاد مصادر معلومات المؤسسات وإتاحتها للاطلاع والاستخدام، وتقوم منصات البحث بإدارة التحكم بإمكانية الوصول إلى المحتوى من خلال الالتزام بالتراخيص والامتيازات المُعطاة إلى المحتوى. ويعتبر الفهرس الآلية الأساسية التي تدعم البحث حيث يقوم بتحديد المحتوى وبنيته والسماح بمطابقة المعلومات مع الاستفسارات.

ويمكن إثراء هذا المحتوى من خلال بيانات وصفية إضافية تعزز قدرات الفهرسة لتتخطى مجرد المطابقة البسيطة للكلمات الرئيسية، بالإضافة إلى ذلك فإنه يتم تحديث الفهرس بصورة منتظمة ودورية لضمان توفر أحدث المعلومات.

اقرأ أيضاً..

وأشار ستيوارت إلى أن المساعدات الرقمية المعززة بالذكاء الاصطناعي تقوم باستخدام القدرات اللغوية والاستدلالية الخاصة بنماذج اللغات الكبيرة (LLMs) بهدف تفسير طلبات اللغات الطبيعية، والقيام حينها إما بأداء مهمة ما، أو صياغة إجابة عبر استخدام اللغة الطبيعية.

المحتوى الخارجي يفتقر إلى المعلومات

وأضاف: أصبحت المساعدات الرقمية المعززة بالذكاء الاصطناعي في الوقت الحالي من المزايا الشائعة في العديد من المنصات، بالإضافة إلى ذلك فإن قدرات المساعدات الرقمية المعززة بالذكاء الاصطناعي التوليدي الخاصة بمزودين محددين تكون مقتصرة في معظم الحالات على منصاتها الأصلية، وعلى الرغم من أن إدراج معلومات مُستضافة من خارج تلك المنصات غالباً ما يكون ممكناً ولكنه ينطوي على الكثير من المشاكل.

فتجدر الإشارة هنا إلى أن المحتوى الخارجي يفتقر إلى المعلومات المناسبة للسياق التي عادة ما تكون متوافرة في المحتوى المستضاف داخلياً ضمن المنصة، كما يكون منقوصاً أو يتم إغفاله في أغلب الأحيان عند صياغة المساعد الرقمي لرد على استفسار ما.

الاعتماد على البحث عن سياق مؤسسي

وتعتبر نماذج اللغات الكبيرة التي تدعم المساعدات الرقمية المعززة بالذكاء الاصطناعي مثل “جي بي تي” (GPT) و”جيميناي” (Gemini) نماذج أساسية، وتعاني هذه النماذج من وجه قصور رئيسي يتمثل بأنها لن تكون على دراية بأية معلومات غير مدرجة في بيانات التدريب الخاصة بها، ما يعني بأن أي معلومات خاصة أو محدّثة أو مملوكة لأي جهة معينة لن تكون متاحة للاستخدام من قبل النموذج.

ويمكن لمحرك البحث تجاوز وجه القصور هذا من خلال تزويد نموذج اللغة الكبيرة بمعلومات إضافية والمطلوبة للاستجابة على طلب أو إتمام مهمة بصورة آنية، وتعد هذه الطريقة المعروفة باسم التوليد المعزز بالاسترداد (RAG) عامل تمكين أساسي للمساعدات الرقمية المعززة بالذكاء الاصطناعي، إذ يستخدم المساعد الرقمي المصمم باستخدام التوليد المعزز بالاسترداد، محرك بحث لتحديد المصادر المؤسسية واستردادها ليتم بعد ذلك نقلها إلى نموذج لغة كبيرة بصيغة أمر.

وضع أسس المساعدات الرقمية

وقال ستيوارت: يسهم استخدام البحث لتوفير المعلومات وإتاحتها للمساعد الرقمي المعزز بالذكاء الاصطناعي في وضع الأسس اللازمة للمساعد الرقمي في السياق المؤسسي، كما يمكن لهذا التوجه التقليل وبشكل كبير من إمكانية تقديم إجابات غير صحيحة أو مضللة، على الرغم من أنه لن يسهم في واقع الأمر في إلغاء هذا النوع من الإجابات تماماً.

وتحدد جودة المعلومات التي يتم الحصول عليها من خلال التوليد المعزز بالاسترداد (RAG) إلى حد كبير جودة المخرجات، ما يجعل إدارة المحتوى وحوكمته من الأمور بالغة الأهمية، ويؤدي تحسين البنية التحتية للبحث عبر دمج البحث المعجمي والدلالي، إلى زيادة احتمالات إيصال المعلومات ذات الصلة فقط إلى نماذج اللغات الكبيرة.

نسخ الرابط
تم نسخ الرابط