قدّم الذكاء الاصطناعي روابط مرجعية، فلماذا قد تظل الإجابة خاطئة؟
قدّم الذكاء الاصطناعي روابط مرجعية، فلماذا قد تظل الإجابة خاطئة؟
عندما نطلب من الذكاء الاصطناعي البحث عن معلومات، يسهل أن نعتاد التشكيك أولًا في الإجابات التي لا تذكر مصادر، والاطمئنان أكثر إلى الإجابات التي تتضمن روابط مرجعية.
هذه عادة مفيدة، لكنها لا تكفي.
وجود رابط بعد فقرة من الإجابة يعني فقط أن هناك نقطة يمكن البدء منها للتحقق. أما صحة الرابط، ومدى دعم النص الأصلي للاستنتاج، وانطباق المعلومات على الإصدار المستخدم حاليًا، فهي ثلاثة أمور يجب التحقق من كل منها على حدة.
وتزداد أهمية ذلك عند إعداد البرامج، أو شراء الأجهزة، أو التعامل مع قواعد المنصات. فقد تبدو الاستشهادات مكتملة، بينما يكون الاستنتاج خاطئًا تحديدًا في شرط يؤثر في قرارك.
قد يكون الرابط صحيحًا، لكن الاستنتاج لا يطابق المصدر
افترض أنك سألت: «هل يظل جهاز منزلي ذكي معيّن قابلًا للاستخدام بعد انقطاع الاتصال بالإنترنت؟»
يجيب الذكاء الاصطناعي بنعم، ويُرفق وثيقة من الشركة المصنّعة. وعندما تفتح الوثيقة، تجد أنها تنص فعلًا على أن الجهاز «يدعم التحكم المحلي».
لكن عبارة «يدعم التحكم المحلي» لا تجيب تلقائيًا عن كل الأسئلة: من خلال أي وسيلة يتم التحكم؟ هل يلزم وجود بوابة محلية؟ هل المقصود انقطاع الإنترنت الخارجي، أم انقطاع الشبكة اللاسلكية المنزلية؟ وهل تستمر أيضًا إمكانية الوصول عن بُعد والتحكم الصوتي؟
إذا حُوّل وصف قدرة مشروطة إلى استنتاج يقول إن «كل الوظائف تعمل بشكل طبيعي بعد انقطاع الاتصال»، فسيظل الاستنتاج مبالغًا فيه، حتى لو كان الاستشهاد حقيقيًا.
عند التحقق من المصدر، يكون السؤال الأكثر فائدة هو:
أي عبارة في النص الأصلي تدعم أي حكم في الإجابة؟
إذا لم تجد صلة واضحة بينهما، فمن الأفضل اعتبار ذلك الحكم غير مثبت مؤقتًا.
حداثة تاريخ النشر لا تعني انطباق المعلومات على بيئتك
ثمة مسألة أخرى يسهل إغفالها في المواد التقنية: نطاق انطباقها.
قد تصف وثيقة حُدّثت للتو أحدث إصدار فقط، من دون أن تتوفر الميزة نفسها في الإصدار الأقدم الذي تستخدمه. وبالعكس، قد يبدو شرح نُشر قبل سنوات مألوفًا في لقطات الشاشة، لكنه لم يعد صالحًا لواجهات البرمجة ومتطلبات الأذونات الحالية.
على سبيل المثال، «إمكانية حفظ مسودة عبر واجهة برمجة التطبيقات» و«إمكانية النشر رسميًا عبر واجهة برمجة التطبيقات» قدرتان مختلفتان. كما أن دعم المنصة لواجهة معينة لا يعني أن حسابك الحالي مُنح صلاحية استخدامها.
لذلك، عندما يتعلق الاستنتاج بإجراء تنوي تنفيذه، لا تنظر إلى التاريخ وحده؛ تحقق أيضًا من إصدار المنتج، ونوع الحساب، والمنطقة، والشروط المسبقة التي ينطبق عليها.
فعبارة «مدعوم رسميًا» تحتاج غالبًا إلى تتمة: «تحت أي شروط؟»
تعدد الروابط لا يعني بالضرورة تعدد الأدلة المستقلة
قد تبدو إجابة تسرد خمسة مصادر أكثر موثوقية من إجابة تسرد مصدرًا واحدًا. لكن المقالات الخمسة ربما تستند جميعها إلى الإعلان نفسه.
إذا كان المصدر الأول وصفًا ترويجيًا لا يبيّن شروط الاختبار، فلن تؤدي كثرة إعادة نشره إلى توفير بيانات اختبار إضافية.
عند البحث، يمكنك تتبّع الاستشهاد خطوة إلى الوراء: هل تستند المقالة إلى وثيقة رسمية، أم دراسة أصلية، أم اختبار أجراه الكاتب بنفسه، أم تقرير آخر؟
وتختلف الأسئلة التي يستطيع كل نوع من المصادر الإجابة عنها. فالوثائق الرسمية مناسبة لتأكيد تعريف الميزة وشروط استخدامها؛ أما الدراسات الأصلية فتحتاج إلى فهم إعداد التجربة. ويمكن أن يقدم الاختبار الشخصي تجربة محددة، لكنه لا يمثل تلقائيًا جميع الأجهزة والبيئات.
تتحدد قيمة المصدر بحسب السؤال الذي تحاول التحقق منه.
الأهم هو التحقق من الجملة التي ستحدد خطوتك التالية
فحص كل كلمة في الإجابة مكلف. والأجدى عمليًا إعطاء الأولوية للحكم الأساسي الذي قد يغيّر ما ستفعله.
إذا كنت تنوي شراء جهاز، فتحقق من التوافق والملحقات اللازمة. وإذا كنت تنوي تنفيذ أمر برمجي، فتحقق من الإصدار ونطاق تأثير الأمر وكيفية التراجع عند الإخفاق. وإذا كنت تنوي نشر محتوى، فتحقق من أن الإجابة لا تخلط بين النشر وحفظ المسودة والإرسال الجماعي.
يمكن اختصار عملية التحقق في أربع خطوات:
- اختر من الإجابة جملةً تؤثر في قرارك.
- افتح المصدر الأصلي المرتبط بها.
- اعثر على الفقرة التي تدعم تلك الجملة مباشرةً.
- راجع الشروط والاستثناءات ونطاق الانطباق الواردة في النص الأصلي.
إذا كان المصدر يدعم جزءًا من الجملة فقط، فاحصر الاستنتاج في النطاق الذي تسنده الأدلة.
مثلًا، بدلًا من «انقطاع الإنترنت لا يؤثر في الاستخدام»، يمكن القول: «ما دامت الشبكة المحلية والبوابة المطلوبة تعملان، يمكن الاستمرار في استخدام وظائف التحكم المحلي المذكورة في الوثيقة». الجملة أطول قليلًا، لكنها أقرب إلى المعلومة التي تحتاجها فعلًا.
اطلب من الذكاء الاصطناعي الفصل بين الحقائق والاستنتاجات
يمكننا أيضًا، عند طرح السؤال، أن نطلب من الذكاء الاصطناعي تقديم إجابة يسهل التحقق منها:
يرجى عرض الحقائق التي جرى التحقق منها، والاستنتاجات المبنية عليها، والأمور التي ما زالت غير مؤكدة، كلٌّ على حدة. أرفق المصادر الأصلية للحقائق الأساسية، واذكر الإصدار أو التاريخ الذي تنطبق عليه، وحدد الاستنتاج الذي يدعمه النص الأصلي. وإذا تعذّر عليك الوصول إلى النص الكامل، فاذكر ذلك صراحةً.
هذا الطلب لا يضمن صحة الإجابة، لكنه يجعل الثغرات أسهل اكتشافًا.
على سبيل المثال، ينبغي التعبير بشكل منفصل عما «تنص عليه الوثيقة صراحةً» وعما «أستنتجه من هذا النص». وإذا لم يُطّلع إلا على ملخص البحث، فلا ينبغي تقديم الأمر كما لو أن النص الكامل قد قُرئ.
إذا لم يستطع الذكاء الاصطناعي تحديد موضع الدليل، فإن مطالبته بصياغة الإجابة بلهجة أكثر يقينًا لن تعوّض نقص الأدلة.
في المرة المقبلة التي ترى فيها إجابة من الذكاء الاصطناعي مرفقة بروابط مرجعية، ابدأ بأهم جملة فيها وتتبّع رابطها إلى المصدر. ما تحتاج إلى التأكد منه هو مدى دعم المصدر لتلك الجملة تحديدًا.
هذا المقال شرح لمنهجية كُتب بمساعدة الذكاء الاصطناعي. الأمثلة فيه سيناريوهات افتراضية، ولا تمثل نتائج اختبارات عملية لمنتج أو منصة بعينها.
رسم مفاهيمي مولّد بالذكاء الاصطناعي، وليس صورة اختبار أو مخططاً لطوبولوجيا الشبكة.
Discussion
Share a question or your experience. Comments appear after moderation. Your email is never displayed publicly. Comment privacy
Loading comments…