دراسة مقلقة: ملخصات الذكاء الاصطناعي في Google تخطئ كثيراً وتضلل المستخدمين!
في وقت تسارع فيه شركة Google لدمج الذكاء الاصطناعي في محرك بحثها الشهير، كشفت دراسة حديثة عن نتائج مقلقة تتعلق بدقة ملخصات الذكاء الاصطناعي التي تظهر في نتائج البحث. هذه الملخصات التي تهدف إلى توفير إجابات سريعة للمستخدمين، تبين أنها كثيراً ما تقدم معلومات غير دقيقة أو مضللة.
في هذا المقال نستعرض نتائج هذه الدراسة، ونحلل تأثيرها على ثقة المستخدمين بنتائج البحث، مع نصائح عملية للتعامل مع هذه الملخصات بحذر.
ما هي ملخصات الذكاء الاصطناعي في Google؟
منذ أواخر عام 2023، بدأت Google في إضافة ما يُعرف بـ AI Overviews أو ملخصات الذكاء الاصطناعي إلى نتائج البحث. هذه الملخصات تظهر في أعلى الصفحة وتقدم إجابة مباشرة للسؤال المطروح، مستخرجةً من مصادر متعددة على الإنترنت.
الفكرة تبدو مفيدة في ظاهرها، إذ تهدف إلى توفير وقت المستخدم وتقديم إجابة سريعة دون الحاجة إلى زيارة عدة مواقع. لكن الواقع يكشف عن صورة مختلفة تماماً.
ماذا كشفت الدراسة؟
كشفت الدراسة التي أجرتها مجموعة من الباحثين المتخصصين في مجال الذكاء الاصطناعي والبحث العلمي عن نتائج مقلقة تتعلق بجودة ملخصات الذكاء الاصطناعي في Google، وأبرزها:
- نسبة كبيرة من الملخصات تحتوي على معلومات غير دقيقة.
- بعض الملخصات تخلط بين المفاهيم وتقدم إجابات متناقضة.
- الملخصات في المجالات الطبية والقانونية والعلمية الأكثر عرضة للأخطاء.
- النظام يعتمد أحياناً على مصادر غير موثوقة أو قديمة.
أمثلة على أخطاء ملخصات Google AI
🔴 تقديم معلومات طبية خاطئة قد تكون خطيرة على الصحة
🔴 الخلط بين التواريخ والأحداث التاريخية
🔴 تقديم أرقام وإحصائيات غير دقيقة
🔴 نسب اقتباسات لأشخاص لم يقولوها فعلاً
🔴 تقديم نصائح قانونية غير صحيحة
لماذا يخطئ الذكاء الاصطناعي في هذه الملخصات؟
يعود سبب هذه الأخطاء إلى طبيعة عمل نماذج الذكاء الاصطناعي اللغوية، والتي تعمل على مبدأ التنبؤ بالكلمة التالية بناءً على السياق، وليس على فهم حقيقي للمعلومات. وهذا يعني أن النموذج قد يبدو واثقاً في إجابته حتى عندما يكون مخطئاً.
- الاعتماد على مصادر متناقضة على الإنترنت.
- صعوبة التحقق من صحة المعلومات في الوقت الفعلي.
- عدم فهم السياق الكامل للأسئلة المعقدة.
- التحيز في البيانات التدريبية المستخدمة.
كيف تقارن Google مع منافسيها في هذا المجال؟
| المحرك / الأداة | ملخصات AI | دقة المعلومات | ذكر المصادر | التحديث |
|---|---|---|---|---|
| Google AI Overviews | ✅ نعم | ⚠️ متوسطة | ⚠️ أحياناً | ✅ مستمر |
| Perplexity AI | ✅ نعم | ✅ جيدة | ✅ دائماً | ✅ فوري |
| Bing AI (Copilot) | ✅ نعم | ✅ جيدة | ✅ دائماً | ✅ مستمر |
| ChatGPT Search | ✅ نعم | ⚠️ متوسطة | ✅ غالباً | ✅ مستمر |
ما موقف Google من هذه النتائج؟
تؤكد Google باستمرار أنها تعمل على تحسين دقة ملخصات الذكاء الاصطناعي وتطوير آليات التحقق من المعلومات. كما أعلنت عن جملة من التحديثات التي تهدف إلى تقليل الأخطاء وتحسين جودة المصادر المستخدمة.
غير أن الباحثين يرون أن المشكلة أعمق من مجرد تحديثات تقنية، وتتعلق بطبيعة عمل نماذج الذكاء الاصطناعي اللغوية بشكل عام.
كيف تحمي نفسك من معلومات الذكاء الاصطناعي الخاطئة؟
- لا تعتمد على ملخصات الذكاء الاصطناعي كمصدر وحيد للمعلومات.
- تحقق دائماً من المصدر الأصلي للمعلومة.
- كن أكثر حذراً مع المعلومات الطبية والقانونية والمالية.
- استخدم أدوات بحث تذكر مصادرها مثل Perplexity AI.
- قارن المعلومات من مصادر متعددة قبل الاعتماد عليها.
- لا تشارك معلومات من ملخصات AI دون التحقق منها أولاً.
ما تأثير هذه الأخطاء على المستخدمين؟
- 📰 على صحة المعلومات: انتشار أخبار ومعلومات غير دقيقة
- 🏥 على الصحة: خطر اتباع نصائح طبية خاطئة
- ⚖️ على القانون: سوء فهم الحقوق والالتزامات القانونية
- 📚 على التعليم: تعلم معلومات خاطئة خاصة للطلاب
- 💼 على الأعمال: اتخاذ قرارات بناءً على بيانات غير صحيحة
هل يعني هذا أن الذكاء الاصطناعي غير موثوق؟
لا يعني ذلك أن الذكاء الاصطناعي غير مفيد أو يجب تجنبه بالكامل. هذه التقنية تقدم قيمة حقيقية في كثير من المجالات، لكن يجب التعامل معها بوعي ونقدية، وليس الاعتماد عليها بشكل أعمى.
الذكاء الاصطناعي يبقى أداة مساعدة، وليس مرجعاً نهائياً للمعلومات. والمستخدم الواعي هو من يعرف كيف يستفيد من هذه التقنية مع الحفاظ على تفكيره النقدي.
الخلاصة
تكشف نتائج هذه الدراسة أن ملخصات الذكاء الاصطناعي في Google، رغم فائدتها الظاهرة، تحمل مخاطر حقيقية تتعلق بدقة المعلومات. وفي عالم يعتمد فيه الكثيرون على نتائج البحث في قراراتهم اليومية، يصبح التحقق من المعلومات ضرورة وليس خياراً.
مع استمرار تطور هذه التقنية، من المأمول أن تعمل شركات التكنولوجيا على تحسين دقة ملخصاتها وتعزيز الشفافية في ذكر المصادر، لضمان تجربة بحث أكثر موثوقية وأماناً للمستخدمين.