تحذر دراسة أكسفورد من أن هلوسة الذكاء الاصطناعي تشكل “تهديدًا مباشرًا” للعلم

تميل نماذج اللغات الكبيرة (LLMs) – مثل تلك المستخدمة في برامج الدردشة الآلية – إلى الهلوسة. وهذا يعني إنشاء محتوى زائف يقدمونه على أنه دقيق. ويحذر الباحثون في معهد أكسفورد للإنترنت من أن هلاوس الذكاء الاصطناعي هذه تشكل، من بين مخاطر أخرى، تهديدًا مباشرًا للعلم والحقيقة العلمية.

بحسب ورقتهم المنشورة في طبيعة سلوك الإنسان“تم تصميم LLMs لإنتاج إجابات مفيدة ومقنعة دون أي ضمانات مطلقة فيما يتعلق بدقتها أو توافقها مع الحقيقة.”

يتم التعامل مع LLMs حاليًا كمصادر للمعرفة وتوليد المعلومات ردًا على الأسئلة أو المطالبات. لكن البيانات التي تم تدريبهم عليها ليست بالضرورة صحيحة من الناحية الواقعية. أحد الأسباب وراء ذلك هو أن هذه النماذج غالبًا ما تستخدم مصادر عبر الإنترنت، والتي يمكن أن تحتوي على بيانات وآراء ومعلومات غير دقيقة.

وأوضح البروفيسور برنت ميتلستادت، المؤلف المشارك في الدراسة: “إن الأشخاص الذين يستخدمون ماجستير إدارة الأعمال غالبًا ما يقومون بتجسيم التكنولوجيا، حيث يثقون بها كمصدر معلومات يشبه الإنسان”.

“يرجع هذا جزئيًا إلى تصميم حاملي شهادات الماجستير كوكلاء مفيدين يتمتعون بأصوات بشرية ويتحدثون مع المستخدمين ويجيبون على ما يبدو على أي سؤال من خلال نص مكتوب جيدًا ويبدو واثقًا. والنتيجة هي أنه يمكن بسهولة إقناع المستخدمين بأن الإجابات دقيقة حتى عندما لا يكون لها أي أساس في الواقع أو تقدم نسخة متحيزة أو جزئية من.”

عندما يتعلق الأمر بالعلوم والتعليم، فإن دقة المعلومات لها أهمية حيوية ويحث الباحثون المجتمع العلمي على استخدام ماجستير في القانون باعتبارهم “مترجمين صفريين”. وهذا يعني أنه يجب على المستخدمين تزويد النموذج بالبيانات المناسبة وطلب تحويله إلى استنتاج أو رمز، على سبيل المثال – بدلاً من الاعتماد على النموذج نفسه كمصدر للمعرفة.

بهذه الطريقة يصبح من الأسهل التحقق من أن الإخراج صحيح بالفعل ومتوافق مع الإدخال المقدم.

سوف تساعد شهادات LLM “بلا شك” في سير العمل العلمي، وفقًا لأساتذة أكسفورد. ولكن من المهم بالنسبة للمجتمع أن يستخدمهم بطريقة مسؤولة ويحافظ على توقعات واضحة حول كيفية مساهمتهم الفعلية.