استخدم المحامي ChatGPT لتقديم ملف قانوني. لم يذكر روبوت المحادثة أي حالات اختلقها للتو.

يمارس المحامي ستيفن شوارتز من Levidow و Levidow & Oberman المحاماة منذ ثلاثة عقود. الآن ، يمكن لحالة واحدة أن تعرقل حياته المهنية بالكامل.

لماذا؟ لقد اعتمد على ChatGPT في ملفه الملفات القانونية(يفتح في علامة تبويب جديدة) وصنع روبوت الدردشة AI الحالات السابقة بالكامل ، والتي استشهد بها شوارتز ، من فراغ.

ربما تم حذف التغريدة
(يفتح في علامة تبويب جديدة)

كل شيء يبدأ بالقضية المعنية ماتا ضد أفيانكا. بحسب ال نيويورك تايمز(يفتح في علامة تبويب جديدة)ا أفيانكا(يفتح في علامة تبويب جديدة) زبون يدعى روبرتو ماتا كان يقاضي شركة الطيران بعد أن أصابت عربة خدمة ركبته أثناء رحلة. حاولت Avianca الحصول على قاضٍ لرفض القضية. ردًا على ذلك ، اعترض محامو ماتا وقدموا موجزًا ​​مليئًا بعدد كبير من قرارات المحاكم المماثلة في الماضي. وهنا جاء دور ChatGPT.

شوارتز ، محامي ماتا الذي رفع القضية في محكمة الولاية ثم قدم بحثًا قانونيًا بمجرد نقلها إلى محكمة مانهاتن الفيدرالية ، قال إنه استخدم برنامج الدردشة الآلي الشهير لـ OpenAI من أجل “استكمال” النتائج التي توصل إليها.

زودت ChatGPT شوارتز بأسماء متعددة لقضايا مماثلة: فارغيز ضد الخطوط الجوية الجنوبية الصينية ، شابون ضد مصر للطيران ، بيترسن ضد إيران إير ، مارتينيز ضد دلتا إيرلاينز ، إستيت أوف دوردن ضد شركة الخطوط الجوية الملكية الهولندية ، ميلر ضد يونايتد إيرلاينز .

المشكلة؟ اختلق ChatGPT تمامًا كل تلك الحالات. لم تكن موجودة.

سرعان ما أدرك الفريق القانوني لشركة Avianca والقاضي المكلف بهذه القضية أنهما لا يمكنهما تحديد أي من قرارات المحكمة هذه. أدى ذلك إلى شرح شوارتز لما حدث في إفادة خطية يوم الخميس. كان المحامي قد أشار إلى ChatGPT للمساعدة في ملفه.

وفقًا لشوارتز ، لم يكن على دراية باحتمال أن يكون محتواها خاطئًا. حتى أن المحامي قدم لقطات شاشة للقاضي حول تفاعلاته مع ChatGPT ، وسأل روبوت الدردشة بالذكاء الاصطناعي عما إذا كانت إحدى القضايا حقيقية. ورد ChatGPT بأنه كان كذلك. بل إنها أكدت أن الحالات يمكن العثور عليها في “قواعد بيانات قانونية حسنة السمعة”. مرة أخرى ، لم يتم العثور على أي منها لأن جميع الحالات تم إنشاؤها بواسطة chatbot.

من المهم أن نلاحظ أن ChatGPT ، مثل جميع روبوتات الدردشة المدعومة بالذكاء الاصطناعي ، هي نموذج لغوي تم تدريبه على اتباع التعليمات وتزويد المستخدم بالرد على مطالبه. هذا يعني أنه إذا طلب المستخدم من ChatGPT معلومات ، فقد يمنح هذا المستخدم ما يبحث عنه بالضبط ، حتى لو لم يكن ذلك واقعيًا.

وأمر القاضي بجلسة استماع الشهر المقبل “لمناقشة العقوبات المحتملة” على شوارتز ردا على هذا “الظرف غير المسبوق”. هذا الظرف هو مرة أخرى محامٍ يقدم موجزًا ​​قانونيًا باستخدام قرارات محكمة مزيفة واستشهادات قدمها له ChatGPT.