خبير يحذر من فبركة الشات
محام يستخدم الذكاء الاصطناعي في إعداد مذكرات قانونية وأحكام قضائية وهمية
عاقبت محكمة أمريكية محام أمريكي بالغرامة وجزاءات تأديبية، بعد تورطه في استخدام الذكاء الاصطناعي في إعداد مذكرات قانونية تحتوي على استشهادات وأحكام قضائية وهمية تم إنشاؤها بواسطة شات "جي بي تي".
في جلسة 21 فبراير 2025، أصدرت المحكمة الجزئية في المنطقة الجنوبية من إنديانا، حكمها في قضية تدور حول تقديم محام لمذكرات قانونية تتضمن اقتباسات قانونية غير صحيحة ومضللة، مستندة إلى مصادر غير موجودة، وذلك نتيجة لاستخدامه برامج الذكاء الاصطناعي دون أن من دقة المعلومات القانونية المستخرجة، وتناولت القضية مدى مسؤولية المحامي في ضمان صحة الأسانيد القانونية المقدمة إلى المحكمة، ومدى استحقاقه للعقوبات التأديبية بموجب القواعد الفيدرالية الأمريكية والإجراءات التأديبية للمحكمة.
وكان المحامي الأمريكي رافائيل راميريز، قدم بصفته الممثل القانوني لشركة HoosierVac LLC، مذكرة قانونية لدعم طلب إعادة النظر في حكم المحكمة برفض نقل القضية إلى محكمة أخرى لنظرها، استندت المذكرة إلى قضية وهمية باسم In re Cook County Treasurer, 773 F.3d 834 (7th Cir. 2014)، ولكن القاضي لم يتمكن من العثور عليها.
وطلب القاضي توضيحا من المحامي عن ذلك الحكم المقتبس، والذي اعترف بأن الاقتباس كان خطأ وأنه لا يستطيع التحقق من مصدره، ومن ثم سحبه واعتذر عنه، ولكن القضية لم تنته عند ذلك الحد، فمن خلال مراجعة وثائق أخرى قدمها المحامي، تم اكتشاف وجود اقتباسات قانونية وهمية أخرى، ما أثار شكوكا حول مدى التزامه بواجبه القانوني في البحث والتحقق.
الذكاء الاصطناعي
واعترف المحامي أمام المحكمة أنه استخدم برامج الذكاء الاصطناعي لصياغة المذكرات القانونية دون التحقق من صحة النتائج، وأنه لم يكن على دراية بقدرة تلك البرامج على توليد اقتباسات قانونية غير صحيحة (Hallucinated Citations)، وحاول المحامي الدفاع عن نفسه نافيا سوء النية، وأنه حضر بعد ذلك دورات تعليمية حول استخدام الذكاء الاصطناعي في المجال القانوني.
واعتبرت المحكمة أن تصرف المحامي يشكل انتهاكًا لقواعد الإجراءات المدنية الفيدرالية Rule 11، التي تقضي بأن تقديم أي مذكرة قانونية إلى المحكمة يجب أن يكون بناء على بحث وتحقيق معقول وفقًا للظروف، وأشار الحكم إلى عدة مبادئ قانونية داعمة لهذا الحكم، منها أن المحامي مسؤول عن التحقق من صحة القانون الذي يستند إليه، ولا يُعفى من ذلك لمجرد (حسن نيته) أو اعتماده على تقنية حديثة، وأن الاجتهاد القانوني يتطلب استخدام أدوات بحث قانونية موثوقة، مثل Shepard’s Citations وKeyCite، للتحقق من صحة السوابق القضائية المستشهد بها.
وبعد التثبت من تلك الانتهاكات، حكمت المحكمة بفرض غرامة مالية قدرها 15,000 دولار على المحامي، مقسمة إلى 5,000 دولار لكل مذكرة قانونية تضمنت اقتباسات وهمية، وإحالة القضية إلى رئيس المحكمة لاتخاذ قرارات تأديبية أخرى محتملة بموجب قواعد السلوك المهني، وإلزام المحامي بإبلاغ موكله (HoosierVac LLC) رسميًا بهذا الحكم، وإثبات قيامه بذلك خلال 7 أيام.
أما عن التأديب المهني طبقا لقواعد المحامين في إنديانا، فأكدت المحكمة أن المحامي انتهك عدة قواعد مهنية، أبرزها القاعدة 1.1 (الكفاءة المهنية)، لأن تقديم مذكرات قانونية تتضمن أخطاء فادحة يعكس تقصيرًا في واجب المحامي تجاه موكله، والقاعدة 3.1 (تقديم ادعاءات قانونية ذات أساس صحيح): حيث أن الاعتماد على اقتباسات غير موجودة لا يرقى إلى مستوى (الأساس القانوني المعقول)، والقاعدة 3.3 (الصدق مع المحكمة): حيث أن المحامي لم يتحقق من دقة المعلومات القانونية التي قدمها.
من جانبه، قال الخبير القانوني محمد إبراهيم، المحامي بالنقض، إن تلك القضية تكشف عن أهمية التدقيق القانوني قبل تقديم أي مستند أو مذكرة إلى المحكمة، خاصة في ظل انتشار استخدام الذكاء الاصطناعي في المجال القانوني.
وأكد "إبراهيم" لـ «الصفحة الأولى» أن التكنولوجيا يمكن أن تكون أداة مساعدة في البحث القانوني والقضائي، ولكنها ليست بديلا عن البحث القانوني الدقيق والمستقل، مطالبا بضرورة التثبت من المعلومات القانونية وعدم الاعتماد العشوائي على التكنولوجيا، خاصة وأن بعض أنواع شات الذكاء الاصطناعي قد تفبرك أحكام قضائية بالمبادئ والرقم والسنة، ما يضع المحامي تحت طائلة العقاب القانوني والتأديبي، إضافة إلى نسف مصداقيته التي تمثل رأس ماله المهني بالأساس.
