چرا هوش مصنوعی در قانون شکست می خورد: سفر از طریق داوری و مرزهای انسانی

چه اتفاقی می افتد که از یک ماشین بخواهیم که قانون ایجاد کند؟

این سؤال سالها در حاشیه زندگی دانشگاهی من ماندگار است – ساکت اما پایدار. او در سمینارها ظاهر می شود ، در دادگاه ها ظاهر می شود و در مواقع سکوت ، ناخواسته بازگشت. وی نه تنها در مورد نقش هوش مصنوعی در دولت ، بلکه چیزی بسیار عمیق تر پرسید: آیا یک سیستم بدون وجدان برای تحقق عدالت می تواند؟

این سند ، متن مهم است: چرا هوش مصنوعی در قانون ناکام است ، از این موضوع متولد می شود – و آگاهی آهسته و لازم مبنی بر اینکه قانون یک الگوریتم نیست و هرگز چنین نبوده است.

تخیل اخلاقی دولت

هوش مصنوعی با قول خیره کننده خود از سرعت و مقیاس ، به یک قانونگذار باورنکردنی تبدیل شده است. از اتوماسیون یک بررسی خط مشی گرفته تا احکام تخمین زده شده ، سیستم های الگوریتمی به ستون فقرات Statcraft منتقل می شوند. تجدید نظر قابل درک است: هزینه های کمتری ، تصمیمات سریعتر ، جریان کار پاک کننده.

اما وقتی زبان عدالت از سیستمهایی که نمی توانند وزن اخلاقی آن را بازنویسی کنند ، چه چیزی از دست می دهیم؟

قانون مجموعه ای از داده ها نیست. این یک سابقه زنده از درگیری ها ، مذاکرات ، اندوه و تعمیر است. او لجن مبارزات اجتماعی ، تردید از تردید اخلاقی و خاطره اختلاف نظر را در خود جای داده است. اگر او بخواهد مشروعیت خود را حفظ کند ، باید از نظر اخلاقی تفسیر شود. با این وجود ، هوش مصنوعی ، که بر اساس استدلال احتمالی ساخته شده است ، فقط یک بازتاب ارائه می دهد – نه تفسیر. او گذشته را بازتولید می کند. این دیدار را برآورده نمی کند.

قانون یک الگوی نیست – این یک مبارزه است

نمی توان مدت طولانی بدون مواجهه با پارادوکس اساسی خود ، یک قانون را مطالعه کرد: او باید به اندازه کافی پایدار باشد تا از آن محافظت کند و به اندازه کافی روان باشد تا سازگار شود. این پارادوکس دقیقاً همان جایی است که هوش مصنوعی شکست می خورد.

الگوریتم Compas را دریافت کنید – یک ابزار ارزیابی ریسک مورد استفاده در سیستم عدالت کیفری ایالات متحده. نتایج آن ، با ستایش از دقت ، مشخص شده است که متناسب با متهمین سیاه به عنوان یک خطر زیاد است. مشکل فنی نبود. اخلاقی بود این الگوریتم تعصبات دفن شده در داده های تاریخی را به ارث برد و آنها را با اعتماد به نفس آماری برگرداند. هوش مصنوعی همانطور که مردم انجام می دهند اشتباه نیست – این محاسبه می کند که تاریخ دیگر نتوانسته است تصحیح کند.

• این شکست تصادفی نیست. ساختاری است. AI متفاوت نیست. تفسیر نمی شود و تفسیر قلب قانون است.

نگاه یک قانون گارو: گارو

در اواخر بخش این تحقیقات بود که من به قانون Garrow-Drama از دادگاه بی بی سی بر اساس زندگی ویلیام گارو وکیل قرن 18th بازگشتم. من می گویم “من برگشتم” زیرا برای اولین بار توسط رهبر من ، استاد سومی آترئوس به من معرفی شد ، که حس مشتاق روایت فکری او آینه ای از سؤالاتی را که دنبال کردم می دید. تماشای چگونگی طرفداران گارو نه تنها در قانون ، بلکه در برابر او ، یک چالش عرفی ، بررسی متقابل قدرت و ترمیم صدای متهم-من چیزی ضروری را گسترش می دهم: این قانون هرگز یک ارائه خنثی نیست. این یک خطر اخلاقی است.

هوش مصنوعی ، به خاطر تمام صافی زبان خود ، نمی تواند مکث کند ، دریغ کند و از شک و تردید دریغ کند ، یا بر خلاف مدل عمل کند. او نمی تواند مانند گارو بایستد – با تخیل اخلاقی ، بداهه نوازی استراتژیک و شجاعت صحبت با سکوت نهادی. این می تواند از نحو قانونی تقلید کند. اما او نمی تواند رعایت کند.

چرا زمینه اصل اول است

در این سند ، من از متفکرانی مانند ارسطو ترسیم می کنم ، که ایده آن در مورد درختان (خرد عملی) به ما یادآوری می کند که عدالت در قضاوت حساس به متن نهفته است ، نه در حاکمیت جهانی. من دوباره دینککین را که قانون را به عنوان یک داستان توافق شده در مورد اصول اخلاقی می دید ، نه به عنوان یک سیستم فرماندهی بی اثر. من با مونتسکیو سر و کار دارم ، که دیدگاه قانون به عنوان بازتاب “روح” یک ملت – نه تنها ساختار کنترل – مدتهاست که تفکر من را اداره می کند ، حتی در بعد از ظهرهای ساکت ، و روح قوانین را در دانشگاه می خواند. و من به HLA Hart برمی گردم ، که تمایز بین قوانین اولیه و ثانویه به تعیین مشکل کمک می کند: هوش مصنوعی می تواند ساختار قانون را تکرار کند ، اما نه مشروعیت آن.

مشخص شد که مشکل AI نه تنها این است که او فاقد شفافیت است بلکه فاقد Telos است. هیچ هدفی فراتر از مدل ندارد. و این برای مدیریت زندگی بشر کافی نیست.

نوشتن مقاله: خواندن شخصی

این سند از یک قوس طولانی از یک مطالعه حقوقی ، فلسفه و یک مطالعه انتقادی از فناوری ظاهر شد. این به طور قاطع توسط سفر دانشگاهی من و سخاوتمندی فکری نادری پروفسور سومی آیریه شکل گرفت ، که مربیگری سختگیرانه از من خواسته شد تا نه استدلال مناسب بلکه آنچه را که لازم داشتم ادامه دهم. آنچه به عنوان انتقاد از مدیریت محاسبات آغاز شد ، به تحقیق در مورد معماری اخلاقی خود قانون تبدیل شده است.

در هر جمله ، من سعی کردم قابلیت دسترسی را با گرانش متعادل کنم. من می خواستم این آهنگ برای یک غیر تخصصی قابل خواندن باشد ، اما همچنین می خواستم چیزی را بپرسم: مکث ، یک سوال ، حتی ممکن است امتناع.

چالش به جلو

در پایان ، مسئله این نیست که آیا هوش مصنوعی باید در مدیریت نقش داشته باشد یا خیر. این در حال حاضر اتفاق می افتد. چالش این است که دامنه خود را محدود کنید – برای اطمینان از اطلاع رسانی ، اما هرگز جایگزین نمی شود. خطر این نیست که ماشین ها جایگزین وکلا یا قضات شوند ، بلکه ما به آنها اجازه خواهیم داد که آنها را جایگزین مبارزه با قضاوت کنیم.

مدیریت برای تقلید رویه ای نیست. این در مورد خواندن اخلاقی است. این عمل بیمار و دردناک برای حل آنچه ما می خواهیم زندگی کنیم – و چه کسی آماده مسئولیت پذیر هستیم.

هیچ دستگاهی نمی تواند این کار را انجام دهد. و هیچ دستگاهی نباید درخواست شود.

کل مقاله را بخوانید:

متن مهم است: چرا هوش مصنوعی در قانون ناکام است

AI & Society (طبیعت Springer) ، 2025

نویسنده:

الیویا روگیل

دانشکده سیاست های عمومی ،

انستیتوی فناوری هند ، دهلی

olivia.ruhil21@nludelhi.ac.in