وحید قاسمی‌عهد بازرس هیأت مدیره کانون وکلای مرکز و عضو هیأت علمی دانشگاه در نشست «هوش مصنوعی و مقررات بین‌المللی در این حوزه» که به همت کمیسیون آموزش کانون وکلای دادگستری مرکز در سالن جلالی نائینی برگزار شد، با بیان اینکه در حال حاضر مقررات مشخصی درباره نحوه استفاده وکلا از هوش مصنوعی در کانون‌های وکلا یا در سطح ملی وجود ندارد، به تجربه برخی نظام‌های حقوقی پیشرو، از جمله فرانسه و ایالت کالیفرنیا در آمریکا، اشاره کرد و گفت: در این کشورها اسناد و مقرراتی برای راهنمایی وکلا در استفاده از هوش مصنوعی تدوین شده است.
خطر استناد به آرای قضایی و قواعد حقوقی ساختگی
این وکیل دادگستری یکی از مهم‌ترین مخاطرات استفاده از هوش مصنوعی را اعتماد بی‌چون‌وچرا به خروجی‌های آن دانست و با اشاره به پرونده‌ای در آمریکا توضیح داد: در یکی از پرونده‌های مطرح‌شده، وکیلی به ۲۳ مورد رویه قضایی استناد کرده بود که هیچ‌یک از آنها وجود خارجی نداشتند و هوش مصنوعی آنها را تولید کرده بود.
وی افزود: یکی از مشکلاتی که در استفاده از این ابزارها مشاهده می‌شود، تولید قواعد حقوقی، نظریات مشورتی و مستندات قضایی غیرواقعی است؛ مسئله‌ای که در حقوق داخلی و به‌ویژه در پژوهش‌های حقوق تطبیقی نیز می‌تواند موجب اشتباه شود. گاهی نیز لوایحی بدون بررسی و ویرایش کافی ارائه می‌شوند که حاوی استنادات و قواعد ساخته‌شده توسط هوش مصنوعی هستند و همین موضوع می‌تواند واکنش قضات را در پی داشته باشد.
حفظ اسرار موکل؛ نخستین اصل در استفاده از هوش مصنوعی
عضو هیأت علمی دانشگاه با اشاره به اصول مطرح‌شده در سند اخلاق حرفه‌ای و هوش مصنوعی شورای ملی وکالت فرانسه، حفظ اسرار موکل را از مهم‌ترین الزامات استفاده از این فناوری دانست و گفت: ابزارهای هوش مصنوعی لزوماً رازدار نیستند؛ زیرا ممکن است اطلاعات ورودی کاربران را دریافت و برای پردازش‌های بعدی مورد استفاده قرار دهند.
قاسمی‌عهد با اشاره به کاربرد هوش مصنوعی در بررسی و بایگانی اسناد و پرونده‌های حقوقی، توضیح داد: برای مثال، وکیل ممکن است مجموعه‌ای از ۵۰ سند یا بیشتر را در اختیار یک ابزار هوش مصنوعی قرار دهد و از آن بخواهد ترتیب مکاتبات، دلایل کارشناسان و سایر اطلاعات مرتبط با پرونده را استخراج و خلاصه کند. این ابزار می‌تواند در مدت کوتاهی حجم زیادی از اسناد را بررسی و نتیجه را ارائه کند.
وی با تأکید بر اینکه استفاده از این قابلیت‌ها لزوماً ممنوع نیست، افزود: مسئله اصلی، نحوه حفاظت از اطلاعات است. وکیل باید پیش از بارگذاری اسناد، اطلاعات اساسی و محرمانه را به‌گونه‌ای حذف یا ناشناس‌سازی کند که امکان شناسایی موکل و دسترسی به اطلاعات حساس پرونده وجود نداشته باشد.
حفاظت از داده‌ها؛ مسئولیتی فراتر از تخلف انتظامی
قاسمی‌عهد دومین محور مهم را حفاظت از داده‌ها دانست و با اشاره به مقررات مربوط به دسترسی به اطلاعات و حفاظت از داده‌های شخصی در ایران و همچنین مقررات عمومی حفاظت از داده‌ها در اتحادیه اروپا (GDPR)، اظهار کرد: وکیل موظف است اطلاعات شخصی، خصوصی و محرمانه اشخاص را حفظ کند.
وی خاطرنشان کرد: بی‌توجهی به این الزامات صرفاً به مسئله اخلاق حرفه‌ای و تخلفات انتظامی محدود نمی‌شود و در صورت تحقق شرایط قانونی، ممکن است مسئولیت‌های دیگری نیز برای وکیل ایجاد کند.
هوش مصنوعی جایگزین صلاحیت و مسئولیت وکیل نیست
بازرس هیأت‌مدیره کانون وکلای مرکز با اشاره به اصل صلاحیت حرفه‌ای گفت: وکیل دادگستری در قبال خود، جامعه و موکلش مسئولیت دارد و باید استانداردهای علمی و حرفه‌ای لازم را رعایت کند. استفاده از هوش مصنوعی نیز باید در چارچوب همین مسئولیت‌ها انجام شود.
وی تأکید کرد: هوش مصنوعی ابزار وکیل است، نه جانشین او. موکل به هوش مصنوعی وکالت نمی‌دهد، بلکه به وکیل اعتماد می‌کند و از او انتظار دارد مسئولیت دفاع را بر عهده بگیرد. بنابراین، بررسی مجدد و صحت‌سنجی اطلاعات، نظریات و استنادات تولیدشده توسط هوش مصنوعی، همچنان از وظایف وکیل است.
قاسمی‌عهد با اشاره به ضرورت رعایت اصل مراقبت و احتیاط افزود: وکیل نباید پاسخ‌های این ابزار را بدون بررسی بپذیرد. اگر مشخص شود که وکیل بدون کنترل و صحت‌سنجی، مطالب تولیدشده توسط هوش مصنوعی را در دفاع خود به کار برده است، این رفتار ممکن است از منظر مقررات انتظامی قابل بررسی باشد.
سوگیری هوش مصنوعی و ضرورت استقلال حرفه‌ای
این استاد دانشگاه در ادامه به مسئله وجدان و استقلال حرفه‌ای پرداخت و توضیح داد: استقلال وکیل تنها به معنای مصون‌ماندن از مداخله قدرت و حاکمیت نیست، بلکه وکیل باید در تصمیم‌گیری حرفه‌ای خود از تعصبات و پیش‌داوری‌های شخصی نیز فاصله بگیرد.
وی با بیان اینکه سامانه‌های هوش مصنوعی ممکن است متأثر از داده‌های آموزشی و چارچوب‌های فکری خاص باشند، افزود: پاسخ‌های این ابزارها لزوماً بی‌طرفانه نیستند و ممکن است سوگیری‌های فکری و ارزشی در آنها منعکس شود. برای مثال، نوع نگاه یک سامانه به موضوعات فرهنگی یا وظایف دولت می‌تواند متأثر از چارچوب فکری غالب در داده‌های آموزشی آن باشد.
قاسمی‌عهد ادامه داد: وکیل باید در استفاده از هوش مصنوعی این احتمال را در نظر بگیرد و اجازه ندهد سوگیری‌های احتمالی ابزار بر تحلیل حقوقی او تأثیر بگذارد. وکیل از موکل خود دفاع می‌کند و نسبت به او وفادار است، اما این وفاداری به معنای کنارگذاشتن استقلال حرفه‌ای و اصول اخلاقی نیست.
تعارض منافع؛ خطری که با استفاده از هوش مصنوعی نادیده گرفته نمی‌شود
وی پیشگیری از تعارض منافع را از دیگر اصول مهم اخلاق حرفه‌ای در استفاده از هوش مصنوعی برشمرد و گفت: یکی از مصادیق تعارض منافع آن است که وکیل پس از پذیرش وکالت از یک شخص، در پرونده‌ای مرتبط و در همان حوزه، وکالت طرف مقابل را نیز بپذیرد.
قاسمی‌عهد با اشاره به امکان باقی‌ماندن اطلاعات پرونده‌های قبلی در سامانه‌های هوش مصنوعی، بر ضرورت توجه به محرمانگی اطلاعات و خطر استفاده مجدد از داده‌های پیشین تأکید کرد. به گفته وی، وکیل باید مراقب باشد که استفاده از این ابزارها زمینه بروز تعارض منافع یا بهره‌برداری نامناسب از اطلاعات پرونده‌های دیگر را فراهم نکند.
آیا وکیل باید استفاده از هوش مصنوعی را به دادگاه اعلام کند؟
قاسمی‌عهد در بخش دیگری از سخنان خود، مسئله تکلیف وکیل به اطلاع‌رسانی درباره استفاده از هوش مصنوعی را مطرح کرد و گفت: این پرسش وجود دارد که آیا وکیل باید به موکل خود اعلام کند که از هوش مصنوعی استفاده کرده است؟ همچنین آیا وکیل مکلف است به دادگاه اطلاع دهد که در تهیه لایحه از این ابزار بهره برده است؟
وی با اشاره به تکلیف صداقت وکیل در برابر دادگاه، اظهار کرد: پاسخ به این پرسش در اسناد و دیدگاه‌های مطرح‌شده، یکسان نیست. برخی معتقدند وکیل باید استفاده از هوش مصنوعی را به دادگاه اعلام کند، در حالی که گروهی دیگر بر این باورند که چنین الزامی وجود ندارد و استفاده از این ابزار را می‌توان مشابه بهره‌گیری از سامانه‌های حقوقی برای دسترسی به آرا، قوانین و نظریات دانست.
این وکیل دادگستری همچنین به موضوع حق‌الوکاله اشاره کرد و ضرورت توجه به تناسب حق‌الوکاله با خدمات، تخصص و زحمات واقعی وکیل را در استفاده از ابزارهای هوش مصنوعی یادآور شد.
وکیل باید مسئولیت نهایی را بر عهده داشته باشد
قاسمی‌عهد در جمع‌بندی سخنان خود با تأکید بر ضرورت استفاده مسئولانه از هوش مصنوعی گفت: وکیل باید همواره نقش خود را به‌عنوان عامل انسانی حفظ کند و هوش مصنوعی را در حد یک دستیار به کار بگیرد، نه اینکه تصمیم‌گیری و مسئولیت حرفه‌ای خود را به آن واگذار کند.
وی تأکید کرد: وکیل نباید به خروجی‌های هوش مصنوعی اعتماد مطلق داشته باشد و باید آنها را به‌طور مستقل بررسی کند. همچنین نباید به‌گونه‌ای از این ابزار استفاده کند که گویی هوش مصنوعی به جای وکیل در مقام دفاع از موکل یا به جای قاضی در مقام صدور نظر و قضاوت قرار گرفته است./ فصل سوم
