اخلاق هوش مصنوعی
| شناسنامه | |
|---|---|
| نام‌های دیگر | اخلاق در هوش مصنوعی، اخلاق هوش مصنوعی مسئولانه، اخلاق سامانه‌های هوشمند |
| حوزه | فلسفه اخلاق، فلسفه فناوری، هوش مصنوعی، علوم رایانه، حقوق بشر، حکمرانی فناوری |
| خاستگاه | فلسفهٔ اخلاق، اخلاق فناوری، علوم رایانه و مطالعات پیامدهای اجتماعی سامانه‌های خودکار |
| اندیشه و تاریخ | |
| مفاهیم کلیدی | کرامت انسانی، عدالت، انصاف، سوگیری الگوریتمی، شفافیت، توضیح‌پذیری، پاسخ‌گویی، حریم خصوصی، ایمنی، نظارت انسانی، عدم تبعیض، آزادی و مسئولیت |
| جریان‌های مرتبط | اخلاق کاربردی، اخلاق رایانه، اخلاق داده، هوش مصنوعی مسئولانه، عدالت الگوریتمی، حکمرانی دیجیتال و حقوق دیجیتال |
| تأثیرپذیرفته از | اخلاق وظیفه‌گرا، پیامدگرایی، اخلاق فضیلت، نظریهٔ عدالت، حقوق بشر، فلسفهٔ علم و اخلاق اطلاعات |
| تأثیرگذار بر | سیاست‌گذاری هوش مصنوعی، استانداردهای فنی، قانون‌گذاری فناوری، طراحی سامانه‌های هوشمند و ارزیابی مخاطرات الگوریتمی |
| نقد و ارزیابی | |
اخلاق هوش مصنوعی (به انگلیسی: Ethics of Artificial Intelligence) شاخه‌ای میان‌رشته‌ای از فلسفه اخلاق، فلسفه فناوری، علوم رایانه و مطالعات اجتماعی فناوری است که اصول، ارزش‌ها و معیارهای اخلاقی مربوط به طراحی، توسعه، آموزش، استقرار و استفاده از سامانه‌های هوش مصنوعی را بررسی می‌کند. این حوزه به پرسش‌هایی دربارهٔ عدالت و تبعیض، حریم خصوصی، شفافیت، مسئولیت‌پذیری، ایمنی، کرامت انسانی، حقوق بشر و پیامدهای اجتماعی و سیاسی تصمیم‌گیری الگوریتمی می‌پردازد.
اخلاق هوش مصنوعی می‌کوشد مشخص کند که سامانه‌های هوشمند چگونه باید طراحی و استفاده شوند تا ضمن بهره‌گیری از ظرفیت‌های علمی و اقتصادی آنها، خطر آسیب‌رساندن به انسان‌ها، جوامع و محیط زیست کاهش یابد. پرسش اصلی این حوزه صرفاً آن نیست که یک سامانهٔ هوشمند از نظر فنی چه کاری می‌تواند انجام دهد، بلکه این است که انجام آن کار از نظر اخلاقی تا چه اندازه موجه است، چه کسانی از آن سود می‌برند، چه کسانی ممکن است زیان ببینند و چه نهادی باید در برابر پیامدهای آن پاسخ‌گو باشد.
گسترش کاربرد یادگیری ماشین، یادگیری عمیق و هوش مصنوعی مولد در پزشکی، آموزش، استخدام، بانکداری، نظارت عمومی، رسانه‌ها و تصمیم‌گیری‌های دولتی، اهمیت اخلاق هوش مصنوعی را افزایش داده است. سامانه‌ای که برای تشخیص بیماری، ارزیابی متقاضیان شغل یا پیشنهاد تصمیم قضایی استفاده می‌شود، ممکن است بر فرصت‌ها، حقوق و زندگی افراد تأثیر مستقیم بگذارد. ازاین‌رو، دقت فنی به‌تنهایی برای ارزیابی چنین سامانه‌ای کافی نیست.
در ۲۳ نوامبر ۲۰۲۱، یونسکو «توصیه‌نامهٔ اخلاق هوش مصنوعی» را تصویب کرد. این سند، کرامت انسانی، حقوق بشر، عدالت، شفافیت، نظارت انسانی و حفاظت از محیط زیست را از محورهای اساسی حکمرانی اخلاقی هوش مصنوعی معرفی می‌کند.[۱]
همچنین سازمان همکاری و توسعه اقتصادی در سال ۲۰۱۹ اصولی برای هوش مصنوعی قابل اعتماد تصویب کرد که در مهٔ ۲۰۲۴، با توجه به تحولات هوش مصنوعی مولد و مخاطرات جدید، بازنگری شدند.[۲]
اخلاق هوش مصنوعی با قانون‌گذاری ارتباط نزدیک دارد، اما با آن یکسان نیست. یک اقدام ممکن است در کشوری قانونی باشد، ولی همچنان پرسش‌های اخلاقی جدی ایجاد کند. در مقابل، اصول اخلاقی به‌خودی‌خود همیشه الزام حقوقی ندارند و تبدیل آنها به تعهدات قابل اجرا نیازمند قوانین، مقررات و سازوکارهای نظارتی است.
تعریف و قلمرو اخلاق هوش مصنوعی
اخلاق هوش مصنوعی را می‌توان مجموعه‌ای از بررسی‌های هنجاری دربارهٔ رفتار انسان‌ها و نهادها در ارتباط با سامانه‌های هوشمند دانست. واژهٔ «هنجاری» در اینجا به معنای بررسی آن چیزی است که باید انجام شود، نه صرفاً توصیف آنچه در عمل اتفاق می‌افتد.
برای مثال، پژوهش فنی ممکن است نشان دهد که یک الگوریتم در پیش‌بینی احتمال بازپرداخت وام دارای دقت ۹۰ درصد است. اما بررسی اخلاقی باید پرسش‌های دیگری نیز مطرح کند: آیا داده‌های آموزشی نمایندهٔ همهٔ گروه‌های اجتماعی بوده‌اند؟ آیا خطاهای سامانه به‌طور نامتناسب بر گروه خاصی تأثیر می‌گذارند؟ آیا متقاضی می‌تواند به تصمیم اعتراض کند؟ آیا جمع‌آوری اطلاعات شخصی او ضروری و متناسب بوده است؟
قلمرو اخلاق هوش مصنوعی تنها به خروجی نهایی الگوریتم محدود نمی‌شود. انتخاب مسئله، گردآوری داده، تعیین معیار موفقیت، طراحی مدل، شیوهٔ ارزیابی، شرایط استفاده و حتی تصمیم به کنارگذاشتن سامانه نیز می‌توانند دارای ابعاد اخلاقی باشند.
تفاوت اخلاق هوش مصنوعی با اخلاق ماشین
دو مفهوم «اخلاق هوش مصنوعی» و «اخلاق ماشین» با یکدیگر ارتباط دارند، اما کاملاً مترادف نیستند.
اخلاق هوش مصنوعی در معنای گسترده، مسئولیت انسان‌ها و سازمان‌ها را در توسعه و استفاده از سامانه‌های هوشمند بررسی می‌کند.
در مقابل، اخلاق ماشین (Machine Ethics) بیشتر به این پرسش می‌پردازد که آیا می‌توان قواعد یا سازوکارهای تصمیم‌گیری اخلاقی را در رفتار یک سامانهٔ مصنوعی پیاده‌سازی کرد.
برای مثال، طراحی یک خودروی خودران که در شرایط خطر تصمیم‌های ایمن‌تری بگیرد، ممکن است موضوع اخلاق ماشین باشد؛ درحالی‌که مسئولیت شرکت سازنده، حق اعتراض زیان‌دیدگان و آثار اجتماعی استفاده از خودروهای خودران در قلمرو گسترده‌تر اخلاق هوش مصنوعی قرار می‌گیرد.
همچنین توانایی یک ماشین در پیروی از قواعد اخلاقی لزوماً به معنای برخورداری آن از آگاهی، وجدان یا شخصیت اخلاقی نیست.
تاریخچهٔ اخلاق هوش مصنوعی
ریشه‌های فلسفی
پرسش دربارهٔ رابطهٔ ابزار، قدرت و مسئولیت انسانی پیشینه‌ای طولانی در فلسفه دارد.
در اخلاق ارسطویی، فضیلت و داوری عملی اهمیت دارند. در اخلاق کانتی، احترام به انسان و خودآیینی او جایگاه محوری دارد. در فایده‌گرایی، پیامدهای اعمال و میزان سود و زیان آنها بررسی می‌شود.
این سنت‌های فلسفی بعدها در تحلیل مسائل فناوری و هوش مصنوعی مورد استفاده قرار گرفتند.
نوربرت وینر و مسئولیت فناوری
نوربرت وینر، از بنیان‌گذاران سایبرنتیک، از نخستین متفکرانی بود که پیامدهای اجتماعی و اخلاقی سامانه‌های خودکار را به‌طور جدی بررسی کرد.
او در آثار خود دربارهٔ ارتباطات، کنترل و اتوماسیون به تأثیر فناوری بر انسان، کار و سازمان اجتماعی توجه داشت.
کتاب «کاربرد انسانی انسان‌ها» (The Human Use of Human Beings) که نخستین بار در سال ۱۹۵۰ منتشر شد، از آثار مهم در تاریخ اندیشهٔ اخلاق فناوری به شمار می‌رود.
جوزف وایزنبام و نقد تصمیم‌گیری ماشینی
جوزف وایزنبام، پژوهشگر علوم رایانه و سازندهٔ برنامهٔ ELIZA، نسبت به واگذاری بی‌چون‌وچرای تصمیم‌های انسانی به رایانه هشدار داد.
او در کتاب «قدرت رایانه و عقل انسانی» (Computer Power and Human Reason) در سال ۱۹۷۶، میان توانایی محاسباتی رایانه و داوری انسانی تفاوت گذاشت.
از دیدگاه او، امکان فنی انجام یک کار به معنای موجه‌بودن اخلاقی انجام آن نیست.
گسترش اخلاق رایانه
در دهه‌های پایانی سدهٔ بیستم، مباحثی مانند حریم خصوصی اطلاعات، مالکیت داده‌ها، مسئولیت نرم‌افزار و دسترسی عادلانه به فناوری در قالب اخلاق رایانه گسترش یافتند.
با پیشرفت سامانه‌های تصمیم‌گیری خودکار، این پرسش‌ها به حوزهٔ هوش مصنوعی نیز منتقل شدند.
ظهور یادگیری ماشین و داده‌های بزرگ
در دههٔ ۲۰۱۰، گسترش داده‌های بزرگ و الگوریتم‌های یادگیری ماشین موجب شد تصمیم‌های الگوریتمی در بخش‌های بیشتری از زندگی اجتماعی به کار روند.
موضوعاتی مانند تبعیض در استخدام، ارزیابی اعتبار مالی، پیش‌بینی رفتار مجرمانه و تشخیص چهره به محورهای مهم پژوهش تبدیل شدند.
گسترش هوش مصنوعی مولد
از اوایل دههٔ ۲۰۲۰، توسعهٔ مدل‌های زبانی بزرگ و سامانه‌های تولید تصویر، صدا و ویدئو، مسائل تازه‌ای ایجاد کرد.
اطلاعات نادرست تولیدشده توسط مدل‌ها، جعل عمیق، استفاده از آثار دارای حق نشر، تأثیر بر مشاغل خلاق و دشواری تشخیص محتوای واقعی از مصنوعی از جمله این مسائل هستند.
مبانی فلسفی اخلاق هوش مصنوعی
اخلاق وظیفه‌گرا
اخلاق وظیفه‌گرا (Deontological Ethics) بر اصول و وظایفی تأکید می‌کند که رعایت آنها صرف‌نظر از برخی پیامدها ضروری دانسته می‌شود.
در این رویکرد، احترام به کرامت انسانی، ممنوعیت فریب و رعایت حقوق بنیادین اهمیت دارند.
برای مثال، ممکن است جمع‌آوری مخفیانهٔ داده‌های حساس افراد حتی در صورت افزایش کارایی یک سامانه، از نظر اخلاقی ناموجه ارزیابی شود.
پیامدگرایی
پیامدگرایی (Consequentialism) ارزش اخلاقی اعمال را بر اساس پیامدهای آنها بررسی می‌کند.
در این رویکرد، سود و زیان ناشی از کاربرد هوش مصنوعی اهمیت دارد.
برای مثال، استفاده از سامانه‌ای در پزشکی ممکن است بر اساس میزان کاهش مرگ‌ومیر، خطاهای تشخیصی و آثار جانبی آن ارزیابی شود.
یکی از دشواری‌های این رویکرد، مقایسهٔ پیامدهای متفاوت برای گروه‌های اجتماعی مختلف است.
اخلاق فضیلت
اخلاق فضیلت (Virtue Ethics) بر ویژگی‌های اخلاقی عاملان انسانی، مانند صداقت، مسئولیت‌پذیری، احتیاط و عدالت تأکید می‌کند.
در توسعهٔ هوش مصنوعی، این رویکرد توجه را به فرهنگ حرفه‌ای مهندسان، مدیران و پژوهشگران معطوف می‌سازد.
اخلاق مراقبت
اخلاق مراقبت (Ethics of Care) بر روابط انسانی، آسیب‌پذیری و مسئولیت نسبت به افراد وابسته یا در معرض خطر تأکید دارد.
این رویکرد به‌ویژه در کاربردهای پزشکی، مراقبت از سالمندان، آموزش کودکان و خدمات اجتماعی اهمیت پیدا می‌کند.
رویکرد حقوق‌بنیاد
در رویکرد حقوق‌بنیاد، حقوق و آزادی‌های بنیادین انسان معیار اصلی ارزیابی فناوری هستند.
در این چارچوب، کارایی اقتصادی یا اداری نمی‌تواند به‌تنهایی توجیه‌کنندهٔ نقض آزادی بیان، حریم خصوصی یا اصل عدم تبعیض باشد.
اصول بنیادین اخلاق هوش مصنوعی
کرامت انسانی
کرامت انسانی از مبانی اساسی اخلاق هوش مصنوعی است.
این اصل بر آن است که انسان نباید صرفاً به منبع داده، موضوع آزمایش یا ابزاری برای افزایش سود و کارایی تقلیل یابد.
در کاربردهایی که بر زندگی افراد تأثیر مهم دارند، حفظ امکان مشارکت، اعتراض و برخورداری از رفتار محترمانه اهمیت دارد.
یونسکو احترام به کرامت انسانی و حقوق بشر را از ارزش‌های محوری توصیه‌نامهٔ خود قرار داده است.[۱]
عدالت و انصاف
عدالت الگوریتمی به بررسی توزیع منصفانهٔ منافع، فرصت‌ها، خطاها و آسیب‌های ناشی از سامانه‌های هوشمند می‌پردازد.
سامانه‌ای ممکن است در مجموع عملکرد خوبی داشته باشد، اما برای برخی گروه‌ها خطای بیشتری ایجاد کند.
برای مثال، یک ابزار تشخیص چهره ممکن است در شرایط معین برای گروه‌های جمعیتی مختلف نرخ خطای یکسانی نداشته باشد.
بررسی عدالت نیازمند ارزیابی داده‌ها، مدل و شرایط استفاده است.
عدم تبعیض
اصل عدم تبعیض بر جلوگیری از رفتار ناموجه و نابرابر با اشخاص بر اساس ویژگی‌های حمایت‌شده یا وضعیت اجتماعی آنها تأکید دارد.
در سامانه‌های هوش مصنوعی، تبعیض ممکن است از داده‌های تاریخی، متغیرهای جانشین یا نحوهٔ تعریف هدف الگوریتم ناشی شود.
حتی حذف مستقیم یک ویژگی حساس از داده‌ها همیشه برای رفع تبعیض کافی نیست.
شفافیت
شفافیت (Transparency) به فراهم‌بودن اطلاعات مناسب دربارهٔ ماهیت، هدف، محدودیت‌ها و شرایط استفاده از سامانه اشاره دارد.
برای مثال، کاربر باید در موقعیت‌های مرتبط بداند که با یک سامانهٔ هوش مصنوعی تعامل می‌کند.
شفافیت لزوماً به معنای انتشار عمومی تمام کد منبع یا داده‌های محرمانه نیست؛ بلکه میزان و نوع اطلاعات لازم باید متناسب با مخاطرات و حقوق افراد تعیین شود.
توضیح‌پذیری
توضیح‌پذیری (Explainability) به امکان ارائهٔ توضیح قابل فهم دربارهٔ عملکرد یا خروجی یک سامانه اشاره دارد.
برای مثال، اگر درخواست وام فردی رد شود، توضیح مناسب می‌تواند به او کمک کند عوامل مؤثر بر تصمیم را بشناسد.
توضیح‌پذیری با شفافیت ارتباط دارد، اما یکسان نیست. ممکن است ساختار کلی سامانه آشکار باشد، ولی توضیح تصمیم خاص همچنان دشوار باشد.
پاسخ‌گویی
پاسخ‌گویی (Accountability) به وجود مسئولیت مشخص، امکان بررسی تصمیم‌ها و سازوکارهای اصلاح خطا اشاره دارد.
در این رویکرد، سازمان‌ها نمی‌توانند صرفاً با استناد به اینکه «الگوریتم چنین تصمیمی گرفته است»، مسئولیت خود را نادیده بگیرند.
پاسخ‌گویی مستلزم تعیین نقش توسعه‌دهنده، عرضه‌کننده، بهره‌بردار و نهاد ناظر است.
ایمنی و امنیت
ایمنی به کاهش خطر آسیب‌های ناشی از عملکرد سامانه اشاره دارد.
امنیت بیشتر بر مقاومت سامانه در برابر دسترسی غیرمجاز، دست‌کاری و حملات تمرکز می‌کند.
این دو مفهوم با یکدیگر مرتبط‌اند، اما یکسان نیستند.
برای مثال، یک سامانه ممکن است در برابر نفوذ امنیتی مقاوم باشد، اما در شرایط خاص خروجی خطرناک تولید کند.
نظارت انسانی
اصل نظارت انسانی بر ضرورت حفظ نقش مؤثر انسان در تصمیم‌های حساس تأکید دارد.
این نظارت باید واقعی و متناسب با خطر باشد.
اگر اپراتور انسانی بدون زمان، اطلاعات یا اختیار کافی تنها تصمیم الگوریتم را تأیید کند، حضور او لزوماً به معنای نظارت مؤثر نیست.
سوگیری الگوریتمی
سوگیری الگوریتمی (Algorithmic Bias) به الگوهای نظام‌مند در داده‌ها، طراحی یا عملکرد سامانه گفته می‌شود که می‌توانند به نتایج ناعادلانه یا نامتوازن منجر شوند.
سوگیری همیشه ناشی از قصد تبعیض‌آمیز برنامه‌نویس نیست.
ممکن است داده‌های آموزشی بازتاب‌دهندهٔ نابرابری‌های تاریخی باشند یا نمونه‌های مربوط به برخی گروه‌ها در آنها کمتر حضور داشته باشند.
برای مثال، اگر یک سامانهٔ استخدام بر اساس سوابق استخدامی گذشته آموزش ببیند، ممکن است الگوهای تبعیض‌آمیز موجود در همان سوابق را بازتولید کند.
سوگیری داده
سوگیری داده زمانی رخ می‌دهد که داده‌های مورد استفاده برای آموزش یا ارزیابی، نمایندهٔ مناسبی از جمعیت هدف نباشند یا خطاهای ساختاری داشته باشند.
سوگیری انتخاب
سوگیری انتخاب زمانی ایجاد می‌شود که شیوهٔ گردآوری نمونه‌ها موجب شود برخی افراد یا موقعیت‌ها بیش‌ازحد یا کمتر از حد مناسب در داده‌ها حضور داشته باشند.
سوگیری اندازه‌گیری
سوگیری اندازه‌گیری زمانی رخ می‌دهد که متغیرهای انتخاب‌شده، مفهوم موردنظر را به‌درستی اندازه‌گیری نکنند.
برای مثال، استفاده از هزینهٔ درمان به‌عنوان جانشین مستقیم نیاز پزشکی می‌تواند در برخی شرایط تفاوت‌های دسترسی به خدمات را با تفاوت نیاز درمانی اشتباه بگیرد.
سوگیری ناشی از کاربرد
حتی مدلی که در محیط آزمایشگاهی عملکرد مناسبی دارد، ممکن است در محیط واقعی به‌گونه‌ای استفاده شود که پیامدهای ناعادلانه ایجاد کند.
بنابراین، ارزیابی اخلاقی باید شرایط استقرار را نیز در بر بگیرد.
حریم خصوصی و حفاظت از داده‌ها
سامانه‌های هوش مصنوعی برای آموزش و عملکرد ممکن است به حجم زیادی از داده‌ها نیاز داشته باشند.
این داده‌ها گاهی شامل اطلاعات شخصی، پزشکی، مالی، رفتاری یا مکانی هستند.
جمع‌آوری گستردهٔ داده می‌تواند خطر شناسایی افراد، نظارت ناخواسته و سوءاستفاده از اطلاعات را افزایش دهد.
اخلاق هوش مصنوعی بر ضرورت تعیین هدف مشروع، کاهش داده‌های غیرضروری، حفاظت از اطلاعات و رعایت حقوق اشخاص تأکید می‌کند.
همچنین باید میان ناشناس‌سازی واقعی و حذف ظاهری شناسه‌های مستقیم تفاوت گذاشت؛ زیرا ترکیب مجموعه‌های داده گاهی امکان بازشناسایی افراد را فراهم می‌کند.
رضایت آگاهانه
رضایت آگاهانه به موافقتی گفته می‌شود که شخص پس از دریافت اطلاعات مناسب دربارهٔ ماهیت و پیامدهای پردازش داده اعلام می‌کند.
در سامانه‌های هوش مصنوعی، رضایت زمانی معنادارتر است که شخص بتواند هدف استفاده از داده، مخاطرات و گزینه‌های خود را درک کند.
بااین‌حال، رضایت تنها یکی از مبانی احتمالی مشروعیت پردازش داده است و همهٔ مسائل اخلاقی را برطرف نمی‌کند.
همچنین در روابط نابرابر قدرت، مانند رابطهٔ کارفرما و کارمند، آزادی واقعی رضایت ممکن است محل تردید باشد.
هوش مصنوعی و نظارت جمعی
کاربرد هوش مصنوعی در سامانه‌های نظارتی یکی از موضوعات مهم اخلاق سیاسی فناوری است.
ترکیب دوربین‌ها، تشخیص چهره، تحلیل رفتار و پایگاه‌های دادهٔ گسترده می‌تواند ظرفیت نظارت بر جمعیت را افزایش دهد.
طرفداران برخی کاربردهای نظارتی به اهدافی مانند امنیت عمومی و شناسایی تهدیدها اشاره می‌کنند.
در مقابل، منتقدان دربارهٔ نقض حریم خصوصی، تبعیض، خطای شناسایی و تأثیر بازدارندهٔ نظارت بر آزادی بیان و تجمع هشدار می‌دهند.
ارزیابی چنین سامانه‌هایی باید ضرورت، تناسب، مبنای قانونی، نظارت مستقل و امکان جبران خسارت را در نظر بگیرد.
هوش مصنوعی و حکومت‌های اقتدارگرا
در نظام‌های اقتدارگرا، فناوری‌های هوش مصنوعی ممکن است برای گسترش نظارت سیاسی، شناسایی مخالفان، سانسور اطلاعات و کنترل ارتباطات اجتماعی به کار گرفته شوند.
چنین کاربردهایی پرسش‌های جدی دربارهٔ آزادی اندیشه، آزادی بیان، حق تجمع و حریم خصوصی ایجاد می‌کنند.
بااین‌حال، خطر سوءاستفاده از سامانه‌های نظارتی منحصر به یک نوع نظام سیاسی نیست و در هر جامعه‌ای نیازمند محدودیت‌های حقوقی و نظارت مستقل است.
از دیدگاه حقوق‌بنیاد، کارایی فناوری نمی‌تواند به‌تنهایی نقض حقوق بنیادین را توجیه کند.
اخلاق هوش مصنوعی و آزادی بیان
سامانه‌های هوش مصنوعی در رتبه‌بندی محتوا، پیشنهاد مطالب و شناسایی محتوای ناقض مقررات نقش دارند.
این سامانه‌ها می‌توانند به کاهش هرزنگاری و محتوای آسیب‌زا کمک کنند، اما ممکن است به حذف نادرست مطالب مشروع نیز منجر شوند.
در این حوزه، شفافیت قواعد، امکان اعتراض و بررسی انسانی تصمیم‌های مهم اهمیت دارد.
همچنین تمرکز قدرت تصمیم‌گیری دربارهٔ دیده‌شدن محتوا در دست تعداد محدودی از شرکت‌ها یا نهادها می‌تواند بر تنوع دیدگاه‌ها تأثیر بگذارد.
هوش مصنوعی مولد و مسائل اخلاقی
هوش مصنوعی مولد (Generative AI) به سامانه‌هایی گفته می‌شود که می‌توانند متن، تصویر، صدا، ویدئو یا محتوای دیگر تولید کنند.
این فناوری فرصت‌هایی در آموزش، پژوهش و تولید محتوا ایجاد کرده است، اما مخاطرات اخلاقی خاصی نیز دارد.
توهم هوش مصنوعی
توهم هوش مصنوعی (AI Hallucination) به تولید اطلاعات نادرست، ساختگی یا فاقد پشتوانه توسط برخی مدل‌های مولد گفته می‌شود.
برای مثال، یک مدل ممکن است نام کتاب، تاریخ رویداد یا ارجاعی را تولید کند که در واقع وجود ندارد.
در کاربردهای علمی و دانشنامه‌ای، این مسئله اهمیت ویژه‌ای دارد؛ زیرا متن روان و قانع‌کننده لزوماً درست نیست.
اطلاعات نادرست
هوش مصنوعی مولد می‌تواند تولید انبوه محتوای گمراه‌کننده را آسان‌تر کند.
این محتوا ممکن است به‌صورت خبر ساختگی، تصویر دست‌کاری‌شده یا روایت جعلی منتشر شود.
مقابله با این خطر نیازمند ترکیبی از آموزش رسانه‌ای، راستی‌آزمایی و سازوکارهای مسئولانهٔ انتشار است.
جعل عمیق
جعل عمیق (Deepfake) به محتوای صوتی یا تصویری مصنوعی یا دست‌کاری‌شده‌ای اشاره دارد که می‌تواند شباهت زیادی به اشخاص و رویدادهای واقعی داشته باشد.
این فناوری کاربردهای مشروع هنری و آموزشی دارد، اما می‌تواند برای جعل هویت، کلاهبرداری و انتشار محتوای بدون رضایت نیز استفاده شود.
حق نشر و مالکیت فکری
آموزش مدل‌های مولد بر مجموعه‌های بزرگ داده، پرسش‌هایی دربارهٔ حقوق پدیدآورندگان آثار ایجاد کرده است.
موضوعاتی مانند مجوز استفاده از آثار، جبران منافع اقتصادی، انتساب و شباهت خروجی به آثار موجود از مسائل مهم این حوزه هستند.
پاسخ حقوقی به این پرسش‌ها در نظام‌های قضایی مختلف یکسان نیست.
اخلاق هوش مصنوعی در پزشکی
کاربرد هوش مصنوعی در پزشکی می‌تواند به تحلیل تصاویر، پشتیبانی از تشخیص و پیش‌بینی برخی خطرات کمک کند.
اما خطای الگوریتمی در این حوزه ممکن است پیامدهای جدی برای سلامت بیماران داشته باشد.
ارزیابی اخلاقی باید اعتبار علمی مدل، کیفیت داده‌ها، تفاوت عملکرد میان گروه‌های بیماران، حفاظت از اطلاعات پزشکی و مسئولیت متخصصان را در نظر بگیرد.
سامانهٔ هوش مصنوعی نباید بدون ارزیابی مناسب و سازوکار نظارت، جایگزین داوری حرفه‌ای در تصمیم‌های پرخطر شود.
اخلاق هوش مصنوعی در آموزش
هوش مصنوعی در آموزش می‌تواند برای شخصی‌سازی یادگیری، کمک به تولید محتوای آموزشی و ارائهٔ بازخورد استفاده شود.
در مقابل، استفادهٔ نادرست ممکن است به وابستگی شناختی، ارزیابی ناعادلانهٔ دانش‌آموزان یا نقض حریم خصوصی منجر شود.
همچنین دسترسی نابرابر به ابزارهای پیشرفته می‌تواند شکاف آموزشی را افزایش دهد.
در این حوزه، نقش معلم، استقلال یادگیرنده و حفاظت از اطلاعات کودکان اهمیت دارد.
اخلاق هوش مصنوعی در استخدام
برخی سازمان‌ها از سامانه‌های هوش مصنوعی برای بررسی رزومه‌ها، رتبه‌بندی متقاضیان یا تحلیل مصاحبه‌ها استفاده می‌کنند.
این سامانه‌ها ممکن است سرعت بررسی درخواست‌ها را افزایش دهند، اما در صورت استفاده از داده‌های نامناسب یا معیارهای غیرمرتبط، خطر تبعیض ایجاد می‌کنند.
برای مثال، متغیرهایی مانند محل سکونت یا سابقهٔ شغلی ممکن است در برخی شرایط به‌صورت جانشین ویژگی‌های اجتماعی عمل کنند.
ارزیابی منصفانه، مستندسازی معیارها و امکان اعتراض متقاضیان از الزامات مهم اخلاقی در این حوزه هستند.
اخلاق هوش مصنوعی در نظام قضایی
استفاده از سامانه‌های الگوریتمی در ارزیابی خطر، تحلیل پرونده‌ها و پشتیبانی از تصمیم‌های قضایی با مسائل حساس حقوقی ارتباط دارد.
خطا یا سوگیری در این سامانه‌ها ممکن است بر آزادی، حقوق و سرنوشت افراد تأثیر بگذارد.
اصول دادرسی عادلانه، اصل برائت، حق دفاع و امکان اعتراض باید در ارزیابی چنین کاربردهایی مورد توجه قرار گیرند.
تصمیم‌های مؤثر بر حقوق بنیادین نباید صرفاً به خروجی غیرقابل بررسی یک مدل واگذار شوند.
اخلاق هوش مصنوعی در بانکداری
در بانکداری و خدمات مالی، الگوریتم‌ها برای شناسایی تقلب، ارزیابی اعتبار و مدیریت خطر استفاده می‌شوند.
این کاربردها ممکن است کارایی را افزایش دهند، اما تصمیم‌های نادرست می‌توانند موجب محرومیت افراد از خدمات مالی شوند.
شفافیت معیارهای مؤثر، کنترل تبعیض و امکان بازبینی تصمیم‌ها در این حوزه اهمیت دارد.
اخلاق هوش مصنوعی در جنگ و کاربردهای نظامی
کاربرد هوش مصنوعی در سامانه‌های نظامی، به‌ویژه تسلیحات خودمختار، یکی از بحث‌برانگیزترین مسائل اخلاق فناوری است.
پرسش اصلی آن است که چه میزان از تصمیم‌گیری دربارهٔ استفاده از نیروی مرگبار را می‌توان به ماشین واگذار کرد.
منتقدان بر ضرورت حفظ کنترل انسانی، رعایت حقوق بشردوستانه و جلوگیری از کاهش آستانهٔ استفاده از خشونت تأکید می‌کنند.
در مقابل، برخی مدافعان کاربردهای محدود نظامی استدلال می‌کنند که سامانه‌های خودکار در شرایط معین می‌توانند دقت یا سرعت واکنش را افزایش دهند.
این اختلاف‌نظر، ضرورت بررسی حقوقی و اخلاقی مستقل را از میان نمی‌برد.
مسئولیت در برابر خطاهای هوش مصنوعی
اگر سامانه‌ای موجب زیان شود، تعیین مسئولیت ممکن است پیچیده باشد.
توسعه‌دهندهٔ مدل، عرضه‌کنندهٔ نرم‌افزار، سازمان استفاده‌کننده و فرد تصمیم‌گیرنده ممکن است نقش‌های متفاوتی داشته باشند.
برای مثال، اگر ابزار تشخیص پزشکی خروجی نادرست تولید کند، بررسی مسئولیت نیازمند شناخت کیفیت مدل، نحوهٔ استقرار، هشدارهای ارائه‌شده و رفتار کاربران حرفه‌ای است.
اخلاق هوش مصنوعی بر ضرورت تعریف روشن مسئولیت‌ها پیش از استقرار سامانه تأکید می‌کند.
نظارت انسانی و خودمختاری ماشین
سامانه‌های هوش مصنوعی ممکن است درجات متفاوتی از خودکاربودن داشته باشند.
برخی تنها پیشنهاد ارائه می‌کنند؛ برخی دیگر تصمیم‌های عملیاتی را بدون تأیید موردی انسان اجرا می‌کنند.
در کاربردهای حساس، باید مشخص شود چه کسی می‌تواند عملکرد سامانه را متوقف کند، تصمیم را تغییر دهد یا پیامدها را بررسی کند.
وجود دکمهٔ توقف به‌تنهایی کافی نیست؛ نظارت مؤثر نیازمند اطلاعات، زمان، اختیار و آموزش مناسب است.
هوش مصنوعی و بازار کار
هوش مصنوعی می‌تواند برخی وظایف تکراری را خودکار کند و در عین حال مشاغل و مهارت‌های تازه‌ای ایجاد کند.
پیامدهای آن بر اشتغال به نوع صنعت، سیاست‌های اقتصادی، نظام آموزشی و نحوهٔ توزیع منافع بستگی دارد.
از دیدگاه اخلاقی، موضوعاتی مانند حمایت از کارکنان، آموزش مجدد، شفافیت در نظارت بر کار و توزیع عادلانهٔ افزایش بهره‌وری اهمیت دارند.
همچنین استفاده از الگوریتم برای ارزیابی یا کنترل دائمی کارکنان می‌تواند بر استقلال و کرامت آنان تأثیر بگذارد.
نابرابری جهانی و شکاف دیجیتال
توسعهٔ مدل‌های پیشرفتهٔ هوش مصنوعی به داده، زیرساخت محاسباتی، سرمایه و نیروی انسانی متخصص نیاز دارد.
تمرکز این منابع در تعداد محدودی از کشورها و شرکت‌ها می‌تواند نابرابری فناورانه را تشدید کند.
کشورهای کم‌درآمد و جوامع دارای منابع زبانی محدود ممکن است از مزایای این فناوری کمتر بهره‌مند شوند.
توصیه‌نامهٔ یونسکو بر همکاری بین‌المللی، توسعهٔ ظرفیت‌ها و توجه به شکاف دیجیتال تأکید دارد.[۱]
اخلاق هوش مصنوعی و زبان فارسی
سامانه‌های هوش مصنوعی ممکن است برای زبان‌های مختلف کیفیت یکسانی نداشته باشند.
در زبان فارسی، کمبود برخی داده‌های استاندارد، تفاوت‌های نگارشی، گویش‌ها و محدودیت مجموعه‌های ارزیابی می‌تواند بر عملکرد مدل‌ها تأثیر بگذارد.
در نتیجه، سامانه‌ای که در زبان انگلیسی عملکرد مطلوبی دارد، لزوماً در فارسی همان کیفیت را ارائه نمی‌کند.
ارزیابی اخلاقی باید خطاهای زبانی، بازنمایی فرهنگی و دسترسی برابر فارسی‌زبانان به ابزارهای قابل اعتماد را در نظر بگیرد.
اخلاق هوش مصنوعی و محیط زیست
آموزش و اجرای برخی مدل‌های بزرگ هوش مصنوعی به انرژی، تجهیزات محاسباتی و منابع زیرساختی نیاز دارد.
تولید سخت‌افزار، مصرف برق، استفاده از آب برای خنک‌سازی و مدیریت پسماند الکترونیکی از موضوعات مرتبط با آثار زیست‌محیطی این فناوری هستند.
میزان اثرگذاری محیط‌زیستی به نوع مدل، مرکز داده، منبع انرژی و شیوهٔ استفاده بستگی دارد.
اصول اخلاقی این حوزه بر سنجش آثار واقعی و تلاش برای کاهش مصرف منابع تأکید می‌کنند.
اخلاق‌نمایی در هوش مصنوعی
اخلاق‌نمایی (Ethics Washing) به وضعیتی گفته می‌شود که یک سازمان با انتشار شعارها یا اصول اخلاقی، تصویری مسئولانه از خود ارائه می‌کند، اما سازوکار مؤثری برای اجرای آن اصول ندارد.
برای مثال، شرکتی ممکن است بر شفافیت تأکید کند، ولی اطلاعات لازم برای ارزیابی مستقل سامانه‌های پرخطر خود را فراهم نکند.
منتقدان اخلاق‌نمایی معتقدند که اصول کلی بدون نظارت، امکان اعتراض و ضمانت اجرا ممکن است به ابزار روابط عمومی تبدیل شوند.
ازاین‌رو، ارزیابی اخلاقی باید علاوه بر بیانیه‌ها، عملکرد واقعی سازمان‌ها را بررسی کند.
تعارض میان اصول اخلاقی
اصول اخلاقی همیشه به‌سادگی با یکدیگر سازگار نیستند.
برای مثال، افزایش شفافیت یک سامانه ممکن است با حفاظت از داده‌های محرمانه تعارض پیدا کند.
همچنین افزایش دقت یک مدل ممکن است به استفاده از داده‌های شخصی بیشتری نیاز داشته باشد.
در چنین شرایطی، تصمیم اخلاقی مستلزم بررسی تناسب، ضرورت، میزان خطر و حقوق افراد است.
هیچ معیار عددی واحدی نمی‌تواند همهٔ تعارض‌های اخلاقی را در تمام موقعیت‌ها حل کند.
چارچوب‌های بین‌المللی اخلاق هوش مصنوعی
اصول سازمان همکاری و توسعهٔ اقتصادی
سازمان همکاری و توسعهٔ اقتصادی در ۲۲ مهٔ ۲۰۱۹ مجموعه‌ای از اصول بین‌دولتی دربارهٔ هوش مصنوعی تصویب کرد.
این اصول در ۳ مهٔ ۲۰۲۴ بازنگری شدند تا موضوعاتی مانند هوش مصنوعی مولد، ایمنی، حریم خصوصی، مالکیت فکری و سلامت اطلاعات را روشن‌تر پوشش دهند.
اصول این سازمان بر رشد فراگیر، احترام به حقوق بشر، شفافیت، استحکام فنی، ایمنی و پاسخ‌گویی تأکید دارند.[۲]
توصیه‌نامهٔ یونسکو
توصیه‌نامهٔ اخلاق هوش مصنوعی یونسکو در سال ۲۰۲۱ تصویب شد.
این سند مجموعه‌ای از ارزش‌ها، اصول و حوزه‌های اقدام سیاستی را ارائه می‌کند.
از جمله موضوعات آن می‌توان به ارزیابی اثرات اخلاقی، حکمرانی داده، محیط زیست، برابری جنسیتی، آموزش، فرهنگ، سلامت و همکاری بین‌المللی اشاره کرد.
این توصیه‌نامه سندی هنجاری و راهنماست و نباید آن را معادل یک قانون کیفری یا مقررات الزام‌آور یکسان در همهٔ کشورها دانست.[۱]
چارچوب مدیریت ریسک NIST
مؤسسه ملی استانداردها و فناوری آمریکا (NIST) در ۲۶ ژانویهٔ ۲۰۲۳ نسخهٔ نخست «چارچوب مدیریت ریسک هوش مصنوعی» را منتشر کرد.
این چارچوب با هدف کمک به سازمان‌ها برای شناسایی، سنجش و مدیریت خطرهای سامانه‌های هوش مصنوعی طراحی شده است.
استفاده از این چارچوب در اصل داوطلبانه است و بر ویژگی‌هایی مانند قابلیت اعتماد، ایمنی، امنیت، شفافیت و مدیریت خطر تأکید دارد.[۳]
قانون هوش مصنوعی اتحادیهٔ اروپا
قانون هوش مصنوعی اتحادیهٔ اروپا (EU Artificial Intelligence Act) چارچوبی حقوقی برای تنظیم توسعه و استفاده از برخی سامانه‌های هوش مصنوعی در اتحادیهٔ اروپا است.
این قانون بر رویکرد مبتنی بر خطر تکیه دارد و میان کاربردهای ممنوع، سامانه‌های پرخطر و دسته‌هایی با الزامات متفاوت تمایز می‌گذارد.
قانون در سال ۲۰۲۴ تصویب شد و اجرای مقررات آن به‌صورت مرحله‌ای آغاز گردید.
از فوریهٔ ۲۰۲۵، بخش‌هایی از ممنوعیت‌ها و الزامات عمومی اجرایی شدند. در اوت ۲۰۲۵، مقررات مربوط به برخی جنبه‌های حکمرانی و مدل‌های هوش مصنوعی همه‌منظوره به اجرا درآمدند. بخش عمده‌ای از مقررات دیگر از اوت ۲۰۲۶ اعمال شد و برای برخی الزامات سامانه‌های پرخطر، زمان‌بندی دیرتری پیش‌بینی شده است.[۴]
این قانون نمونه‌ای از تبدیل بخشی از دغدغه‌های اخلاقی به تعهدات حقوقی است، اما تمام پرسش‌های اخلاقی هوش مصنوعی را حل نمی‌کند.
ارزیابی اثرات اخلاقی
ارزیابی اثرات اخلاقی (Ethical Impact Assessment) فرایندی برای شناسایی پیامدهای احتمالی یک سامانه پیش از استقرار و در طول استفاده از آن است.
این ارزیابی می‌تواند شامل بررسی گروه‌های متأثر، خطر تبعیض، آسیب به حریم خصوصی، امکان سوءاستفاده و سازوکارهای جبران خسارت باشد.
برای مثال، پیش از استفاده از سامانهٔ ارزیابی متقاضیان شغل، سازمان باید بررسی کند که آیا داده‌ها و معیارهای مدل می‌توانند گروهی از متقاضیان را به‌طور ناموجه محروم کنند.
ارزیابی باید با شواهد واقعی و آزمون‌های متناسب همراه باشد، نه صرفاً تکمیل یک فرم اداری.
مدیریت ریسک در چرخهٔ عمر هوش مصنوعی
خطرهای اخلاقی ممکن است در مراحل مختلف توسعهٔ سامانه ایجاد شوند.
در مرحلهٔ طراحی، انتخاب هدف و معیار موفقیت اهمیت دارد. در مرحلهٔ گردآوری داده، مشروعیت منابع و کیفیت داده‌ها بررسی می‌شود. در مرحلهٔ آموزش، سوگیری و عملکرد مدل ارزیابی می‌گردد.
پس از استقرار نیز نظارت بر تغییر شرایط، خطاهای تازه و شکایت کاربران ضروری است.
چارچوب NIST مدیریت خطر را فعالیتی مستمر در چرخهٔ عمر سامانه معرفی می‌کند.[۳]
ممیزی الگوریتمی
ممیزی الگوریتمی (Algorithmic Audit) بررسی نظام‌مند یک سامانه برای ارزیابی عملکرد، انطباق با معیارها و شناسایی مخاطرات است.
ممیزی می‌تواند داخلی یا مستقل باشد.
موضوعاتی مانند کیفیت داده، نرخ خطا، تفاوت عملکرد میان گروه‌ها، امنیت و مستندسازی تصمیم‌ها ممکن است در آن بررسی شوند.
ممیزی زمانی مؤثرتر است که نتایج آن به اصلاح سامانه و پاسخ‌گویی واقعی منجر شود.
مستندسازی و شفافیت فنی
مستندسازی مدل‌ها و داده‌ها از ابزارهای مهم حکمرانی مسئولانهٔ هوش مصنوعی است.
در این فرایند، اطلاعاتی مانند هدف مدل، شرایط آموزش، محدودیت‌ها، روش‌های ارزیابی و کاربردهای نامناسب ثبت می‌شود.
مستندسازی مناسب به توسعه‌دهندگان، ناظران و کاربران حرفه‌ای کمک می‌کند سامانه را دقیق‌تر ارزیابی کنند.
بااین‌حال، وجود سند فنی به‌تنهایی اثبات‌کنندهٔ بی‌خطر یا منصفانه‌بودن مدل نیست.
مشارکت عمومی در حکمرانی هوش مصنوعی
تصمیم‌های مربوط به هوش مصنوعی تنها مسائل فنی نیستند؛ زیرا ممکن است بر حقوق و فرصت‌های اجتماعی اثر بگذارند.
ازاین‌رو، مشارکت گروه‌های متأثر، پژوهشگران مستقل، نهادهای مدنی و نمایندگان عمومی در تدوین سیاست‌ها اهمیت دارد.
برای مثال، طراحی سامانهٔ هوشمند در خدمات عمومی بدون بررسی نیازها و نگرانی‌های دریافت‌کنندگان خدمات ممکن است به تصمیم‌های نامتناسب منجر شود.
چالش‌های آیندهٔ اخلاق هوش مصنوعی
با پیشرفت مدل‌های هوشمند، مسائل اخلاقی تازه‌ای مطرح می‌شوند.
افزایش توانایی سامانه‌ها در اجرای وظایف چندمرحله‌ای، استفاده از ابزارهای خارجی و تصمیم‌گیری نسبتاً مستقل می‌تواند تعیین مسئولیت و نظارت را دشوارتر کند.
همچنین تمرکز زیرساخت‌های محاسباتی در دست شرکت‌های بزرگ، وابستگی سازمان‌ها به سامانه‌های اختصاصی و تأثیر فناوری بر بازار کار از مسائل بلندمدت این حوزه هستند.
پرسش دربارهٔ امکان آگاهی مصنوعی و وضعیت اخلاقی احتمالی سامانه‌های آینده نیز موضوعی فلسفی و علمی است که دربارهٔ آن توافق قطعی وجود ندارد.
جمع‌بندی
اخلاق هوش مصنوعی حوزه‌ای میان‌رشته‌ای است که پیامدهای اخلاقی طراحی، توسعه و استفاده از سامانه‌های هوشمند را بررسی می‌کند.
اصولی مانند کرامت انسانی، عدالت، عدم تبعیض، حریم خصوصی، شفافیت، توضیح‌پذیری، پاسخ‌گویی، ایمنی و نظارت انسانی از مبانی اصلی این حوزه هستند.
گسترش هوش مصنوعی در پزشکی، آموزش، استخدام، بانکداری، نظام قضایی، رسانه‌ها و امور نظامی نشان داده است که کارآیی فنی به‌تنهایی برای مشروعیت اجتماعی و اخلاقی یک فناوری کافی نیست.
اسناد بین‌المللی مانند اصول سازمان همکاری و توسعهٔ اقتصادی، توصیه‌نامهٔ یونسکو و چارچوب مدیریت ریسک NIST تلاش کرده‌اند معیارهایی برای توسعهٔ مسئولانهٔ هوش مصنوعی ارائه کنند. قانون هوش مصنوعی اتحادیهٔ اروپا نیز نمونه‌ای از تلاش برای تبدیل برخی ملاحظات اخلاقی به قواعد حقوقی الزام‌آور است.
در نهایت، مسئلهٔ اصلی اخلاق هوش مصنوعی حفظ مسئولیت انسانی در برابر فناوری است؛ به‌گونه‌ای که توسعهٔ سامانه‌های هوشمند با حقوق بنیادین، عدالت اجتماعی، آزادی و رفاه انسان‌ها سازگار باشد.
جستارهای وابسته
- هوش مصنوعی
- هوش مصنوعی مولد
- یادگیری ماشین
- یادگیری عمیق
- شبکه عصبی مصنوعی
- الگوریتم
- سوگیری الگوریتمی
- توهم هوش مصنوعی
- داده‌کاوی
- علم داده
- تحلیل داده
- فلسفه اخلاق
- فلسفه فناوری
- حقوق بشر
- کرامت انسانی
- حریم خصوصی
- آزادی بیان
- اصل برائت
- دادرسی عادلانه
- حاکمیت قانون
- حکمرانی فناوری
- امنیت سایبری
- یونسکو
- سازمان همکاری و توسعه اقتصادی
- اتحادیه اروپا
منابع
- ↑ ۱٫۰ ۱٫۱ ۱٫۲ ۱٫۳ یونسکو، «توصیه‌نامهٔ اخلاق هوش مصنوعی»، مصوب ۲۳ نوامبر ۲۰۲۱.
- ↑ ۲٫۰ ۲٫۱ سازمان همکاری و توسعهٔ اقتصادی، «توصیه‌نامهٔ شورا دربارهٔ هوش مصنوعی»، مصوب ۲۲ مهٔ ۲۰۱۹، اصلاح‌شده در ۳ مهٔ ۲۰۲۴.
- ↑ ۳٫۰ ۳٫۱ مؤسسهٔ ملی استانداردها و فناوری آمریکا، «چارچوب مدیریت ریسک هوش مصنوعی»، ۲۰۲۳.
- ↑ متن رسمی مقررهٔ اتحادیهٔ اروپا شمارهٔ ۲۰۲۴/۱۶۸۹، قانون هوش مصنوعی، همراه با اصلاحات.
```