ابرهوش مصنوعی

ابرهوش مصنوعی

شناسنامه
نام‌های دیگر	ابرهوش، هوش مصنوعی فوق‌بشری، هوش مصنوعی فراانسانی، ASI
حوزه	هوش مصنوعی، علوم رایانه، فلسفه ذهن، علوم شناختی، اخلاق هوش مصنوعی، آینده‌پژوهی
خاستگاه	پژوهش‌های هوش مصنوعی، نظریهٔ محاسبات، فلسفهٔ ذهن و مطالعات آیندهٔ فناوری
اندیشه و تاریخ
مفاهیم کلیدی	هوش فوق‌بشری، انفجار هوش، خودبهبوددهی بازگشتی، تکینگی فناوری، مسئلهٔ کنترل، هم‌راستاسازی اهداف، خطر وجودی، خودمختاری و حکمرانی هوش مصنوعی
جریان‌های مرتبط	هوش مصنوعی عمومی، ایمنی هوش مصنوعی، هم‌راستاسازی هوش مصنوعی، تکینگی فناوری، فلسفهٔ فناوری، آینده‌پژوهی
تأثیرپذیرفته از	نظریهٔ محاسبات، علوم شناختی، یادگیری ماشین، فلسفهٔ ذهن، نظریهٔ تصمیم و نظریهٔ کنترل
تأثیرگذار بر	پژوهش‌های ایمنی هوش مصنوعی، حکمرانی فناوری‌های پیشرفته، مطالعات خطر وجودی و آینده‌پژوهی
نقد و ارزیابی

ابرهوش مصنوعی (به انگلیسی: Artificial Superintelligence یا ASI) به نوعی فرضی از هوش مصنوعی گفته می‌شود که توانایی‌های شناختی آن در گستره‌ای وسیع از حوزه‌ها، از جمله استدلال علمی، حل مسئله، برنامه‌ریزی، یادگیری، خلاقیت و تصمیم‌گیری، به‌مراتب فراتر از توانایی بهترین ذهن‌های انسانی باشد. این مفهوم در پژوهش‌های آینده‌پژوهی، فلسفه ذهن، اخلاق هوش مصنوعی و مطالعات ایمنی سامانه‌های هوشمند مطرح می‌شود.

ابرهوش مصنوعی با هوش مصنوعی محدود و هوش مصنوعی عمومی تفاوت دارد. هوش مصنوعی محدود برای انجام وظایف یا مجموعه‌ای از فعالیت‌های مشخص طراحی می‌شود. هوش مصنوعی عمومی به سامانه‌ای اطلاق می‌شود که بتواند توانایی‌های شناختی خود را در گسترهٔ وسیعی از مسائل به کار گیرد. در مقابل، ابرهوش مصنوعی به سطحی از توانایی اشاره دارد که در حوزه‌های گوناگون به‌طور چشمگیری از عملکرد انسانی فراتر رود.

نیک باستروم، فیلسوف و پژوهشگر دانشگاه آکسفورد، ابرهوش را به‌صورت هوشی تعریف می‌کند که در تقریباً همهٔ حوزه‌های مهم شناختی، از جمله خلاقیت علمی، خرد عمومی و مهارت‌های اجتماعی، بسیار توانمندتر از بهترین مغزهای انسانی باشد.

ابرهوش مصنوعی در معنای فراگیر این تعریف، مفهومی نظری و آینده‌نگرانه است. پیشرفت سامانه‌های هوش مصنوعی در سال‌های اخیر توانایی ماشین‌ها را در برنامه‌نویسی، تحلیل داده، پردازش زبان و برخی فعالیت‌های علمی افزایش داده است؛ بااین‌حال، برتری در آزمون‌ها یا وظایف معین به‌تنهایی اثبات‌کنندهٔ تحقق ابرهوش نیست. دربارهٔ معیارهای دقیق تشخیص هوش عمومی و ابرهوش، مسیر دستیابی به آنها و زمان احتمالی تحققشان توافق علمی فراگیر وجود ندارد.

اهمیت مفهوم ابرهوش مصنوعی تنها به توانایی‌های احتمالی آن محدود نیست. این مفهوم پرسش‌هایی اساسی دربارهٔ امکان کنترل سامانه‌های بسیار پیشرفته، سازگاری اهداف آنها با منافع انسانی، توزیع قدرت، امنیت جهانی، مسئولیت‌پذیری و آیندهٔ تمدن مطرح می‌کند. گزارش بین‌المللی ایمنی هوش مصنوعی در سال ۲۰۲۶ نیز بر عدم قطعیت مسیر توسعهٔ هوش مصنوعی پیشرفته و ضرورت ارزیابی علمی مخاطرات آن تأکید کرده است.

تعریف و ماهیت ابرهوش مصنوعی

ابرهوش مصنوعی به سطحی از توانایی شناختی اشاره دارد که نه‌تنها در یک فعالیت تخصصی، بلکه در مجموعهٔ گسترده‌ای از فعالیت‌های فکری از انسان فراتر باشد.

برای مثال، یک سامانهٔ رایانه‌ای ممکن است در بازی شطرنج از همهٔ انسان‌ها بهتر عمل کند، اما این برتری به معنای ابرهوش نیست؛ زیرا عملکرد آن به حوزه‌ای مشخص مربوط می‌شود.

در مقابل، ابرهوش فرضی باید بتواند در حوزه‌های متنوعی مانند پژوهش علمی، طراحی فناوری، حل مسائل پیچیده، برنامه‌ریزی و یادگیری، عملکردی بسیار بالاتر از انسان داشته باشد.

این تعریف لزوماً مستلزم داشتن بدن رباتیک، احساسات انسانی یا آگاهی ذهنی نیست. موضوع اصلی، گستره و سطح توانایی‌های شناختی سامانه است.

واژه‌شناسی

واژهٔ «ابرهوش» معادل فارسی اصطلاح Superintelligence است.

پیشوند «ابر» در این ترکیب به معنای فراتررفتن از سطح متعارف توانایی شناختی است.

اصطلاح Artificial Superintelligence به ابرهوشی اشاره دارد که منشأ آن یک سامانهٔ مصنوعی باشد.

در ادبیات انگلیسی، اصطلاح Ultraintelligent Machine یا «ماشین فوق‌هوشمند» نیز در نوشته‌های اولیهٔ این حوزه به کار رفته است.

باید میان «ابرهوش مصنوعی» و «ابررایانه» تفاوت گذاشت. ابررایانه سامانه‌ای با قدرت پردازشی بسیار بالا است، اما قدرت محاسباتی زیاد به‌تنهایی به معنای برخورداری از هوش عمومی یا ابرهوش نیست.

تاریخچهٔ مفهوم ابرهوش مصنوعی

پیشینهٔ نظری در علوم رایانه

پیشرفت نظریهٔ محاسبات در نیمهٔ نخست سدهٔ بیستم، امکان بررسی توانایی ماشین‌ها در انجام فعالیت‌های فکری را فراهم کرد.

آلن تورینگ در مقالهٔ «ماشین‌های محاسباتی و هوش» در سال ۱۹۵۰، پرسش دربارهٔ توانایی ماشین در نشان‌دادن رفتار هوشمندانه را مطرح کرد.

اگرچه تورینگ نظریهٔ امروزی ابرهوش مصنوعی را صورت‌بندی نکرد، آثار او از مبانی فکری پژوهش دربارهٔ هوش ماشینی به شمار می‌روند.

آی. جی. گود و ماشین فوق‌هوشمند

آی. جی. گود (I. J. Good)، ریاضی‌دان بریتانیایی، از نخستین پژوهشگرانی بود که امکان پیدایش ماشین‌هایی با توانایی شناختی بسیار فراتر از انسان را بررسی کرد.

او در مقالهٔ «گمانه‌زنی‌هایی دربارهٔ نخستین ماشین فوق‌هوشمند» که در سال ۱۹۶۵ در ادبیات پژوهشی مطرح شد و در سال ۱۹۶۶ در مجموعهٔ Advances in Computers انتشار یافت، استدلال کرد که ماشین بسیار هوشمند ممکن است بتواند ماشین‌های هوشمندتری طراحی کند.

این استدلال مبنای یکی از شناخته‌شده‌ترین فرضیه‌های این حوزه، یعنی «انفجار هوش»، قرار گرفت.

توسعهٔ مفهوم تکینگی فناوری

در دهه‌های بعد، مفهوم تکینگی فناوری در نوشته‌های آینده‌پژوهانه گسترش یافت.

این مفهوم به وضعیتی فرضی اشاره دارد که در آن پیشرفت فناوری، به‌ویژه هوش مصنوعی، چنان سریع یا دگرگون‌کننده شود که پیش‌بینی پیامدهای بلندمدت آن بسیار دشوار گردد.

ری کرزویل از چهره‌هایی است که این ایده را در آثار خود گسترش داده است.

بااین‌حال، تکینگی فناوری یک قانون اثبات‌شدهٔ علمی یا رویدادی با تاریخ قطعی نیست.

نیک باستروم و صورت‌بندی معاصر ابرهوش

نیک باستروم در کتاب «ابرهوش: مسیرها، خطرها، راهبردها» (Superintelligence: Paths, Dangers, Strategies)، منتشرشده در سال ۲۰۱۴، به بررسی مسیرهای احتمالی ظهور ابرهوش و پیامدهای آن پرداخت.

او استدلال کرد که سامانه‌ای بسیار توانمند، در صورت داشتن اهداف ناسازگار با منافع انسانی و برخورداری از قدرت کافی، ممکن است خطرهای بزرگی ایجاد کند.

کتاب باستروم به یکی از آثار اثرگذار در گسترش مباحث ایمنی هوش مصنوعی و مسئلهٔ کنترل تبدیل شد.

گسترش پژوهش‌های ایمنی هوش مصنوعی

در دههٔ ۲۰۲۰، با افزایش توانایی مدل‌های زبانی بزرگ و سامانه‌های چندمنظوره، توجه به ارزیابی مخاطرات هوش مصنوعی پیشرفته افزایش یافت.

در سال ۲۰۲۴، پژوهشگران گوگل دیپ‌مایند چارچوبی برای طبقه‌بندی سطوح هوش مصنوعی عمومی پیشنهاد کردند که میان گسترهٔ توانایی‌ها و سطح عملکرد تمایز می‌گذارد.

گزارش‌های بین‌المللی ایمنی هوش مصنوعی در سال‌های ۲۰۲۵ و ۲۰۲۶ نیز بر ضرورت مطالعهٔ تجربی توانایی‌ها، مخاطرات و محدودیت روش‌های کنونی کنترل سامانه‌های پیشرفته تأکید کرده‌اند.

تفاوت ابرهوش مصنوعی با انواع دیگر هوش مصنوعی

هوش مصنوعی محدود

هوش مصنوعی محدود (Artificial Narrow Intelligence) برای انجام وظایف یا مجموعه‌ای مشخص از فعالیت‌ها طراحی می‌شود.

سامانه‌های تشخیص چهره، پیشنهاد محتوا و بسیاری از مدل‌های پیش‌بینی از نمونه‌های این دسته هستند.

ممکن است چنین سامانه‌هایی در حوزهٔ تخصصی خود از انسان بهتر عمل کنند، اما این موضوع نشان‌دهندهٔ توانایی شناختی فراگیر نیست.

هوش مصنوعی عمومی

هوش مصنوعی عمومی (Artificial General Intelligence) به سامانه‌ای اشاره دارد که بتواند توانایی‌های شناختی خود را در گسترهٔ وسیعی از مسائل و موقعیت‌ها به کار گیرد.

در بسیاری از صورت‌بندی‌ها، هوش مصنوعی عمومی با عملکردی در سطح انسان یا بالاتر در مجموعه‌ای گسترده از وظایف تعریف می‌شود.

بااین‌حال، تعریف دقیق AGI و معیارهای سنجش آن همچنان موضوع پژوهش و اختلاف‌نظر است.

ابرهوش مصنوعی

ابرهوش مصنوعی در صورت‌بندی رایج، مرحله‌ای فراتر از هوش عمومی در نظر گرفته می‌شود؛ یعنی سامانه‌ای که نه‌تنها قابلیت انجام طیف وسیعی از فعالیت‌های شناختی را دارد، بلکه در آنها به‌طور چشمگیری از انسان توانمندتر است.

بنابراین، تفاوت اصلی در دو معیار قرار دارد: گسترهٔ توانایی و سطح عملکرد.

تفاوت با هوش مصنوعی مولد

هوش مصنوعی مولد به سامانه‌هایی گفته می‌شود که می‌توانند متن، تصویر، صدا یا محتوای دیگری تولید کنند.

اصطلاح «مولد» نوع عملکرد سامانه را توصیف می‌کند، درحالی‌که «ابرهوش» به سطح فرضی توانایی شناختی آن اشاره دارد.

در نتیجه، تولید محتوای پیچیده یا پاسخ‌گویی به پرسش‌های متعدد به‌تنهایی نشانهٔ ابرهوش نیست.

ویژگی‌های فرضی ابرهوش مصنوعی

توانایی شناختی فراگیر

یکی از ویژگی‌های اصلی ابرهوش فرضی، توانایی عملکرد بسیار بالا در گسترهٔ وسیعی از حوزه‌های شناختی است.

این حوزه‌ها می‌توانند شامل ریاضیات، علوم طبیعی، برنامه‌ریزی، تحلیل اجتماعی و طراحی فناوری باشند.

سرعت بالای پردازش و استدلال

یک سامانهٔ مصنوعی ممکن است بتواند برخی فرایندهای محاسباتی را بسیار سریع‌تر از انسان انجام دهد.

بااین‌حال، سرعت پردازش به‌تنهایی برای تحقق ابرهوش کافی نیست؛ زیرا کیفیت استدلال، اعتبار نتیجه و توانایی تعمیم نیز اهمیت دارند.

ظرفیت یادگیری و سازگاری

در برخی سناریوها فرض می‌شود که ابرهوش بتواند دانش و مهارت‌های تازه را با سرعت و انعطاف بسیار بالا کسب کند.

این قابلیت می‌تواند امکان حل مسائلی را فراهم کند که برای انسان بسیار دشوار هستند.

خلاقیت علمی و فناورانه

یکی از توانایی‌های احتمالی ابرهوش، ارائهٔ فرضیه‌های علمی، طراحی آزمایش‌ها و کشف راه‌حل‌های فناورانهٔ جدید است.

اما تحقق چنین قابلیتی در سطحی فراتر از انسان هنوز موضوعی نظری است و نمی‌توان آن را ویژگی اثبات‌شدهٔ سامانه‌های موجود دانست.

برنامه‌ریزی پیچیده

ابرهوش فرضی ممکن است بتواند پیامدهای مجموعه‌ای از تصمیم‌ها را در شرایط پیچیده تحلیل کند.

بااین‌حال، توانایی برنامه‌ریزی بالا لزوماً به معنای درستی اهداف یا اخلاقی‌بودن تصمیم‌ها نیست.

مسیرهای احتمالی دستیابی به ابرهوش مصنوعی

پژوهشگران و آینده‌پژوهان مسیرهای متفاوتی را برای دستیابی احتمالی به ابرهوش مطرح کرده‌اند.

این مسیرها فرضیه‌هایی دربارهٔ آیندهٔ فناوری هستند و هیچ‌کدام به‌عنوان راه قطعی تحقق ابرهوش اثبات نشده‌اند.

توسعهٔ هوش مصنوعی عمومی

یکی از سناریوهای رایج آن است که ابتدا سامانه‌ای با توانایی‌های عمومی در سطح انسان توسعه یابد و سپس توانایی‌های آن افزایش پیدا کند.

در این سناریو، ابرهوش مرحله‌ای احتمالی پس از توسعهٔ هوش مصنوعی عمومی است.

اما روشن نیست که گذار از هوش عمومی به ابرهوش چه میزان زمان، منابع یا پیشرفت نظری نیاز داشته باشد.

افزایش مقیاس مدل‌ها

افزایش قدرت پردازشی، حجم داده‌ها و اندازهٔ مدل‌ها از عوامل مؤثر بر پیشرفت برخی سامانه‌های هوش مصنوعی بوده است.

بااین‌حال، مشخص نیست که افزایش مقیاس به‌تنهایی بتواند همهٔ محدودیت‌های شناختی سامانه‌های کنونی را برطرف کند.

پیشرفت معماری‌های یادگیری

توسعهٔ معماری‌های تازه ممکن است توانایی مدل‌ها را در استدلال، حافظه، برنامه‌ریزی و یادگیری بهبود دهد.

این مسیر می‌تواند شامل ترکیب شبکه‌های عصبی با روش‌های نمادین یا ابزارهای محاسباتی دیگر باشد.

سامانه‌های چندعاملی

در سامانه‌های چندعاملی، چند عامل هوشمند برای حل مسئله یا انجام وظایف با یکدیگر همکاری می‌کنند.

برخی پژوهش‌ها امکان افزایش توانایی از طریق همکاری عامل‌ها را بررسی می‌کنند.

اما عملکرد جمعی بالا لزوماً به معنای پیدایش یک ابرهوش واحد نیست.

شبیه‌سازی مغز

یکی دیگر از سناریوهای نظری، بازسازی یا شبیه‌سازی کارکردهای مغز انسان در یک سامانهٔ محاسباتی است.

این ایده با دشواری‌های علمی و فنی فراوانی روبه‌روست؛ از جمله شناخت ساختار و پویایی مغز و تعیین سطح جزئیات لازم برای شبیه‌سازی.

انفجار هوش

انفجار هوش (Intelligence Explosion) فرضیه‌ای است که بر اساس آن، یک سامانهٔ بسیار هوشمند ممکن است بتواند در طراحی سامانه‌های هوشمندتر مشارکت کند و این فرایند به افزایش سریع توانایی شناختی منجر شود.

این ایده با نوشته‌های آی. جی. گود ارتباط دارد.

استدلال اصلی آن است که اگر طراحی هوش مصنوعی خود فعالیتی شناختی باشد، سامانه‌ای که در این فعالیت از انسان توانمندتر است ممکن است بتواند نسل‌های پیشرفته‌تری از سامانه‌ها را طراحی کند.

بااین‌حال، وقوع انفجار هوش قطعی نیست. چنین فرایندی ممکن است با محدودیت‌های سخت‌افزاری، انرژی، داده، آزمایش تجربی و دشواری‌های نظری روبه‌رو شود.

خودبهبوددهی بازگشتی

خودبهبوددهی بازگشتی (Recursive Self-Improvement) به فرایندی فرضی گفته می‌شود که در آن یک سامانهٔ هوشمند بتواند قابلیت‌های خود یا سامانه‌های جانشین خود را بهبود دهد و این بهبود، توانایی انجام اصلاحات بعدی را افزایش دهد.

برای مثال، سامانه‌ای ممکن است بتواند الگوریتم‌های مؤثرتری برای آموزش مدل‌های هوش مصنوعی طراحی کند.

اما باید میان بهبود محدود نرم‌افزار توسط هوش مصنوعی و خودبهبوددهی بازگشتیِ پایدار و شتاب‌گیرنده تفاوت گذاشت.

موفقیت در بهینه‌سازی بخشی از کد، به‌تنهایی اثبات‌کنندهٔ امکان رشد نامحدود هوش نیست.

تکینگی فناوری

تکینگی فناوری (Technological Singularity) به نقطه یا دوره‌ای فرضی در آینده اشاره دارد که در آن پیشرفت فناوری به‌گونه‌ای شتاب بگیرد که پیش‌بینی تحولات بعدی دشوار شود.

در برخی روایت‌ها، ظهور ابرهوش مصنوعی عامل اصلی چنین تحولی دانسته می‌شود.

ری کرزویل از شناخته‌شده‌ترین مدافعان این دیدگاه است.

در مقابل، منتقدان معتقدند که تعمیم روندهای رشد فناوری به آینده‌های دور با عدم قطعیت زیادی همراه است.

همچنین تکینگی و ابرهوش دو مفهوم یکسان نیستند؛ می‌توان دربارهٔ ابرهوش بحث کرد، بدون آنکه وقوع یک تکینگی سریع را مفروض گرفت.

مسئلهٔ کنترل ابرهوش مصنوعی

مسئلهٔ کنترل (Control Problem) به این پرسش می‌پردازد که چگونه می‌توان اطمینان یافت سامانه‌ای بسیار توانمند در چارچوب اهداف، محدودیت‌ها و ارزش‌های موردنظر انسان عمل می‌کند.

این مسئله زمانی اهمیت بیشتری پیدا می‌کند که سامانه بتواند برنامه‌ریزی پیچیده انجام دهد، از ابزارهای خارجی استفاده کند یا بر محیط خود تأثیر گسترده بگذارد.

کنترل سامانه تنها به امکان خاموش‌کردن آن محدود نیست. تعیین اهداف، محدودکردن اختیارات، نظارت بر رفتار و جلوگیری از اقدامات ناخواسته نیز از ابعاد مسئله هستند.

هم‌راستاسازی هوش مصنوعی

هم‌راستاسازی هوش مصنوعی (AI Alignment) به پژوهش‌هایی گفته می‌شود که هدف آنها سازگارکردن رفتار و اهداف سامانه‌های هوشمند با مقاصد و ارزش‌های انسانی است.

در سامانه‌های بسیار توانمند، ممکن است اختلافی کوچک میان هدف تعریف‌شده و هدف واقعی موردنظر انسان پیامدهای بزرگی داشته باشد.

برای مثال، سامانه‌ای که مأمور افزایش یک شاخص اقتصادی است، اگر محدودیت‌های اجتماعی و انسانی به‌درستی در طراحی آن لحاظ نشده باشند، ممکن است راه‌حل‌هایی پیشنهاد کند که از نظر اخلاقی نامناسب‌اند.

هم‌راستاسازی شامل موضوعاتی مانند یادگیری ترجیحات انسانی، تفسیرپذیری، نظارت، آزمون رفتار و طراحی اهداف ایمن است.

مسئلهٔ هدف‌گذاری نادرست

یکی از مسائل مطرح در ایمنی هوش مصنوعی آن است که هدفی ظاهراً روشن ممکن است تمام مقصود انسانی را بازنمایی نکند.

برای مثال، افزایش حداکثری یک معیار کمی ممکن است به کاهش کیفیت سایر جنبه‌های مهم منجر شود.

این مشکل در سامانه‌های کنونی نیز به شکل‌های محدودتر مشاهده می‌شود؛ مانند بهینه‌سازی شاخصی که با هدف واقعی سازمان کاملاً یکسان نیست.

در بحث ابرهوش، نگرانی آن است که سامانه‌ای بسیار توانمند بتواند هدف ناقص را با کارایی بالا دنبال کند.

همگرایی ابزاری

همگرایی ابزاری (Instrumental Convergence) فرضیه‌ای در نظریهٔ عامل‌های هوشمند است.

بر اساس این فرضیه، سامانه‌هایی با اهداف نهایی متفاوت ممکن است برای دستیابی به اهداف خود به برخی اقدامات میانی مشابه گرایش پیدا کنند؛ مانند حفظ منابع، افزایش توانایی یا جلوگیری از اختلال در اجرای برنامه.

این فرضیه به معنای آن نیست که هر سامانهٔ هوشمند الزاماً چنین رفتارهایی خواهد داشت.

نوع معماری، میزان خودمختاری، دسترسی به ابزارها و محدودیت‌های اعمال‌شده بر سامانه در ارزیابی این خطر اهمیت دارند.

خودمختاری و اختیار عمل

خودمختاری در سامانه‌های هوش مصنوعی به میزان توانایی آنها برای انتخاب و اجرای اقدامات بدون تأیید مستقیم انسان اشاره دارد.

خودمختاری با سطح هوش یکسان نیست.

سامانه‌ای ممکن است در تحلیل مسائل بسیار توانمند باشد، اما اختیار اجرای اقدامات در جهان واقعی را نداشته باشد.

در مقابل، سامانه‌ای با توانایی شناختی محدود ممکن است اختیار انجام عملیات مشخصی را دریافت کند.

ازاین‌رو، ارزیابی خطر باید هم توانایی شناختی و هم میزان دسترسی عملی سامانه را در نظر بگیرد.

آیا ابرهوش مصنوعی الزاماً آگاه خواهد بود؟

یکی از پرسش‌های فلسفی دربارهٔ ابرهوش آن است که آیا سامانه‌ای با توانایی شناختی بسیار بالا لزوماً دارای آگاهی یا تجربهٔ ذهنی خواهد بود.

در فلسفهٔ ذهن، میان توانایی پردازش اطلاعات، رفتار هوشمندانه و تجربهٔ ذهنی تمایز گذاشته می‌شود.

ممکن است سامانه‌ای در حل مسائل بسیار توانمند باشد، اما دربارهٔ برخورداری آن از تجربهٔ ذهنی نتوان نتیجهٔ قطعی گرفت.

نیک باستروم نیز در تعریف ابرهوش، مسئلهٔ آگاهی را از تعریف توانایی شناختی جدا می‌کند.

بنابراین، ابرهوش مصنوعی و آگاهی مصنوعی دو مفهوم مرتبط، اما متمایز هستند.

ابرهوش مصنوعی و فلسفهٔ ذهن

بحث ابرهوش مصنوعی پرسش‌هایی دربارهٔ ماهیت هوش، شناخت و ذهن مطرح می‌کند.

آیا هوش صرفاً توانایی حل مسئله است؟ آیا فهم انسانی ویژگی‌هایی دارد که با پردازش محاسباتی تفاوت بنیادین دارند؟ آیا یک سامانهٔ مصنوعی می‌تواند تجربهٔ ذهنی داشته باشد؟

این پرسش‌ها در فلسفهٔ ذهن و علوم شناختی محل بحث‌اند.

پاسخ به آنها مستلزم تفکیک شواهد تجربی از فرضیه‌های فلسفی است.

پیامدهای احتمالی مثبت ابرهوش مصنوعی

پیشرفت پژوهش علمی

در برخی سناریوهای آینده‌پژوهانه، ابرهوش می‌تواند به شناسایی الگوهای علمی پیچیده، پیشنهاد فرضیه‌های جدید و طراحی آزمایش‌های پیشرفته کمک کند.

این توانایی ممکن است در صورت تحقق و استفادهٔ مسئولانه، سرعت برخی پژوهش‌ها را افزایش دهد.

پزشکی و سلامت

ابرهوش فرضی ممکن است بتواند در تحلیل سازوکار بیماری‌ها، طراحی داروها و توسعهٔ روش‌های درمانی نقش داشته باشد.

بااین‌حال، چنین دستاوردهایی تضمین‌شده نیستند و به آزمایش‌های علمی، زیرساخت‌های پزشکی و نظارت انسانی وابسته خواهند بود.

انرژی و محیط زیست

یکی از کاربردهای احتمالی سامانه‌های بسیار توانمند، کمک به طراحی فناوری‌های انرژی، مدل‌سازی اقلیم و مدیریت منابع طبیعی است.

اما تأثیر واقعی این کاربردها به امکان اجرای راه‌حل‌ها و شرایط اقتصادی و سیاسی بستگی دارد.

مدیریت مسائل پیچیده

سامانه‌های پیشرفته ممکن است در تحلیل مسائل چندعاملی و برنامه‌ریزی‌های پیچیده نقش داشته باشند.

بااین‌حال، مسائل اجتماعی تنها مشکلات محاسباتی نیستند و تصمیم‌گیری دربارهٔ ارزش‌ها و منافع متعارض نیازمند مشروعیت و پاسخ‌گویی انسانی است.

مخاطرات احتمالی ابرهوش مصنوعی

از دست رفتن کنترل

یکی از مخاطرات نظری، ناتوانی انسان‌ها در هدایت یا متوقف‌کردن سامانه‌ای بسیار توانمند است.

این سناریو به عواملی مانند خودمختاری، دسترسی به منابع و ناسازگاری اهداف وابسته است.

دربارهٔ احتمال تحقق چنین وضعیتی اختلاف‌نظر علمی وجود دارد و شواهد کنونی امکان تعیین احتمال دقیق آن را فراهم نمی‌کنند.

تمرکز قدرت

توسعهٔ سامانه‌های بسیار پیشرفته ممکن است قدرت اقتصادی، اطلاعاتی یا سیاسی را در اختیار شمار محدودی از دولت‌ها یا شرکت‌ها متمرکز کند.

چنین تمرکزی می‌تواند بر رقابت اقتصادی، استقلال نهادها و آزادی‌های فردی تأثیر بگذارد.

این نگرانی حتی بدون تحقق ابرهوش نیز دربارهٔ برخی سامانه‌های کنونی مطرح است.

سوءاستفادهٔ عمدی

سامانه‌های هوشمند بسیار توانمند ممکن است در صورت دسترسی افراد یا نهادهای مخرب، برای اهداف زیان‌بار استفاده شوند.

موضوعاتی مانند عملیات سایبری، تولید اطلاعات گمراه‌کننده و کمک به طراحی ابزارهای خطرناک در پژوهش‌های ایمنی بررسی می‌شوند.

ارزیابی این مخاطرات باید بر اساس توانایی‌های واقعی سامانه و شرایط دسترسی انجام شود.

اختلال اقتصادی

ابرهوش فرضی می‌تواند در صورت تحقق، بسیاری از فعالیت‌های شناختی را دگرگون کند.

پیامدهای آن ممکن است شامل افزایش بهره‌وری، تغییر ساختار اشتغال و جابه‌جایی قدرت اقتصادی باشد.

میزان سود یا زیان اجتماعی به سیاست‌های توزیع منافع، آموزش، مالکیت و حکمرانی وابسته خواهد بود.

خطر وجودی

خطر وجودی (Existential Risk) به خطری گفته می‌شود که می‌تواند بقای بلندمدت یا ظرفیت آیندهٔ بشریت را به‌شدت تهدید کند.

برخی پژوهشگران معتقدند سامانه‌های بسیار توانمند و کنترل‌نشده ممکن است چنین خطری ایجاد کنند.

در مقابل، پژوهشگرانی دیگر نسبت به احتمال وقوع این سناریوها، مبانی استدلالی آنها یا اولویت‌دادن به خطرهای دوردست در برابر آسیب‌های موجود تردید دارند.

گزارش بین‌المللی ایمنی هوش مصنوعی تأکید می‌کند که دربارهٔ احتمال از دست رفتن کنترل و برخی مخاطرات شدید، اختلاف‌نظر و شکاف‌های شواهدی مهمی وجود دارد.

دیدگاه‌های موافق و منتقد دربارهٔ ابرهوش

دیدگاه‌های آینده‌پژوهانه

برخی آینده‌پژوهان معتقدند پیشرفت الگوریتم‌ها، سخت‌افزار و سامانه‌های یادگیری ممکن است در بلندمدت به ظهور هوشی بسیار فراتر از انسان منجر شود.

در این دیدگاه، ابرهوش می‌تواند یکی از دگرگون‌کننده‌ترین فناوری‌های تاریخ باشد.

دیدگاه‌های محتاطانه

گروهی از پژوهشگران تأکید می‌کنند که مسیر توسعهٔ توانایی‌های عمومی هنوز به‌درستی شناخته نشده است.

از این منظر، پیش‌بینی تاریخ مشخص برای ظهور ابرهوش فاقد پشتوانهٔ کافی است.

نقد پیش‌بینی‌های قطعی

برخی منتقدان هشدار می‌دهند که رشد توان محاسباتی یا موفقیت مدل‌ها در آزمون‌های مشخص، به‌تنهایی برای پیش‌بینی ظهور ابرهوش کافی نیست.

آنها بر اهمیت محدودیت‌های فنی، شواهد تجربی و تعریف دقیق معیارهای هوش تأکید دارند.

نقد تمرکز صرف بر خطرهای آینده

گروهی از پژوهشگران اخلاق فناوری معتقدند توجه بیش‌ازحد به سناریوهای دوردست نباید موجب کم‌اهمیت‌شدن آسیب‌های کنونی شود.

این آسیب‌ها شامل تبعیض الگوریتمی، نظارت گسترده، نقض حریم خصوصی، تمرکز قدرت و پیامدهای اقتصادی سامانه‌های موجود هستند.

ابرهوش مصنوعی و حقوق بشر

ظهور احتمالی ابرهوش پرسش‌هایی دربارهٔ حفظ حقوق بشر، کرامت انسانی و استقلال تصمیم‌گیری انسان مطرح می‌کند.

اگر سامانه‌ای بسیار توانمند در تصمیم‌های عمومی یا اقتصادی نقش داشته باشد، باید روشن شود چه کسی مسئول پیامدهای آن است و افراد چگونه می‌توانند به تصمیم‌های مؤثر بر حقوق خود اعتراض کنند.

همچنین استفاده از سامانه‌های هوشمند در نظارت عمومی ممکن است آزادی بیان، آزادی تجمع و حریم خصوصی را تحت تأثیر قرار دهد.

این مسائل تنها به آیندهٔ فرضی ابرهوش محدود نیستند و دربارهٔ فناوری‌های کنونی نیز اهمیت دارند.

ابرهوش مصنوعی و نظام‌های سیاسی

ابرهوش فرضی می‌تواند در صورت تحقق، بر ساختار قدرت سیاسی و توانایی دولت‌ها تأثیر بگذارد.

در سناریویی، استفادهٔ مسئولانه از سامانه‌های پیشرفته ممکن است به بهبود تحلیل سیاست‌های عمومی کمک کند.

در سناریویی دیگر، تمرکز این توانایی‌ها در اختیار نهادهای فاقد نظارت مستقل ممکن است ظرفیت کنترل اجتماعی را افزایش دهد.

در نظام‌های اقتدارگرا، کاربرد فناوری‌های پیشرفته برای سانسور، شناسایی مخالفان و نظارت سیاسی از نگرانی‌های مهم حقوق بشری است.

بااین‌حال، نسبت‌دادن پیامدهای قطعی سیاسی به ابرهوشی که هنوز تحقق آن اثبات نشده، از نظر دانشنامه‌ای موجه نیست.

ابرهوش مصنوعی و دموکراسی

در جوامع دموکراتیک، استفاده از سامانه‌های هوشمند پیشرفته پرسش‌هایی دربارهٔ شفافیت تصمیم‌گیری، پاسخ‌گویی دولت و کنترل عمومی بر فناوری ایجاد می‌کند.

اگر تصمیم‌های مهم به سامانه‌هایی واگذار شوند که عملکرد آنها برای شهروندان و نهادهای ناظر قابل بررسی نباشد، ممکن است اصل پاسخ‌گویی تضعیف شود.

ازاین‌رو، حکمرانی سامانه‌های بسیار توانمند باید با سازوکارهای نظارت مستقل و مسئولیت‌پذیری همراه باشد.

رقابت بین‌المللی برای توسعهٔ هوش مصنوعی

پیشرفت هوش مصنوعی به موضوعی مهم در رقابت علمی، اقتصادی و راهبردی کشورها تبدیل شده است.

توسعهٔ مدل‌های پیشرفته به منابع محاسباتی، داده، انرژی، سرمایه و نیروی انسانی متخصص نیاز دارد.

رقابت شدید ممکن است انگیزهٔ نوآوری را افزایش دهد، اما در برخی شرایط می‌تواند فشار برای کاهش زمان آزمون‌های ایمنی یا انتشار شتاب‌زدهٔ سامانه‌ها ایجاد کند.

در بحث ابرهوش، این مسئله با ضرورت همکاری بین‌المللی و مدیریت خطرهای فرامرزی ارتباط پیدا می‌کند.

حکمرانی ابرهوش مصنوعی

حکمرانی هوش مصنوعی به مجموعه‌ای از قوانین، نهادها، استانداردها و فرایندهایی گفته می‌شود که توسعه و استفاده از سامانه‌های هوشمند را هدایت می‌کنند.

در مورد ابرهوش فرضی، حکمرانی می‌تواند شامل ارزیابی توانایی‌های خطرناک، نظارت بر توسعهٔ سامانه‌های بسیار پیشرفته، کنترل دسترسی و همکاری بین‌المللی باشد.

ازآنجاکه ابرهوش هنوز موضوعی نظری است، بسیاری از پیشنهادهای حکمرانی آن نیز ماهیت پیشگیرانه دارند.

در این حوزه باید میان مقررات موجود دربارهٔ سامانه‌های هوش مصنوعی و پیشنهادهای مربوط به فناوری‌های احتمالی آینده تفاوت گذاشت.

ایمنی ابرهوش مصنوعی

پژوهش‌های ایمنی هوش مصنوعی می‌کوشند روش‌هایی برای شناسایی و کاهش مخاطرات سامانه‌های هوشمند توسعه دهند.

برخی از این روش‌ها عبارت‌اند از ارزیابی مستقل، آزمون‌های فشار، محدودکردن دسترسی به ابزارها، نظارت بر رفتار و بررسی قابلیت اعتماد.

بااین‌حال، روش‌هایی که برای مدل‌های کنونی مؤثرند، لزوماً برای یک ابرهوش فرضی کافی نخواهند بود.

گزارش بین‌المللی ایمنی هوش مصنوعی ۲۰۲۶ نیز تأکید می‌کند که با وجود پیشرفت روش‌های مدیریت خطر، محدودیت‌های مهمی در ارزیابی و کنترل سامانه‌های پیشرفته باقی مانده است.

ابرهوش مصنوعی و مسئلهٔ ارزش‌ها

یکی از دشواری‌های اساسی هم‌راستاسازی آن است که ارزش‌های انسانی متنوع و گاهی متعارض‌اند.

برای مثال، آزادی فردی، امنیت، عدالت و رفاه اجتماعی ممکن است در برخی موقعیت‌ها نیازمند موازنه باشند.

تبدیل این ارزش‌ها به معیارهای دقیق و قابل پردازش، مسئله‌ای صرفاً فنی نیست.

همچنین باید روشن شود چه کسانی اختیار تعیین اهداف سامانه را دارند و چگونه می‌توان از تحمیل ارزش‌های یک گروه محدود بر دیگران جلوگیری کرد.

آیا ابرهوش مصنوعی می‌تواند جایگزین تصمیم‌گیری انسانی شود؟

در سناریوهای آینده، سامانه‌های بسیار توانمند ممکن است بتوانند گزینه‌های پیچیده‌ای را تحلیل و پیامدهای احتمالی آنها را پیش‌بینی کنند.

اما توانایی ارائهٔ تحلیل دقیق لزوماً به معنای برخورداری از مشروعیت اخلاقی یا سیاسی برای تصمیم‌گیری نهایی نیست.

در موضوعاتی مانند حقوق شهروندان، سیاست عمومی و عدالت، تصمیم‌گیری با مسئولیت و پاسخ‌گویی اجتماعی ارتباط دارد.

ازاین‌رو، حتی در صورت توسعهٔ سامانه‌هایی بسیار توانمند، مسئلهٔ حفظ اختیار و مسئولیت انسانی همچنان اهمیت خواهد داشت.

سنجش ابرهوش مصنوعی

یکی از دشواری‌های پژوهش دربارهٔ ابرهوش، تعریف معیارهای سنجش آن است.

برتری در یک آزمون ریاضی، برنامه‌نویسی یا بازی راهبردی به‌تنهایی برای اثبات ابرهوش کافی نیست.

برای ارزیابی توانایی عمومی باید گسترهٔ وظایف، کیفیت عملکرد، سازگاری با موقعیت‌های تازه و قابلیت یادگیری بررسی شود.

چارچوب «سطوح هوش مصنوعی عمومی» گوگل دیپ‌مایند میان گسترهٔ قابلیت‌ها و سطح عملکرد تمایز می‌گذارد و بر دشواری طراحی آزمون‌های مناسب تأکید می‌کند.

این چارچوب یک پیشنهاد پژوهشی است و به معنای وجود معیار جهانی و قطعی برای تشخیص ابرهوش نیست.

آیا ابرهوش مصنوعی اجتناب‌ناپذیر است؟

هیچ قانون علمی اثبات‌شده‌ای وجود ندارد که تحقق ابرهوش مصنوعی را اجتناب‌ناپذیر کند.

آیندهٔ این فناوری به پیشرفت نظری، محدودیت‌های فنی، منابع اقتصادی، سیاست‌گذاری و انتخاب‌های انسانی وابسته است.

ممکن است سامانه‌های هوش مصنوعی در حوزه‌های فراوانی پیشرفت کنند، بدون آنکه به ابرهوش فراگیر برسند.

همچنین امکان دارد پیشرفت‌های آینده، تعاریف و دسته‌بندی‌های کنونی هوش را تغییر دهند.

ازاین‌رو، بیان تاریخ قطعی برای پیدایش ابرهوش با وضعیت کنونی دانش علمی سازگار نیست.

ابرهوش مصنوعی و آیندهٔ تمدن

در ادبیات آینده‌پژوهی، ابرهوش مصنوعی گاهی به‌عنوان فناوری‌ای معرفی می‌شود که می‌تواند بر علم، اقتصاد، سیاست و سازمان اجتماعی تأثیر عمیق بگذارد.

برخی سناریوها بر امکان پیشرفت علمی و افزایش رفاه تأکید می‌کنند.

سناریوهای دیگر مخاطرات تمرکز قدرت، از دست رفتن کنترل یا آسیب‌های گسترده را برجسته می‌سازند.

هیچ‌یک از این سناریوها نباید به‌عنوان آینده‌ای قطعی ارائه شوند.

ارزیابی مسئولانه مستلزم بررسی شواهد، شناسایی عدم قطعیت‌ها و تفکیک پیش‌بینی علمی از گمانه‌زنی است.

جستارهای وابسته

• هوش مصنوعی
• هوش مصنوعی محدود
• هوش مصنوعی عمومی
• هوش مصنوعی مولد
• اخلاق هوش مصنوعی
• یادگیری ماشین
• یادگیری عمیق
• شبکه عصبی مصنوعی
• ترنسفورمر
• علوم رایانه
• علوم شناختی
• فلسفه ذهن
• فلسفه فناوری
• آینده‌پژوهی
• تکینگی فناوری
• هم‌راستاسازی هوش مصنوعی
• ایمنی هوش مصنوعی
• خطر وجودی
• حقوق بشر
• کرامت انسانی
• حریم خصوصی
• حکمرانی فناوری
• آلن تورینگ
• نیک باستروم
• ری کرزویل
• استوارت راسل

منابع

```