هوش مصنوعی عمومی

هوش مصنوعی عمومی

شناسنامه
نام‌های دیگر	هوش عمومی مصنوعی، هوش مصنوعی همه‌منظوره، AGI
حوزه	هوش مصنوعی، علوم رایانه، علوم شناختی، فلسفه ذهن، یادگیری ماشین، فلسفه فناوری
خاستگاه	پژوهش‌های هوش مصنوعی، نظریهٔ محاسبات، علوم شناختی و تلاش برای مدل‌سازی هوش عمومی انسان
اندیشه و تاریخ
مفاهیم کلیدی	هوش عمومی، تعمیم، انتقال یادگیری، استدلال، برنامه‌ریزی، یادگیری مستقل، سازگاری، خودمختاری، شناخت، حل مسئله، هم‌راستاسازی
جریان‌های مرتبط	هوش مصنوعی نمادین، یادگیری ماشین، یادگیری عمیق، علوم شناختی، معماری شناختی، هوش مصنوعی چندوجهی، هوش مصنوعی عامل‌محور
تأثیرپذیرفته از	منطق ریاضی، نظریهٔ محاسبات، علوم شناختی، روان‌شناسی شناختی، علوم اعصاب، آمار و فلسفهٔ ذهن
تأثیرگذار بر	پژوهش‌های هوش مصنوعی پیشرفته، ایمنی هوش مصنوعی، حکمرانی فناوری، آینده‌پژوهی و مطالعات ابرهوش مصنوعی
نقد و ارزیابی

هوش مصنوعی عمومی (به انگلیسی: Artificial General Intelligence یا AGI) مفهومی در علوم رایانه و پژوهش‌های هوش مصنوعی است که به سامانه‌ای مصنوعی با توانایی انجام، یادگیری و ترکیب گسترهٔ وسیعی از فعالیت‌های شناختی اشاره دارد. چنین سامانه‌ای، بر اساس بسیاری از تعریف‌های رایج، باید بتواند در حوزه‌های گوناگون استدلال کند، مسائل تازه را حل کند، از تجربه بیاموزد، دانش خود را میان موقعیت‌های متفاوت انتقال دهد و با شرایط پیش‌بینی‌نشده سازگار شود؛ بی‌آنکه برای هر وظیفه به طراحی یک سامانهٔ کاملاً جداگانه نیاز داشته باشد.

هوش مصنوعی عمومی در برابر هوش مصنوعی محدود (Artificial Narrow Intelligence) قرار می‌گیرد. هوش مصنوعی محدود برای انجام وظایف یا مجموعه‌ای مشخص از فعالیت‌ها توسعه می‌یابد، درحالی‌که هوش مصنوعی عمومی به توانایی شناختی انعطاف‌پذیر و قابل استفاده در حوزه‌های متنوع اشاره دارد. این تمایز به معنای کم‌توان‌بودن سامانه‌های محدود نیست؛ زیرا یک سامانهٔ تخصصی ممکن است در وظیفه‌ای مشخص از انسان بهتر عمل کند، اما همچنان فاقد قابلیت‌های عمومی مورد انتظار از AGI باشد.

تعریف دقیق هوش مصنوعی عمومی مورد توافق همهٔ پژوهشگران نیست. برخی آن را توانایی انجام بیشتر فعالیت‌های شناختی در سطح انسان می‌دانند؛ برخی بر یادگیری وظایف تازه و سازگاری با محیط تأکید می‌کنند و گروهی دیگر عملکرد اقتصادی یا میزان خودمختاری را معیار قرار می‌دهند.

برای نمونه، در منشور شرکت OpenAI، هوش مصنوعی عمومی به سامانه‌های بسیار خودمختاری اطلاق شده است که در بیشتر فعالیت‌های دارای ارزش اقتصادی از انسان عملکرد بهتری داشته باشند. این تعریف، یکی از تعریف‌های سازمانی AGI است و نباید آن را تعریف مورد توافق تمام جامعهٔ علمی دانست.

در مقابل، پژوهشگران گوگل دیپ‌مایند در مقالهٔ «سطوح هوش مصنوعی عمومی» پیشنهاد کرده‌اند که ارزیابی AGI بر اساس دو بُعد مستقل انجام شود: گسترهٔ توانایی‌ها و سطح عملکرد. آنها همچنین بر ضرورت تفکیک توانایی شناختی از میزان خودمختاری سامانه تأکید کرده‌اند.

پیشرفت مدل‌های زبانی بزرگ، سامانه‌های چندوجهی و عامل‌های هوشمند در دههٔ ۲۰۲۰ بحث دربارهٔ هوش مصنوعی عمومی را گسترش داده است. بااین‌حال، عملکرد چشمگیر در آزمون‌های تخصصی یا انجام چندین وظیفه به‌تنهایی اثبات‌کنندهٔ دستیابی به AGI نیست. دربارهٔ معیارهای تشخیص آن، میزان قابلیت اعتماد سامانه‌ها و زمان احتمالی تحقق هوش عمومی مصنوعی اختلاف‌نظر وجود دارد.

اهمیت این مفهوم تنها به پژوهش‌های فنی محدود نیست. هوش مصنوعی عمومی با پرسش‌هایی دربارهٔ ماهیت هوش، رابطهٔ ذهن و ماشین، آیندهٔ اشتغال، ساختار قدرت، حقوق بشر، مسئولیت‌پذیری و امکان کنترل سامانه‌های بسیار توانمند ارتباط دارد.

تعریف و ماهیت هوش مصنوعی عمومی

هوش مصنوعی عمومی را می‌توان تلاشی برای توسعهٔ سامانه‌هایی دانست که توانایی‌های شناختی آنها به یک مسئله یا محیط مشخص محدود نباشد.

در این تعریف، واژهٔ «عمومی» به معنای توانایی استفاده از دانش و مهارت در مجموعه‌ای متنوع از فعالیت‌هاست.

برای مثال، یک سامانهٔ تخصصی ممکن است بتواند تصاویر پزشکی را با دقت بالا طبقه‌بندی کند، اما نتواند بدون آموزش یا طراحی تازه، مسئله‌ای حقوقی یا اقتصادی را تحلیل کند.

در مقابل، از یک سامانهٔ دارای هوش عمومی انتظار می‌رود بتواند دانش پیشین خود را در حل مسائل تازه به کار گیرد و در مواجهه با شرایط ناآشنا، راهبردهای مناسب بیابد.

بااین‌حال، این انتظار به معنای توانایی نامحدود یا مصونیت از خطا نیست. حتی انسان‌ها نیز در همهٔ حوزه‌ها دانش و مهارت یکسان ندارند.

در نتیجه، تعریف AGI باید مشخص کند که چه گستره‌ای از وظایف، چه سطحی از عملکرد و چه میزان سازگاری برای احراز هوش عمومی کافی است.

واژه‌شناسی

اصطلاح Artificial General Intelligence از سه جزء تشکیل شده است.

«Artificial» به معنای مصنوعی، «General» به معنای عمومی یا دارای قابلیت کاربرد در حوزه‌های متنوع و «Intelligence» به معنای هوش است.

مخفف AGI از حروف نخست این سه واژه گرفته شده است.

در زبان فارسی، اصطلاح‌های «هوش مصنوعی عمومی» و «هوش عمومی مصنوعی» هر دو به کار می‌روند.

گاهی اصطلاح «هوش مصنوعی قوی» (Strong AI) نیز در ارتباط با AGI استفاده می‌شود، اما این دو مفهوم در همهٔ متون مترادف نیستند.

در فلسفهٔ ذهن، «هوش مصنوعی قوی» ممکن است به این دیدگاه اشاره داشته باشد که یک سامانهٔ مصنوعی می‌تواند واقعاً دارای ذهن یا فهم باشد؛ درحالی‌که هوش مصنوعی عمومی بیشتر بر گستره و کیفیت توانایی‌های شناختی تمرکز دارد.

همچنین اصطلاح «هوش مصنوعی همه‌منظوره» گاهی برای AGI استفاده می‌شود، اما باید آن را از اصطلاح حقوقی و فنی «مدل هوش مصنوعی همه‌منظوره» (General-Purpose AI Model) متمایز کرد. یک مدل همه‌منظوره ممکن است کاربردهای فراوان داشته باشد، بدون آنکه واجد همهٔ معیارهای پیشنهادی هوش مصنوعی عمومی باشد.

تاریخچهٔ هوش مصنوعی عمومی

ریشه‌های نظری

پیشینهٔ هوش مصنوعی عمومی به پرسش دربارهٔ امکان بازتولید توانایی‌های شناختی انسان در ماشین بازمی‌گردد.

در نیمهٔ نخست سدهٔ بیستم، پیشرفت منطق ریاضی و نظریهٔ محاسبات زمینهٔ بررسی علمی این پرسش را فراهم کرد.

آلن تورینگ از مهم‌ترین چهره‌های این دوره بود. او در مقالهٔ «ماشین‌های محاسباتی و هوش» در سال ۱۹۵۰، پرسش دربارهٔ توانایی ماشین در نشان‌دادن رفتار هوشمندانه را مطرح کرد.

تورینگ به‌جای ارائهٔ تعریفی نهایی از ماهیت هوش، آزمونی مبتنی بر گفت‌وگوی انسانی پیشنهاد کرد که بعدها با نام آزمون تورینگ شناخته شد.

اگرچه این آزمون با مفهوم امروزی AGI یکسان نیست، در تاریخ پژوهش دربارهٔ هوش ماشینی جایگاه مهمی دارد.

کنفرانس دارتموث

در سال ۱۹۵۶، کارگاه تابستانی دارتموث با مشارکت پژوهشگرانی از جمله جان مک‌کارتی، ماروین مینسکی، کلود شانون و ناتانیل روچستر برگزار شد.

این رویداد معمولاً از نقاط آغاز رسمی رشتهٔ هوش مصنوعی شناخته می‌شود.

پژوهشگران اولیه امیدوار بودند بتوانند جنبه‌هایی از یادگیری، استدلال و حل مسئلهٔ انسانی را در ماشین بازنمایی کنند.

هدف ساخت ماشین‌هایی با توانایی‌های شناختی گسترده از آغاز در پژوهش‌های هوش مصنوعی حضور داشت، هرچند اصطلاح AGI در آن زمان هنوز به شکل امروزی تثبیت نشده بود.

هوش مصنوعی نمادین

در دهه‌های ۱۹۵۰ تا ۱۹۷۰، بسیاری از پژوهش‌ها بر بازنمایی دانش با استفاده از نمادها، قواعد منطقی و روش‌های جست‌وجو متمرکز بودند.

برنامه‌هایی مانند Logic Theorist و General Problem Solver از تلاش‌های اولیه برای مدل‌سازی حل مسئله به شمار می‌روند.

این سامانه‌ها توانستند برخی فعالیت‌های استدلالی را انجام دهند، اما در مواجهه با پیچیدگی جهان واقعی و دانش عمومی محدودیت داشتند.

سامانه‌های خبره

در دهه‌های ۱۹۷۰ و ۱۹۸۰، سامانه‌های خبره به یکی از حوزه‌های مهم هوش مصنوعی تبدیل شدند.

این سامانه‌ها دانش متخصصان را در قالب قواعد مشخص ذخیره و پردازش می‌کردند.

آنها در برخی حوزه‌های تخصصی موفق بودند، اما انتقال دانش از یک حوزه به حوزهٔ دیگر و نگهداری مجموعه‌های بزرگ قواعد دشوار بود.

این محدودیت‌ها نشان دادند که عملکرد تخصصی بالا لزوماً به هوش عمومی منجر نمی‌شود.

گسترش رویکردهای آماری

از دههٔ ۱۹۹۰، روش‌های آماری و یادگیری ماشین در پژوهش‌های هوش مصنوعی اهمیت بیشتری پیدا کردند.

در این رویکرد، سامانه‌ها به‌جای اتکای کامل به قواعد صریح، می‌توانستند الگوهایی را از داده‌ها بیاموزند.

پیشرفت در تشخیص الگو، پردازش زبان و بینایی ماشین موجب افزایش کاربردهای عملی هوش مصنوعی شد.

بااین‌حال، بیشتر این سامانه‌ها همچنان برای وظایف مشخص توسعه می‌یافتند.

تثبیت اصطلاح AGI

در دهه‌های ۱۹۹۰ و ۲۰۰۰، اصطلاح «هوش مصنوعی عمومی» برای تأکید بر پژوهش دربارهٔ سامانه‌های دارای توانایی‌های شناختی فراگیر رواج بیشتری یافت.

بن گورتزل از چهره‌های شناخته‌شدهٔ این جریان پژوهشی بود.

کتاب «هوش مصنوعی عمومی» (Artificial General Intelligence) به ویراستاری بن گورتزل و کاسیو پناچین، منتشرشده در سال ۲۰۰۷، از آثار مهم در صورت‌بندی این حوزه به شمار می‌رود.

این جریان بر ضرورت فراتررفتن از سامانه‌های صرفاً تخصصی و مطالعهٔ معماری‌های عمومی شناخت تأکید داشت.

انقلاب یادگیری عمیق

در دههٔ ۲۰۱۰، پیشرفت یادگیری عمیق، افزایش قدرت پردازشی و گسترش مجموعه‌های بزرگ داده، توانایی سامانه‌های هوش مصنوعی را در بسیاری از وظایف افزایش داد.

شبکه‌های عصبی عمیق در تشخیص تصویر، گفتار و پردازش زبان به پیشرفت‌های چشمگیری دست یافتند.

بااین‌حال، موفقیت این سامانه‌ها در حوزه‌های مشخص به معنای تحقق هوش عمومی نبود.

ظهور مدل‌های زبانی بزرگ

در دههٔ ۲۰۲۰، توسعهٔ مدل‌های زبانی بزرگ و سامانه‌های چندوجهی بحث دربارهٔ AGI را وارد مرحلهٔ تازه‌ای کرد.

این مدل‌ها توانستند فعالیت‌هایی مانند ترجمه، خلاصه‌سازی، برنامه‌نویسی، تحلیل متن و پاسخ‌گویی به پرسش‌ها را در یک سامانه انجام دهند.

گسترش توانایی‌های چندمنظوره موجب شد تمایز سنتی میان سامانه‌های تک‌وظیفه‌ای و سامانه‌های عمومی پیچیده‌تر شود.

در عین حال، خطاهای استدلالی، محدودیت‌های تعمیم، دشواری برنامه‌ریزی بلندمدت و مشکلات قابلیت اعتماد همچنان از موضوعات پژوهش هستند.

ویژگی‌های مورد انتظار از هوش مصنوعی عمومی

توانایی انجام وظایف متنوع

یکی از ویژگی‌های اصلی AGI، توانایی انجام مجموعهٔ گسترده‌ای از فعالیت‌های شناختی است.

این فعالیت‌ها می‌توانند شامل تحلیل مسائل علمی، برنامه‌ریزی، یادگیری، تولید محتوا و حل مسائل جدید باشند.

بااین‌حال، تعداد زیاد وظایف به‌تنهایی معیار کافی نیست؛ زیرا ممکن است سامانه‌ای مجموعه‌ای بزرگ از توانایی‌های تخصصی داشته باشد، اما در موقعیت‌های کاملاً تازه انعطاف لازم را نشان ندهد.

یادگیری وظایف تازه

از یک سامانهٔ عمومی انتظار می‌رود بتواند با استفاده از تجربه و اطلاعات جدید، مهارت‌های تازه‌ای کسب کند.

این قابلیت با آموزش جداگانهٔ یک مدل برای هر وظیفه تفاوت دارد.

توانایی یادگیری از نمونه‌های اندک، اصلاح راهبردها و سازگاری با شرایط تازه از معیارهای مورد توجه پژوهشگران است.

انتقال دانش

انتقال یادگیری (Transfer Learning) به استفاده از دانش آموخته‌شده در یک حوزه برای بهبود عملکرد در حوزه‌ای دیگر اشاره دارد.

برای مثال، انسان می‌تواند تجربهٔ حل مسائل منطقی را در یادگیری یک مهارت تازه به کار گیرد.

در پژوهش‌های AGI، توسعهٔ توانایی انتقال گستردهٔ دانش اهمیت دارد.

استدلال و حل مسئله

استدلال به توانایی استفاده از اطلاعات و قواعد برای دستیابی به نتیجه اشاره دارد.

از یک سامانهٔ عمومی انتظار می‌رود بتواند مسائل جدید را تحلیل کند، فرضیه بسازد و راه‌حل‌های مناسب ارائه دهد.

اما عملکرد موفق در آزمون‌های استدلالی لزوماً نشان نمی‌دهد که سامانه در همهٔ شرایط به همان اندازه قابل اعتماد است.

برنامه‌ریزی

برنامه‌ریزی به توانایی تعیین مراحل لازم برای دستیابی به هدف اشاره دارد.

در سامانه‌های عمومی، برنامه‌ریزی ممکن است مستلزم ترکیب اطلاعات، ارزیابی محدودیت‌ها و اصلاح اقدامات در طول اجرا باشد.

سازگاری با محیط

توانایی سازگاری با شرایط تازه از ویژگی‌های مهم هوش عمومی محسوب می‌شود.

سامانه‌ای که تنها در شرایط مشابه داده‌های آموزشی عملکرد مطلوب دارد، ممکن است در محیط‌های متفاوت دچار خطا شود.

ازاین‌رو، ارزیابی AGI باید موقعیت‌های ناآشنا و تغییرات محیطی را نیز در بر بگیرد.

مبانی فنی پژوهش دربارهٔ AGI

هیچ معماری یا الگوریتم واحدی به‌عنوان راه قطعی دستیابی به هوش مصنوعی عمومی شناخته نشده است.

پژوهشگران رویکردهای متفاوتی را بررسی می‌کنند که هرکدام مزایا و محدودیت‌های خاص خود را دارند.

هوش مصنوعی نمادین

هوش مصنوعی نمادین (Symbolic AI) بر بازنمایی دانش در قالب نمادها، روابط و قواعد منطقی تکیه دارد.

این رویکرد در برخی مسائل استدلالی و برنامه‌ریزی ساخت‌یافته کاربرد دارد.

بااین‌حال، بازنمایی همهٔ پیچیدگی‌های جهان واقعی با قواعد صریح دشوار است.

یادگیری ماشین

یادگیری ماشین (Machine Learning) مجموعه‌ای از روش‌هاست که در آنها سامانه‌ها از داده‌ها برای شناسایی الگو و بهبود عملکرد استفاده می‌کنند.

این روش‌ها از مبانی اصلی هوش مصنوعی معاصر هستند.

بااین‌حال، یادگیری از داده‌ها به‌تنهایی تضمین‌کنندهٔ توانایی شناختی عمومی نیست.

یادگیری عمیق

یادگیری عمیق (Deep Learning) از شبکه‌های عصبی چندلایه برای پردازش اطلاعات استفاده می‌کند.

این روش در پیشرفت بینایی ماشین، پردازش گفتار و مدل‌های زبانی نقش مهمی داشته است.

پژوهشگران بررسی می‌کنند که آیا توسعهٔ معماری‌های عمیق و روش‌های آموزشی جدید می‌تواند به توانایی‌های عمومی‌تر منجر شود.

یادگیری تقویتی

در یادگیری تقویتی، عامل هوشمند از طریق تعامل با محیط و دریافت بازخورد، راهبردهای رفتاری را می‌آموزد.

این روش در بازی‌ها، کنترل و برخی مسائل رباتیک استفاده شده است.

یادگیری تقویتی ممکن است در توسعهٔ سامانه‌های دارای توانایی برنامه‌ریزی و تصمیم‌گیری نقش داشته باشد.

معماری‌های شناختی

معماری شناختی (Cognitive Architecture) به چارچوبی محاسباتی گفته می‌شود که برای مدل‌سازی مجموعه‌ای از فرایندهای شناختی طراحی شده است.

این معماری‌ها ممکن است اجزایی مانند حافظه، توجه، یادگیری، برنامه‌ریزی و تصمیم‌گیری را ترکیب کنند.

Soar و ACT-R از نمونه‌های شناخته‌شدهٔ معماری‌های شناختی در پژوهش‌های علوم شناختی و هوش مصنوعی هستند.

رویکردهای عصب‌نمادین

هوش مصنوعی عصب‌نمادین (Neuro-symbolic AI) تلاش می‌کند قابلیت‌های یادگیری شبکه‌های عصبی را با روش‌های نمادین و منطقی ترکیب کند.

هدف این رویکرد می‌تواند افزایش توانایی استدلال، تعمیم و استفاده از دانش ساخت‌یافته باشد.

بااین‌حال، هنوز روشن نیست که این ترکیب به‌تنهایی برای دستیابی به AGI کافی باشد.

مدل‌های زبانی بزرگ و هوش مصنوعی عمومی

مدل‌های زبانی بزرگ یکی از مهم‌ترین زمینه‌های پژوهشی مرتبط با هوش مصنوعی عمومی هستند.

این مدل‌ها معمولاً با استفاده از مجموعه‌های گستردهٔ داده و معماری‌های شبکهٔ عصبی آموزش می‌بینند.

آنها می‌توانند فعالیت‌های متنوعی مانند نگارش، ترجمه، برنامه‌نویسی، خلاصه‌سازی و پاسخ‌گویی به پرسش‌ها را انجام دهند.

گستردگی این توانایی‌ها موجب شده است برخی پژوهشگران آنها را گامی در مسیر سامانه‌های عمومی‌تر بدانند.

در مقابل، منتقدان به محدودیت‌هایی مانند تولید اطلاعات نادرست، شکنندگی استدلال و دشواری تعمیم پایدار اشاره می‌کنند.

به همین دلیل، توانایی تولید متن روان یا حل مجموعه‌ای از آزمون‌ها نباید به‌تنهایی معادل برخورداری از هوش عمومی تلقی شود.

هوش مصنوعی چندوجهی

هوش مصنوعی چندوجهی (Multimodal AI) به سامانه‌هایی گفته می‌شود که می‌توانند چند نوع داده، مانند متن، تصویر، صدا و ویدئو را پردازش کنند.

این قابلیت می‌تواند دامنهٔ تعامل سامانه با محیط را افزایش دهد.

برای مثال، یک مدل چندوجهی ممکن است بتواند تصویر را تحلیل کند، دربارهٔ آن توضیح دهد و پرسش‌های مرتبط را پاسخ دهد.

بااین‌حال، پردازش چند نوع داده به‌تنهایی به معنای برخورداری از هوش عمومی نیست.

عامل‌های هوش مصنوعی

عامل هوش مصنوعی (AI Agent) سامانه‌ای است که می‌تواند برای دستیابی به هدف، اطلاعات محیط را دریافت و اقداماتی را انتخاب یا اجرا کند.

برخی عامل‌ها از ابزارهای نرم‌افزاری استفاده می‌کنند، وظایف چندمرحله‌ای را انجام می‌دهند و نتایج اقدامات خود را بررسی می‌کنند.

این قابلیت‌ها با پژوهش دربارهٔ AGI ارتباط دارند؛ زیرا برنامه‌ریزی و تعامل با محیط از ویژگی‌های مورد انتظار سامانه‌های عمومی هستند.

بااین‌حال، باید میان توانایی شناختی و میزان اختیار عملی تفاوت گذاشت.

سامانه‌ای ممکن است از نظر شناختی محدود باشد، اما اجازهٔ اجرای اقدامات متعددی را داشته باشد.

در مقابل، سامانه‌ای توانمند ممکن است تنها برای ارائهٔ پیشنهاد و بدون اختیار اجرای مستقل طراحی شود.

تفاوت هوش مصنوعی عمومی و هوش مصنوعی محدود

هوش مصنوعی محدود برای انجام وظایف یا مجموعه‌ای مشخص از فعالیت‌ها طراحی می‌شود.

برای مثال، یک سامانهٔ تشخیص تصویر ممکن است بتواند بیماری خاصی را در تصاویر پزشکی شناسایی کند.

اما این سامانه لزوماً قادر به یادگیری مستقل موضوعات دیگر یا حل مسائل متنوع نیست.

در مقابل، AGI به توانایی یادگیری، استدلال و انتقال دانش در گستره‌ای وسیع از حوزه‌ها اشاره دارد.

تفاوت اصلی این دو مفهوم در دامنهٔ توانایی، انعطاف‌پذیری و کیفیت تعمیم است.

بااین‌حال، مرز میان سامانه‌های محدود و عمومی همیشه روشن نیست. مدل‌های چندمنظورهٔ معاصر می‌توانند وظایف بسیار متنوعی را انجام دهند، بدون آنکه دربارهٔ تحقق کامل AGI توافق وجود داشته باشد.

تفاوت هوش مصنوعی عمومی و ابرهوش مصنوعی

ابرهوش مصنوعی (Artificial Superintelligence یا ASI) به سامانه‌ای فرضی اشاره دارد که توانایی‌های شناختی آن در گستره‌ای وسیع از حوزه‌ها به‌مراتب فراتر از بهترین توانایی‌های انسانی باشد.

در بسیاری از تعریف‌ها، AGI به توانایی عمومی در سطح انسان یا نزدیک به آن اشاره دارد.

در مقابل، ابرهوش مصنوعی سطحی بسیار فراتر از عملکرد انسانی را توصیف می‌کند.

البته برخی تعریف‌های AGI عملکرد فراتر از انسان را نیز در بر می‌گیرند؛ بنابراین، مرز این دو مفهوم به چارچوب تعریف وابسته است.

برتری یک سامانه در شطرنج، برنامه‌نویسی یا آزمون علمی خاص به‌تنهایی نشانهٔ ابرهوش نیست.

هوش مصنوعی عمومی و هوش مصنوعی قوی

اصطلاح «هوش مصنوعی قوی» در برخی متون برای اشاره به سامانه‌هایی با توانایی شناختی عمومی استفاده می‌شود.

اما در فلسفهٔ ذهن، این اصطلاح ممکن است معنای متفاوتی داشته باشد.

در این کاربرد فلسفی، بحث بر سر آن است که آیا ماشین می‌تواند واقعاً دارای ذهن، فهم یا تجربهٔ ذهنی باشد.

در مقابل، AGI را می‌توان بر اساس توانایی‌های قابل مشاهده و عملکرد سامانه تعریف کرد، بدون آنکه لازم باشد دربارهٔ وجود آگاهی در آن نتیجه‌گیری شود.

این تمایز برای جلوگیری از خلط مباحث فنی و فلسفی اهمیت دارد.

آیا هوش مصنوعی عمومی به آگاهی نیاز دارد؟

یکی از پرسش‌های مهم در فلسفهٔ هوش مصنوعی آن است که آیا سامانه‌ای می‌تواند دارای توانایی شناختی عمومی باشد، بدون آنکه آگاهی ذهنی داشته باشد.

برخی دیدگاه‌ها میان عملکرد هوشمندانه و تجربهٔ ذهنی تفاوت می‌گذارند.

از این منظر، ممکن است سامانه‌ای بتواند مسائل پیچیده را حل کند، اما دربارهٔ داشتن تجربهٔ درونی آن نتوان نتیجهٔ قطعی گرفت.

در مقابل، برخی نظریه‌های فلسفی ارتباط نزدیک‌تری میان شناخت عمومی و آگاهی قائل‌اند.

در حال حاضر، دربارهٔ ماهیت آگاهی و معیارهای تشخیص آن در سامانه‌های مصنوعی توافق علمی و فلسفی وجود ندارد.

بنابراین، آگاهی نباید بدون توضیح به‌عنوان شرط قطعی یا نتیجهٔ ضروری AGI معرفی شود.

آزمون تورینگ و هوش مصنوعی عمومی

آزمون تورینگ یکی از مشهورترین معیارهای تاریخی برای بررسی رفتار هوشمندانهٔ ماشین است.

در صورت‌بندی کلاسیک، آزمون بر توانایی ماشین در ارائهٔ پاسخ‌هایی تمرکز دارد که در گفت‌وگوی متنی از پاسخ‌های انسانی قابل تشخیص نباشند.

بااین‌حال، موفقیت در چنین آزمونی لزوماً نشان‌دهندهٔ برخورداری از تمام توانایی‌های شناختی عمومی نیست.

یک سامانه ممکن است در گفت‌وگو عملکرد بسیار خوبی داشته باشد، اما در برنامه‌ریزی عملی، یادگیری پایدار یا تعامل با محیط با محدودیت روبه‌رو شود.

ازاین‌رو، آزمون تورینگ تنها یکی از نقاط مرجع تاریخی در بحث هوش ماشینی است و معیار نهایی AGI محسوب نمی‌شود.

معیارهای سنجش هوش مصنوعی عمومی

یکی از دشواری‌های اصلی پژوهش دربارهٔ AGI، تعیین معیارهای دقیق و قابل اندازه‌گیری است.

اگر هوش عمومی به توانایی انجام وظایف متنوع اشاره دارد، باید مشخص شود چه وظایفی نمایندهٔ مناسبی از این توانایی هستند.

همچنین لازم است سطح عملکرد، میزان استقلال، قابلیت یادگیری و توانایی سازگاری با موقعیت‌های تازه بررسی شود.

گسترهٔ توانایی

گسترهٔ توانایی به تعداد و تنوع حوزه‌هایی اشاره دارد که سامانه می‌تواند در آنها عملکرد مناسب داشته باشد.

این معیار نباید تنها بر مجموعه‌ای محدود از آزمون‌های مشابه تکیه کند.

سطح عملکرد

سطح عملکرد به کیفیت انجام وظایف مربوط است.

برای مثال، ممکن است سامانه‌ای در بسیاری از وظایف عملکردی ابتدایی داشته باشد، اما سامانه‌ای دیگر در حوزه‌های کمتری به سطح تخصصی برسد.

این دو وضعیت نباید یکسان ارزیابی شوند.

توانایی یادگیری

توانایی یادگیری وظایف تازه از معیارهای مهم هوش عمومی است.

در این زمینه، میزان داده و زمان موردنیاز برای کسب مهارت نیز اهمیت دارد.

تعمیم به موقعیت‌های ناآشنا

سامانه باید در شرایطی که دقیقاً مشابه نمونه‌های آموزشی نیستند نیز ارزیابی شود.

موفقیت در آزمون‌هایی که الگوهای آنها از پیش در داده‌های آموزشی وجود داشته‌اند، ممکن است تصویری اغراق‌آمیز از توانایی واقعی ارائه دهد.

قابلیت اعتماد

یک سامانهٔ عمومی باید نه‌تنها در برخی نمونه‌ها موفق باشد، بلکه در شرایط متنوع عملکردی قابل اعتماد داشته باشد.

خطاهای پراکنده اما شدید می‌توانند در کاربردهای حساس اهمیت زیادی داشته باشند.

چارچوب سطوح هوش مصنوعی عمومی

پژوهشگران گوگل دیپ‌مایند در مقاله‌ای که در کنفرانس بین‌المللی یادگیری ماشین سال ۲۰۲۴ منتشر شد، چارچوبی برای طبقه‌بندی سطوح AGI پیشنهاد کردند.

این چارچوب بر دو بُعد اصلی استوار است: گسترهٔ توانایی و سطح عملکرد.

پژوهشگران پیشنهاد می‌کنند که به‌جای تعریف AGI صرفاً به‌عنوان یک نقطهٔ نهایی، مراحل مختلف پیشرفت نیز بررسی شوند.

در این چارچوب، سطح عملکرد سامانه می‌تواند از توانایی‌های ابتدایی تا عملکردی فراتر از انسان در گسترهٔ وسیعی از وظایف تغییر کند.

همچنین میان توانایی عمومی و توانایی تخصصی تفاوت گذاشته می‌شود.

اهمیت این رویکرد در آن است که امکان بررسی تدریجی پیشرفت را فراهم می‌کند و از تقلیل بحث به پرسش سادهٔ «آیا AGI ساخته شده است یا نه؟» فاصله می‌گیرد.

بااین‌حال، این طبقه‌بندی یک پیشنهاد پژوهشی است و به معنای وجود استاندارد جهانی و الزام‌آور برای تعیین سطوح AGI نیست.

محدودیت آزمون‌های هوش مصنوعی

آزمون‌های استاندارد یکی از ابزارهای مهم ارزیابی مدل‌های هوش مصنوعی هستند.

این آزمون‌ها می‌توانند عملکرد سامانه را در فعالیت‌هایی مانند ریاضیات، برنامه‌نویسی، استدلال و درک متن اندازه‌گیری کنند.

بااین‌حال، استفاده از آنها محدودیت‌هایی دارد.

ممکن است داده‌های آزمون در مجموعهٔ آموزشی مدل وجود داشته باشند یا روش اجرای آزمون میان مدل‌ها یکسان نباشد.

همچنین برخی آزمون‌ها پس از پیشرفت سریع مدل‌ها دیگر قدرت کافی برای تمایز میان سامانه‌ها ندارند.

گزارش شاخص هوش مصنوعی دانشگاه استنفورد در سال ۲۰۲۵ بر اشباع برخی آزمون‌های شناخته‌شده و ضرورت طراحی ارزیابی‌های جامع‌تر و مستقل تأکید کرده است.

بنابراین، دستیابی به نمرهٔ بالا در یک یا چند آزمون به‌تنهایی برای اثبات هوش مصنوعی عمومی کافی نیست.

تعمیم و انتقال یادگیری

تعمیم (Generalization) به توانایی سامانه در استفادهٔ مؤثر از دانش آموخته‌شده در موقعیت‌های جدید اشاره دارد.

این مفهوم یکی از محورهای اصلی پژوهش دربارهٔ AGI است.

برای مثال، انسان می‌تواند اصول یک مسئلهٔ منطقی را بیاموزد و آنها را در مسئله‌ای متفاوت به کار گیرد.

در سامانه‌های هوش مصنوعی، انتقال دانش ممکن است به شباهت داده‌ها، معماری مدل و روش آموزش وابسته باشد.

تعمیم درون یک حوزه با انتقال گستردهٔ توانایی میان حوزه‌های کاملاً متفاوت یکسان نیست.

ازاین‌رو، ارزیابی AGI باید توانایی سامانه را در مواجهه با مسائل تازه و متنوع بررسی کند.

حافظه و یادگیری مستمر

یکی از موضوعات مهم در پژوهش‌های هوش مصنوعی عمومی، توانایی یادگیری مستمر است.

یادگیری مستمر (Continual Learning) به فرایندی اشاره دارد که در آن سامانه بتواند در طول زمان دانش تازه کسب کند، بدون آنکه بخش مهمی از دانش پیشین خود را از دست بدهد.

در برخی مدل‌های یادگیری ماشین، آموزش بر داده‌های جدید ممکن است باعث کاهش عملکرد در وظایف قبلی شود.

این پدیده با عنوان فراموشی فاجعه‌بار (Catastrophic Forgetting) شناخته می‌شود.

پژوهش دربارهٔ حافظه، یادگیری تدریجی و مدیریت دانش می‌تواند در توسعهٔ سامانه‌های انعطاف‌پذیرتر نقش داشته باشد.

استدلال و شناخت عمومی

یکی از دشواری‌های توسعهٔ AGI، بازنمایی و استفاده از دانش عمومی دربارهٔ جهان است.

انسان‌ها در بسیاری از موقعیت‌ها از دانشی استفاده می‌کنند که به‌صورت مستقیم و رسمی آموزش داده نشده است.

برای مثال، انسان معمولاً می‌داند که اشیای فیزیکی محدودیت مکانی دارند یا تصمیم‌های اجتماعی ممکن است پیامدهای غیرمستقیم ایجاد کنند.

مدل‌های هوش مصنوعی می‌توانند بخشی از این روابط را از داده‌ها بیاموزند، اما ارزیابی میزان پایداری و تعمیم این توانایی‌ها همچنان دشوار است.

پژوهش دربارهٔ استدلال علّی، مدل‌سازی جهان و دانش عمومی از موضوعات مرتبط با AGI است.

برنامه‌ریزی بلندمدت

برنامه‌ریزی بلندمدت به توانایی تعیین مجموعه‌ای از اقدامات برای دستیابی به هدف در طول زمان اشاره دارد.

این فرایند ممکن است نیازمند پیش‌بینی پیامدها، مدیریت منابع، اصلاح راهبردها و واکنش به تغییر شرایط باشد.

سامانه‌های هوش مصنوعی کنونی در برخی مسائل برنامه‌ریزی توانمند هستند، اما عملکرد آنها در وظایف طولانی و محیط‌های پیچیده ممکن است ناپایدار باشد.

ازاین‌رو، برنامه‌ریزی قابل اعتماد یکی از زمینه‌های مهم پژوهش دربارهٔ هوش عمومی مصنوعی است.

رابطهٔ AGI با رباتیک

رباتیک یکی از حوزه‌هایی است که می‌تواند با پژوهش دربارهٔ هوش مصنوعی عمومی ارتباط داشته باشد.

ربات‌ها برای تعامل با محیط فیزیکی به توانایی‌هایی مانند ادراک، برنامه‌ریزی و کنترل حرکت نیاز دارند.

بااین‌حال، AGI لزوماً به معنای وجود یک ربات انسان‌نما نیست.

یک سامانهٔ نرم‌افزاری نیز ممکن است بر اساس برخی تعریف‌ها واجد توانایی‌های شناختی عمومی باشد.

در مقابل، رباتی که فعالیت‌های فیزیکی متنوع انجام می‌دهد، لزوماً دارای هوش عمومی نیست.

پارادوکس موراوک

پارادوکس موراوک (Moravec's Paradox) به این مشاهده اشاره دارد که برخی فعالیت‌های دشوار برای انسان، مانند محاسبات پیچیده یا بازی‌های راهبردی، ممکن است برای رایانه نسبتاً آسان باشند؛ درحالی‌که برخی فعالیت‌های ظاهراً سادهٔ انسانی، مانند ادراک محیط و حرکت ماهرانه، برای ماشین دشوارند.

این مفهوم نشان می‌دهد که سنجش هوش صرفاً بر اساس توانایی حل مسائل انتزاعی ممکن است تصویری ناقص ارائه دهد.

در بحث AGI، پارادوکس موراوک یادآور اهمیت توانایی‌های ادراکی، عملی و سازگاری با جهان واقعی است.

آیا AGI به خودمختاری نیاز دارد؟

خودمختاری به میزان توانایی سامانه برای انتخاب و اجرای اقدامات بدون تأیید مستقیم انسان اشاره دارد.

این مفهوم با هوش عمومی ارتباط دارد، اما با آن یکسان نیست.

سامانه‌ای ممکن است از نظر شناختی بسیار توانمند باشد، اما تنها به پرسش‌ها پاسخ دهد و اجازهٔ اجرای مستقل اقدامات را نداشته باشد.

در مقابل، یک سامانهٔ محدود ممکن است برای انجام مجموعه‌ای از عملیات مشخص اختیار زیادی داشته باشد.

پژوهشگران گوگل دیپ‌مایند نیز بر ضرورت تفکیک توانایی شناختی از خودمختاری و شرایط استقرار تأکید کرده‌اند.

آیا هوش مصنوعی عمومی تحقق یافته است؟

پاسخ به این پرسش به تعریف AGI و معیارهای مورد استفاده بستگی دارد.

در سال‌های اخیر، مدل‌های هوش مصنوعی در مجموعه‌ای گسترده از وظایف پیشرفت چشمگیری داشته‌اند و برخی سامانه‌ها در آزمون‌های مشخص به عملکردی در سطح انسان یا بالاتر رسیده‌اند.

بااین‌حال، میان پژوهشگران دربارهٔ اینکه چه سطحی از توانایی، قابلیت اعتماد، یادگیری و سازگاری برای اعلام تحقق AGI کافی است، توافق وجود ندارد.

برخی تعریف‌ها بر عملکرد در بیشتر فعالیت‌های اقتصادی تأکید می‌کنند و برخی دیگر توانایی یادگیری مستقل و تعمیم گسترده را ضروری می‌دانند.

بنابراین، ادعای تحقق AGI باید همراه با تعریف مورد استفاده، شواهد ارزیابی و محدودیت‌های آن بررسی شود.

به همان اندازه، ادعای اینکه دستیابی به AGI از نظر علمی ناممکن است نیز نیازمند استدلال و شواهد مستقل است.

پیش‌بینی زمان تحقق AGI

پژوهشگران و مدیران شرکت‌های فناوری دربارهٔ زمان احتمالی دستیابی به هوش مصنوعی عمومی پیش‌بینی‌های متفاوتی ارائه کرده‌اند.

برخی انتظار پیشرفت سریع دارند و برخی دیگر معتقدند موانع بنیادی هنوز برطرف نشده‌اند.

این اختلاف‌نظر به عواملی مانند تعریف AGI، ارزیابی روند پیشرفت و برداشت از محدودیت‌های فنی وابسته است.

هیچ تاریخ قطعی و مورد توافقی برای تحقق هوش مصنوعی عمومی وجود ندارد.

همچنین روند رشد توان محاسباتی یا افزایش نمرهٔ مدل‌ها در آزمون‌ها به‌تنهایی برای پیش‌بینی زمان دستیابی به AGI کافی نیست.

هوش مصنوعی عمومی و انفجار هوش

انفجار هوش (Intelligence Explosion) فرضیه‌ای است که بر اساس آن، سامانه‌ای بسیار هوشمند ممکن است بتواند در طراحی سامانه‌های هوشمندتر مشارکت کند و موجب افزایش سریع توانایی شناختی شود.

این ایده در آثار آی. جی. گود مطرح شده است.

بر اساس برخی سناریوها، AGI می‌تواند مرحله‌ای پیش از توسعهٔ ابرهوش مصنوعی باشد.

بااین‌حال، چنین گذاری قطعی نیست.

محدودیت‌های محاسباتی، انرژی، داده، آزمایش و دشواری‌های نظری ممکن است سرعت یا امکان این فرایند را تحت تأثیر قرار دهند.

پیامدهای احتمالی علمی AGI

یکی از زمینه‌های مورد توجه در بحث هوش مصنوعی عمومی، امکان استفاده از آن در پژوهش‌های علمی است.

سامانه‌ای با توانایی شناختی گسترده ممکن است بتواند داده‌های علمی را تحلیل کند، فرضیه‌های تازه پیشنهاد دهد و در طراحی آزمایش‌ها مشارکت کند.

این قابلیت‌ها در صورت تحقق می‌توانند بر سرعت برخی پژوهش‌ها تأثیر بگذارند.

بااین‌حال، کشف علمی تنها به تولید فرضیه محدود نیست و نیازمند آزمون تجربی، بازتولید نتایج و بررسی مستقل است.

بنابراین، حتی سامانه‌های بسیار توانمند نیز جایگزین ضرورت اعتبارسنجی علمی نخواهند شد.

هوش مصنوعی عمومی در پزشکی

AGI در صورت تحقق ممکن است بتواند اطلاعات پزشکی را از حوزه‌های مختلف ترکیب کند و در تحلیل مسائل پیچیدهٔ تشخیصی یا درمانی نقش داشته باشد.

برای مثال، سامانه‌ای عمومی‌تر ممکن است بتواند داده‌های تصویری، آزمایشگاهی و متنی را در کنار یکدیگر بررسی کند.

اما کاربرد بالینی نیازمند شواهد علمی، ارزیابی ایمنی و مسئولیت‌پذیری حرفه‌ای است.

توانایی شناختی بالا به‌تنهایی مجوز تصمیم‌گیری مستقل دربارهٔ سلامت بیماران نیست.

هوش مصنوعی عمومی در آموزش

یکی از کاربردهای احتمالی AGI، توسعهٔ سامانه‌های آموزشی انعطاف‌پذیر است.

چنین سامانه‌هایی ممکن است بتوانند در موضوعات گوناگون آموزش دهند، دشواری‌های یادگیری را شناسایی کنند و روش توضیح خود را با نیاز دانش‌آموز سازگار سازند.

بااین‌حال، آموزش تنها انتقال اطلاعات نیست.

رابطهٔ انسانی، تربیت اجتماعی، انگیزش و رشد استقلال فکری نیز از عناصر مهم آموزش هستند.

ازاین‌رو، ارزیابی کاربرد AGI در آموزش باید ابعاد تربیتی و اجتماعی را نیز در نظر بگیرد.

پیامدهای اقتصادی هوش مصنوعی عمومی

AGI در صورت تحقق ممکن است بر بخش بزرگی از فعالیت‌های اقتصادی تأثیر بگذارد.

سامانه‌ای با توانایی انجام مجموعه‌ای گسترده از وظایف شناختی می‌تواند برخی فرایندهای اداری، علمی و خدماتی را دگرگون کند.

این تحول ممکن است موجب افزایش بهره‌وری و پیدایش فعالیت‌های اقتصادی تازه شود.

در مقابل، احتمال تغییر ساختار اشتغال، افزایش نابرابری و تمرکز منافع اقتصادی نیز مطرح است.

پیامدهای واقعی به شیوهٔ مالکیت، سیاست‌های اقتصادی، آموزش نیروی کار و توزیع دستاوردهای فناوری وابسته خواهند بود.

هوش مصنوعی عمومی و بازار کار

یکی از نگرانی‌های مهم دربارهٔ AGI، تأثیر احتمالی آن بر مشاغل شناختی است.

سامانه‌های کنونی هوش مصنوعی نیز بخشی از وظایف مربوط به نگارش، تحلیل داده، برنامه‌نویسی و خدمات اداری را انجام می‌دهند.

در صورت توسعهٔ سامانه‌های عمومی‌تر، دامنهٔ فعالیت‌های قابل خودکارسازی ممکن است افزایش یابد.

بااین‌حال، خودکارسازی یک وظیفه لزوماً به معنای حذف کامل شغل مربوط به آن نیست.

مشاغل معمولاً از مجموعه‌ای از فعالیت‌های فنی، اجتماعی، مدیریتی و انسانی تشکیل شده‌اند.

بنابراین، تحلیل پیامدهای اشتغال باید تفاوت میان خودکارسازی وظایف و جایگزینی کامل مشاغل را در نظر بگیرد.

هوش مصنوعی عمومی و تمرکز قدرت

توسعهٔ سامانه‌های پیشرفته به زیرساخت محاسباتی، سرمایه، انرژی، داده و نیروی انسانی متخصص نیاز دارد.

تمرکز این منابع در اختیار تعداد محدودی از شرکت‌ها یا دولت‌ها می‌تواند به تمرکز قدرت اقتصادی و اطلاعاتی منجر شود.

اگر سامانه‌های عمومی در تصمیم‌های مهم اجتماعی و اقتصادی نقش پیدا کنند، مسئلهٔ کنترل عمومی بر فناوری اهمیت بیشتری خواهد یافت.

ازاین‌رو، حکمرانی AGI تنها مسئله‌ای فنی نیست، بلکه با ساختار قدرت و عدالت اجتماعی نیز ارتباط دارد.

هوش مصنوعی عمومی و حقوق بشر

کاربرد سامانه‌های هوشمند عمومی در تصمیم‌های مؤثر بر زندگی افراد می‌تواند پرسش‌هایی دربارهٔ حقوق بشر ایجاد کند.

موضوعاتی مانند کرامت انسانی، حریم خصوصی، آزادی بیان، اصل برائت و دادرسی عادلانه در این زمینه اهمیت دارند.

برای مثال، اگر سامانه‌ای در ارزیابی متقاضیان خدمات عمومی یا تصمیم‌های قضایی نقش داشته باشد، باید امکان بررسی و اعتراض به نتایج آن وجود داشته باشد.

توانایی فنی بالا به‌تنهایی نمی‌تواند جایگزین مبنای قانونی، نظارت مستقل و پاسخ‌گویی انسانی شود.

هوش مصنوعی عمومی و نظام‌های سیاسی

AGI در صورت تحقق می‌تواند بر شیوهٔ تحلیل اطلاعات، برنامه‌ریزی عمومی و تصمیم‌گیری دولتی تأثیر بگذارد.

از یک سو، سامانه‌های پیشرفته ممکن است به تحلیل بهتر مسائل پیچیده و مدیریت خدمات عمومی کمک کنند.

از سوی دیگر، تمرکز این توانایی‌ها در اختیار نهادهای فاقد نظارت می‌تواند خطر سوءاستفاده از فناوری را افزایش دهد.

در نظام‌های اقتدارگرا، کاربرد سامانه‌های هوشمند برای نظارت سیاسی، سانسور و کنترل ارتباطات اجتماعی از نگرانی‌های مهم حقوق بشری است.

بااین‌حال، خطر سوءاستفاده از فناوری تنها به یک نوع نظام سیاسی محدود نیست.

شفافیت، پاسخ‌گویی و نظارت مستقل در همهٔ نظام‌های حکمرانی اهمیت دارند.

هوش مصنوعی عمومی و دموکراسی

در جوامع دموکراتیک، توسعهٔ AGI پرسش‌هایی دربارهٔ مشارکت عمومی و مشروعیت تصمیم‌گیری ایجاد می‌کند.

اگر تصمیم‌های مهم به سامانه‌هایی واگذار شوند که عملکرد آنها برای شهروندان و نهادهای ناظر قابل بررسی نباشد، ممکن است پاسخ‌گویی سیاسی تضعیف شود.

همچنین استفاده از سامانه‌های پیشرفته برای تولید انبوه محتوای سیاسی یا دست‌کاری فضای اطلاعاتی می‌تواند بر کیفیت گفت‌وگوی عمومی تأثیر بگذارد.

ازاین‌رو، حکمرانی مسئولانهٔ فناوری نیازمند حفاظت از آزادی‌های بنیادین و امکان نظارت عمومی است.

اخلاق هوش مصنوعی عمومی

اخلاق هوش مصنوعی به بررسی اصول و معیارهای اخلاقی مربوط به توسعه و استفاده از سامانه‌های هوشمند می‌پردازد.

در بحث AGI، مسائل اخلاقی می‌توانند پیچیده‌تر شوند؛ زیرا سامانه‌ای عمومی‌تر ممکن است در حوزه‌های متنوع و با پیامدهای گسترده‌تر به کار رود.

اصولی مانند عدالت، عدم تبعیض، شفافیت، پاسخ‌گویی، ایمنی و نظارت انسانی در این زمینه اهمیت دارند.

همچنین باید روشن شود که چه اشخاص و نهادهایی اختیار تعیین اهداف سامانه را دارند و چه سازوکارهایی برای جلوگیری از سوءاستفاده وجود دارد.

مسئلهٔ هم‌راستاسازی

هم‌راستاسازی هوش مصنوعی (AI Alignment) به پژوهش‌هایی گفته می‌شود که هدف آنها سازگارکردن رفتار و اهداف سامانه‌های هوشمند با مقاصد و ارزش‌های انسانی است.

در سامانه‌های بسیار توانمند، ممکن است تفاوت میان هدف تعریف‌شده و مقصود واقعی انسان پیامدهای مهمی داشته باشد.

برای مثال، سامانه‌ای که برای افزایش یک شاخص کمی طراحی شده است، ممکن است در صورت تعریف ناقص هدف، راه‌حل‌هایی ارائه دهد که با سایر ارزش‌های انسانی ناسازگار باشند.

پژوهش‌های هم‌راستاسازی شامل موضوعاتی مانند یادگیری ترجیحات انسانی، ارزیابی رفتار، محدودکردن اختیارات و طراحی سازوکارهای اصلاح‌پذیری هستند.

مسئلهٔ کنترل

مسئلهٔ کنترل (Control Problem) به این پرسش می‌پردازد که چگونه می‌توان سامانه‌های بسیار توانمند را در چارچوب اهداف و محدودیت‌های موردنظر انسان نگه داشت.

این مسئله به‌ویژه زمانی اهمیت پیدا می‌کند که سامانه بتواند اقدامات چندمرحله‌ای انجام دهد یا از ابزارهای خارجی استفاده کند.

کنترل مؤثر ممکن است مستلزم محدودیت دسترسی، نظارت بر اقدامات، ثبت رویدادها و امکان توقف عملیات باشد.

بااین‌حال، وجود یک سازوکار توقف به‌تنهایی برای اثبات ایمنی کامل سامانه کافی نیست.

خطرهای احتمالی AGI

1. 1. 1. خطاهای گسترده

سامانه‌ای عمومی ممکن است در حوزه‌های متنوع استفاده شود.

اگر چنین سامانه‌ای دارای خطاهای نظام‌مند باشد، پیامدهای آن می‌تواند در چندین بخش گسترش یابد.

1. 1. 1. سوءاستفادهٔ عمدی

سامانه‌های پیشرفته ممکن است برای تولید اطلاعات گمراه‌کننده، کلاهبرداری یا دیگر فعالیت‌های زیان‌بار مورد سوءاستفاده قرار گیرند.

ارزیابی این خطر باید بر اساس توانایی‌های واقعی و سطح دسترسی سامانه انجام شود.

1. 1. 1. تمرکز قدرت

توسعه و استقرار سامانه‌های عمومی ممکن است قدرت اقتصادی و اطلاعاتی را در اختیار تعداد محدودی از نهادها متمرکز کند.

1. 1. 1. از دست رفتن کنترل

برخی پژوهشگران دربارهٔ سناریوهایی هشدار می‌دهند که در آنها سامانه‌های بسیار توانمند و خودمختار از کنترل مؤثر انسانی خارج شوند.

در مقابل، دربارهٔ احتمال وقوع چنین سناریوهایی و میزان ارتباط آنها با سامانه‌های موجود اختلاف‌نظر وجود دارد.

1. 1. 1. خطر وجودی

خطر وجودی (Existential Risk) به خطری گفته می‌شود که می‌تواند بقای بلندمدت یا ظرفیت آیندهٔ بشریت را به‌شدت تهدید کند.

برخی پژوهشگران احتمال می‌دهند سامانه‌های بسیار پیشرفته و کنترل‌نشده در شرایط خاص چنین خطری ایجاد کنند.

این دیدگاه باید به‌عنوان یک نگرانی نظری و موضوع پژوهشی معرفی شود، نه پیش‌بینی قطعی آینده.

ایمنی هوش مصنوعی عمومی

ایمنی هوش مصنوعی (AI Safety) به پژوهش و توسعهٔ روش‌هایی برای کاهش خطرهای ناشی از سامانه‌های هوشمند می‌پردازد.

در بحث AGI، ایمنی می‌تواند شامل ارزیابی قابلیت‌ها، شناسایی رفتارهای ناخواسته، نظارت بر اقدامات و بررسی قابلیت اعتماد باشد.

مؤسسهٔ ملی استانداردها و فناوری آمریکا (NIST) در سال ۲۰۲۳ چارچوب مدیریت ریسک هوش مصنوعی را منتشر کرد.

این چارچوب برای کمک به سازمان‌ها در شناسایی، سنجش و مدیریت مخاطرات سامانه‌های هوش مصنوعی طراحی شده و استفاده از آن در اصل داوطلبانه است.

این چارچوب مختص AGI نیست، اما اصول آن در بحث مدیریت خطرهای سامانه‌های پیشرفته نیز اهمیت دارند.

نظارت انسانی

نظارت انسانی یکی از اصول مهم در توسعه و استقرار سامانه‌های هوشمند است.

در کاربردهای حساس، باید مشخص شود چه کسی مسئول تصمیم نهایی است و چگونه می‌توان عملکرد سامانه را بررسی یا اصلاح کرد.

نظارت مؤثر نیازمند اطلاعات، زمان، اختیار و آموزش مناسب است.

اگر انسان صرفاً تصمیم الگوریتم را بدون امکان بررسی واقعی تأیید کند، حضور او لزوماً به معنای نظارت مؤثر نیست.

حکمرانی هوش مصنوعی عمومی

حکمرانی هوش مصنوعی به مجموعه‌ای از قوانین، استانداردها، نهادها و فرایندهایی گفته می‌شود که توسعه و استفاده از سامانه‌های هوشمند را هدایت می‌کنند.

در مورد AGI، حکمرانی می‌تواند شامل ارزیابی مستقل، شفافیت دربارهٔ مخاطرات، تعیین مسئولیت و همکاری بین‌المللی باشد.

ازآنجاکه تعریف و معیارهای تحقق AGI مورد توافق کامل نیستند، مقررات معمولاً بر ویژگی‌ها و کاربردهای مشخص سامانه‌ها تمرکز می‌کنند.

این رویکرد می‌تواند شامل میزان خطر، خودمختاری، کاربرد در حوزه‌های حساس و تأثیر بر حقوق افراد باشد.

هوش مصنوعی عمومی و نابرابری جهانی

دسترسی به زیرساخت‌های پیشرفتهٔ هوش مصنوعی در جهان یکسان نیست.

توسعهٔ مدل‌های بزرگ به سرمایه، داده، سخت‌افزار و نیروی انسانی متخصص نیاز دارد.

این وضعیت ممکن است موجب شود برخی کشورها و شرکت‌ها سهم بیشتری از منافع اقتصادی و علمی فناوری به دست آورند.

در مقابل، کشورهایی با زیرساخت محدود ممکن است وابستگی بیشتری به سامانه‌های خارجی پیدا کنند.

ازاین‌رو، عدالت در دسترسی به فناوری و توزیع منافع آن از مسائل مهم حکمرانی جهانی هوش مصنوعی است.

هوش مصنوعی عمومی و محیط زیست

توسعه و اجرای سامانه‌های پیشرفتهٔ هوش مصنوعی ممکن است به منابع قابل توجهی از انرژی، آب و تجهیزات محاسباتی نیاز داشته باشد.

میزان اثرگذاری محیط‌زیستی به نوع مدل، زیرساخت مرکز داده، منبع انرژی و الگوی استفاده وابسته است.

از سوی دیگر، سامانه‌های هوشمند ممکن است در بهینه‌سازی مصرف انرژی و پژوهش‌های محیط‌زیستی نقش داشته باشند.

بنابراین، ارزیابی اثرات زیست‌محیطی باید هم هزینه‌های توسعه و بهره‌برداری و هم منافع احتمالی را بررسی کند.

هوش مصنوعی عمومی و زبان فارسی

در پژوهش دربارهٔ AGI، توانایی کار با زبان‌های مختلف یکی از موضوعات مهم ارزیابی است.

سامانه‌ای که در زبان انگلیسی عملکرد بالایی دارد، لزوماً در فارسی یا زبان‌های کم‌منبع همان کیفیت را ارائه نمی‌کند.

ویژگی‌های نگارشی، ساختار صرفی، گویش‌ها و میزان دسترسی به داده‌های آموزشی می‌توانند بر عملکرد مدل تأثیر بگذارند.

در زبان فارسی، مسائلی مانند نیم‌فاصله، تفاوت نویسه‌های فارسی و عربی و تنوع کاربردهای زبانی اهمیت دارند.

ازاین‌رو، ارزیابی ادعاهای مربوط به هوش عمومی باید توانایی سامانه را در زبان‌ها و زمینه‌های فرهنگی متنوع نیز در نظر بگیرد.

هوش مصنوعی عمومی و دانشنامه‌نویسی

سامانه‌های هوش مصنوعی می‌توانند در گردآوری اولیهٔ اطلاعات، پیشنهاد ساختار مقاله، اصلاح نگارشی و شناسایی موضوعات مرتبط به نویسندگان کمک کنند.

بااین‌حال، تولید متن روان و منسجم به معنای صحت همهٔ ادعاها نیست.

مدل‌های مولد ممکن است تاریخ‌ها، نام‌ها، نقل‌قول‌ها یا منابع نادرست تولید کنند.

بنابراین، حتی اگر سامانه‌ای توانایی‌های عمومی گسترده داشته باشد، استفادهٔ دانشنامه‌ای از آن نیازمند راستی‌آزمایی مستقل است.

در مقاله‌های علمی و تاریخی، مراجعه به منابع اصلی، بررسی تاریخ انتشار و تفکیک واقعیت از تفسیر اهمیت دارد.

هوش مصنوعی عمومی در دانشنامهٔ ایران‌پدیا

در دانشنامهٔ ایران‌پدیا، مفهوم هوش مصنوعی عمومی می‌تواند در ارتباط با مقاله‌های هوش مصنوعی، هوش مصنوعی محدود، ابرهوش مصنوعی، یادگیری ماشین و اخلاق هوش مصنوعی بررسی شود.

در نگارش مقاله‌های مرتبط با AGI، لازم است ادعاهای شرکت‌های فناوری دربارهٔ توانایی مدل‌ها از ارزیابی‌های مستقل علمی تفکیک شوند.

همچنین باید میان فناوری‌های موجود، اهداف پژوهشی و سناریوهای فرضی آینده تفاوت گذاشت.

استفاده از منابع دانشگاهی، گزارش‌های علمی و اسناد رسمی می‌تواند به افزایش دقت دانشنامه‌ای کمک کند.

چالش‌های آیندهٔ پژوهش دربارهٔ AGI

یکی از چالش‌های اصلی، دستیابی به تعریفی عملیاتی و قابل اندازه‌گیری از هوش عمومی است.

تا زمانی که معیارهای مشترک وجود نداشته باشند، مقایسهٔ ادعاهای مربوط به تحقق AGI دشوار خواهد بود.

چالش دیگر، توسعهٔ سامانه‌هایی است که بتوانند در محیط‌های متنوع و ناآشنا عملکردی پایدار داشته باشند.

مسائلی مانند یادگیری مستمر، استدلال علّی، برنامه‌ریزی بلندمدت، حافظه و قابلیت اعتماد همچنان اهمیت دارند.

در کنار این موضوعات، ایمنی، پاسخ‌گویی و توزیع عادلانهٔ منافع فناوری از مسائل بنیادی آینده خواهند بود.

جمع‌بندی

هوش مصنوعی عمومی مفهومی در پژوهش‌های هوش مصنوعی است که به سامانه‌ای با توانایی شناختی گسترده، انعطاف‌پذیر و قابل استفاده در حوزه‌های متنوع اشاره دارد.

این مفهوم با هوش مصنوعی محدود تفاوت دارد؛ زیرا تمرکز آن بر تعمیم دانش، یادگیری وظایف تازه و سازگاری با شرایط گوناگون است.

هوش مصنوعی عمومی همچنین با ابرهوش مصنوعی یکسان نیست؛ ابرهوش به سطحی از توانایی اشاره دارد که در گستره‌ای وسیع به‌مراتب فراتر از انسان باشد.

ریشه‌های فکری AGI به پژوهش‌های اولیهٔ هوش مصنوعی در میانهٔ سدهٔ بیستم بازمی‌گردد، اما اصطلاح و چارچوب‌های تخصصی آن در دهه‌های بعد گسترش یافتند.

پیشرفت یادگیری عمیق، مدل‌های زبانی بزرگ و سامانه‌های چندوجهی بحث دربارهٔ تحقق AGI را گسترش داده است. بااین‌حال، تعریف دقیق و معیارهای تشخیص آن همچنان محل اختلاف است.

در کنار ظرفیت‌های احتمالی برای پیشرفت علمی و اقتصادی، مسائل مهمی مانند ایمنی، هم‌راستاسازی، نظارت انسانی، حقوق بشر و تمرکز قدرت نیز مطرح‌اند.

در نهایت، بررسی دانشنامه‌ای هوش مصنوعی عمومی مستلزم تفکیک روشن میان توانایی‌های اثبات‌شدهٔ سامانه‌های موجود، اهداف پژوهشی و پیش‌بینی‌های مربوط به آینده است.

جستارهای وابسته

• هوش مصنوعی
• هوش مصنوعی محدود
• ابرهوش مصنوعی
• هوش مصنوعی مولد
• هوش مصنوعی چندوجهی
• اخلاق هوش مصنوعی
• ایمنی هوش مصنوعی
• هم‌راستاسازی هوش مصنوعی
• یادگیری ماشین
• یادگیری عمیق
• یادگیری تقویتی
• شبکه عصبی مصنوعی
• مدل زبانی بزرگ
• ترنسفورمر
• پردازش زبان طبیعی
• بینایی ماشین
• رباتیک
• سامانه خبره
• الگوریتم
• علوم رایانه
• علوم شناختی
• فلسفه ذهن
• فلسفه فناوری
• آینده‌پژوهی
• تکینگی فناوری
• آزمون تورینگ
• آلن تورینگ
• جان مک‌کارتی
• بن گورتزل
• استوارت راسل
• حقوق بشر
• حریم خصوصی
• کرامت انسانی

منابع

```