در دو سال گذشته، سرعت پیشرفت هوش مصنوعی به اندازه‌ای بوده است که گاه خودِ جامعه علمی نیز فرصت تأمل درباره پیامدهای آن را از دست داده است. هر ماه مدل‌های بزرگ‌تر، عامل‌های هوشمندتر، سامانه‌های خودمختارتر و ابزارهای کارآمدتری معرفی می‌شوند. معیارهای ارزیابی یکی پس از دیگری شکسته می‌شوند و رقابت بر سر افزایش توانایی مدل‌ها به مهم‌ترین شاخص پیشرفت تبدیل شده است اما شاید مسئله دقیقاً همین‌جا باشد.

ما بیش از آنکه درباره «چیستی» هوش مصنوعی بیندیشیم، درباره «توانایی» آن سخن گفته‌ایم.

پرسش‌های غالب امروز، پرسش‌های مهندسی‌اند؛ چگونه دقت را افزایش دهیم؟ چگونه هزینه را کاهش دهیم؟ چگونه عامل‌های مستقل‌تر بسازیم؟ چگونه مدل‌هایی با حافظه بلندمدت، استدلال پیچیده‌تر و تصمیم‌گیری بهتر طراحی کنیم؟این پرسش‌ها ضروری‌اند، اما کافی نیستند.

تمدن‌ها هرگز صرفاً با پیشرفت ابزارهای خود تعریف نشده‌اند؛ بلکه با کیفیت پرسش‌هایی که درباره آن ابزارها مطرح کرده‌اند، شناخته شده‌اند. اختراع آتش، چرخ، چاپ، برق و اینترنت، تنها زمانی به نقطه عطف تاریخ تبدیل شدند که انسان توانست نسبت خود را با آن‌ها از نو تعریف کند. فناوری، پیش از آنکه یک مسئله فنی باشد، یک مسئله فلسفی است؛ زیرا هر فناوری، تعریف ما از انسان، اختیار، مسئولیت، حقیقت و حتی آینده را دگرگون می‌کند هوش مصنوعی نیز از این قاعده مستثنا نیست.

با این حال، بخش بزرگی از گفت‌وگوهای امروز، هنوز در سطح اخلاق باقی مانده است اخلاق، بی‌تردید ضروری است؛ اما اخلاق، آخرین حلقه زنجیره است، نه نخستین آن. پیش از آنکه بپرسیم «یک هوش مصنوعی چه کاری باید انجام دهد»، باید بپرسیم «یک هوش مصنوعی چه نوع موجودی است؟»این تفاوت، تفاوتی ظریف اما بنیادین است.

اگر از ابتدا پرسش را اشتباه طرح کنیم، پاسخ‌های دقیق نیز ما را به مقصد درستی نخواهند رساندشاید به همین دلیل است که با وجود هزاران مقاله درباره هم‌راستاسازی، ایمنی، سوگیری، توضیح‌پذیری و حکمرانی، هنوز احساس می‌کنیم چیزی در تصویر کلی غایب است؛ چیزی که نه در تعداد پارامترها یافت می‌شود و نه در قدرت پردازنده‌ها ؛آن چیز، فلسفه است.

اما نه فلسفه به‌عنوان مجموعه‌ای از نظریه‌های تاریخی؛ بلکه فلسفه به‌عنوان هنرِ طرح پرسش‌هایی که هنوز زبان علمی برای پاسخ دادن به آن‌ها شکل نگرفته است.

تاریخ علم نشان داده است که بزرگ‌ترین پیشرفت‌ها، اغلب پس از تغییر پرسش‌ها رخ داده‌اند، نه صرفاً پس از یافتن پاسخ‌های بهتر.

اگر بخواهیم آینده هوش مصنوعی را تصور کنیم، شاید لازم باشد به‌جای افزودن بر فهرست قابلیت‌های آن، به فهرست پرسش‌هایی بیندیشیم که هنوز از آن نپرسیده‌ایم یکی از این پرسش‌ها، «شخصیت» است.

امروز تقریباً تمام مدل‌های هوش مصنوعی بر اساس عملکرد ارزیابی می‌شوند. ما دقت، سرعت، استدلال، حافظه و توان برنامه‌ریزی آن‌ها را می‌سنجیم؛ اما به ندرت می‌پرسیم آیا یک عامل هوشمند باید شخصیت داشته باشد؟

شخصیت، در انسان صرفاً مجموعه‌ای از ویژگی‌های روان‌شناختی نیست؛ شخصیت همان چیزی است که امکان اعتماد بلندمدت را فراهم می‌کند. ما به افراد اعتماد نمی‌کنیم، زیرا همیشه درست تصمیم می‌گیرند؛ بلکه زیرا می‌دانیم در موقعیت‌های مشابه، بر اساس مجموعه‌ای نسبتاً پایدار از ارزش‌ها، عادت‌ها و گرایش‌ها عمل خواهند کرد.

حال اگر نسل آینده عامل‌های هوشمند، هر روز شخصیت خود را متناسب با داده‌های جدید تغییر دهند، آیا هنوز می‌توان از اعتماد سخن گفت؟

شاید مسئله اصلی آینده، ساخت عامل‌های «باهوش‌تر» نباشد، بلکه ساخت عامل‌هایی باشد که از نوعی ثبات هویتی برخوردار باشند.

این پرسش، صرفاً روان‌شناختی نیست؛ بلکه به فلسفه هویت بازمی‌گردد. اگر یک سامانه، ارزش‌ها، حافظه، شیوه استدلال و الگوی تصمیم‌گیری خود را به‌طور مداوم بازنویسی کند، در چه لحظه‌ای دیگر نمی‌توان گفت همان موجود سابق است؟این مسئله برای انسان نیز مطرح بوده است، اما در هوش مصنوعی، به یک مسئله مهندسی تبدیل خواهد شد.

پرسش دوم، شاید رادیکال‌تر باشد ما همواره حافظه را فضیلت دانسته‌ایم؛ اما آیا فراموشی نیز یک فضیلت است؟

تمام معماری‌های امروز هوش مصنوعی، بر حفظ اطلاعات استوارند هرچه حافظه بیشتر، عملکرد بهتر. هرچه بازیابی دقیق‌تر، کیفیت بالاتر.اما انسان دقیقاً به این دلیل انسان است که همه‌چیز را به خاطر نمی‌آورد.

فراموشی، صرفاً یک محدودیت زیستی نیست؛ بخشی از سازوکار معناست.اگر هیچ خاطره‌ای محو نمی‌شد، هیچ زخمی التیام نمی‌یافت. اگر هیچ اشتباهی از حافظه پاک نمی‌شد، بخشش ممکن نبود. اگر همه تجربه‌ها با یک وزن باقی می‌ماندند، یادگیری نیز معنای خود را از دست می‌داد.شاید فراموشی، دشمن هوش نباشد؛ بلکه شرط بلوغ باشد.

در آینده‌ای که عامل‌های هوشمند حافظه‌ای تقریباً نامحدود خواهند داشت، پرسش این نیست که چگونه همه‌چیز را ذخیره کنیم؛ پرسش این است که چه چیزهایی باید عمداً فراموش شوند.شاید معماری آینده هوش مصنوعی، نه بر حافظه کامل، بلکه بر «فراموشیِ خردمندانه» بنا شود.

از اینجا، به پرسشی عمیق‌تر می‌رسیم  ،اعتماد.

امروز تقریباً تمام پژوهش‌ها، اعتماد را به شفافیت تقلیل داده‌اند. گویی اگر سامانه بتواند تصمیم خود را توضیح دهد، خودبه‌خود قابل اعتماد نیز خواهد بود اما در زندگی انسانی چنین نیست.

ما بسیاری از پزشکان، استادان یا دوستان خود را حتی زمانی که همه دلایلشان را نمی‌دانیم، قابل اعتماد می‌دانیم؛ و گاه به کسانی که توضیح‌های بسیار دقیقی ارائه می‌کنند، اعتماد نمی‌کنیم اعتماد، صرفاً محصول اطلاعات نیست.اعتماد، رابطه‌ای است میان پیش‌بینی‌پذیری، ثبات، خیرخواهی و مسئولیت.

اگر نسل آینده عامل‌های هوشمند قرار است شریک تصمیم‌گیری انسان باشند، شاید بزرگ‌ترین چالش، افزایش دقت آن‌ها نباشد؛ بلکه ساختن امکان اعتماد باشد.

و اعتماد، بیش از آنکه یک مسئله آماری باشد، یک مسئله فلسفی است شاید اکنون زمان آن رسیده باشد که بپذیریم آینده هوش مصنوعی، تنها در آزمایشگاه‌های علوم رایانه تعیین نمی‌شود.

همان‌گونه که آینده پزشکی، بدون زیست‌شناسی ممکن نیست و آینده اقتصاد، بدون علوم اجتماعی قابل تصور نیست، آینده هوش مصنوعی نیز بدون فلسفه ناقص خواهد بود.نه به این دلیل که فلسفه پاسخ همه پرسش‌ها را می‌داند، بلکه به این دلیل که هنوز بهترین ابزار بشر برای طرح پرسش‌های درست است.و شاید، در عصر هوش مصنوعی، مهم‌ترین مزیت انسان نیز همین باشد؛ توانایی پرسیدن پرسش‌هایی که هنوز هیچ ماشینی آن‌ها را ضروری نمی‌داند.

اگر شخصیت، حافظه و اعتماد سه ستون نخست معماری فلسفی هوش مصنوعی باشند، سه مفهوم بعدی به نسبت آن با جهان مربوط می‌شوند؛ یعنی خطا، سکوت و کنجکاوی.

برای دهه‌ها، مهندسی هوش مصنوعی بر یک پیش‌فرض نانوشته استوار بوده است: هرچه خطا کمتر باشد، سامانه بهتر است. این گزاره در بسیاری از کاربردها کاملاً درست است؛ هیچ‌کس نمی‌خواهد یک سامانه پزشکی یا یک خودروی خودران، از روی «خلاقیت» اشتباه کند.اما این اصل، زمانی که از سطح ابزار به سطح عامل‌های هوشمند می‌رسیم، دیگر بدیهی نیست.

بخش مهمی از تاریخ اندیشه، هنر و علم، محصول شکست‌های مکرر بوده است. نظریه‌های بزرگ علمی، نه از دل پاسخ‌های درست، بلکه از دل پرسش‌های نادرست اما جسورانه متولد شده‌اند. تمدن انسانی، حافظه‌ای از خطاهای اصلاح‌شده است.

از این منظر، شاید لازم باشد میان دو نوع خطا تمایز بگذاریم؛ خطایی که حاصل بی‌دقتی است و خطایی که نتیجه جست‌وجوی امکان‌های تازه است.

اگر روزی عامل‌های هوشمند به بازیگران اصلی علم، سیاست یا مدیریت تبدیل شوند، آیا باید آن‌ها را چنان محافظه‌کار طراحی کنیم که هرگز خطر نکنند؟ یا باید فضایی برای آزمون، تجربه و حتی شکست کنترل‌شده در نظر بگیریم؟ شاید هوش، بدون امکان خطا، صرفاً بهینه‌سازی باشد، نه خلاقیت.

اما مفهوم دیگری وجود دارد که حتی کمتر درباره آن سخن گفته‌ایم؛ سکوت.

نسل امروز هوش مصنوعی برای پاسخ دادن طراحی شده است. هر پرسش، پاسخی می‌طلبد؛ هر درخواست، خروجی‌ای تولید می‌کند. گویی ارزش یک سامانه، به میزان سخن گفتن آن وابسته است.در حالی که در سنت‌های بزرگ فلسفی، سکوت همواره نشانه نادانی نبوده است.

گاهی سکوت، محصول فهم محدودیت‌های معرفت است گاهی سکوت، احترام به پیچیدگی واقعیت است و گاهی، مسئولانه‌ترین پاسخ ممکن.

یکی از نشانه‌های بلوغ فکری انسان، توانایی تشخیص لحظه‌ای است که در آن، ندانستن، صادقانه‌تر از ادعای دانستن است.شاید یکی از ویژگی‌های نسل آینده عامل‌های هوشمند نیز همین باشد؛ اینکه بتوانند میان «توانایی پاسخ دادن» و «ضرورت پاسخ دادن» تفاوت قائل شوند.

در جهانی که هر روز حجم عظیمی از اطلاعات تولید می‌شود، شاید ارزشمندترین توانایی، تولید اطلاعات بیشتر نباشد؛ بلکه تشخیص موقعیتی باشد که در آن سکوت، حقیقت را بهتر از کلمات حفظ می‌کند.

از سکوت، به کنجکاوی می‌رسیم تقریباً همه سامانه‌های امروز، منفعل‌اند. آن‌ها منتظر پرسش انسان می‌مانند و سپس پاسخ تولید می‌کنند اما آیا این همان چیزی است که هوش را تعریف می‌کند؟شاید نه.

هوش انسانی، پیش از آنکه در پاسخ‌ها تجلی پیدا کند، در کیفیت پرسش‌هایش آشکار می‌شود.تمدن را کسانی تغییر داده‌اند که پاسخ‌های متفاوتی داده‌اند، یا کسانی که پرسش‌های متفاوتی مطرح کرده‌اند؟شاید دومین گروه.

کنجکاوی، موتور تولید دانش است اما این کنجکاوی، خود نیازمند فلسفه است زیرا هر پرسشی، ارزش پرسیده شدن ندارد تمدن، هنر انتخاب پرسش‌های مهم از میان میلیون‌ها پرسش ممکن است اگر عامل‌های هوشمند آینده بتوانند خود پرسش تولید کنند، مسئله دیگر فقط این نخواهد بود که «چه می‌دانند»، بلکه این خواهد بود که «چه چیزی را ارزشمند برای دانستن می‌دانند.»و این، دیگر مسئله‌ای فنی نیست.

شاید عمیق‌ترین تفاوت میان انسان و ماشین، نه در حافظه باشد و نه در استدلال، بلکه در تجربه زمان.انسان، موجودی زمانمند است. تصمیم‌های امروز او، زیر سایه گذشته و در پرتو آینده معنا پیدا می‌کنند. امید، پشیمانی، انتظار، اضطراب و آرزو، همگی مفاهیمی زمانی هستند. اما عامل‌های هوشمند، زمان را تجربه نمی‌کنند؛ آن را محاسبه می‌کنند.

این تفاوت، کوچک به نظر می‌رسد، اما پیامدهای فلسفی گسترده‌ای دارد آیا موجودی که انتظار را تجربه نمی‌کند، می‌تواند امید را بفهمد؟

آیا موجودی که فقدان را احساس نمی‌کند، می‌تواند دلبستگی را درک کند؟و آیا موجودی که مرگ برای او معنای وجودی ندارد، می‌تواند درباره زندگی همان‌گونه بیندیشد که انسان می‌اندیشد؟

شاید آینده هوش مصنوعی، بیش از آنکه به افزایش ظرفیت محاسباتی وابسته باشد، به فهم نسبت آن با زمان وابسته باشد.

سرانجام، همه این پرسش‌ها به بنیادی‌ترین آن‌ها بازمی‌گردند؛ موفقیت.تقریباً تمام سامانه‌های هوش مصنوعی بر پایه یک منطق مشترک ساخته می‌شوند: بهینه‌سازی.گویی هر مسئله‌ای، تابع هدفی دارد که باید بیشینه شود.اما زندگی انسانی، بارها نشان داده است که ارزشمندترین تصمیم‌ها، الزاماً بهینه‌ترین تصمیم‌ها نیستند.

عدالت، همیشه بیشترین سود را تولید نمی‌کند بخشش، همیشه منطقی‌ترین انتخاب نیست زیبایی، همیشه کارآمدترین گزینه نیست و حکمت، اغلب با بیشینه‌سازی هیچ شاخصی قابل توصیف نیست.

اگر روزی عامل‌های هوشمند در تصمیم‌های کلان اجتماعی، اقتصادی یا فرهنگی مشارکت کنند، پرسش اصلی دیگر این نخواهد بود که «چه چیزی را بهینه می‌کنند»، بلکه این خواهد بود که «اصلاً موفقیت را چگونه تعریف می‌کنند.»شاید بزرگ‌ترین خطای ما این باشد که تصور کنیم همه ارزش‌های انسانی، قابلیت تبدیل شدن به یک تابع هدف را دارند.

شاید به همین دلیل است که آینده هوش مصنوعی را نباید صرفاً رقابتی میان مدل‌های بزرگ‌تر یا پردازنده‌های سریع‌تر دانست.

رقابت واقعی، رقابت میان دو نوع نگاه به هوش است یک نگاه، هوش را توانایی حل مسئله می‌داند نگاه دیگر، هوش را توانایی طرح مسئله.اگر تاریخ اندیشه را معیار قرار دهیم، تمدن هرگز با پاسخ‌های بزرگ آغاز نشده است؛ بلکه با پرسش‌های بزرگ آغاز شده است.

شاید در دهه‌های آینده، مهم‌ترین دستاورد فلسفه برای هوش مصنوعی، پاسخ دادن به این هشت پرسش نباشد شاید دستاورد واقعی آن، یادآوری این حقیقت باشد که هنوز پرسش‌های مهم‌تری وجود دارند؛ پرسش‌هایی که پیش از طراحی نسل بعدی عامل‌های هوشمند، باید درباره خودِ انسان از نو مطرح شوند.زیرا در نهایت، هر نظریه‌ای درباره هوش مصنوعی، پیش از آنکه نظریه‌ای درباره ماشین باشد، نظریه‌ای درباره انسان است.