سم آلتمن درباره نسبت دادن مفاهیم مذهبی به مدل‌های هوش مصنوعی هشدار داد

سم آلتمن، مدیرعامل OpenAI، نسبت دادن قدرت مذهبی یا نوعی جایگاه معنوی به مدل‌های هوش مصنوعی را یک «مسئله واقعی ایمنی» می‌داند. اظهارات تازه او در حالی مطرح شده که آنتروپیک در حال بررسی موضوعاتی مانند آگاهی مدل‌های هوش مصنوعی، اخلاق و نقش دیدگاه‌های مذهبی در شکل‌دهی رفتار این مدل‌هاست.

به گزارش توسعه برند؛ سم آلتمن، مدیرعامل OpenAI، در اظهاراتی تازه با ایده نسبت دادن قدرت مذهبی یا نوعی جایگاه معنوی به مدل‌های هوش مصنوعی مخالفت کرده است. او گفت نسبت دادن چنین ویژگی‌هایی به مدل‌ها می‌تواند به کنار گذاشتن قضاوت انسانی منجر شود و از نظر ایمنی نیز مسئله‌ساز باشد.

آلتمن در واکنش به بحث‌های اخیر درباره آگاهی و جایگاه اخلاقی مدل‌های هوش مصنوعی در شبکه اجتماعی ایکس نوشت که نسبت به تلاش برای نسبت دادن نیروی مذهبی به مدل‌های هوش مصنوعی یا واگذاری قضاوت انسانی به آن‌ها «بسیار نگران» است و این موضوع را یک مسئله واقعی در حوزه ایمنی هوش مصنوعی می‌داند.

«من درباره تلاش افراد برای نسبت دادن نیروی مذهبی یا واگذاری قضاوت انسانی به مدل‌های هوش مصنوعی بسیار احساس ناراحتی می‌کنم و فکر می‌کنم این موضوع یک مسئله واقعی ایمنی است.»

اظهارات آلتمن در شرایطی مطرح شده که آنتروپیک در حال بررسی جدی‌تر مفهوم آگاهی مدل‌های هوش مصنوعی و چگونگی شکل‌گیری اخلاق و رفتار اخلاقی در آن‌هاست. بر اساس گزارش نیویورک‌تایمز، کریستوفر اولاه، یکی از بنیان‌گذاران آنتروپیک، با رهبران مذهبی از ادیان مختلف دیدار کرده تا درباره پرسش‌های مرتبط با آگاهی مدل‌ها و همچنین امکان انتقال مفاهیم اخلاقی به هوش مصنوعی گفت‌وگو کند.

“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””

بر اساس این گزارش، اولاه حتی احتمال استفاده مدل‌های هوش مصنوعی از نوعی اعتراف مذهبی مشابه سنت کاتولیک را بررسی کرده است؛ نه فقط برای پذیرش اشتباهات، بلکه با هدف تأثیرگذاری بر رفتار آینده مدل‌ها.

این رویکرد به یکی دیگر از نقاط اختلاف میان سم آلتمن و داریو آمودی، همکار سابق او و مدیرعامل آنتروپیک، تبدیل شده است. در همین حال، برخی دیگر از چهره‌های شناخته‌شده حوزه هوش مصنوعی نیز به‌صورت عمومی با تلاش برای نسبت دادن آگاهی یا جایگاه اخلاقی به مدل‌ها مخالفت کرده‌اند.

موضوع معنویت نیز به‌تدریج به یکی از بحث‌های جدی‌تر درباره آینده هوش مصنوعی تبدیل شده است. پاپ لئو چهاردهم که از منتقدان جدی برخی روندهای توسعه هوش مصنوعی است، اخیراً از کلیسا خواست برای حفظ خلاقیت انسانی با هنرمندان همکاری کند. او در همین زمینه گفت: الگوریتم‌ها جرقه انسانیت را ندارند.

در همین چارچوب، یکی از پرسش‌های اساسی مطرح‌شده این است که آیا مدل‌های هوش مصنوعی می‌توانند روح یا احساس داشته باشند؟ بر اساس گزارش نیویورک‌تایمز، اولاه پیش از برگزاری یک رویداد در واتیکان در ماه مه تلاش کرده بود مشاوران پاپ را متقاعد کند که احتمال ظهور مدل‌های دارای آگاهی را جدی‌تر بررسی کنند.

با این حال، به نظر می‌رسد بخش قابل‌توجهی از پژوهشگران برجسته هوش مصنوعی همچنان با این دیدگاه فاصله دارند. جان بارون، دانشمند ارشد پژوهشی در گوگل دیپ‌مایند، در واکنش به این بحث‌ها گفت از اینکه برخی پژوهشگران هوش مصنوعی تلاش می‌کنند جایگاه اخلاقی بیشتری برای مدل‌ها قائل شوند، نگران است و تأکید کرد تمرکز باید همچنان بر حل مشکلات واقعی و کمک به انسان‌ها باشد.

تا زمان انتشار این گزارش، OpenAI و آنتروپیک به درخواست‌ها برای اظهارنظر درباره سخنان آلتمن پاسخ نداده‌اند.

بحث ایمنی هوش مصنوعی تاکنون بیشتر بر موضوعاتی مانند امنیت سایبری، سلاح‌های زیستی و سوءاستفاده از مدل‌ها متمرکز بوده است، اما بحث تازه درباره آگاهی، اخلاق و حتی مفاهیم مذهبی نشان می‌دهد دامنه این مناقشه در حال گسترش به پرسش‌های بنیادی‌تری درباره رابطه انسان و هوش مصنوعی است.