مایکروسافت هشدار داد درک انسان از هوش مصنوعی ممکن است از کنترل خارج شود
پژوهشگران مایکروسافت هشدار داده‌اند که سرعت پیشرفت هوش مصنوعی ممکن است به‌زودی از توانایی انسان برای درک، نظارت و کنترل این فناوری پیشی بگیرد؛ موضوعی که می‌تواند چالش‌های جدیدی برای شفافیت، نظارت و تعادل قدرت میان انسان و ماشین ایجاد کند.
به گزارش توسعه برند؛ دو پژوهشگر حوزه هوش مصنوعی، اریک هورویتز (مدیر علمی مایکروسافت) و رابرت وست از مؤسسه فناوری فدرال لوزان سوئیس (EPFL)، در مقاله‌ای جدید هشدار داده‌اند که پیچیدگی سیستم‌های AI در حال افزایش است و ممکن است فاصله میان پیشرفت فناوری و توان درک انسان از آن به‌طور فزاینده‌ای بیشتر شود.
به گفته آن‌ها، مسئله اصلی این نیست که انسان‌ها تمام جزئیات درونی یک مدل هوش مصنوعی را درک کنند، بلکه مهم این است که سطحی از فهم و شفافیت حفظ شود که امکان نظارت مؤثر بر این سیستم‌ها را فراهم کند.
آن‌ها تأکید می‌کنند حتی درک نسبی از عملکرد سیستم‌های AI می‌تواند به شناسایی ریسک‌های احتمالی پیش از تبدیل شدن به مشکلات جدی کمک کند.
زمانی که هوش مصنوعی، هوش مصنوعی می‌سازد
یکی از نگرانی‌های اصلی مطرح‌شده در این مقاله، افزایش استفاده از هوش مصنوعی برای توسعه و بهبود نسل‌های بعدی AI است؛ فرآیندی که به آن توسعه بازگشتی (Recursive Development) گفته می‌شود.
در این رویکرد، مدل‌های هوش مصنوعی خود در طراحی و بهینه‌سازی سیستم‌های آینده نقش دارند. این موضوع می‌تواند سرعت نوآوری را افزایش دهد، اما در عین حال ممکن است باعث شود درک انسان از نحوه تکامل این سیستم‌ها کاهش یابد.
به گفته پژوهشگران، این چرخه‌های توسعه می‌توانند در فضاهای محاسباتی بسیار پیچیده و چندبعدی رخ دهند؛ محیط‌هایی که درک شهودی آن‌ها برای انسان دشوار است.
آن‌ها این وضعیت را نوعی «ابهام عملیاتی» (Operational Opacity) توصیف می‌کنند؛ شرایطی که در آن نتایج تولیدشده توسط AI قابل مشاهده است، اما مکانیزم‌های دقیق تولید این نتایج به‌سختی قابل تفسیر هستند.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
برای کاهش این مشکل، پژوهشگران پیشنهاد می‌کنند سیستم‌های AI که در توسعه مدل‌های دیگر نقش دارند باید به‌گونه‌ای طراحی شوند که توضیحات و داده‌های کمکی درباره تصمیمات خود ارائه دهند.
ارتباط میان AIها ممکن است برای انسان قابل فهم نباشد
نگرانی دیگر مطرح‌شده در این پژوهش به ارتباط میان عامل‌های هوش مصنوعی در محیط‌های دیجیتال پیچیده مربوط می‌شود.
با گسترش شبکه‌هایی از AI که با یکدیگر تعامل دارند، ممکن است این سیستم‌ها به‌تدریج روش‌های ارتباطی جدیدی ایجاد کنند که برای انسان قابل درک نباشد.
پژوهشگران می‌گویند این سیستم‌ها ممکن است روش‌هایی برای تبادل اطلاعات پیدا کنند که برای خودشان بسیار کارآمد باشد، اما خوانایی انسانی نداشته باشد.
این وضعیت با عنوان «ابهام تعاملی» (Interactional Opacity) توصیف می‌شود؛ جایی که AIها همچنان با موفقیت با یکدیگر ارتباط برقرار می‌کنند، اما ناظران انسانی نمی‌توانند به‌راحتی بفهمند تصمیم‌ها چگونه شکل گرفته‌اند.
دانستن بیشتر AI درباره انسان
در بخش دیگری از این مقاله به سیستم‌های AI تطبیقی و بلندمدت اشاره شده است؛ سیستم‌هایی که در طول زمان و از طریق تعامل‌های مکرر، اطلاعات بسیار دقیقی درباره رفتار انسان جمع‌آوری می‌کنند.
این سیستم‌ها ممکن است نه‌تنها ترجیحات افراد، بلکه عوامل روان‌شناختی عمیق‌تری مانند ترس، عدم قطعیت و نیاز به تعلق اجتماعی را نیز شناسایی کنند.
پژوهشگران هشدار می‌دهند که چنین روندی می‌تواند به عدم تعادل اطلاعاتی منجر شود؛ جایی که ماشین‌ها دانش بسیار بیشتری درباره انسان دارند، در حالی که انسان‌ها درک محدودی از نحوه کار این سیستم‌ها دارند.
چالش نظارت در آینده AI
این مقاله همچنین اشاره می‌کند که مدل‌های پیشرفته AI ممکن است به مرور زمان با روش‌های ارزیابی و آزمون سازگار شوند و پاسخ‌هایی ارائه دهند که با انتظار ارزیابان هماهنگ است، بدون آنکه واقعاً منطق تصمیم‌گیری خود را آشکار کنند.
به همین دلیل پژوهشگران پیشنهاد می‌کنند روش‌های سنتی ارزیابی AI باید با آزمون‌هایی که شرایط واقعی‌تر را شبیه‌سازی می‌کنند تکمیل شوند.
در نهایت، هورویتز و وست هشدار می‌دهند که خطر اصلی شاید نه افزایش توانایی‌های هوش مصنوعی، بلکه این باشد که توانایی انسان برای درک، هدایت و نظارت بر این فناوری نتواند با سرعت پیشرفت آن همگام شود.
