مدیرعامل مایکروسافت خواستار ترمز اضطراری برای هوش مصنوعی پیشرفته شد
ساتیا نادلا، مدیرعامل مایکروسافت، از شرکت‌هایی که از مدل‌های پیشرفته هوش مصنوعی استفاده می‌کنند خواسته است این فناوری را تهدیدی بالقوه از درون سازمان در نظر بگیرند و با ایجاد سازوکار ترمز اضطراری، مانع از خارج شدن عامل‌های هوش مصنوعی از کنترل شوند.
به گزارش توسعه برند؛ ساتیا نادلا، مدیرعامل مایکروسافت، معتقد است شرکت‌ها برای استفاده از مدل‌های پیشرفته هوش مصنوعی نباید تنها به اطمینان‌بخشی سازندگان این فناوری تکیه کنند. به گفته او، سازمان‌ها باید احتمال نفوذ یا به‌خطر افتادن این سامانه‌ها را جدی بگیرند و از ابتدا برای مهار رفتارهای پیش‌بینی‌نشده آن‌ها آماده باشند.
نادلا تأکید کرده است که مدل‌های قدرتمند هوش مصنوعی باید مانند تهدیدهای احتمالی از درون سازمان در نظر گرفته شوند؛ رویکردی که شرکت‌ها را ملزم می‌کند حتی در برابر سامانه‌هایی که قابل اعتماد به نظر می‌رسند، تدابیر امنیتی مستقلی داشته باشند.
او در همین زمینه خواستار ایجاد یک سازوکار «ترمز اضطراری» برای متوقف کردن عامل‌های هوش مصنوعی در صورت خارج شدن از کنترل شده است. این رویکرد به شرکت‌ها امکان می‌دهد در صورت مشاهده رفتارهای خطرناک یا غیرمنتظره، فعالیت سامانه را متوقف کنند و از گسترش پیامدهای احتمالی جلوگیری شود.
چرا هوش مصنوعی به ترمز اضطراری نیاز دارد؟
با گسترش استفاده از عامل‌های هوش مصنوعی، نقش این فناوری در سازمان‌ها از پاسخ‌گویی به پرسش‌ها فراتر رفته است. این سامانه‌ها می‌توانند وظایف مختلفی را اجرا کنند و برای انجام آن‌ها به ابزارها، داده‌ها و سامانه‌های داخلی شرکت‌ها دسترسی داشته باشند. همین سطح از اختیار عمل، ضرورت تعریف محدودیت‌ها و سازوکارهای نظارتی را افزایش می‌دهد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
در چنین شرایطی، صرف اعتماد به سازندگان مدل‌های هوش مصنوعی برای تضمین امنیت کافی نیست. سازمان‌هایی که این فناوری را به کار می‌گیرند نیز باید مسئولیت مدیریت خطرها را بر عهده بگیرند و امکان کنترل یا توقف عملکرد سامانه‌ها را در اختیار داشته باشند.
نادلا با طرح ایده ترمز اضطراری، بر این نکته تأکید دارد که توسعه هوش مصنوعی پیشرفته باید با سازوکارهایی همراه باشد که در شرایط بحرانی، امکان مداخله سریع را فراهم کنند. به بیان دیگر، شرکت‌ها باید پیش از واگذاری وظایف حساس به عامل‌های هوش مصنوعی، برای موقعیت‌هایی که عملکرد آن‌ها از انتظار خارج می‌شود نیز برنامه داشته باشند.
مسئولیت شرکت‌ها فراتر از اعتماد به سازندگان است
اظهارات مدیرعامل مایکروسافت نشان می‌دهد که با افزایش توانایی و استقلال عامل‌های هوش مصنوعی، موضوع ایمنی دیگر تنها به طراحی مدل محدود نمی‌شود؛ نحوه استقرار، سطح دسترسی و شیوه نظارت بر این سامانه‌ها نیز اهمیت دارد.
پیام اصلی نادلا این است که سازمان‌ها باید برای مهار هوش مصنوعی، کنترل‌های مستقل و امکان توقف فوری آن را در نظر بگیرند؛ نه اینکه صرفاً به تضمین‌های شرکت‌های سازنده تکیه کنند.
این رویکرد، به‌ویژه برای کسب‌وکارهایی که قصد دارند از عامل‌های هوش مصنوعی در فرایندهای حساس استفاده کنند، بر اهمیت ایجاد تعادل میان بهره‌گیری از قابلیت‌های جدید و مدیریت خطرهای احتمالی تأکید می‌کند.
