آنتروپیک؛ از وعده هوش مصنوعی ایمن تا هشدار درباره انقراض بشر
آنتروپیک که برند خود را بر پایه ایمنی هوش مصنوعی بنا کرده، حالا با هشدار پژوهشگرانش درباره احتمال انقراض انسان بر اثر این فناوری روبه‌روست؛ هشدارهایی که پرسش‌هایی درباره اعتبار وعده‌های ایمنی این شرکت ایجاد کرده‌اند.
به گزارش توسعه برند؛ آنتروپیک سال‌ها تلاش کرده است خود را به‌عنوان شرکتی معرفی کند که در کنار توسعه هوش مصنوعی قدرتمند، خطرهای آن را نیز جدی می‌گیرد. حالا اما هشدارهای پژوهشگران این شرکت درباره احتمال انقراض انسان، تناقضی مهم را پیش روی برند آن قرار داده است: شرکتی که ایمنی را به یکی از مهم‌ترین وجوه تمایز خود تبدیل کرده، هنوز برای برخی از خطرهایی که متخصصانش مطرح می‌کنند، راه‌حل روشنی ندارد.
این بحث پس از استعفای جیکوب کاکسون، پژوهشگر حوزه پیش‌آموزش مدل‌های هوش مصنوعی، دوباره مورد توجه قرار گرفت. او در ۸ سپتامبر از آنتروپیک جدا شد و روز بعد، در مجموعه‌ای از پیام‌ها در شبکه اجتماعی ایکس، دلایل تصمیم خود را توضیح داد. کاکسون پیش‌تر سه سال نیز در OpenAI فعالیت کرده بود و انتقادش را متوجه هر دو شرکت کرد.
او در یکی از پیام‌هایش نوشت: هیچ‌کدام از این دو شرکت مسئولانه عمل نمی‌کنند.
کاکسون در ادامه هشدار داد: «آن‌ها با شتاب به‌سوی ابرهوشِ خودبهبودبخش حرکت می‌کنند و با زندگی ما قمار می‌کنند.»
این پژوهشگر همچنین گفت افرادی که در حال ساخت هوش مصنوعی هستند، واقعاً باور دارند که این فناوری ممکن است تا پایان دهه جاری به مرگ همه انسان‌ها منجر شود. پیام‌های او در ایکس، طبق گزارش منتشرشده، بیش از ۱۶۴ میلیون بازدید دریافت کرد؛ بازتابی که نشان می‌دهد نگرانی درباره ایمنی هوش مصنوعی دیگر صرفاً موضوعی محدود به محافل پژوهشی نیست.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
هشدار از درون شرکتی که بر ایمنی تأکید دارد
اظهارات کاکسون تنها بخش ماجرا نیست. ایوان هوبینگر، مسئول علوم هم‌ترازی در آنتروپیک، نیز برآورد شخصی خود از احتمال انقراض انسان بر اثر هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد اعلام کرده است.
هوبینگر درباره وضعیت فعلی پژوهش‌های ایمنی نوشت: من باور دارم آنتروپیک تمام تلاش خود را می‌کند، اما هنوز برنامه‌ای برای حل مسئله هم‌ترازی ابرهوش نداریم و مسیر روشنی هم نداریم که نشان دهد در حال نزدیک شدن به راه‌حل هستیم.
هم‌ترازی هوش مصنوعی به تلاش‌هایی گفته می‌شود که هدفشان هماهنگ کردن رفتار و اهداف سامانه‌های هوشمند با ارزش‌ها و خواسته‌های انسانی است. با قدرتمندتر شدن مدل‌ها، اطمینان از اینکه این سامانه‌ها مطابق اهداف تعیین‌شده عمل می‌کنند، به یکی از چالش‌های اصلی صنعت تبدیل شده است.
ساموئل مارکس، مسئول ارشد نظارت‌پذیری مقیاس‌پذیر در آنتروپیک، نیز درباره انگیزه شرکت‌ها برای ادامه این رقابت توضیح داد که آن‌ها هم‌زمان تحت تأثیر منافع تجاری و نگرانی از عملکرد رقبا قرار دارند.
او گفت: ترکیبی از انگیزه‌های تجاری و این باور وجود دارد که آن‌ها در رقابت با توسعه‌دهندگان دیگری هستند که مسئولیت‌پذیری کمتری دارند و ممکن است از این فناوری سوءاستفاده کنند یا آن را با ایمنی کمتری توسعه دهند.
نکته مهم این است که هوبینگر و مارکس همچنان در آنتروپیک فعالیت می‌کنند. در نتیجه، این نگرانی‌ها فقط انتقاد یک کارمند سابق نیستند، بلکه دیدگاه‌هایی هستند که از سوی متخصصان فعال در حوزه ایمنی همین شرکت مطرح شده‌اند. البته برآورد بیش از ۱۰ درصدی هوبینگر، ارزیابی شخصی اوست و نباید آن را پیش‌بینی قطعی یا اجماع علمی درباره احتمال انقراض انسان تلقی کرد.
ایمنی چگونه به مزیت رقابتی آنتروپیک تبدیل شد؟
آنتروپیک در سال ۲۰۲۱ به دست گروهی از پژوهشگران پیشین OpenAI، از جمله داریو آمودی، مدیرعامل شرکت، تأسیس شد. این شرکت از ابتدا تلاش کرد با تأکید بر توسعه مسئولانه و ایمنی هوش مصنوعی، جایگاه متفاوتی در بازار به دست آورد.
این رویکرد در تصمیم‌های تجاری شرکت نیز نمود پیدا کرد. در ماه فوریه، پنتاگون از آنتروپیک خواست دسترسی به سامانه کلود را برای «تمام اهداف قانونی» فراهم کند؛ در غیر این صورت، قرارداد ۲۰۰ میلیون دلاری شرکت با خطر از دست رفتن روبه‌رو می‌شد.
آنتروپیک این درخواست را نپذیرفت، زیرا معتقد بود چنین عبارتی می‌تواند استفاده از هوش مصنوعی در تسلیحات کاملاً خودمختار و نظارت گسترده بر شهروندان را نیز شامل شود.
داریو آمودی در واکنش به این درخواست گفت: ما نمی‌توانیم با وجدان آسوده با درخواست آن‌ها موافقت کنیم.
این موضع برای شرکت بدون هزینه نبود. پنتاگون آنتروپیک را تهدیدی برای زنجیره تأمین معرفی کرد و دونالد ترامپ دستور توقف استفاده نهادهای فدرال از فناوری این شرکت را صادر کرد. بیش از ۱۰۰ مشتری سازمانی نیز نگرانی‌هایی درباره پیامدهای این تصمیم مطرح کردند و آنتروپیک برآورد کرد که این اقدامات ممکن است میلیاردها دلار از درآمد سال ۲۰۲۶ آن را تحت تأثیر قرار دهد.
با این حال، در ۲۷ اوت یک قاضی فدرال آمریکا این طبقه‌بندی را غیرقانونی و فاقد مبنای معتبر اعلام کرد؛ هرچند انتظار می‌رفت دولت به تصمیم اعتراض کند.
در سوی دیگر، آنتروپیک نشانه‌هایی از استقبال کاربران را نیز تجربه کرد. کلود به رتبه نخست فروشگاه اپلیکیشن اپل در آمریکا رسید، شمار کاربران فعال رایگان آن ۶۰ درصد افزایش یافت و ثبت‌نام‌های روزانه چهار برابر شد.
این تجربه نشان می‌دهد پایبندی به اصول اخلاقی می‌تواند هم هزینه تجاری ایجاد کند و هم به تقویت جایگاه برند کمک کند. با این حال، اثر مثبت چنین رویکردی زمانی پایدار می‌ماند که مخاطبان میان وعده‌های شرکت و عملکرد واقعی آن تناقضی جدی نبینند.
وقتی شفافیت برند با نگرانی‌های داخلی روبه‌رو می‌شود
سخنگوی آنتروپیک در گفت‌وگو با سی‌ان‌ان اعلام کرد که شرکت همواره درباره مزایا و خطرهای بی‌سابقه هوش مصنوعی شفاف بوده است. او به سیاست «مقیاس‌پذیری مسئولانه» این شرکت اشاره کرد؛ چارچوبی که برای شناسایی و کاهش خطرهای فاجعه‌بار ناشی از توسعه مدل‌های قدرتمند طراحی شده است.
اما شفافیت فقط به انتشار سیاست‌ها و گزارش‌های رسمی محدود نمی‌شود. پژوهشگران ایمنی، بخشی از اعتبار ادعاهای آنتروپیک درباره قابل‌اعتماد بودن مدل‌هایش را شکل می‌دهند. بنابراین، وقتی همین متخصصان از خطرهای حل‌نشده سخن می‌گویند، اظهارات آن‌ها مستقیماً با تصویر عمومی شرکت ارتباط پیدا می‌کند.
دو روز پس از استعفای کاکسون، آنتروپیک گزارشی درباره سوءاستفاده هکرها و فروشندگان ابزارهای جاسوسی از کلود منتشر کرد. این گزارش به نحوه استفاده مخرب از هوش مصنوعی می‌پرداخت، اما به استعفای کاکسون یا برآورد هوبینگر درباره احتمال انقراض انسان اشاره‌ای نداشت.
این فاصله میان شفافیت درباره سوءاستفاده‌های بیرونی و پاسخ‌گویی به نگرانی‌های مطرح‌شده از داخل شرکت، پرسشی جدی درباره مدیریت اعتبار برند ایجاد می‌کند. آیا آنتروپیک می‌تواند همان صراحتی را که در بیان خطرهای هوش مصنوعی وعده داده است، درباره محدودیت‌ها و چالش‌های حل‌نشده خود نیز حفظ کند؟
رشد ارزش تجاری در کنار افزایش حساسیت‌ها
بحث درباره ایمنی در شرایطی مطرح شده که آنتروپیک رشد مالی چشمگیری را تجربه کرده است. این شرکت در ۲۸ مه از جذب ۶۵ میلیارد دلار سرمایه در دوری با ارزش‌گذاری پس از سرمایه‌گذاری ۹۶۵ میلیارد دلاری خبر داد. آلتیمیتر کپیتال، دراگونیر، گرین‌اوکس و سکویا کپیتال از سرمایه‌گذاران اصلی این دور بودند.
این ارزش‌گذاری از رقم ۸۵۲ میلیارد دلاری گزارش‌شده برای OpenAI فراتر رفت. ارزش آنتروپیک در فوریه ۳۸۰ میلیارد دلار برآورد شده بود. شرکت همچنین در اول ژوئن به‌صورت محرمانه برای عرضه اولیه سهام اقدام کرد.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
برای برندی با چنین ارزش‌گذاری و جایگاهی در بازار، اعتماد مشتریان، کارکنان و سرمایه‌گذاران دارایی مهمی است. هرگونه تردید درباره فاصله میان وعده‌های ایمنی و توانایی واقعی شرکت برای مدیریت خطرها می‌تواند به موضوعی فراتر از یک اختلاف داخلی تبدیل شود.
کاکسون نخستین پژوهشگری نیست که با طرح نگرانی‌های ایمنی از آنتروپیک جدا می‌شود. مارینانک شارما، عضو پیشین تیم ایمنی شرکت، نیز در ۹ فوریه استعفا داد و در توضیح تصمیم خود نوشت که جهان در معرض خطر قرار دارد. استعفای او سه روز پیش از بسته شدن دور سرمایه‌گذاری ۳۰ میلیارد دلاری شرکت اتفاق افتاد.
جک کلارک، از بنیان‌گذاران آنتروپیک، نیز خواستار ایجاد سازوکاری برای کند کردن رقابت در توسعه هوش مصنوعی شده است. او درباره وضعیت صنعت گفت:
این صنعت پدال گاز دارد، اما پدال ترمز ندارد.
کلارک و مارینا فاوارو، رئیس مؤسسه آنتروپیک، پیشنهاد کرده‌اند آزمایشگاه‌های پیشرو هوش مصنوعی برای کاهش سرعت توسعه هماهنگ شوند. هدف این پیشنهاد، ایجاد راهی برای بررسی و راستی‌آزمایی اجرای چنین توافقی است.
در همین حال، کلارک اعلام کرده است که کلود اکنون بیش از ۸۰ درصد کدهای مخزن کد خود آنتروپیک را می‌نویسد و این سهم ممکن است طی چند سال آینده به ۱۰۰ درصد برسد. این موضوع نشان می‌دهد که حتی توسعه‌دهندگان هوش مصنوعی نیز به‌سرعت در حال ادغام این فناوری در فرایندهای اصلی فعالیت خود هستند.
آیا خطر انقراض، نگرانی اصلی درباره هوش مصنوعی است؟
همه متخصصان درباره احتمال انقراض انسان بر اثر هوش مصنوعی اتفاق‌نظر ندارند. اندرو اِن‌جی، از بنیان‌گذاران گوگل برین، استدلال کرده است که بزرگ‌نمایی این خطر ممکن است به توجیه مقرراتی منجر شود که توسعه هوش مصنوعی متن‌باز را محدود می‌کنند.
در مقابل، جفری هینتون، برنده جایزه نوبل و از چهره‌های شناخته‌شده پژوهش هوش مصنوعی، درباره برآورد هوبینگر گفت: «احتمال ۱۰ درصدی از نظر من برآورد نامعقولی نیست.» او در عین حال تأکید کرد که هیچ‌کس نمی‌داند چگونه می‌توان چنین احتمالی را به شکلی دقیق و قابل اتکا محاسبه کرد.
این اختلاف‌نظر نشان می‌دهد که خطرهای بلندمدت هوش مصنوعی همچنان موضوعی پیچیده و محل بحث است. با این حال، برای آنتروپیک مسئله فقط اثبات یا رد یک برآورد آماری نیست؛ بلکه نحوه مواجهه با عدم‌قطعیت‌ها و پاسخ‌گویی به نگرانی‌های متخصصان نیز اهمیت دارد.
آزمون اعتبار برای برند آنتروپیک
ماجرای آنتروپیک پرسشی اساسی را برای برندهایی مطرح می‌کند که ارزش‌هایی مانند مسئولیت‌پذیری، اخلاق و شفافیت را در مرکز هویت خود قرار می‌دهند: این ارزش‌ها تا چه اندازه در تصمیم‌های واقعی شرکت حضور دارند؟
وقتی ایمنی به پایه اصلی تمایز یک برند تبدیل می‌شود، هر تصمیم و هر ادعای آن با همان معیار سنجیده خواهد شد. در چنین شرایطی، شفافیت نباید فقط هنگام انتشار خبرهای مثبت دیده شود؛ توضیح محدودیت‌ها، پذیرش خطرهای حل‌نشده و پاسخ‌گویی به انتقادهای درونی نیز بخشی از اعتمادسازی است.
همچنین، کارکنانی که نگرانی‌های حرفه‌ای خود را مطرح می‌کنند، می‌توانند بر برداشت عمومی از شرکت اثر بگذارند. استعفای کاکسون و اظهارات پژوهشگران شاغل در آنتروپیک نشان می‌دهد که اعتبار برند فقط با پیام‌های رسمی مدیران ساخته نمی‌شود؛ رفتار و صدای متخصصان داخل سازمان نیز در شکل‌گیری آن نقش دارد.
در نهایت، هشدارهای مطرح‌شده لزوماً به معنای شکست رویکرد ایمنی آنتروپیک نیستند. با این حال، برای شرکتی که هویت خود را با وعده توسعه مسئولانه هوش مصنوعی گره زده است، حفظ اعتماد به توانایی پاسخ‌گویی به خطرها به اندازه پیشرفت فناوری اهمیت دارد. آزمون اصلی برند آنتروپیک این است که بتواند میان جاه‌طلبی تجاری، سرعت توسعه و تعهد اعلام‌شده خود به ایمنی، تعادلی قابل دفاع برقرار کند.
