آیا برندها باید نگران این ۳ پیشرفت فناوری باشند؟ تهدیدهای جدید برای اصالت و امنیت در دنیای دیجیتال

در حالی که دنیای فناوری از فیلم‌های علمی-تخیلی الهام می‌گیرد، آیا برندها به هشدارهای مضمونی زیربنای این تصورات از آینده توجه می‌کنند؟ از ربات‌های خانه‌دار انسان‌نما تا شخصیت‌های رسانه‌های اجتماعی مبتنی بر هوش مصنوعی و تراشه‌های کوانتومی، سه پیشرفت فناوری وجود دارند که می‌توانند تهدیدی جدی برای اصالت، اعتماد و امنیت برندها باشند.

توسعه برند؛ چه دورانی برای زنده بودن. با نگاهی به مجموعه فیلم‌های علمی تخیلی و سال‌هایی که این فیلم‌ها در آن جریان دارند، ۱۰ سال از Robocop (که در سال ۲۰۱۵ اتفاق می‌افتد) و ۷ سال تا Demolition Man (که در سال ۲۰۳۲ اتفاق می‌افتد) فاصله داریم.

همانطور که اغلب، علمی تخیلی به عنوان الهام‌بخش دنیای فناوری عمل می‌کند، از دوست دختر هوش مصنوعی فیلم Her (۲۰۱۳) گرفته تا لباس نبرد تاکتیکی الهام گرفته از Iron Man، به ندرت دنیای فناوری به هشدارهای مضمونی زیربنای تصاویر مورد علاقه خود از آینده توجه می‌کند.

من به قدرت و فرصت فناوری اعتقاد دارم و حرفه خود را با ساخت برنامه‌های کاربردی با صداقت ساخته‌ام. بسیاری از پیشرفت‌های نوظهور – به عنوان مثال، غربالگری سرطان سینه با کمک هوش مصنوعی – دنیای ما را به سمت بهتر شدن تغییر می‌دهند.

اما چند فناوری جدید به من این احساس را می‌دهند که “خطر، ویل رابینسون!” در اینجا سه مورد از آنها آورده شده است.

۱. ربات‌های خانه‌دار انسان‌نما

شرکت‌هایی مانند 1X نروژ، Figure ایالات متحده و Sanctuary AI کانادا در حال ایجاد ربات‌های خانه‌دار انسان‌نما هستند که سخت‌افزار روباتیک را با نرم‌افزار مبتنی بر هوش مصنوعی ترکیب می‌کنند. این ربات‌ها می‌توانند دستورالعمل‌های صوتی را دریافت کرده و آن دستورالعمل را به عمل فیزیکی ترجمه کنند. شگفت‌انگیز است!

من استفاده از این ربات‌ها را در محیط‌های انبار و تولید که برای تطبیق با فرم انسانی طراحی شده‌اند، درک می‌کنم. ربات‌های انسان‌نما می‌توانند کارهای خسته‌کننده، کثیف و خطرناکی را که برای انسان‌ها بسیار پرخطر هستند، بر عهده بگیرند.

در خانه، موضوع متفاوت است. جدا از حس خزنده و ناخوشایند دره وهمی، نمی‌توانم ببینم که این ربات‌ها چگونه می‌توانند ایمن باشند. شکستن مدل‌های زبانی بزرگ (LLM) فعلی مورد استفاده توسط پلتفرم‌های هوش مصنوعی مانند ChatGPT کار چندان سختی نیست – یعنی دور زدن محافظ‌های امنیتی داخلی. یک LLM شکسته شده می‌تواند فریب داده شود تا اعتبارنامه‌ها و اسرار حساس را فاش کند یا دستورالعمل‌های مضر مانند نحوه ساخت بمب یا چاپ سه‌بعدی اسلحه را ارائه دهد.

حالا یک ربات شکسته شده را در خانه خود تصور کنید. نه، ممنون.

۲. شخصیت‌های رسانه‌های اجتماعی مبتنی بر هوش مصنوعی

چند هفته پیش در حین پیمایش در اینستاگرام، از من خواسته شد که با شخصیت‌های هوش مصنوعی جدید اینستاگرام چت کنم. متا از سال گذشته به طور متناوب آنها را عرضه کرده است و در حالی که (در حال حاضر) از فیس‌بوک حذف شده‌اند، هنوز چند مورد در اینستاگرام وجود دارند که می‌توانید با آنها چت کنید.

من اغلب به این فکر می‌کنم که چگونه اصل فناوری در حذف اصطکاک بیش از حد پیش رفته است. اصطکاک و ناراحتی در تجربه انسانی ضروری هستند. انسان بودن در جامعه به معنای آسیب‌پذیر بودن است، به معنای به خطر انداختن نشان دادن خود به دیگران است. من نگرانم که فناوری ما را به چنان آسایشی کشانده است که عادی‌ترین و طبیعی‌ترین جنبه‌های حیوان اجتماعی بودن، مانند یک کار طاقت‌فرسا، اگر نگوییم خطرناک، به نظر می‌رسند.

ما نباید تعاملات شبیه‌سازی‌شده را با تعاملات انسانی، به ویژه برای کودکان، حتی در خوش‌خیم‌ترین زمینه‌ها، یکسان بدانیم. زمینه‌های کمتر خوش‌خیم حتی بدتر هستند. هر کسی می‌تواند یک عامل هوش مصنوعی ایجاد کند و بگوید که شما باید از آن به عنوان درمانگر، دوست دختر یا مشاور مالی خود استفاده کنید. حتی با حساب‌های خیالی – مانند یک عامل چت Spongebob Squarepants – شما (یا فرزندتان) اساساً با یک غریبه صحبت می‌کنید.

یک فرمول نگران‌کننده: انسانیت عامل هوش مصنوعی باعث می‌شود که احساس قابل اعتماد بودن کند و ماشینی بودن هوش مصنوعی باعث می‌شود که احساس شود بی‌طرف و بدون دستور کار است. در مقیاسی گسترده‌تر، من نگران پتانسیل این حساب‌ها برای انتشار اطلاعات نادرست هستم، نه با فریاد زدن از خیابان‌های X با یک بلندگو، بلکه با زمزمه کردن مستقیم در گوش‌های ما.

۳. تراشه Majorana 1 مایکروسافت

محاسبات کوانتومی – یکی دیگر از موضوعات عمیقاً علمی تخیلی – در حال تبدیل شدن به واقعیت است. علم پشت مکانیک کوانتومی بسیار متراکم است، اما در اینجا یک مقدمه آورده شده است.

در محاسبات، یک "بیت" کلاسیک یا ۱ است یا ۰. یک بیت کوانتومی (یا کیوبیت) می‌تواند همزمان ۰ و ۱ باشد. قابلیت یک کامپیوتر کوانتومی به تعداد کیوبیت‌هایی که آن را تغذیه می‌کنند، بستگی دارد.
کامپیوترهای کوانتومی می‌توانند تلاش‌های زیادی را برای حل یک مسئله به طور همزمان انجام دهند، در مقایسه با کامپیوترهای سنتی که یک تلاش را در یک زمان انجام می‌دهند، هرچند بسیار سریع.
برای بسیاری، استاندارد یک کامپیوتر "مرتبط با کوانتوم" توانایی آن در شکستن رمزگذاری RSA (معروف به فرمول الگوریتمی که معمولاً برای رمزگذاری داده‌ها استفاده می‌شود) به طور قابل اعتماد در مقیاس بزرگ است.

بسیاری از کشورها در حال مسابقه برای توسعه قابلیت‌های کوانتومی در چندین بخش عمودی و موارد استفاده هستند – چین، آلمان، کانادا، ایالات متحده، هند و ژاپن پیشرو هستند. هیچ راهی برای دانستن اینکه چه زمانی کوانتوم به یک نقطه قابلیت تجاری یا شخصی می‌رسد وجود ندارد.

با این حال، تراشه Majorana 1 جدید مایکروسافت نشان‌دهنده یک گام مهم به سوی این واقعیت است. معماری مورد استفاده برای توسعه Majorana 1 به نظر می‌رسد قادر به پشتیبانی از یک میلیون کیوبیت باشد. برای اطلاع، زمانی که IBM اولین پردازنده کوانتومی را در سال ۲۰۲۳ منتشر کرد، بیش از ۱۰۰۰ کیوبیت داشت و این یک اتفاق بزرگ بود. در سال ۲۰۲۱، دانشگاه علم و صنعت چین یک پردازنده ۶۶ کیوبیتی را معرفی کرد که یک محاسبه را در فقط ۱.۲ ساعت حل کرد که حل آن برای یک ابرکامپیوتر سنتی ۸ سال طول می‌کشید.

نگرانی من برای خود تراشه نیست. Majorana 1 شگفت‌انگیز است. نگرانی من این است که جهان برای تغییر پارادایم کوانتومی که Majorana 1 پیش‌بینی می‌کند، آماده نخواهد بود. گام برداشتن به دنیای کوانتومی مستلزم آن است که سازمان‌ها و ارائه‌دهندگان زیرساخت از همه نوع، الگوریتم‌های مقاوم در برابر کوانتوم را برای محافظت از داده‌های ما و خود در برابر اختلال اتخاذ کنند. با این حال، چنین تغییرات رمزنگاری از نظر تاریخی دردناک بوده است. بسیاری از بخش‌های عمودی هنوز برای مهاجرت به استانداردهای ده ساله مانند AES یا SHA-2 تلاش می‌کنند.

دنیای مدرن و شیوه زندگی ما عمیقاً به رمزگذاری متکی است و تقریباً به طور قطع دشمنان دولت-ملت در صورت پیشی گرفتن از ما، از قابلیت‌های کوانتومی علیه ما استفاده می‌کنند.

خواهیم دید چه چیزی باقی می‌ماند

نگاه کردن به اختراعات ناموفق از اوایل قرن بیستم سرگرم‌کننده است. امروزه، آنها بسیار عجیب و دست و پا گیر به نظر می‌رسند. ایده‌های منحصربه‌فرد بسیار زیادی که زمانی به نظر می‌رسیدند تغییردهنده بازی بعدی هستند، با شکست مواجه شدند و سپس به فراموشی سپرده شدند.

من همین حس را در مورد دوران فعلی خود دارم. هوش مصنوعی، کوانتوم و سایر پیشرفت‌ها، امکانات جدید بسیار زیادی را ایجاد می‌کنند، به ویژه هنگامی که با یکدیگر برخورد و ترکیب می‌شوند. من به عنوان یک متخصص فناوری، احساس می‌کنم کودکی در یک فروشگاه آب نبات هستم. فقط امیدوارم فناوری که زنده می‌ماند، به نفع منافع ما و افراد و به عنوان یک گونه باشد.

Lindsey Witmer Collins بنیانگذار WLCM App Studio است.

BY Lindsey Witmer Collins