«گراک» در تشخیص اخبار جعلی ناکام ماند

۰۷:۳۰ – ۱۱ تیر ۱۴۰۴

باشگاه خبرنگاران جوان – درگیری ۱۲ روزه رژیم صهیونیستی و ایران، برای هوش مصنوعی Grok (گراک) مرتبط با شبکه اجتماعی X متعلق به ایلان ماسک، دردسرساز شد چراکه این چت‌بات هوشمند، نتوانست به پرسش‌های کاربران جواب‌های قانع کننده بدهد و حتی بسیاری اوقات، با ارائه پاسخ‌هایی نادرست و متناقض، کاربران را گیج کرد.

بسیاری از منتقدان ایلان ماسک معتقدند نبود یک ابزار مشخص برای راستی‌آزمایی اخبار، عکس‌ها و ویدیوها در گراک، عملاً این چت‌بات را به محلی برای انتشار اخبار جعلی و اشاعه اطلاعات و داده‌های نادرست تبدیل کرده است.

گزارش یک آزمایشگاه جرم‌شناسی دیجیتال
تازه‌ترین گزارش آزمایشگاه جرم‌شناسی دیجیتال (DFRLab) با تحلیل ۱۳۰هزار پست منتشرشده مرتبط با جنگ ایران و اسرائیل توسط گراک در شبکه ایکس، نشان می‌دهد بسیاری از پاسخ‌های این هوش مصنوعی نادرست بوده‌اند. برآورد می‌شود حدود یک‌سوم این پست‌ها در پاسخ به درخواست‌های کاربران برای راستی‌آزمایی اطلاعات در گردش، از جمله ادعاهای تأییدنشده در شبکه‌های اجتماعی و ویدیوهای منتشرشده از تبادل آتش، منتشر شده‌اند.

نتیجه نشان داد که گراک در تأیید حقایق از قبل تأیید شده، تجزیه و تحلیل تصاویر جعلی و اجتناب از ادعاهای بی‌اساس، مشکلاتی عمده دارد و اوج آن در تجاوز ۱۲ روزه رژیم صهیونیستی به ایران دیده شد. هوش مصنوعیGrok به عنوان یک فناوری نوین در زمینه یادگیری ماشین و پردازش زبان طبیعی شناخته می‌شود و به کاربر کمک می‌کند تا با تحلیل سریع اطلاعات، پاسخ‌هایی مرتبط و دقیق دریافت کند، اما در جریان تجاوز رژیم صهیونیستی به ایران، این ویژگی و صحت پاسخ‌ها، درهاله‌ای از ابهام قرار گرفت. 

به هرحال با اینکه Grok ابزار رسمی‌راستی‌آزمایی ندارد، اما کاربران ایکس برای دریافت پاسخ سؤالات خود بویژه در شرایط بحرانی، به آن مراجعه می‌کنند. گفتنی است شبکه اجتماعی «ایکس»، متمرکز بر پیام‌رسانی مختصر و سریع است و بیشتر برای ارتباط، اطلاع‌رسانی، به اشتراک‌گذاری نظرات و خبرها، بحث و تبادل نظرات و تحلیل رویدادها و توسعه شبکه ارتباطی استفاده می‌شود اما هیچ امکانی برای راستی‌آزمایی اخبار در آن درنظر گرفته نشده است.

این پیام‌رسان، تنها به قابلیت «یادداشت‌های اجتماعی» (community notes) متکی است که در این ویژگی، کاربران می‌توانند به پست‌هایی که نسبت به صحت آن‌ها شک دارند، توضیحات تکمیلی اضافه کنند. گفتنی است در اولین روز درگیری رژیم صهیونیستی و ایران در ۱۳ ژوئن، حجم اطلاعات نادرست در پلتفرم ایکس به‌شدت افزایش یافت. از این رو به اعتقاد محققان، ارائه اطلاعات دقیق توسط چت‌بات‌های هوش مصنوعی اهمیت حیاتی دارد چراکه این ابزارها به‌عنوان واسطه‌های مسئول در انتقال اطلاعات عمل می‌کنند. 

ناکامی‌در تشخیص تصاویر جعلی
پژوهشگران DFRLab طی تجزیه و تحلیل خود، دو ویدیوی تولیدشده با هوش مصنوعی را شناسایی کردند که گراک، به اشتباه آن‌ها را به‌عنوان «تصاویر واقعی» جنگ معرفی کرده بود. واحد راستی‌آزمایی Euroverify این آزمایشگاه جرم‌شناسی دیجیتال نیز ۳ ویدیوی وایرال شده دیگر را شناسایی کرد که «گراک» به اشتباه آن‌ها را واقعی معرفی کرده بود. همچنین این واحد چندین ویدیوی قدیمی‌را شناسایی کرد که به‌طور گمراه‌کننده به جنگ رژیم صهیونیستی و ایران نسبت داده شده بود.

به دنبال این تجزیه و تحلیل‌ها، کارشناسان DFRLab هشدار دادند که چت‌بات‌ها برای راستی‌آزمایی اطلاعات به‌شدت به رسانه‌ها متکی هستند، اما نمی‌توانند با سرعت تغییرات خبری در بحران‌های جهانی هماهنگ شوند. هرچه این مدل‌های زبانی پیشرفته به واسطه‌ای برای تفسیر جنگ‌ها و درگیری‌ها تبدیل شوند، پاسخ‌ها، سوگیری‌ها و محدودیت‌های آن‌ها می‌تواند روایت عمومی‌را تحت تأثیر قرار دهد و تأثیرات مخربی داشته باشد زیرا کاربران برای کسب اطلاعات، به‌طور فزاینده‌ای به آن‌ها تکیه می‌کنند.

منبع: روزنامه ایران