پرونده تیراندازی کانادا، شرکت‌های هوش مصنوعی را زیر فشار نظارتی قرار داد
پس از افشای اینکه OpenAI پیش‌تر حساب ChatGPT تیرانداز ۱۸ ساله را بسته اما به مقامات اطلاع نداده بود، مقام‌های کانادایی خواستار توضیح درباره پروتکل‌های ایمنی این شرکت شدند؛ موضوعی که تعادل میان حریم خصوصی و پیشگیری از خشونت را به چالش کشیده است.
به گزارش توسعه برند به نقل از رویترز، اعتراف شرکت OpenAI مبنی بر اینکه ماه‌ها پیش از حمله مرگبار، حساب ChatGPT متعلق به تیرانداز مدرسه کانادا، «جسی ون روتسلاار»، را مسدود کرده بود، اکنون توجه‌ها را به فعالیت‌های آنلاین گذشته او جلب کرده و این پرسش را مطرح ساخته که آیا فرصت‌هایی برای جلوگیری از یکی از مرگبارترین تیراندازی‌های تاریخ کانادا از دست رفته است یا خیر.
اوپن‌ای‌آی تصمیم گرفت موضوع را به پلیس گزارش نکند؛ تصمیمی که باعث شد وزیر هوش مصنوعی کانادا، ایوان سولومون، مدیران این شرکت را برای توضیح درباره پروتکل‌های ایمنی به اتاوا فرا بخواند.
این تیراندازی در شهر کوچک تامبلر ریج در استان بریتیش کلمبیا رخ داد. ون روتسلاار ۱۸ ساله ابتدا مادر و یکی از اعضای خانواده خود را در خانه کشت و سپس در مدرسه، یک معلم و پنج دانش‌آموز را به ضرب گلوله به قتل رساند. دو نفر دیگر نیز با جراحات شدید در بیمارستان بستری شدند.
کارشناسان جرائم گفتند در حالی که بررسی دقیق‌تر پلتفرم‌های هوش مصنوعی و شبکه‌های اجتماعی ضروری است، احتمال دارد پلیس یا سایر نهادها نیز فرصت‌هایی برای جلوگیری از این فاجعه را از دست داده باشند. پیش‌تر پلیس سلاح‌ها را از خانه او ضبط کرده بود، اما بعداً بازگردانده شدند. همچنین پلیس از سابقه مشکلات سلامت روان او آگاه بود.
پلیس سواره‌نظام سلطنتی کانادا اعلام کرد تحقیقات همچنان ادامه دارد و برخی پرسش‌ها به‌دلیل ملاحظات قانونی یا روندهای قضایی قابل پاسخ نیست.
پاتریک واتسون، استاد جرم‌شناسی دانشگاه تورنتو که ارتباطی با پرونده ندارد، گفت:
«این خانواده آشکارا با مشکلات زیادی روبه‌رو بوده است. اما ما همچنین به نظارت بسیار بیشتر بر شرکت‌هایی نیاز داریم که این پلتفرم‌های جدید را ایجاد می‌کنند؛ فضاهایی که عملاً به حوزه عمومی جدیدی با مسئولیت‌پذیری اندک تبدیل شده‌اند.»
در پستی که بعداً از ردیت حذف شد، ون روتسلاار نوشته بود که به اختلال کم‌توجهی-بیش‌فعالی (ADHD)، افسردگی، اختلال وسواس فکری-عملی و اختلال طیف اوتیسم مبتلا بوده است.
او همچنین پیش‌تر با استفاده از اپلیکیشن Roblox Studio بازی‌ای طراحی کرده بود که در آن شخصیت‌ها در یک مرکز خرید به یکدیگر تیراندازی می‌کردند. شرکت روبلاکس اعلام کرد حساب کاربری و محتوای مربوط به او را یک روز پس از این حادثه حذف کرده و این بازی تنها هفت بازدید داشته است.
اوپن‌ای‌آی در بیانیه‌ای اعلام کرد در ژوئن گذشته حساب ChatGPT او را به دلیل «سوءاستفاده از مدل‌ها در راستای فعالیت‌های خشونت‌آمیز» مسدود کرده و بررسی کرده بود که آیا باید موضوع را به نیروهای انتظامی ارجاع دهد یا خیر.
این شرکت در نهایت تصمیم گرفت که فعالیت حساب به «آستانه بالاتر مورد نیاز برای ارجاع» نرسیده است، عمدتاً به این دلیل که برنامه‌ریزی فوری یا قابل‌اعتماد برای حمله شناسایی نشده بود. اوپن‌ای‌آی افزود مداخله در چنین مواردی می‌تواند برای جوانان و خانواده‌های آنان آزاردهنده باشد و همچنین نگرانی‌های حریم خصوصی ایجاد کند.
«فرصتی از دست رفته؟»
تریسی ویلَنکور، استاد دانشگاه اتاوا و متخصص سلامت روان نوجوانان و پیشگیری از خشونت، گفت عدم گزارش اوپن‌ای‌آی به پلیس «فرصتی از دست‌رفته» بوده است، هرچند اذعان کرد که چالش‌هایی در حفظ حریم خصوصی کاربران وجود دارد.
او گفت:
«کاربران ChatGPT ممکن است نگران باشند که تحت نظارت قرار بگیرند، اما هوش مصنوعی آن‌قدر قدرتمند است که باید راهی برای کاهش تهدیدهای معتبر پیدا کنیم.»
در مقابل، سینتیا خو، وکیل حوزه فناوری و حقوق بشر، هشدار داد که تبدیل شرکت‌های هوش مصنوعی به بازوی نظارتی خصوصی برای نیروهای انتظامی اشتباه خواهد بود و می‌تواند به نقض حریم خصوصی، به‌ویژه برای گروه‌های به حاشیه رانده‌شده، منجر شود.
نخست‌وزیر بریتیش کلمبیا، دیوید ایبی، گفت اگر اوپن‌ای‌آی درباره فعالیت‌های خشونت‌آمیز آنلاین این فرد به مقامات هشدار داده بود، شاید می‌شد از این فاجعه جلوگیری کرد و خواستار شفافیت بیشتر شرکت‌های فناوری شد.
اوپن‌ای‌آی نیز این حادثه را «تراژدی ویرانگر» خواند و اعلام کرد پس از انتشار هویت تیرانداز فوراً با نیروهای انتظامی تماس گرفته و در حال همکاری کامل با تحقیقات جاری است.
