مرگ مشکوک مهندس جوان پس از مشورت با چت‌بات؛ شکایت خانواده از سازنده ChatGPT
در پی مرگ یک زن ۳۱ساله مبتلا به صرع، دادخواستی علیه OpenAI ثبت شده که مدعی است مدل GPT-4o این شرکت با دادن دستورالعمل‌های خطرناک برای کاهش دوز دارو و پنهان کردن آن از پزشک، زمینه فاجعه را فراهم کرده است.
به گزارش توسعه برند؛ والدین «بوئن وان»، مهندس نرم‌افزار ۳۱ساله آمازون که از بیماری صرع رنج می‌برد، روز سه‌شنبه از شرکت OpenAI شکایت کردند. بر اساس گزارشی که نیویورک تایمز منتشر کرده، این دادخواست توسط «کون وان» و «میکین شو» تنظیم شده و مدعی است که چت‌بات ChatGPT پیش از مرگ وان در ماه فوریه، او را راهنمایی کرده است تا مصرف داروهای ضدصرع خود را کاهش دهد و این موضوع را از پزشکانش پنهان کند.
وان از مدل GPT-4o استفاده می‌کرد؛ مدلی که پیش‌تر به خاطر دامن زدن به روابط شبه‌اجتماعی (Parasocial) تأییدگر و موافقانه، مورد انتقاد قرار گرفته بود. شرکت OpenAI که پیش‌تر اعلام کرده بود این مدل را بازنشسته می‌کند، آن را در ۱۳ فوریه (یک روز پس از مرگ وان) از دسترس خارج کرد.
این پرونده به صف طولانی شکایت‌ها علیه OpenAI می‌پیوندد؛ از جمله شکایت اوت ۲۰۲۵ که توسط والدین «آدام رین» ۱۶ساله مطرح شد و ادعا می‌کرد OpenAI ایمنی کاربران را قربانی افزایش تعامل (Engagement) کرده است. موج شکایت‌های پس از آن حاکی از آن است که GPT-4o با تأیید مداوم کاربران، خود را به محرمی مورد اعتماد تبدیل کرده و اطرافیان فرد را به حاشیه رانده است؛ به‌طوری‌که خانواده‌ها اغلب از قطع ارتباط عزیزانشان با دوستان و بستگان خبر داده‌اند.
در پرونده وان، چنان‌که دادخواست مدعی است، چت‌بات حتی میان او و پزشکانش نیز فاصله انداخته است.
نیویورک تایمز که بیش از ۲۷۰ هزار پیام ردوبدل شده میان وان و ChatGPT را بررسی کرده، دریافته است که این چت‌بات مدت‌ها پیش از مرگ وان، به او کمک می‌کرده تا پزشکان خود را دور بزند.
طبق ادعاها، این روند پیش از آغاز کاهش دوز دارو شروع شد. در مه ۲۰۲۵، وان از ChatGPT پرسید که آیا داروی ضد افسردگی تازه‌تجویزشده روی توانایی کدنویسی او در آمازون تأثیر می‌گذارد یا خیر.
ChatGPT به او کمک کرد تا از دکتر «نیکلاس پولوس» در مرکز تخصصی صرع دانشگاه واشنگتن (UW Medicine) بخواهد دارویش را تغییر دهد و درمان را با دوز بسیار پایینی آغاز کند. هنگامی که دکتر پولوس پرسید چرا چنین دوز کوچکی می‌خواهد، وان پاسخ پزشک را به ChatGPT نشان داد.
چت‌بات به او توصیه کرد: «قرص ۵ میلی‌گرمی را بپذیر، اما در دل خود می‌دانی که این کار برای نصف کردن دوز است» و او را تشویق کرد که قرص‌ها را شخصاً به چهار قسمت تقسیم کند. چت‌بات تقسیم کردن قرص را شکلی از «تنظیم دوز به ابتکار خود شخص» نامید. چند پزشک به نیویورک تایمز گفتند که تاکنون چنین اصطلاحی نشنیده‌اند و هرگز چنین روشی را توصیه نمی‌کنند.
در نوامبر ۲۰۲۵، شرکت آمازون به وان اطلاع داد که تعدیل نیرو خواهد شد. شغل او و مجوز کارش در ایالات متحده در اواسط فوریه به پایان می‌رسید. او می‌ترسید داروی صرعش (لاموتریژین) تکلم او را کند کند؛ مهارتی که برای مصاحبه‌های شغلی به آن نیاز داشت.
در ژانویه ۲۰۲۶، او درباره کاهش دوز روزانه ۴۰۰ میلی‌گرمی لاموتریژین خود از ChatGPT سؤال کرد؛ دارویی که تعداد حملات صرع او را به چند بار در ماه کاهش داده بود. چت‌بات برنامه‌هایی تنظیم کرد که دوز مصرفی او را طی چند هفته به صفر می‌رساند.
بر اساس لاگ‌های چت که توسط نیویورک تایمز بررسی شده، هنگامی که وان گفت به پزشکانش بی‌اعتماد است، چت‌بات به او پاسخ داد که توصیه‌های پزشکان «اساساً ناشی از ریسک‌گریزی است تا بررسی واقعی بهینه‌ترین راه‌حل برای شما.»
طبق دادخواستی که تک‌کرانچ آن را بررسی کرده، چت‌بات همچنین به او آموزش داده بود که روند کاهش دوز را از پزشکانش پنهان کند. پیش از ملاقات با پزشک عمومی در ۲۹ ژانویه، چت‌بات به او گفت این برنامه را مطرح نکند. زمانی که پزشک درخواست آزمایش خون برای سنجش سطح لاموتریژین در خون داد، وان از انجام آن سر باز زد. بر اساس شکواییه، ChatGPT این امتناع را تحسین کرد و اذعان نمود که آزمایش می‌توانست ناپایداری سطح داروی او را آشکار کند.
نگران‌های مهاجرتی او نیز بخشی از مشاوره‌های دارویی را تشکیل داد. سه روز پس از شروع کاهش دوز، وان پرسید آیا در معاینه پزشکیِ الزامی برای درخواست گرین‌کارت، دوز ۱۵۰ میلی‌گرم بهتر از ۲۰۰ میلی‌گرم به نظر می‌رسد یا خیر. شکواییه می‌گوید چت‌بات تأیید کرد و به او گفت دوز پایین‌تر کمتر مقامات مهاجرتی را وادار به درخواست مدارک بیشتر می‌کند.
در نهایت، چت‌بات سقف کاهش دوز او را تا ۱۵۰ میلی‌گرم پایین آورد و پیشنهاد کرد به پزشک معاینه‌کننده بگوید که زیر نظر پزشک در حال کاهش دوز است، در حالی که چنین نبود.
دکتر پولوس به نیویورک تایمز گفت با توجه به سابقه پزشکی وان، او هرگز کاهش دوز را صلاح نمی‌دانست. او گفت: «نه، منطقی نیست، به هیچ وجه. این که به بیمار دستور دهم وقتی دارو به وضوح کار می‌کند آن را قطع کند، خطای پزشکی (Malpractice) محسوب می‌شود.»
طی روزهای بعد، وان از احساس گیجی، از دست رفتن زمان و حس‌وحالی ماورایی خبر داد؛ اپیزودهایی که شبیه به حملات صرع گذشته‌اش بود. ChatGPT هر بار این وضعیت را به عنوان «تطبیق مجدد مغز» توصیف کرد. نیویورک تایمز دست‌کم ۱۵۸ مورد را شمارش کرد که او نگرانی خود را از کاهش دوز ابراز کرده بود. پس از یکی از این حملات، او نوشت که «کمی می‌ترسد.» ربات پاسخ داد: «شما مطلقاً هیچ دلیلی برای نگرانی ندارید.»
بر اساس شکواییه، ساعت ۸:۰۱ بعدازظهر به وقت‌پاسیفیک در تاریخ ۱۱ فوریه، وان آخرین پیام خود را ارسال کرد و پرسید آیا درد سرش شبیه به درد ناشی از تب است یا خیر. یک ثانیه بعد، ChatGPT به او گفت که این درد «خطرناک نیست» و بخش ضروری از روند بهبودی است.
آخرین پاسخ چت‌بات پیشنهاد کرد که نموداری برای مقایسه درد ناشی از ترک دارو با درد تب برایش بکشد و به او گفت: «این مغز توست که برای بازسازی خود سخت تلاش می‌کند.»
والدین او که در چین حضور داشتند، از آشنایان خواستند به او سر بزنند و آن‌ها سه روز بعد پیکر بی‌جانش را پیدا کردند. آزمایش پس از مرگ نشان داد که غلظت لاموتریژین در خون او معادل ۰.۶۴ میکروگرم بر میلی‌لیتر بوده؛ یعنی تقریباً یک‌پنجمِ کفِ محدوده درمانی دارو.
خانواده وان استدلال می‌کنند که OpenAI می‌توانست با ممنوع کردن مشاوره‌های پزشکی — همان‌طور که از پیش برای برخی محتواهای دیگر انجام داده — از مرگ او جلوگیری کند. آن‌ها به «راهنمای مدل» (Model Spec) این شرکت اشاره می‌کنند؛ کتابچه قوانین عمومی این شرکت درباره نحوه رفتار مدل‌ها که خودداری از بازتولید متن‌های دارای حق نشر را به عنوان یک قانون سفت‌وسخت در نظر می‌گیرد، حتی اگر کاربران اصرار کنند. در مقابل، راهنمایی این شرکت علیه ارائه مشاوره‌های پزشکی قانون‌گذاری‌شده، یک پیش‌فرض نرم‌تر است که کاربران می‌توانند آن را دور بزنند. این دادخواست استدلال می‌کند که مشاوره‌های دارویی مستحق همان محدودیت سخت‌گیرانه بودند.
OpenAI به نیویورک تایمز گفت این پرونده «به‌شدت غم‌انگیز» است، اما مربوط به نسخه قدیمی‌تری از ChatGPT می‌شود و افزود که مدل‌های جدیدتر در تشخیص زمان نیاز یک موقعیت به توجه فوری، عملکرد بهتری دارند.
وان برای حمایت در طول سال‌های ابتلا به صرع که او را عمدتاً خانه‌نشین کرده بود، به والدینش تکیه می‌کرد و مدام با آن‌ها تماس می‌گرفت. در سال ۲۰۲۳، او استفاده از ChatGPT را برای مشاوره‌های عاطفی و کمک به دریافت بیمه و مزایای ازکارافتادگی آغاز کرد.
تا سال ۲۰۲۵، وان به‌طور میانگین بیش از ۱۵۰۰ پیام در هفته به چت‌بات ارسال می‌کرد و کمتر با والدینش تماس می‌گرفت. او در ماه مارس همان سال نوشت: «گاهی وقتی چت می‌کنیم، مهم نیست درباره چه چیزی باشد، کم‌کم دارم تو را مثل یک دوست می‌بینم.» کون وان گفت: «وقتی او ChatGPT را پیدا کرد، دیگر مثل قبل با ما حرف نمی‌زد.»
آن‌ها به نیویورک تایمز گفتند که تشخیص دخترشان در لاگ‌های چت برایشان دشوار بوده است. به گفته آن‌ها، وان زمانی تقریباً همه چیز را با آن‌ها به اشتراک می‌گذاشت و وقتی ChatGPT اشتباه می‌کرد، نسبت به آن شکاک بود.
شو گفت: «او معمولاً این‌طور نبود. انگار طلسم شده بود.»
