ماجرا با تایپ کلماتی منزجرکننده در چت جی پی تی آغاز شد، اما خیلی زود به یکی از جنجالیترین پروندههای قضایی فناوری رسید. جوان ۲۵ سالهای در فلوریدا وقتی خشم ناشی از جدایی را با چت جی پی تی در میان گذاشت و از تصمیمش برای تجاوز و قتل نامزد سابقش میگفت، تصور نمیکرد با وجود قوانین سختگیرانه حریم خصوصی، دستیاری هوشمند در سطح ChatGPT کلمهبهکلمه حرفهایش را زیر نظر بگیرد.
در ماه مه ۲۰۲۶، شرکت OpenAI با شناسایی الگوهای خطرناک در این مکالمات، موضوع را مستقیماً به FBI گزارش داد. مأموران فدرال بلافاصله پرونده را به دست پلیس محلی رساندند و «دارن شیدا ژو» (Darren Shida Zhou) در ۲۹ مه دستگیر شد.
ژو سرانجام در ۱۳ اوت به سه اتهام کیفری اقرار کرد. دادگاه شهرستان پامبیچ (Palm Beach) بهجای مجازات حبس، او را به هشت سال آزادی مشروط محکوم کرد. این ماجرا اکنون یک پرسش اساسی را درباره مرزهای حریم خصوصی در برابر دنیای فناوری قرار داده است: سیستمهای نظارتی در ChatGPT دقیقاً در چه نقطهای مرز خشمِ لفظی را از یک تهدید واقعی تشخیص میدهند و پای قانون را به میان میکشند؟
تهدیدها چگونه از یک گفتوگوی شخصی فراتر رفت؟
اسناد پرونده و گزارش روزنامه محلی Palm Beach Post نشان میدهد که ژو در مارس ۲۰۲۶، درست چند هفته پس از فروپاشی رابطهاش، به چت جی پی تی پناه برد. او ابتدا از جزئیات زندگی نامزد سابقش مینوشت؛ از کافهها و مکانهایی که میرفت تا مردهایی که با آنها معاشرت میکرد. اما ریتم این گفتوگوها خیلی زود از یک اندوه ساده به جنون تغییر کرد.
پیامهایی که در گزارش بازداشت ثبت شدهاند، پرده از یک کابوس چند هفتهای برمیدارند. ژو در جایی مینویسد که تا پایان ماه کار زن را تمام خواهد کرد و در پیامی دیگر، خطونشان میکشد که «اگر من نتوانم او را داشته باشم، هیچکس دیگری هم نباید داشته باشد.» او حتی برای یافتن پاتوقهای زن و زمان مناسب حمله، بدون توجه به خطرات و هشدارهای امنیتی، از هوش مصنوعی راهنمایی خواسته بود.
اینجا دیگر پای یک عصبانیت لحظهای در میان نبود و ارزیابی خطرات توسط سیستمهای هوش مصنوعی نشان میداد که ژو بارها کلمات قتل، تجاوز و حتی خودکشی پس از جنایت را در پیامهایش تکرار کرده و دامنه تهدیدها را به اعضای خانواده زن هم کشانده است. همین اصرار و جزئیات وحشتناک بود که پرونده را از یک پرخاشگری ساده متمایز میکرد.
در آن روزها، ژو بهعنوان تحلیلگر در شرکت گلدمن ساکس (Goldman Sachs، بانک سرمایهگذاری و غول مالی آمریکایی) کار میکرد؛ شغلی که پس از رسانهای شدن اتهاماتش، بلافاصله آن را از دست داد. با اینهمه، وکیل او بعدها در دادگاه تأکید کرد که موکلش برخلاف رجزخوانیهایش در فضای مجازی، هرگز اقدامی در راستای قتل نامزد سابقش انجام نداده است.
چرا OpenAI سکوت را شکست و به پلیس گزارش داد؟
شرکت اوپنایآی با تاکید بر حفظ حریم خصوصی کاربران، هر پیام خشن یا تندی را در پلتفرم ChatGPT مستقیم به پلیس گزارش نمیکند و روند شناسایی خطر در این شرکت طی چند مرحله انجام میشود:
۱. شناسایی هوشمند:
ابتدا ابزارهای خودکار، پیامها را رصد میکنند. اگر جملهای نشانه خشونت یا خطر داشته باشد، سیستم آن گفتوگو را نشانهگذاری (Flagged) میکند.
۲. بررسی توسط کارشناسان:
در مرحله بعد، متخصصان انسانی وارد عمل میشوند. آنها فقط یک جمله را جداگانه نمیخوانند، بلکه تمام گفتوگو را کنار هم میگذارند تا ببینند آیا واقعاً خطری جدی و فوری کسی را تهدید میکند یا نه.
چرا این روش در پرونده ژو کلیدی بود؟
دقیقاً در همان روزهایی که ژو مشغول نوشتن پیامهایش بود، اوپنایآی سیستمهایش را ارتقا داده بود تا «زمینه و روند گفتوگو» (Context) را در مکالمات طولانی بهتر بفهمد. گاهی یک جمله به تنهایی شاید تهدیدآمیز به نظر نرسد، اما وقتی دهها پیام کنار هم قرار میگیرند، نیت اصلی فرد مشخص میشود.
در این پرونده، بررسی سابقه مکالمات و سنجش خطرات نشان داد که تحلیلهای هوش مصنوعی از تغییر لحن و الگوی رفتاری ژو کاملاً درست بوده و تهدید واقعاً جدی است؛ به همین دلیل اوپنایآی اطلاعات را به افبیآی (FBI – اداره تحقیقات فدرال آمریکا) داد و آنها هم پرونده را برای دستگیری او به پلیس محلی سپردند.
از لغو حریم خصوصی در پرونده ChatGPT تا حکم دادگاه
بعد از دریافت اطلاعات، FBI پرونده را در اختیار پلیس شهرستان پالم بیچ گذاشت و تحقیقات محلی شروع شد. پلیس ۲۹ مه ژو را بازداشت کرد. دادستانی هم در ماه ژوئن سه اتهام علیه او مطرح کرد: تعقیب و مزاحمت مکرر برای نامزد سابقش همراه با تهدید، تهدید کتبی به قتل یا آسیب بدنی و استفاده غیرقانونی از ابزار ارتباطی برای ارتکاب جرم.
پرونده به محاکمه کامل نرسید. دادستانی و وکلای ژو بر سر یک توافق قضایی به نتیجه رسیدند و او ۱۳ اوت هر سه اتهام را پذیرفت. قاضی «اسکات ساسکاوئر» نیز بر اساس این توافق، صدور محکومیت رسمی او را به تعویق انداخت و برایش هشت سال آزادی مشروط تعیین کرد.
ژو در دو سال اول باید تحت نظارت باشد. او همچنین اجازه تماس با نامزد سابقش را ندارد و نمیتواند سلاح گرم داشته باشد. طبق حکم دادگاه، ژو باید در برنامهای برای پیشگیری از خشونت خانگی شرکت کند و ارزیابی و درمان سلامت روان را نیز انجام دهد.
وکیل ژو هنگام دفاع از موکلش به سابقه او اشاره کرد. به گزارش Virginia Lawyers Weekly، ژو پیش از این سابقه کیفری نداشت و با رتبه تحصیلی بالا از دانشگاه Northeastern فارغالتحصیل شده بود. وکیل او همچنین گفت ژو هنگام بازداشت هیچ سلاح گرمی در اختیار نداشت.
آیا نقض حریم خصوصی در تمامی چتهای ChatGPT همیشگی است؟
نه. OpenAI نمیگوید هر کاربری که در ChatGPT حرف خشونتآمیزی بزند، به پلیس گزارش میشود. این شرکت ابتدا از سامانههای خودکار برای شناسایی رفتارهای مشکوک استفاده میکند. اگر یک مکالمه نشانهای جدی از خطر داشته باشد، کارشناسان انسانی آن را بررسی میکنند و در موارد محدود، موضوع میتواند به پلیس برسد.
برای جلوگیری از خطرات احتمالی، سیستمهای هوش مصنوعی گفتگوها را بهصورت جامع بررسی میکنند؛ زیرا یک پیام تهدیدآمیز ممکن است بهتنهایی برای اقدام کافی نباشد، اما وقتی همان پیام در کنار حرفهای قبلی و بعدی کاربر قرار میگیرد، ممکن است معنای متفاوتی پیدا کند. OpenAI میگوید سامانههایش برای پیدا کردن چنین الگوهایی طراحی شدهاند و کارشناسان آموزشدیده نیز مکالمههای علامتگذاریشده را بررسی میکنند.
بنابراین این تصور که «ChatGPT هرکس را تهدید کند به FBI گزارش میدهد» دقیق نیست. روندی که OpenAI توضیح داده، چند مرحله دارد: شناسایی اولیه، بررسی انسانی و سپس در صورت تشخیص خطر جدی و قریبالوقوع برای فردی دیگر، ارجاع به نیروهای انتظامی.
پرونده دارن ژو یکی از نمونههای علنی این روند است. در این پرونده، گفتگوهای یک کاربر از محیط ChatGPT فراتر رفت و سر از تحقیقات پلیس درآورد.
پرسشهای متداول
دارن ژو چه حکمی گرفت؟
دارن ژو ۱۳ اوت ۲۰۲۶ هر سه اتهام مطرحشده علیه خود را پذیرفت. دادگاه برای او هشت سال آزادی مشروط تعیین کرد و دو سال نخست این دوره را تحت نظارت الکترونیکی قرار داد.
آیا OpenAI همه گفتگوهای کاربران را بررسی میکند؟
خیر. برای احترام به حریم خصوصی کاربران در محیط ChatGPT، شرکت OpenAI ابتدا از سامانههای خودکار برای شناسایی فعالیتهای بالقوه خطرناک استفاده میکند. فقط مکالمههایی که علامتگذاری شوند ممکن است به بررسی کارکنان آموزشدیده برسند. این بررسی شامل همه گفتگوهای کاربران نمیشود.
چه زمانی OpenAI ممکن است یک کاربر را به پلیس گزارش کند؟
اگر بررسی انسانی نشان دهد که یک گفتگو نشانه خطر جدی و قریبالوقوع برای آسیبرساندن به فرد دیگری دارد، OpenAI میتواند اطلاعات مربوط به آن را در اختیار نیروهای انتظامی بگذارد. این اقدام بخشی از سیاست ایمنی شرکت است و برای همه موارد تهدیدآمیز اعمال نمیشود.
آیا دارن ژو به زندان رفت؟
خیر. او در چارچوب توافقی با دادستانی، به هر سه اتهام اعتراف کرد، اما دادگاه صدور محکومیت رسمی را به تعویق انداخت. به این ترتیب، ژو به جای تحمل حبس، هشت سال آزادی مشروط گرفت.
منبع: یاهوو
