«شوک بزرگی بود که انتظارش را نداشتم.» این توصیف «ال»، دانشجوی ۲۱ سالهی رشتهی حقوق دانشگاه هنگکنگ است که لحظهای را به یاد میآورد که متوجه شد دانشجوی دیگری بدون رضایت او با استفاده از هوش مصنوعی تصاویر پورنوگرافی از او ایجاد کرده است. در ابتدا خود را سرزنش میکرد و فکر میکرد شاید کاری کرده باشد که سوءتفاهم ایجاد شده است. «خیلی شوکه و ترسیده بودم و برای مدتی از شبکههای اجتماعی استفاده نکردم چون نمیدانستم عکسهایم دست چه کسانی میافتد.»
کشف ۷۰۰ تصویر پورنوگرافی ساخته شده با هوش مصنوعی در لپتاپ همکلاسی
طبق گفتهی سه قربانی «ال، اچ و بی»، در فوریه بیش از ۷۰۰ عکس که شامل تصاویر پورنوگرافی ساخته شده با هوش مصنوعی بود، توسط شریک سابق همان دانشجو زمانی که لپتاپ او را قرض گرفت کشف شد. هر سه آنها خواستند ناشناس باقی بمانند تا توسط همکلاسیها شناخته نشوند.
لپتاپ حدود ۲۰ پوشه ازعکسهای زنان داشت. عکسهای گرفته شده شامل عکسهای صفحههای شبکههای اجتماعی و تصاویر دیگری بود که با ابزارهای هوش مصنوعی و جایگزینی چهرهها ساخته شده بود.
سه دانشجوی حقوق دانشگاه هنگکنگ در ژوئیه تصمیم گرفتند این موضوع را عمومی کنند و یک حساب اینستاگرام برای انتشار نامهای که شرح ماجرا بود، راهاندازی کردند. آنها گفتند پس از مواجهه با شریک سابق، این دانشجوی مذکور اعتراف کرد که از عکسهای دانشجویان دیگر که از شبکههای اجتماعی گرفته شده بود برای ساخت تصاویر پورنوگرافی با هوش مصنوعی استفاده کرده است.
برخورد ناکافی دانشگاه با فرد متخلف
اچ گفت دانشگاه ابتدا از این دانشجو خواست نامهی عذرخواهی بنویسد و به او نامهی اخطار دادند تا در پروندهی شخصیاش نگهداری شود. امااچ معتقد است این پاسخ کافی نبود. بی میگوید پس از تماس با دانشگاه بازهم مجبور بود دوباره با او در کلاس روبرو شود.
دانشگاه بعدا اعلام کرد در حال بررسی پرونده است. همچنین قول داد اقدامات بیشتری انجام دهد. سخنگوی دانشگاه به سیبیسی گفت که پرونده هنوز در دست بررسی است. «جان لی»، رئیس دولت هنگکنگ، نیز در ژوئیه اعلام کرد که در حال تحقیق دربارهی بهترین شیوههای بینالمللی برای قانونگذاری هوش مصنوعی است.
شکست قانون در برابر فناوری
با این حال، چند ماه پس از آن اتفاق، سه دانشجوی دانشگاه همچنان منتظر پاسخ هستند. بی گفت شکایت آنها به کمیسیون فرصتهای برابر هنگکنگ بسته شده، چون این اقدام طبق قانون تحت عنوان آزار جنسی شناخته نشده است. همچنین اطلاعات کافی برای ادامهی تحقیق وجود نداشته است.
کمیسیون فرصتهای برابر در بیانیهای به سیبیسی اعلام کرد «متعهد به رسیدگی بیطرفانه، عادلانه و منصفانه به شکایات تحت قوانین ضد تبعیض است.» این سه زن گفتند به پلیس گزارش ندادهاند زیرا هنگکنگ قانون مجزایی برای جرمانگاری تولید پورنوگرافی هوش مصنوعی ندارد. این پرونده نمونهای از مشکل جهانی در زمینهی نظارت و قانونگذاری بر پورنوگرافی هوش مصنوعی است.
اچ میگوید: «وقتی کسی این تصاویر را داشته باشد، نمیدانی چگونه استفاده خواهند کرد. ممکن است برای خودش باشد یا در زیرزمینی به طور عمومی پخش شود. کنترل آن ممکن نیست.» بی اضافه کرد احتمال دارد رایانهی فرد متخلف هک شود، پس حتی اگر او قصد نداشته باشد تصاویر را منتشر کند، باز هم خطر درز آنها وجود دارد.» او گفت: «جرمانگاری این پیام را به جامعه میدهد که این کار اشتباه است.»
مقابله با دیپفیکهای جنسی
در سال ۲۰۲۱، هنگکنگ قانونی تصویب کرد که انتشار یا تهدید به انتشار تصاویر خصوصی بدون رضایت، از جمله دیپفیکهای جنسی، را جرم میداند و تا پنج سال زندان دارد. اما این قانون شامل تولید یا داشتن چنین تصاویر نمیشود و کارشناسان حقوقی میگویند این خلأ باید پر شود.
اشتراکگذاری پورنوگرافی دیپفیک بدون رضایت در کانادا جرم نیست. اما «مارک کارنی»، نخستوزیر کانادا، در کمپین انتخاباتی ۲۰۲۵ قول داده قانونی تصویب کند که تولید و پخش این محتوا را جرمانگاری کند. کانادا نیز در حال بحث دربارهی مقررات پلتفرمها برای حذف محتوای سوءاستفاده از کودکان و تصاویر خصوصی بدون رضایت، از جمله دیپفیکها، است.
کره جنوبی نیز سال گذشته قانونی تصویب کرد که نه تنها داشتن، بلکه مصرف چنین محتوا را نیز جرم میداند. بریتانیا هم پس از افزایش موارد، تولید یا انتشار دیپفیکهای جنسی صریح را جرمانگاری کرده است.
اپهای «نودیفای» و قربانیان مشهور دیپفیکهای جنسی
اپلیکیشنهای نودیفای معمولا با هوش مصنوعی تصاویر جعلی بدون رضایت افراد میسازند. چهرههایی چون «تیلور سوئیفت» و سیاستمدار آمریکایی «الکساندریا اوکاسیو-کورتز» قربانیان شناختهشدهی این دیپفیکهای جنسی هستند.
«کلر مکگلین»، استاد حقوق دانشگاه «دورهام» و از تدوینکنندگان قانون بریتانیا، میگوید پلتفرمهای شبکههای اجتماعی باید مسئولیت بیشتری داشته باشند. او از اقدامات «دیوید چو»، دادستان شهر سانفرانسیسکو که در آگوست ۲۰۲۴ علیه ۱۶ وبسایت تولیدکنندهی تصاویر شکایت کرد، تمجید کرد.
دفتر چو گفت این سایتها در نیمهی اول ۲۰۲۴ بیش از ۲۰۰ میلیون بازدید داشتهاند. همچنین در ژوئن ۱۰ سایت از دسترس خارج یا در کالیفرنیا غیرقابل دسترسی شدهاند. برخی شرکتهای مسئول این سایتها در آمریکا و بریتانیا معرفی شدند.
ضعف نظارتی در ابزارهای هوش مصنوعی پرطرفدار
مکگلین گفت حتی ابزارهای هوش مصنوعی محبوبتر مانند چتبات گروک ایلان ماسک «حفاظت کمی دارند». گزارشی از The Verge نشان داد حالت جدید «اسپایسی» در Grok Imagine بدون هیچ درنگی، ویدئوهای کاملا بدون سانسور و برهنه از تیلور سوئیفت تولید میکرد، بدون اینکه حتی درخواست تولید محتوای صریح شده باشد.
در همین حال، «سم آلتمن»، مدیرعامل OpenAI، اعلام کرده که ChatGPT به زودی اجازهی تولید محتوای اروتیک را خواهد داد.
مکگلین معتقد است اگر دولتها روی پلتفرمهای بزرگ تمرکز کنند، دیگر نیازی به نگرانی دربارهی سایتهای کوچکتر نیست. او گفت: «اینها دروازهها و مسیر اصلی هستند. در تیکتاک تبلیغ اپهای نودیفای مرتب پخش میشود. اگر جلوی آن گرفته شود، میتوان واقعا با این مشکل مقابله کرد.»
محتوای دیپفیکهای جنسی روزبهروز واقعیتر میشود
«وینس چان» از انجمن مقابله با خشونت جنسی علیه زنان در هنگکنگ گفت شناسایی محتوای تولید شده با هوش مصنوعی روز به روز سختتر میشود. او گفت در دو سال گذشته تشخیص تغییر چهره روی محتوای پورنوگرافی موجود سختتر شده است. «دو سال پیش نقصها واضحتر بودند اما حالا نتایج میتوانند بسیار طبیعی و واقعی بهنظر برسند، مگر اینکه محتوا با دقت بسیار بالا بررسی شود.»
سازمان او در سال گذشته ۱۱ درخواست کمک در این زمینه دریافت کرده که ۳۸ درصد افزایش نسبت به سال قبل داشته است.
کمیسیون حریم خصوصی هنگکنگ تحقیقات کیفری در پرونده دانشجویان دانشگاه هنگکنگ را شروع کرده اما وکیل میشل وانگ میگوید قدرت این کمیسیون محدود است. او گفت تمرکز اصلی کمیسیون روی افشای دادههای شخصی است و همین باعث سختی رسیدگی به این پرونده میشود.
وانگ گفت در هنگکنگ ساخت تصاویر جعلی از کودکان زیر ۱۶ سال جرمانگاری شده است و سامانهای وجود دارد که به این نوع جرایم رسیدگی میکند. او گفت: «فکر میکنم هدف اولیهی قانونگذاری این بوده که از کودکان محافظت شود. اما واضح است که اکنون ممکن است روندی شکل بگیرد که بزرگسالان بالای ۱۶ سال هم باید تحت همین چارچوب قانونی محافظت شوند.»
فضای اینترنت بیقانون به نظر میرسد
«دبلیو»، زنی ۳۰ ساله که پنج سال پیش قربانی دیپفیکهای جنسی شده و نمیخواهد نامش فاش شود، چون هنوز هویت فرد خاطی را نمیداند، گفت دوستانش تصاویر را برایش فرستادند و پرسیدند آیا تصویر اوست. او گفت: «آنها فکر میکردند واقعی است و من هم فکر میکردم خیلی شبیه واقعیت است، حتی خال صورتم هم بود.»
دبلیو گفت در آن زمان هر روز گریه میکرد و کابوس داشت، او سرِ کار هم نمیرفت، چون از ترک خانه میترسید؛ نگران بود فردی که تصاویر را فرستاده، بداند او کجا زندگی میکند. او به پلیس گزارش نداد چون نگران بود برخورد مناسبی صورت نگیرد. او معتقد است تصاویر از شبکههای اجتماعیاش برداشته شده است. چهار سال بعد هنوز نمیداند چه کسی این کار را کرده و آرزو دارد دستگیر شود. او همچنان از نزدیک شدن مردان غریبه مضطرب میشود.
اگرچه از افزایش آگاهی عمومی خوشحال است اما احساس درماندگی میکند. او گفت: « اینترنت بیش از حد بیقانون است. حتی اگر قانونی وضع شود، بزرگترین سوال این است که چگونه قرار است اجرا شود.»
منبع: سیبیسی
