پس از انتشار تصاویر برهنه جعلی یک نوجوان و سایر همکلاسی‌های دخترش توسط هوش مصنوعی در دبیرستانی در نیوجرسی، یک مادر و دختر ١٤ ساله‌اش دست به اطلاع‌رسانی و حمایت از قربانیان زدند.
در همین حال، در آن سوی کشور، مقامات در حال بررسی حادثه‌ای هستند که مربوط به پسر نوجوانی است که گفته می‌شود از هوش مصنوعی برای ایجاد و انتشار تصاویر برهنه جعلی مشابه از دانش آموزان دیگر و دختران نوجوان، که در دبیرستانی در حومه سیاتل، واشنگتن درس می‌خوانند، استفاده کرده است.
این موارد نگران‌کننده بار دیگر مطالب تولید شده توسط هوش مصنوعی که به شدت به زنان و کودکان آسیب می‌رساند و با سرعت بی‌سابقه‌ای در فضای آنلاین پخش می‌شود را مورد توجه قرار داده است. بر اساس تجزیه و تحلیل یک محقق مستقل به نام «ژنویو اوه» که با آسوشیتدپرس صحبت کرده است، امسال بیش از ١٤٣ هزار محتوای دیپ فیک یا همان جعل عمیق جدید در فضای آنلاین پست شده است که مجموعاً از هر سال دیگر پیشی می‌گیرد.
خانواده‌های آسیب‌دیده که ناامید از راه‌حل‌ها هستند، قانون‌گذاران را تحت فشار قرار می‌دهند تا تدابیری را برای قربانیانی که تصاویرشان با استفاده از مدل‌های جدید هوش مصنوعی دستکاری شده‌اند، یا انبوهی از اپلیکیشن‌ها و وب‌سایت‌هایی که آشکارا خدمات آنها را تبلیغ می‌کنند، اجرا کنند. مدافعان و برخی از کارشناسان حقوقی همچنین خواستار تنظیم مقررات فدرال هستند که بتواند حمایت‌های یکسانی را در سراسر کشور فراهم کنند و پیامی مقتدرانه را برای مجرمان فعلی و احتمالی ارسال کند.
«دوروتا مانی» که دخترش یکی از قربانیان در وستفیلد، حومه نیوجرسی در خارج از شهر نیویورک است، گفت: «ما برای فرزندانمان می‌جنگیم. این مسئولین جمهوری‌خواه و دموکرات، هیچ توجهی به بچه‌های ما ندارند.»
چالش‌های مربوط به محتوای دیپ فیک مشکل جدیدی نیست، اما کارشناسان می‌گویند که با در دسترس‌تر شدن فناوری تولید آن و استفاده آسان‌تر، این مشکل بدتر می‌شود. محققان امسال زنگ خطر انفجار موارد آزار جنسی کودکان توسط هوش مصنوعی و با استفاده از تصاویر قربانیان واقعی یا شخصیت‌های مجازی را به صدا درآورده‌اند. در ماه ژوئن، اف‌بی‌آی هشدار داد که همچنان به دریافت گزارش‌هایی از قربانیان، اعم از خردسالان و بزرگسالان ادامه می‌دهد، که از عکس‌ها یا فیلم‌هایشان برای ایجاد محتوای جعلی که به‌صورت آنلاین به اشتراک گذاشته می‌شود، استفاده می‌شود.
جرم‌انگاری محتوای پورن دیپ فیک
چندین ایالت در طول سال‌ها قوانین خود را برای مبارزه با این مشکل تصویب کرده‌اند، اما دامنه آنها متفاوت است. تگزاس، مینه‌سوتا و نیویورک در سال جاری قانونی را تصویب کردند که پورن‌های غیرقانونی را جرم‌انگاری می‌کند و به ویرجینیا، جورجیا و هاوایی که قبلاً قوانینی در مورد این جرائم داشتند، پیوستند. برخی از ایالت‌ها، مانند کالیفرنیا و ایلینوی، تنها به قربانیان این امکان را داده‌اند که از مجرمان برای جبران خسارت در دادگاه مدنی شکایت کنند، که نیویورک و مینه‌سوتا نیز این اجازه را به قربانیان می‌دهند.
چند ایالت دیگر در حال بررسی قوانین خود هستند، از جمله نیوجرسی که در حال حاضر لایحه‌ای برای ممنوعیت پورن‌های ساخته شده با محتوای دیپ فیک و اعمال مجازات‌هایی نظیر زندان، جریمه یا هر دو را برای کسانی که آن را منتشر می‌کنند، در دست تدوین دارد.
سناتور ایالتی «کریستین کورادو»، جمهوری‌خواه، که این قانون را در اوایل سال جاری معرفی کرد، گفت که پس از خواندن مقاله‌ای درباره افرادی که سعی می‌کنند با استفاده از تصویر شریک سابق خود برای تولید محتوای پورن جعل عمیق، از قوانین مربوط به انتشار پورن‌های انتقام جویانه فرار کنند، تصمیم گرفت که در این حوزه به فعالیت بپردازد.
او گفت که این لایحه برای چند ماه کنار گذاشته شده بود، اما احتمال زیادی وجود دارد که با توجه به تمرکزی که روی پرونده دبیرستان وستفیلد و انتشار تصاویر برهنه جعلی قرار دارد، به زودی تصویب شود.
«مری آن مک گان»، سخنگوی دبیرستان وستفیلد در بیانیه‌ای گفت که اتفاق پیش آمده در تابستان امسال در ٢٠ اکتبر مورد توجه دبیرستان قرار گرفت. مک گان جزئیاتی در مورد چگونگی انتشار تصاویر تولید شده توسط هوش مصنوعی ارائه نکرد، اما مانی، مادر یکی از دختران، گفت که او تماسی از مدرسه دریافت کرده و به او اطلاع داده‌اند که تصاویر برهنه جعلی با استفاده از چهره برخی از دانش‌آموزان دختر ایجاد و سپس در میان گروهی از دوستان در برنامه رسانه‌های اجتماعی اسنپ چت پخش شده است.
این مدرسه هیچ گونه اقدام انضباطی را به دلیل محرمانه بودن مسائل مربوط به دانش‌آموزان پیش نگرفته است. پلیس وستفیلد و دفتر دادستانی کانتی یونیون نیز به درخواست‌ها برای اظهارنظر پاسخی ندادند.
پیگرد قانونی افراد سوء استفاده‌گر از محتوای دیپ فیک
جزئیاتی در مورد این حادثه در ایالت واشنگتن که در ماه اکتبر رخ داد و توسط پلیس تحت بررسی است، اعلام نشده است. «پائولا شوان»، رئیس اداره پلیس ایساکوا، گفت که آنها چندین حکم بازرسی را در اختیار دارند و خاطرنشان کرد اطلاعاتی که دارند ممکن است با ادامه تحقیقات در معرض تغییر قرار گیرد. سخنگوی مدرسه ایساکوا گفت که به دلیل تحقیقات نمی‌تواند درباره جزئیات صحبت کند، اما هر شکلی از قلدری، آزار و اذیت، یا بدرفتاری در بین دانش‌آموزان برای آنها کاملا غیرقابل قبول است.
«مری آن فرانک»، استاد حقوق در دانشگاه جورج واشنگتن که رهبری طرح مبتکرانه حقوق مدنی سایبری را رهبری می‌کند، گفت: «اگر مقامات برای پیگرد قانونی این حادثه در نیوجرسی اقدام کنند، قانون فعلی ایالتی که بهره کشی جنسی از خردسالان را منع می‌کندT ممکن است از قبل درباره آنها اعمال شود. اما این حمایت‌ها شامل بزرگسالانی نمی‌شود که ممکن است در سناریوی مشابهی قرار بگیرند.»
به گفته فرانک، بهترین راه حل از طریق یک قانون فدرال حاصل می‌شود که می‌تواند حمایت‌های ثابتی را در سراسر کشور ایجاد کند و سازمان‌های مشکوکی که از محصولات و برنامه‌هایی سود می‌برند که به راحتی به هر کسی اجازه می‌دهد دیپ فیک بسازد را مجازات کند. او گفت که این قانون ممکن است یک سیگنال قوی برای خردسالانی باشد که ممکن است تصاویری از بچه‌های دیگر را به صورت نادرست ایجاد کنند.
قانون گذاری در زمینه استفاده از محتوای هوش مصنوعی
پرزیدنت جو بایدن در ماه اکتبر فرمان اجرایی را امضا کرد که در میان موارد دیگر، خواستار ممنوعیت استفاده از هوش مصنوعی مولد برای تولید موارد سوء استفاده جنسی از کودکان یا تصاویر خصوصی از افراد واقعی بدون توافق بود. این دستور همچنین به دولت فدرال دستور می‌دهد تا دستورالعملی برای برچسب‌گذاری و واترمارک کردن محتوای تولید شده توسط هوش مصنوعی صادر کند تا به تمایز بین محتوای معتبر و موارد ساخته‌شده توسط نرم‌افزار کمک کند.
با استناد به حادثه وستفیلد، نماینده ایالات متحده تام کین جونیور، یک جمهوری‌خواه که نماینده این شهر است، لایحه‌ای ارائه کرد که توسعه‌دهندگان را ملزم می‌کند محتوای تولید شده توسط هوش مصنوعی را افشا کنند. در میان دیگر تلاش‌ها، لایحه فدرال دیگری که توسط جو مورل، نماینده دموکرات نیویورک ارائه شد، اشتراک‌گذاری تصاویر پورنو دیپ فیک را به صورت آنلاین غیرقانونی می‌داند. اما ماه‌هاست که به دلیل بن‌بست کنگره، این لایحه پیشرفت نکرده است.
جو جانسون، وکیل ACLU از نیوجرسی، گفت: «برخی از نگرانی‌های مربوط به دیپ‌فیک‌های توهین‌آمیز را می‌توان تحت قوانین موجود در مورد آزار سایبری برطرف کرد». چه در بخش فدرال و چه در بخش ایالتی، باید گفت و گوی اساسی و نظرات ذی‌نفعان وجود داشته باشد تا اطمینان حاصل شود که هر لایحه‌ای بیش از حد گسترده نبوده و به مشکل اعلام شده رسیدگی می‌کند.»
مانی گفت که دخترش یک وب سایت و یک موسسه خیریه با هدف کمک به قربانیان هوش مصنوعی و تصاویر برهنه جعلی راه‌اندازی کرده است. این دو همچنین با قانون‌گذاران ایالتی که لایحه نیوجرسی را تحت فشار قرار داده‌اند، گفتگو کرده‌اند و قصد دارند برای دریافت حمایت‌های بیشتر به واشنگتن سفر کنند.
مانی گفت: «هر کودکی، چه پسر و چه دختر، سیستم حمایتی لازم برای مقابله با این موضوع را نخواهد داشت و ممکن است نور را در انتهای تونل مشاهده نکند.»
هشدار به کانادایی‌ها درباره کلاهبرداری با دیپ فیک یا جعل عمیق
- عضویت در کانال تلگرام رسانه هدهد کانادا
- اخبار روز کانادا و اخبار مهاجرت کانادا را در رسانه هدهد دنبال کنید
- هم اکنون شما هم عضو هفته نامه رسانه هدهد کانادا شوید
منبع: سی‌تی‌وی
