«کامالا هریس» در حال لبخند زدن است. در حالی که جمعیت هوادارانش او را تشویق می‌کنند. اما یک مشکل وجود دارد. شخصی که در ویدئو صحبت می‌کند واقعاً هریس نیست. این هوش مصنوعی است که صدای او را تقلید می‌کند.
این ویدئوی دستکاری شده پس از اینکه ایلان ماسک، میلیاردر فناوری و مالک X، آن را روز جمعه در این شبکه اجتماعی بدون اشاره به اینکه این یک طنز است، به اشتراک گذاشت، توجه گسترده‌ای جلب کرد. کارشناسان می‌گویند که این آخرین نمونه از نقش تاثیرگذار هوش مصنوعی در آستانه انتخابات ریاست جمهوری آمریکا در نوامبر است.
محتوای ویدئو ساخته شده با هوش مصنوعی چیست؟
ویدئو شامل بسیاری از تصاویر از یک ویدئوی واقعی کمپین اخیر کامالا هریس است. اما صدای پس‌زمینه آن را طوری جلوه می‌دهد که انگار نامزد ریاست جمهوری چیزهایی می‌گوید که او نگفته است. این صدا توصیف می‌کند که کامالا هریس «بالاترین مرحله ضد تبعیض انسانی» است. جو بایدن رئیس‌جمهور آمریکا را «عروسک خیمه شب‌بازی» می‌نامد و ادعا می‌کند که هریس «هیچ چیزی از اداره کشور نمی‌داند.»
پست ماسک از آن زمان تاکنون بیش از ۱۳۰ میلیون بار دیده شده و به نظر می‌رسد که قوانین X را که ممنوعیت اشتراک «رسانه‌های مصنوعی یا دستکاری‌شده که ممکن است مردم را فریب دهند یا گمراه کنند و به آسیب منجر شوند» را نقض می‌کند. این ویدئو هیچ گونه علامتی مبنی بر طنز بودن ندارد. اما حسابی که ابتدا آن را آپلود کرده بود، MrReaganUSA، آن را به عنوان «طنز تبلیغاتی» در متن همراه توصیف کرده است.
برخی از کاربران X پیشنهاد داده‌اند که پست ماسک باید با «یادداشت جامعه» برچسب‌گذاری شود. قابلیتی که به پست‌های نادرست برچسب اضافه می‌کند. تاکنون هیچ برچسبی اضافه نشده است.برخی دیگر حتی ادعا کرده‌اند که پست ماسک قوانین کمپین انتخاباتی فدرال را نقض می‌کند. قانونی که در سال ۱۹۷۱ معرفی شده و نسبت دادن اطلاعات نادرست و دروغ به نامزدهای فدرال یا احزاب سیاسی را ممنوع می‌کند. این قانون هیچ گونه قواعد روشنی درباره فناوری‌هایی مانند هوش مصنوعی یا شبکه‌های اجتماعی ندارد.
پس از انتقادات گسترده در آخر هفته، ماسک روز دوشنبه در پاسخ به پستی از گاوین نیوسام، فرماندار دموکرات کالیفرنیا گفت: «طنز در آمریکا قانونی است.»
هنگامی که از X خواسته شد تا از طریق ایمیل روابط عمومی خود اظهار نظر کند، پاسخ داد: «در حال حاضر مشغولیم. لطفا بعداً پیگیری کنید.»
اهمیت شفافیت در رسانه‌های اجتماعی
ویدیوی دستکاری‌شده کامالا هریس چیزی را تأیید می‌کند که «هنری اجدر»، پژوهشگر و مشاور سازمان‌هایی مانند متا، ادوبی و دولت بریتانیا، مدتهاست احساس می‌کرده است. او می‌گوید: «طنز بودن موضوعی بسیار مبهم و مهم است.» او می‌گوید دیپ‌فیک‌ها باید به وضوح برچسب‌گذاری شوند. همچنی به چیزی به نام «اصالت محتوا» اشاره می‌کند که در حال توسعه آن با ادوبی است.
او آن را «برچسب ارزش غذایی برای پستها» توصیف می‌کند. برچسب‌گذاری یک دیپ‌فیک «درباره گفتن این نیست که این بد است یا خوب است، بلکه درباره ارائه شفافیت در مورد نحوه ایجاد یک پست است.»
بسیاری از شرکت‌های محبوب رسانه‌های اجتماعی قوانینی برای مدیریت محتوای تولید شده توسط هوش مصنوعی دارند.
شرکت متا، مالک شبکه‌های اجتماعی فیسبوک و اینستاگرام، یک قانون جدید وضع کرده است. بر اساس این قانون، هر پستی که به نحوی دستکاری شده و واقعیت را تغییر می‌دهد، باید به وضوح مشخص شود. همچنین توضیح داده شود که چه تغییراتی در آن ایجاد شده است. به عبارت ساده‌تر، اگر کسی بخواهد با استفاده از نرم‌افزارهای ویرایش عکس یا ویدیو، محتوای جعلی یا گمراه‌کننده در این شبکه‌ها منتشر کند، باید این موضوع را به کاربران دیگر بگوید.
روند رو به رشد در سیاست
این اولین باری نیست که از هوش مصنوعی در رابطه با انتخابات ریاست جمهوری آمریکا استفاده می‌شود.
در ژانویه، قبل از انتخابات مقدماتی دموکرات نیوهمپشایر، یک تماس خودکار با استفاده از فناوری هوش مصنوعی صدای بایدن را تقلید کرد تا مردم را از رای دادن منصرف کند. پس از آن، کمیسیون ارتباطات فدرال ایالات متحده حکم داد که تماس‌های خودکار با استفاده از صداهای تولید شده توسط هوش مصنوعی غیرقانونی هستند. همچنین جریمه‌ای ۶ میلیون دلاری پیشنهاد داد.
در طول انتخابات مقدماتی جمهوری‌خواهان در امسال، ویدیوهای دیپ‌فیک حاوی حمایت هیلاری کلینتون، وزیر امور خارجه سابق ایالات متحده، نسبت به ران دسنتیس، فرماندار فلوریدا از حزب جمهوری‌خواه، شروع به پخش در رسانه‌های اجتماعی کرد.
اجدر که به موارد مشابهی در اسلواکی و بریتانیا نیز اشاره می‌کند، می‌گوید که جایی برای طنز در سیاست وجود دارد و به نشریاتی مانند بابل بی و انیون اشاره می‌کند، اما تاکید می‌کند که باید به وضوح مشخص شود. او می‌گوید: «به نظر من، فضایی برای طنز تولید شده توسط هوش مصنوعی و دیپ‌فیک وجود دارد. اما باید به صورت مسئولانه ایجاد و به اشتراک گذاشته شود.»
سفارت کانادا پست تولید شده توسط هوش مصنوعی به مناسبت روز کانادا را حذف کرد
منبع: سی‌بی‌سی
