به گفته فرح ناصر اهل تورنتو، زمانی که پسر ۱۲ ساله‌اش از چت بات Grok شرکت تسلا پرسید که بین «کریستیانو رونالدو» یا «لیونل مسی» کدام یک را ترجیح می‌دهد، اوضاع به طرز غیرقابل پیش‌بینی و عجیبی تغییر کرد.
چت بات Grok: چند عکس برهنه برایم بفرست!
ناصر در ۱۷ اکتبر در حال رساندن پسر و دختر ۱۰ ساله‌اش از مدرسه به خانه بود که این مکالمه اتفاق افتاد. او گفت که پسرم از شنیدن اینکه چت بات Grok معتقد بود که رونالدو بازیکن فوتبال بهتری است، بسیار هیجان‌زده شده بود. اما چت‌بات داشت حرف‌های بی‌ربطی به مسی می‌زد و کم‌کم مکالمه آنها به جای غیرمنتظره‌ای کشیده شد. سپس چت‌بات از پسر ناصر درخواست چند عکس برهنه کرد. این موضوع باعث تعجب شدید ناصر شد.
به گفته ناصر، او اگر می‌دانست چت‌بات چه قابلیت‌هایی دارد، از استفاده از آن در کنار فرزندانش خودداری می‌کرد. حالا او به عنوان یک خبرنگار می‌خواهد که به سایر والدین در این رابطه هشدار بدهد. او همچنین گفت که دیگر به فرزندانش اجازه استفاده از چت بات Grok را نخواهد داد.
نصب چت بات Grok در خودروهای کانادایی
ناصر و خانواده‌اش از سال ۲۰۲۲ صاحب یک سدان برقی تسلا مدل ۳ بوده‌اند. اما Grok چت‌بات هوش مصنوعی که توسط xAI ایلان ماسک، مدیرعامل تسلا ایجاد شده، ویژگی جدیدی است که تابستان امسال به‌طور خودکار در بعضی از خودروهای تسلا در ایالات متحده و کانادا نصب شده است. همچنین، Grok از قبل با پلتفرم رسانه اجتماعی X (توئیتر سابق) یکپارچه شده است.
شخصیت‌های مختلف چت بات Grok
Grok در تنظیمات پیش‌فرض خود چندین شخصیت برای انتخاب دارد. این شخصیت‌ها عبارتند از: آرا، یک زن شاد؛ رکس، یک مرد آرام؛ ایو، یک زن آرامش‌بخش؛ سال، یک مرد آرام و گورک، یک مرد تنبل.
پسر ناصر، شخصیت گورک یعنی مرد تنبل را انتخاب کرده بود.
ناصر می‌گوید که تنظیمات جداگانه «برای کار امن نیست» یا همان not safe for work و همچنین، گزینه «حالت کودک» یا kids mode را فعال نکرده بود. اما با این حال، به گفته او، از اینکه تنظیمات پیش‌فرض چت‌بات اجازه تولید چنین محتوایی را می‌دهد، شوکه شده است. شرکت تسلا در این مورد پاسخی ارائه نداده است.
چت بات Grok برای افراد زیر سن قانونی مناسب نیست
با وجود اینکه کانادا دارای وزارت هوش مصنوعی (Artificial Intelligence Ministry) است، اما این وزارتخانه نرم‌افزارهای خاص داخل خودرو را تنظیم نمی‌کند. وزارت هوش مصنوعی در بیانیه‌ای اعلام کرده است که از برنامه تسلا برای ادغام Grok در خودروهای فروخته شده در کانادا اطلاعی ندارد، اما این گزارش‌ها را جدی می‌گیرد.
بر اساس سیاست‌های xAI، استفاده از Grok برای کودکان زیر ۱۳ سال «مناسب» نیست. نوجوانان بین ۱۳ تا ۱۷ سال برای استفاده از این نرم‌افزار باید اجازه والدین یا قیم قانونی خود را داشته باشند. همچنین با شرایط خدمات شرکت موافقت کنند.
این در حالی است که ناصر می‌گوید که نمی‌توان از والدین انتظار داشت که تمام شرایط و ضوابط و تک‌تک موارد استفاده از این برنامه‌ها را بخوانند. به عقیده او، باید یک گزینه هشدار یا گزینه بررسی و تائید سن کاربران برای استفاده از این برنامه‌ها وجود داشته باشد.
رفتارهای خشونت آمیز Grok
در ماه جولای، چت بات Grok در واکنش به یک به‌روزرسانی، شروع به تهدیدهای خشونت‌آمیز و جنسی در شبکه اجتماعی X کرد و خود را «مکا هیتلر» نامید. xAI بابت این اتفاق عذرخواهی کرد. او گفت که مشکل برطرف شده است، اما بعضی از کارشناسان این سوال را مطرح می‌کنند که آیا این فناوری از محافظت کافی برخوردار است یا خیر؟
این در حالی است که بعضی از شرکت‌ها در این زمینه محافظ‌های بسیار دقیقی دارند. زیرا که مشخص نیست که چه کسی آن طرف صفحه کلید است و زمینه اجتماعی او چیست. ممکن است یک کودک باشد، یا ممکن است کسی باشد که دچار بحران سلامت روان است.
ویدیوهای بی‌شماری هم در اینترنت نشان می‌دهند که Grok چقدر می‌تواند غیرقابل پیش‌بینی شود. در واقع، دستور دادن به چت‌بات برای ممکن است منجر به این شود که Grok مانند یک کمدین آماتور که هنوز در حال یادگیری است، پاسخ دهد. همچنین ممکن است این پاسخ‌ها گاهی اوقات قابل اعتراض، نامناسب و توهین‌آمیز باشند.
برای مثال، ویدیوهایی که رانندگان تسلا در شبکه‌های اجتماعی منتشر کرده‌اند، نشان می‌دهد که Grok چقدر می‌تواند از کلمات نامناسب و بسیار توهین آمیز استفاده کند.
Grok و آزادی بیان مطلق
چت بات Grok در ابتدا در نوامبر ۲۰۲۳ برای کاربران ویژه در نرم افزار X راه‌اندازی شد. به گفته «مارک دیلی»، مدیر ارشد هوش مصنوعی در دانشگاه وسترن در انتاریو: «این نرم‌افزار بر اساس فلسفه گشودگی رادیکال مطلق ایجاد شده است و در مورد هر چیزی با هر کسی صحبت خواهد کرد».
به عقیده او، ایلان ماسک یک افراط‌گرای طرفدار آزادی بیان است. او می‌خواهد Grok کاملاً آزاد باشد و با هر کسی گفتگو کند. این یک موضع اصولی است که او اتخاذ کرده، اما ممکن است چیزی نباشد که همه کاربران به دنبال آن باشد. در واقع، هرچند افرادی هستند که به آزادی بیان مطلق اعتقاد دارند، اما اکثر کاربران عادی تمایل دارند بعضی از موانع را رعایت کنند.
لزوم نظارت والدین بر رفتارهای آنلاین فرزندان
این خیلی خوب است که والدین فرزندان خود را به تعامل با فناوری‌های جدید تشویق کنند، اما آنها باید بر فعالیت فرزندانشان و استفاده آنها از رسانه‌های اجتماعی و کلا کامپیوتر، نظارت داشته باشند. همچنین از والدین انتظار می‌رود که در مورد مواردی که فناوری می‌تواند به بیراهه برود، با فرزندانشان گفتگوهای صریح و آشکاری داشته باشند.
منبع: سی‌بی‌سی
