ما در دورهای زندگی میکنیم که تقریباً برای هر پرسشی، یک پاسخ فوری وجود دارد. پزشک مشاور، وکیل، وکیل تجاری، مشاور گمرک، تحلیلگر سرمایهگذاری، مشاور کسبوکار، استراتژیست صادرات، نویسنده قرارداد، تحلیلگر بازار و دهها نقش دیگر؛ امروز همه این نقشها را در چند ثانیه از هوش مصنوعی میخواهیم. ظاهر ماجرا جذاب است. پاسخها مرتب، حرفهای و خیرهکنندهاند، اما سؤال اصلی اینجاست که ابعاد پنهان و خطرات جدی هوش مصنوعی در مدیریت چالشهای روزمره چیست، گزارههای متمایل به یک سو چقدر واقعیت دارند و اساساً آسیب به ساختار یک کسبوکار از کجا شروع میشود؟
واقعیت این است که هوش مصنوعی منبع حقیقت نیست. هوش مصنوعی قاضی نهایی، وکیل مسئول، پزشک پاسخگو، حسابرس رسمی یا مشاور تجاریِ متعهد به نتیجه نیست.
هوش مصنوعی در سادهترین تعریف، یک ماشین تولید پاسخ بر اساس الگو، احتمال، داده و آموزش قبلی است؛ یعنی میتواند بسیار مفید باشد، اما لزوماً درست، بیطرف یا کامل نیست.
سرآغاز خطرات هوش مصنوعی در کسب و کار
وقتی پاسخ، زیبا و حرفهای نوشته میشود، ذهن انسان بهصورت ناخودآگاه به آن اعتماد میکند. ما کمتر شک میکنیم، کمتر منبع میخواهیم، کمتر سؤال میپرسیم و گاهی حتی تصمیمات جدی زندگی، سرمایه، تجارت یا روابط حقوقی خود را بر پایه متنی میگذاریم که شاید فقط شبیه حقیقت باشد، نه خود حقیقت. یکی از خطرات جدی، جهتگیری پنهان است.
هوش مصنوعی در خلاء ساخته نشده است. دادههایی که با آن آموزش دیده، زبانهایی که بیشتر در آن حضور داشتهاند، منابعی که در دسترس بودهاند، فرهنگ تولیدکنندگان، محدودیتهای سیاسی، تجاری و حتی ساختارهای فکری حاکم بر آن، همه میتوانند در پاسخ نهایی اثر بگذارند.
پس وقتی درباره سیاست، سرمایهگذاری، تجارت بینالملل، تحریم، مهاجرت، ساختار شرکت، قرارداد یا تحلیل بازار از هوش مصنوعی سؤال میپرسیم، لزوماً با یک پاسخ خنثی و بیطرف روبهرو نیستیم. ممکن است با پاسخی روبهرو باشیم که در ظاهر علمی و منطقی است، اما در لایههای پنهان، جهتگیری خاصی دارد.
خطر دوم، توهمِ متقاعدکننده است
گاهی بررسی ابعاد پنهانِ خطرات و خروجیهای نامطمئن هوش مصنوعی در سنجش فرضیات بازاریابی، نشان میدهد این ابزار اشتباه خود را معمولاً با اعتمادبهنفس بیان میکند؛ یعنی ممکن است یک استراتژی کاذب برای کسبوکار را آنقدر حرفهای بنویسد که مخاطب تصور کند حتماً درست است.
اما در دنیای واقعی، یک اشتباه کوچک در قرارداد، یک برداشت غلط از قانون، یک عدد اشتباه در تحلیل مالی یا یک توصیه ناقص در امور گمرکی میتواند هزینههای بسیار سنگینی ایجاد کند. در تجارت، اشتباه فقط یک جمله غلط نیست.
گاهی یک جمله غلط یعنی از دست رفتن پول، زمان، اعتبار، شریک تجاری، پرونده حقوقی یا حتی آینده یک کسبوکار.
خطر سوم، خطرات هوش مصنوعی در کسب و کار و برونسپاری قضاوت انسانی
هوش مصنوعی میتواند اطلاعات را جمعبندی کند، گزینهها را مقایسه کند، متن بنویسد، سناریو بسازد و حتی زاویههای جدیدی به شما نشان دهد. اما چیزی که ندارد، مسئولیت، شهود، تجربه میدانی، شناخت روابط انسانی، فهم فضای محلی و درک پیامدهای نانوشته است.
در تجارت واقعی، همهچیز در متن قرارداد یا عدد اکسل خلاصه نمیشود. گاهی باید بفهمی طرف مقابل چه نیتی دارد. بعضی اوقات باید بدانی یک تصمیمِ ظاهراً منطقی در میدان عمل چه واکنشی ایجاد میکند. گاهی باید ریسکهای نامرئی را ببینی؛ چیزهایی که در دادهها نیستند، اما در تجربه دیده میشوند.
هوش مصنوعی داده را میبیند، اما لزوماً میدان را نمیفهمد. مشکل بزرگتر زمانی شروع میشود که ما برای تایید پیشفرضهای خود به ابزارها تکیه کنیم. یکی از معایب جدی تعامل با مدلهای زبانی، تمایل هوش مصنوعی در راستای مستند جلوه دادن خطاهای فکری ماست؛ چرخهای خطرناک که عقلانیتِ لازم در حوزهی تصمیم گیری را اصلاح نمیکند، بلکه اشتباهات ما را شیکتر نشان میدهد. در چنین وضعیتی، هوش مصنوعی دیگر ابزار کمککننده نیست؛ تبدیل میشود به تقویتکننده توهم دانایی.
هوش مصنوعی؛ ابزار تصمیمسازی، نه تصمیمگیری
من مخالف فناوریهای نوین نیستم، اما شناخت معایب و محدودیتهای دیتامحورِ هوش مصنوعی در تحلیلهای حساس حقوقی و لزوم خودداری از اتکای مطلق به آن، تفاوت بزرگی میان استفاده از ابزار با سپردنِ فرمانِ نهاییِ تصمیم گیری ایجاد میکند. هوش مصنوعی باید مشاورِ مشاوران باشد، نه قاضی نهایی. باید دستیار فکر باشد، نه جایگزین عقل. باید سرعت بررسی را بالا ببرد، نه اینکه مسئولیت تصمیم را از انسان بگیرد. در امور حقوقی، مالی، پزشکی، گمرکی، سرمایهگذاری و تصمیمات حساس تجاری، خروجی هوش مصنوعی فقط باید نقطه شروع باشد؛ نه نقطه پایان.
هر عدد مهم باید از منبع اصلی بررسی شود. تمام قوانین باید از متن رسمی خوانده شود. هر قرارداد باید توسط متخصص مسئول بررسی شود. هر تصمیم بزرگ باید با عقل، تجربه، مشورت انسانی و شناخت میدان میدان سنجیده شود. هوش مصنوعی میتواند شما را سریعتر کند. میتواند ظاهر تحلیل شما را حرفهایتر کند. میتواند متن شما را قویتر، منظمتر و جذابتر کند. اما لزوماً شما را عاقلتر نمیکند.
در نهایت، آگاهی از ابعاد خطرات و رویکردهای اشتباه هوش مصنوعی در دنیای مدرن به ما یادآوری میکند که نباید به پاسخهای شیک بیش از حد اعتماد کرد؛ چرا که در فضای رقابتیِ کسب و کار، یک پاسخِ اشتباهِ بسیار حرفهای، خطرناکتر از بیپاسخ ماندن است.
پس شاید مهمترین مهارت عصر جدید این نباشد که چگونه از هوش مصنوعی سؤال بپرسیم؛ بلکه این باشد که چگونه به پاسخهای آن شک کنیم.
هوش مصنوعی ابزار قدرتمندی است، اما فرمان زندگی و کسبوکار را نباید به ابزاری سپرد که نه مسئولیت میپذیرد، نه خسارت میدهد، نه در دادگاه حاضر میشود، نه کنار شما هزینه اشتباه را پرداخت میکند.
