پس از اینکه شرکت پیشرو Boston Consulting Group در گزارش سال 2023 دریافت که مشاوران فناوری اطلاعات آنها با استفاده از ابزار Open AI's GPT-4 کارآمدتر هستند، این شرکت با واکنش هایی مواجه شد مبنی بر اینکه باید به سادگی از ChatGPT به جای حفظ میلیون ها دلار خدمات خود به صورت رایگان استفاده کرد.
استدلال آنها این است: مشاوران به هر حال به سادگی پاسخ ها یا توصیه های خود را از ChatGPT دریافت می کنند، بنابراین آنها باید از شخص ثالث اجتناب کنند و مستقیماً به ChatGPT بروند.
همچنین: استاد هوش مصنوعی بدون مهارت های فنی؟ چرا سیستم های پیچیده به یادگیری متنوع نیاز دارند؟
یک درس ارزشمند برای هر کسی که استخدام می کند یا به دنبال استخدام برای مشاغلی با هوش مصنوعی است، خواه توسعه دهندگان، مشاوران یا کاربران تجاری باشد. پیام این انتقاد این است که هر کسی، حتی با مهارت های محدود یا ناکافی، اکنون می تواند از هوش مصنوعی برای پیشرفت استفاده کند یا به نظر برسد که در بالای همه چیز است. به همین دلیل زمین بازی مساوی شده است. افرادی مورد نیاز هستند که بتوانند دیدگاه و تفکر انتقادی را به اطلاعات و نتایجی که هوش مصنوعی ارائه می دهد ارائه دهند.
حتی دانشمندان، فناوران و متخصصان موضوعی ماهر نیز ممکن است در دام تکیه بیش از حد به هوش مصنوعی برای خروجی خود بیفتند – در مقابل تخصص خود.
بر اساس تحقیقی که در مورد این موضوع در Nature منتشر شده است، راه‌حل‌های هوش مصنوعی همچنین می‌توانند از محدودیت‌های شناختی ما سوء استفاده کنند و ما را در برابر توهم‌های درک آسیب‌پذیر کنند که در آن معتقدیم بیشتر از آنچه واقعاً می‌دانیم درباره جهان می‌فهمیم.
محققین لیزا مسر از دانشگاه ییل و ام جی کراکت از دانشگاه پرینستون هشدار می‌دهند که حتی دانشمندانی که برای بررسی انتقادی اطلاعات آموزش دیده‌اند، درگیر جذابیت بینش‌های تولید شده توسط ماشین هستند.
تحقیقات آنها می‌گوید: «چنین توهم‌هایی توانایی جامعه علمی را برای مشاهده شکل‌گیری تک‌فرهنگ‌های علمی که در آن انواع روش‌ها، پرسش‌ها و دیدگاه‌ها بر رویکردهای جایگزین تسلط پیدا می‌کنند، پنهان می‌کند و علم را کمتر نوآورانه و آسیب‌پذیرتر در برابر خطاها می‌سازد».
مسر و کروکت بیان می‌کنند که فراتر از نگرانی‌های مربوط به اخلاق هوش مصنوعی، تعصب و جابجایی شغلی، خطرات اتکای بیش از حد به هوش مصنوعی به‌عنوان منبعی از تخصص در حال شروع شدن است.
در تنظیمات اصلی کسب و کار، تبعات اتکای بیش از حد کاربر به هوش مصنوعی، از دست رفتن بهره وری و اعتماد نابجا وجود دارد. به عنوان مثال، کاربران “ممکن است اقدامات خود را تغییر دهند، تغییر دهند، و تغییر دهند تا با توصیه های هوش مصنوعی مطابقت داشته باشند”، Samir Passi و Mihaela Vorvoreanu مایکروسافت را در یک مرور کلی از مطالعات در مورد این موضوع مشاهده کنید. علاوه بر این، ارزیابی عملکرد هوش مصنوعی و درک اینکه چگونه هوش مصنوعی بر تصمیمات آنها تأثیر می گذارد، برای کاربران مشکل خواهد بود.
این تفکر Kyall Mai، مدیر ارشد نوآوری در Esquire Bank است که هوش مصنوعی را ابزاری حیاتی برای تعامل با مشتری می‌داند، در حالی که نسبت به استفاده بیش از حد از آن به عنوان جایگزینی برای تجربه انسانی و تفکر انتقادی هشدار می‌دهد. بانک Esquire تامین مالی تخصصی را به شرکت‌های حقوقی ارائه می‌کند و افرادی را می‌خواهد که کسب‌وکار را درک کنند و هوش مصنوعی چه کارهایی را برای پیشرفت کسب‌وکار انجام دهد. من اخیراً در کنفرانس Salesforce در نیویورک با مای آشنا شدم که تجربیات و دیدگاه های خود را در مورد هوش مصنوعی به اشتراک گذاشت.
Mai که خود از کدنویس به CIO چند وجهی ارتقا پیدا کرد، استدلال نمی‌کند که هوش مصنوعی شاید یکی از ارزشمندترین ابزارهای افزایش بهره‌وری باشد. اما او همچنین نگران است که تکیه بیش از حد به هوش مصنوعی مولد – چه برای محتوا یا کد – کیفیت و وضوح تفکر مردم را کاهش دهد.
همچنین: فراتر از برنامه نویسی: هوش مصنوعی نسل جدیدی از نقش های شغلی را ایجاد می کند
او می‌گوید: «ما متوجه هستیم که داشتن مغز و نتایج فوق‌العاده لزوماً به خوبی کسی نیست که مایل است تفکر انتقادی داشته باشد و دیدگاه‌های خود را در مورد آنچه که هوش مصنوعی و هوش مصنوعی مولد از نظر توصیه‌ها به شما ارائه می‌دهد، ارائه دهد. “ما می خواهیم افرادی که احساسات و خودآگاهی دارند بروند، “هوم، این کاملاً درست به نظر نمی رسد، من آنقدر شجاع هستم که با کسی صحبت کنم تا مطمئن شوم که یک انسان در حلقه وجود دارد.”
بانک Esquire از ابزارهای Salesforce برای استفاده از هر دو طرف هوش مصنوعی – مولد و پیش بینی کننده استفاده می کند. مای، که نقش CIO او شامل تعامل با مشتری و سیستم‌های فناوری اطلاعات است، می‌گوید: هوش مصنوعی پیش‌بینی‌کننده، بینش‌هایی را در اختیار تصمیم‌گیرندگان بانک قرار می‌دهد که «کدام وکلا از سایت آنها بازدید می‌کنند و به شخصی‌سازی خدمات بر اساس این بازدیدها کمک می‌کنند».
Esquire به عنوان یک بانک کاملا مجازی، بسیاری از سیستم‌های هوش مصنوعی خود را در تیم‌های بازاریابی به کار می‌گیرد و محتوای تولیدی ارائه‌شده توسط هوش مصنوعی را با الگوریتم‌های هوش مصنوعی پیش‌بینی‌کننده بک‌اند ترکیب می‌کند.
مای می گوید: «تجربه برای همه متفاوت است. “بنابراین ما از هوش مصنوعی برای پیش بینی اینکه مجموعه بعدی محتوایی که به آنها تحویل داده می شود استفاده می کنیم. آنها بر اساس تمام تجزیه و تحلیل های پشت سر و در سیستم هستند که ما می توانیم با آن مشتری خاص انجام دهیم.”
همچنین: هوش مصنوعی مولد فناوری است که فناوری اطلاعات بیشترین فشار را برای بهره برداری از آن احساس می کند
در همکاری نزدیک با هوش مصنوعی، مای پیچ و تاب جالبی را در طبیعت انسان کشف کرد: مردم با افزایش وابستگی به این سیستم ها، تمایل دارند قضاوت و سخت کوشی خود را نادیده بگیرند. به عنوان مثال، ما متوجه شدیم که برخی از انسان‌ها تنبل می‌شوند — آنها چیزی را تلقین می‌کنند و سپس تصمیم می‌گیرند، “آه که به نظر واقعاً پاسخ خوبی است” و آن را ارسال می‌کنند.
هنگامی که مای آن سطح از اتکای بیش از حد به هوش مصنوعی را احساس می کند، “من آنها را به دفتر خود می برم و می گویم “من به خاطر دیدگاه شما به شما پول می دهم، نه یک اعلان و پاسخ در هوش مصنوعی که می خواهید مرا به آن سوق دهید. بخوانید فقط گرفتن نتایج و بازگرداندن آن به من چیزی نیست که به دنبال آن هستم، من منتظر فکر انتقادی شما هستم.
با این حال، او اعضای تیم فناوری خود را تشویق می‌کند تا وظایف توسعه دنیوی را به ابزارها و پلتفرم‌های هوش مصنوعی مولد تخلیه کنند و زمان خود را برای همکاری نزدیک‌تر با کسب‌وکار آزاد کنند. برنامه‌نویس‌ها دریافته‌اند که 60 درصد از زمانی که برای نوشتن صرف می‌کردند مربوط به کدهای اداری است که لزوماً پیشگامانه نیست. هوش مصنوعی می‌تواند این کار را از طریق پیام‌های صوتی برای آنها انجام دهد.
همچنین: آیا هوش مصنوعی به کارگران صدمه می زند یا به آنها کمک می کند؟ این پیچیده است
در نتیجه، او می بیند که “خط بین یک کدنویس کلاسیک و یک تحلیلگر تجاری که خیلی بیشتر ادغام می شوند، زیرا برنامه نویس زمان زیادی را صرف انجام کارهایی نمی کند که واقعاً ارزش افزوده ندارند. همچنین به این معنی است که تحلیلگران تجاری می توانند توسعه دهندگان نرم افزار شوند.”
وقتی می‌توانم جلوی یک سکو بنشینم و بگویم من سیستمی می‌خواهم که این کار، این، این و این را انجام دهد، جالب خواهد بود.»
منبع: https://www.zdnet.com/article/we-need-bold-minds-to-challenge-ai-not-lazy-prompt-writers-bank-cio-says/#ftag=RSSbaffb68