سفر به عوامل کاملاً خودمختار هوش مصنوعی و سرمایه گذاران خطرپذیر که آنها را تأمین مالی می کنند

اصطلاح “هوش مصنوعی عامل” یا “عوامل هوش مصنوعی” به سرعت در حال رایج شدن است، به طوری که سرمایه گذاران در این فناوری نیاز به ایجاد تمایز دارند.

در مجموعه‌ای از پست‌های وبلاگی که هفته گذشته منتشر شد، شرکای شرکت سرمایه‌گذاری خطرپذیر Menlo Ventures (که استارت‌آپ‌های هوش مصنوعی مانند آنتروپیک را سرمایه‌گذاری کرده است)، «موج بعدی نمایندگان» را تعریف می‌کنند و اینکه چگونه از نمایندگانی که تاکنون معرفی شده‌اند پیشی می‌گیرند.

آنها می نویسند که عوامل فردا چهار قابلیت متمایز دارند.

همچنین: این کارشناس می گوید: شبکه های عوامل مشترک هوش مصنوعی نحوه کار ما را متحول خواهند کرد

نویسندگان می نویسند: «عوامل کاملاً خودمختار توسط چهار عنصر تعریف می شوند که در ترکیب، نردبان توانایی کامل عاملی را دارند: استدلال، حافظه خارجی، اجرا و برنامه ریزی».

آنها می گویند: “برای روشن شدن، عوامل کاملاً مستقل فردا ممکن است هر چهار بلوک ساختمانی را داشته باشند، اما برنامه ها و عامل های LLM امروزی چنین نیستند.”

نویسندگان، تیم تالی، جاف ردفرن، دیدی داس و درک شیائو، در اولین پست وبلاگ خود به بررسی معنای “عامل بودن” چیزی می پردازند. آنها می نویسند که نرم افزار در نهایت باید استقلال بیشتر و بیشتری در انتخاب بین گام های ممکن برای حل یک مشکل به دست آورد.

همچنین: نظرسنجی بانک آمریکا افزایش عظیم هوش مصنوعی به سود شرکت ها را پیش بینی می کند

نویسندگان می نویسند: “عوامل زمانی پدیدار می شوند که LLM را در جریان کنترل برنامه خود قرار می دهید و به آن اجازه می دهید به طور پویا تصمیم بگیرد که کدام اقدامات را انجام دهد، از کدام ابزار استفاده کند، و چگونه ورودی ها را تفسیر و پاسخ دهد.”

یک مدل زبان بزرگ معمولی می تواند به “ابزارها” مانند برنامه های خارجی که به LLM اجازه انجام یک کار را می دهد، دسترسی داشته باشد. Anthropic قبلاً این کار را با ویژگی Tool Use خود انجام داده است و OpenAI چیزی مشابه دارد.

با این حال، نویسندگان توضیح می‌دهند که فراخوانی یک ابزار صرفاً به معنای LLM برای حل یک مشکل است، نه کنترل تصمیم‌گیری در مورد روشی که باید حل شود.

همچنین: 98 درصد از شرکت های کوچک از ابزارهای هوش مصنوعی برای ضربه زدن به وزن خود استفاده می کنند.

همانطور که نویسندگان می نویسند، “استفاده از ابزار قدرتمند است، اما به خودی خود، (آن) را نمی توان “عامل” در نظر گرفت. جریان های کنترل منطقی توسط برنامه از پیش تعریف شده باقی می مانند.” در عوض، عامل باید توانایی گسترده ای برای انتخاب ابزار مورد استفاده داشته باشد، یک منطق تصمیم گیری.

نویسندگان توضیح می دهند که چند نسخه از نرم افزار به عامل واقعی بودن نزدیک می شوند. یکی از آنها “عامل تصمیم گیری” است که از مدل زبان بزرگ برای انتخاب از میان مجموعه ای از قوانین استفاده می کند که به نوبه خود تصمیم می گیرد از کدام ابزار استفاده شود. آنها از راه اندازی نرم افزار مراقبت های بهداشتی Anterior به عنوان نمونه ای از چنین سیستم تصمیم گیری یاد می کنند.

در مرحله بعد، به یک نماینده مرتبه بالاتر، به نام “عامل روی ریل”، “اهداف درجه بالاتری برای دستیابی به آنها داده می شود (به عنوان مثال، آنها می نویسند “این فاکتور را با دفتر کل تطبیق دهید”. درخواست سطح بالا و مجموعه قوانینی که باید رعایت شود.

همچنین: طبق نظرسنجی Deloitte، دلایل زیادی وجود دارد که چرا شرکت ها برای بهره برداری از هوش مصنوعی مولد تلاش می کنند

نویسندگان خاطرنشان می‌کنند که چندین استارت‌آپ، از جمله شرکت خدمات مشتریان Sierra و شرکت توسعه نرم‌افزار All Hands AI، این رویکرد «عامل روی ریل» را دنبال می‌کنند.

سومین و بالاترین سطح هوش مصنوعی عاملی، جام مقدس، همانطور که آن ها بیان می کنند، دارای «استدلال پویا» و «تولید کد سفارشی» است که به مدل زبان بزرگ اجازه می دهد تا کتاب قوانین شرکت را «فرع» کند. نویسندگان خاطرنشان می کنند که این نوع رویکرد که به عنوان “عامل هوش مصنوعی عمومی” شناخته می شود، هنوز در مرحله تحقیق است. به عنوان مثال می توان به دوین، «اولین مهندس نرم افزار هوش مصنوعی» که توسط استارت آپ Cognition ایجاد شد، اشاره کرد.

در دومین پست وبلاگ، «فراتر از ربات‌ها: چگونه عوامل هوش مصنوعی موج بعدی اتوماسیون سازمانی را هدایت می‌کنند»، نویسندگان در مورد اینکه چگونه هوش مصنوعی عاملی در شرکت‌ها اعمال خواهد شد، فکر می‌کنند.

آنها می نویسند که تأثیر فوری این است که فراتر از «اتوماسیون فرآیند رباتیک» یا RPA، ابزارهایی که برخی از وظایف اولیه انسانی را با نرم افزارهایی که توسط شرکت هایی مانند UiPath و Zapier فروخته می شود، جایگزین می کند.

همچنین: 73 درصد از متخصصان هوش مصنوعی به دنبال تغییر شغل در سال آینده هستند

عوامل تصمیم گیری و نمایندگان در مورد ریل که در پست اول بررسی شد، کاربردهای عملی در وظایف تجاری، مانند تطبیق صورتحساب های تامین کننده با یک دفتر کل پیدا می کنند:

فرض کنید یک شرکت باید یک فاکتور از یک تامین کننده بین المللی را در برابر دفتر کل خود تطبیق دهد. این فرآیند شامل ملاحظات متعددی از جمله ارز فاکتور، ارز دفتر کل، تاریخ معامله، نوسانات نرخ ارز، کارمزدهای برون مرزی و کارمزدهای بانکی است که همه آنها باید با هم بازیابی و محاسبه شوند تا پرداخت ها تطبیق داده شود. ماموران قادر به این نوع اطلاعات هستند، در حالی که یک عامل RPA ممکن است پرونده را به یک انسان افزایش دهد.

هدف اصلی پست وبلاگ این است که استارت آپ های متعددی در حال فروش چیزهایی هستند که به چنین عملکردهای نمایندگی بالاتری نزدیک می شوند. آنها می نویسند “آنها فقط علمی تخیلی نیستند.” اگرچه این دسته هنوز در حال ظهور است، شرکت‌ها از استارت‌آپ‌ها تا شرکت‌های Fortune 500 در حال خرید و استفاده از این سیستم‌ها در مقیاس هستند.»

همچنین: چگونه شغل خود را در اقتصاد نوظهور هوش مصنوعی ارتقا دهید

نویسندگان یک نمودار مفید از پیشنهادات متعدد ارائه می دهند که بر اساس میزان استقلال برنامه های عامل در امتداد یک محور و درجه تمرکز عمودی یا افقی بازار سازماندهی شده است:

دو محدودیت کلیدی که در دو پست وبلاگ پوشش داده نشده اند، در سیستم های هوش مصنوعی مولد (ژن AI) موجود ظاهر شده اند و پیشرفت عامل ها را تهدید می کنند.

اول، هیچ بحث قابل توجهی توسط نویسندگان در مورد چگونگی مقابله با توهم وجود ندارد، که با اطمینان برونداد نادرست ادعا شده است. فرآیند استدلالی که توسط ژنرال هوش مصنوعی استفاده می‌شود، و هر چقدر هم ابزارهای قدرتمندی باشند، هیچ دلیلی وجود ندارد که فرض کنیم عوامل هوش مصنوعی همچنان خروجی‌های اشتباهی مانند چت ربات‌های معمولی تولید نمی‌کنند.

همچنین: برای «اکوسیستم‌های عامل» مبتنی بر هوش مصنوعی که بر خدمات فردا تسلط خواهند داشت، آماده شوید.

حداقل، این سوال که آیا عوامل تصمیم گیری و عوامل روی ریل ها توهمات را کاهش می دهند یا نه، یک سوال تحقیقاتی باز است.

دوم، در حالی که هوش مصنوعی عاملی می تواند به طور قابل تصوری تعدادی از فرآیندهای شرکتی را خودکار کند، تا به امروز داده های بسیار کمی در مورد تأثیر آن اتوماسیون و اینکه آیا واقعاً یک پیشرفت است وجود دارد. این تا حدودی با اولین نکته در مورد توهم مرتبط است، اما نه به طور کامل. عاملی که در استدلال یا اعمال خود اشتباه نمی کند، همچنان می تواند به نتایجی منجر شود که در مقایسه با آنچه که یک فرد انجام می دهد، کمتر از حد مطلوب است.

نمونه بارز آن در کتاب “روغن مار هوش مصنوعی” توسط دانشمندان علوم کامپیوتر پرینستون، آرویند نارایان و سایاش کاپور، که در این ماه توسط انتشارات دانشگاه پرینستون منتشر شده، مورد بحث قرار گرفته است. یک مدل هوش مصنوعی تاریخچه بیماران مبتلا به آسم را که هنگام ورود به بیمارستان با علائم ذات الریه مراجعه کرده بودند، ردیابی کرد. مدل هوش مصنوعی نشان داد که آنها جزو بیمارانی بودند که کمترین خطر را در جمعیت بیمارستان داشتند. با استفاده از این “استدلال”، چنین بیمارانی می توانند مرخص شوند.

همچنین: پرسیدن سوالات پزشکی از طریق MyChart؟ پزشک شما ممکن است اجازه دهد هوش مصنوعی پاسخ دهد

با این حال، این مدل ارتباط علت و معلولی را از دست داد: بیماران مبتلا به آسم و علائم ذات‌الریه کمترین خطر را داشتند زیرا مراقبت‌های اورژانسی دریافت کردند. نارایان و کاپور اظهار می کنند که صرفاً مرخص کردن آنها می تواند چنین مراقبتی را دور بزند و نتایج می تواند “فاجعه بار” باشد.

این نوع همبستگی به جای علیت است که می‌تواند منجر به نتایج بسیار نابهینه در موقعیت‌های دنیای واقعی با موقعیت‌های علی پیچیده شود.

همچنین عواملی که با هم همکاری می کنند از محدوده بحث نویسندگان خارج شده اند. همانطور که دارمش شاه مدیر ارشد فناوری Hubspot اخیرا به ZDNET گفت، کار آینده هوش مصنوعی توسط یک عامل انجام نخواهد شد، بلکه احتمالاً توسط شبکه‌هایی از عوامل هوش مصنوعی که با یکدیگر همکاری می‌کنند، انجام خواهد شد.

همچنین: هوش مصنوعی درمانگران را از فرسودگی شغلی رها می کند. در اینجا چگونگی تغییر سلامت روان است

با توجه به این حذفیات، کاملاً واضح است که علیرغم وسعت تحقیقات سرمایه‌گذاران خطرپذیر، آنها فقط سطح آنچه را که در دنیایی از عوامل هوش مصنوعی قدرتمندتر به دست می‌آیند، خراش داده‌اند.