استارت‌آپ هوش مصنوعی SiMa.ai تراشه هوش مصنوعی «هدف‌شده» را برای محاسبات لبه معرفی کرد.


simamlsoc.png

SiMa می‌گوید MLSoC آن، که در اینجا در بسته‌اش نشان داده شده است، اولین تراشه هدفمندی است که نه تنها عملیات ضرب ماتریس هوش مصنوعی را در موارد استفاده تعبیه‌شده انجام می‌دهد، بلکه عملکردهای سنتی بینایی رایانه را نیز که باید در یک برنامه اجرا شوند، انجام می‌دهد.

بله هوش مصنوعی

در چشم‌انداز بسیار وسیع تراشه‌های رایانه‌ای هوش مصنوعی، محصولاتی که به بازار «لبه» خدمت می‌کنند، از هواپیماهای بدون سرنشین گرفته تا دستگاه‌های اینترنت اشیا، تلفن‌ها و محیط‌های سرور کم‌مصرف، منطقه‌ای مناسب برای فروشندگان هستند زیرا یکی از کمتر بخش هایی از بازار را در مقایسه با فناوری مرکز داده توسعه داده است.

همانطور که ZDNet در اوایل سال جاری گزارش داد، ده‌ها استارت‌آپ ده‌ها میلیون بودجه برای ساخت تراشه‌هایی برای هوش مصنوعی در موبایل و سایر کاربردهای محاسباتی تعبیه‌شده دریافت کرده‌اند. از آنجایی که بازار حاشیه ای کمتر مستقر است، راه های مختلفی وجود دارد که فروشندگان به مشکل برخورد کنند.

روز سه شنبه، راه اندازی تراشه هوش مصنوعی SiMa dot ai رسما رونمایی شد چیزی که آن را MLSoC می نامد، یک سیستم روی تراشه برای افزایش سرعت شبکه های عصبی با مصرف انرژی کمتر. این شرکت استدلال می‌کند که تراشه جدید، که ارسال به مشتریان را آغاز کرده است، تنها بخشی است که برای انجام وظایف با تأکید زیادی بر وظایف بینایی رایانه، مانند تشخیص وجود یک شی در صحنه، «به‌منظور» ساخته شده است.

کریشنا رنگاسایی، یکی از بنیانگذاران و مدیرعامل SiMa.ai، در مصاحبه ای با این سایت گفت: «همه در حال ساختن یک شتاب دهنده یادگیری ماشین هستند، و فقط این به تنهایی. ZDNet.

Rangasayee می‌گوید: «چیزی که در مورد بازار لبه‌های جاسازی شده بسیار متفاوت است، در مقابل محاسبات ابری، این است که «مردم به‌جای صرفاً یک تراشه برای توابع یادگیری ماشین، به دنبال حل‌کننده‌های مشکل برنامه‌های کاربردی سرتاسری هستند».

“آنها به دنبال یک تجربه سیستم روی یک تراشه هستند که در آن شما بتوانید کل برنامه را روی یک تراشه اجرا کنید.”

Rangasayee گفت رقبا تنها با انجام عملکرد شبکه عصبی یادگیری ماشین “بخش کوچکی از مشکل را مدیریت می کنند”.

رنگاسایی گفت: «همه به ML نیاز دارند، اما این بخشی از مشکل کلی است، نه کل مشکل.

همچنین: بازار تراشه های لبه هوش مصنوعی در آتش است، که توسط بودجه «سرسام آور» VC شعله ور شده است

تراشه SiMa.ai که با فرآیند ساخت 16 نانومتری نیمه هادی تایوان ساخته شده است، دارای قطعات متعددی است که به صورت یک تراشه واحد ساخته شده اند. آنها شامل یک شتابدهنده یادگیری ماشینی با نام رمز “Mosaic” هستند که به ضرب ماتریسی اختصاص داده شده است که پایه و اساس پردازش شبکه عصبی است.

همچنین یک هسته پردازنده ARM A65 که اغلب در خودروها یافت می شود، و انواع واحدهای کاربردی برای کمک به وظایف خاص برنامه های بینایی، از جمله یک پردازنده بینایی کامپیوتری مستقل، یک رمزگذار ویدئو و یک رمزگشا، 4 مگابایت روی تراشه وجود دارد. حافظه و تعداد زیادی از تراشه های ارتباطی و دسترسی به حافظه، از جمله یک رابط به مدارهای حافظه 32 بیتی LPDDR4.

سخت‌افزار تراشه با نرم‌افزار SiMa.ai ارائه می‌شود تا تنظیم عملکرد را بسیار آسان‌تر کند و بارهای کاری بیشتری را مدیریت کند.

جزئیات بیشتر در مورد MLSoC در وب سایت SiMa.ai در دسترس هستند.

هدف محصول SiMa.ai بازارهای مختلفی از جمله روبات‌ها، هواپیماهای بدون سرنشین، وسایل نقلیه خودران و اتوماسیون صنعتی و برنامه‌های کاربردی در بازارهای بهداشت و درمان و دولتی است.

رنگاسایی گفت که بازار دولتی به ویژه سریعاً این فناوری را پذیرفته است

krishna-cropped33sima-2022.png

کریشنا رنگاسایی، مدیرعامل SiMa می‌گوید: «من در شرکت قبلی‌ام یاد گرفتم که نرم‌افزار چقدر مهم است، و این واقعاً به قدرت نرم‌افزار ما بستگی دارد. او گفت: “بله، سیلیکون ما عالی است و ما به آن بسیار افتخار می کنیم و بدون سیلیکون شما یک شرکت نیستید.” “اما، برای من، این کارکرد ضروری است، نه کافی؛ کارکرد کافی ارائه یک تجربه ML بدون زحمت است.”

بله هوش مصنوعی

او گفت: “من تعجب می کنم که بخش دولتی با چه سرعتی در حال حرکت است.” رنگسایی خاطرنشان کرد، تصور معمول این است که پنج تا هفت سال طول می‌کشد تا دولت‌ها فناوری جدید را تهیه کنند، اما همه چیز بسیار سریع‌تر از این اتفاق می‌افتد. کاربردهایی که دولت به ویژه به آنها علاقه مند است مواردی مانند استفاده از تانک های ML و آشکارسازهایی است که به دنبال مواد منفجره دست ساز هستند. او گفت که ماهواره ها نیز یک برنامه امیدوارکننده هستند.

رنگاسایی از برنامه های مختلف غیرنظامی و دولتی مشاهده کرد: “این یک بازار چند تریلیون دلاری است که هنوز از فناوری چند دهه استفاده می کند.”

رنگاسایی با اشاره به طراحی اولیه اکثر تراشه‌های رایانه‌ای موجود در بازار، گفت: بسیاری از سیستم‌های بینایی رایانه‌ای امروزی برای صنایع دستی مستقل و سایر کاربردها از «معماری‌های سنتی انبار بار، معماری‌های Von Neumann» استفاده می‌کنند.

او گفت که به این معنی است که تراشه‌های مورد استفاده برای یادگیری ماشینی و رایانه از نظر نحوه محاسبه دستی، پهنای باند و داده‌ها با یکدیگر پیشرفت نکرده‌اند.

همچنین: برای تکثیر وظایف هوش مصنوعی، یک کیت شروع از Xilinx، برنامه نویسی کمی مورد نیاز است

رنگاسایی گفت: “ما یک SoC ML منحصر به فرد داریم، اولین سیستم روی تراشه که ML را درک می کند، و بنابراین مردم می توانند دید کامپیوتری کلاسیک را انجام دهند و مشکلات قدیمی را علاوه بر ML، در یک معماری واحد حل کنند.”

SiMa.ai 150 میلیون دلار سرمایه مخاطره آمیز را در چندین دور از غول صندوق سرمایه گذاری مشترک Fidelity و Dell Technologies دریافت کرده است. لیپ بو تان، کارشناس قدیمی صنعت تراشه، که قبلاً رئیس شرکت نرم‌افزار طراحی تراشه Cadence Design بود، در هیئت مدیره SiMa.ai است.

کلمه “سیما” ترجمه کلمه سانسکریت برای “لبه” است.

علاوه بر Rangasayee، موشه Gavrielov، مدیر عامل سابق Xilinx، یکی از بنیانگذاران است.

اصطلاح “Edge AI” به یک اصطلاح عمومی برای اشاره به هر چیزی که در یک مرکز داده نیست تبدیل شده است، اگرچه ممکن است شامل سرورهایی در حاشیه مراکز داده باشد. از گوشی‌های هوشمند گرفته تا دستگاه‌های تعبیه‌شده که با استفاده از چارچوب TinyML برای هوش مصنوعی موبایل گوگل، میکرو وات انرژی را می‌خورند، متغیر است.

SiMa.ai در مقابل تعداد زیادی از رقبای تلفن همراه و جاسازی شده قرار می گیرد. در بازار برتر، رقبای شامل AMD، که اکنون مادر Xilinx است، غول مالکیت معنوی ARM، کوالکام، اینتل و انویدیا هستند. با این حال، این شرکت‌ها به‌طور سنتی بر روی تراشه‌های بزرگ‌تر متمرکز بوده‌اند که با توان بسیار بیشتر، در حد ده‌ها وات کار می‌کنند.

تراشه SiMa.ai به آنچه سازندگانش می گویند یکی از کم مصرف ترین تراشه های موجود در بازار برای انجام کارهای معمولی مانند ResNet-50، رایج ترین شبکه عصبی برای پردازش وظایف ImageNet برچسب گذاری تصاویر، می بالد.

sima-mlsoc-evaluation-board.png

SiMa MLSoC را در یک هیئت ارزیابی برای آزمایش برنامه ها ارائه می دهد.

بله هوش مصنوعی

این شرکت می‌گوید این قطعه می‌تواند ۵۰ تریلیون عملیات در ثانیه یا «عملیات عملیاتی» را با توان مصرفی ۱۰ تراپیشن در ثانیه بر وات انجام دهد. این بدان معناست که این قطعه هنگام انجام وظایف شبکه عصبی 5 وات مصرف می کند، اگرچه ممکن است با سایر عملکردهای درگیر شده به همان اندازه بالاتر رود.

این دسته از تراشه‌هایی که با چند وات کار می‌کنند، SiMa.ai را در کنار تعداد زیادی از استارت‌آپ‌ها قرار می‌دهد، از جمله Hailo Technologies، Mythic، AlphaICs، Recogni، EdgeCortix، Flex Logix، Roviero، BrainChip، Syntiant، Untether AI، Expedera، Deep AI. آند، و پلومرای، فقط واضح ترین آنها را نام ببریم.

رنگاسایی گفت، تنها شرکت‌هایی که «در خط دید ما هستند، Hailo و Mythic هستند، اما، «تمایز بزرگ ما این است که آنها فقط شتاب‌دهنده‌های ML می‌سازند، ما در حال ساخت SoC‌های کامل ML هستیم».

با ساخت هسته‌های ARM و مدارهای تصویر اختصاصی همراه با کد شبکه عصبی Mosaic، مشتریان توانایی بیشتری برای اجرای برنامه‌های موجود و در عین حال افزودن کد از چارچوب‌های محبوب ML مانند PyTorch و TensorFlow خواهند داشت.

همچنین: برای اندازه گیری هوش مصنوعی بسیار کم توان، MLPerf یک معیار TinyML دریافت می کند

Rangasayee به ZDNet گفت: “نکته جالب برای من این است که تقاضا برای یک پلتفرم هدفمند برای پشتیبانی از میراث بسیار زیاد است.” “آنها می توانند برنامه خود را تقریباً از روز اول اجرا کنند – این یک مزیت بزرگ است که ما داریم.”

رنگاسایی توضیح داد: ما اولین شرکتی هستیم که برای حل هر مشکل بینایی کامپیوتری کد را می شکنیم، زیرا به پایه کد اهمیتی نمی دهیم، می تواند در C++ باشد، می تواند در پایتون یا هر چارچوب ML باشد. او گفت که حمایت گسترده از برنامه ها، شرکت را متمایل می کند تا خود را جزیره الیس تراشه ها بداند. بیچاره هایت را به ما بده، خسته هایت را به ما بده، همه را می گیریم! او گفت.

Rangasayee اظهار داشت که این پشتیبانی گسترده به این معنی است که شرکت مخاطبان بیشتری از ده‌ها هزار مشتری دارد و نه فقط یک جایگاه خاص.

نکته دیگر به نفع تراشه به گفته رنگاسایی این است که عملکرد آن ده برابر هر قطعه قابل مقایسه ای است.

رنگاسایی گفت: «چیزی که مشتریان ما به آن اهمیت می‌دهند، فریم در ثانیه بر وات است» از نظر فریم‌های تصویر در هر وات توان. او گفت: «ما حداقل 10 برابر هر کسی هستیم. ما هر روز آن را به همه مشتریان خود نشان می دهیم.»

این شرکت هنوز مشخصات معیاری را بر اساس امتیازات بنچمارک MLPerf ارائه نکرده است، اما Rangasayee گفت که شرکت قصد دارد این کار را در مراحل بعدی انجام دهد.

رنگاسایی گفت: در حال حاضر اولویت کسب درآمد است. “ما یک شرکت بسیار کوچک هستیم” با 120 کارمند، “ما نمی توانیم تیمی را به تنهایی برای انجام ML Perf اختصاص دهیم.”

“شما می توانید تغییرات زیادی در مورد معیارها انجام دهید، اما مردم به عملکرد انتها به انتها اهمیت می دهند، نه فقط یک معیار MLPerf.

“بله، ما اعداد داریم و بله، بهتر از هر کس دیگری کار می کنیم، اما در عین حال، ما نمی خواهیم وقت خود را صرف ساختن معیارها کنیم، ما فقط می خواهیم مشکلات مشتریان را حل کنیم.”

اگرچه اعلامیه روز سه‌شنبه در مورد یک تراشه است، اما SiMa.ai تاکید ویژه‌ای بر قابلیت نرم‌افزار خود، از جمله آنچه «تکنیک‌های بهینه‌سازی کامپایلر جدید» می‌نامد، دارد. این نرم افزار امکان پشتیبانی از طیف گسترده ای از چارچوب ها، از جمله TensorFlow، PyTorch، و ONNX را فراهم می کند، کتابخانه های برنامه نویسی غالبی که یادگیری ماشین برای توسعه و آموزش شبکه های عصبی استفاده می کند.

این شرکت می‌گوید نرم‌افزارش به کاربران این امکان را می‌دهد که «هر برنامه بینایی رایانه‌ای، هر شبکه، هر مدل، هر چارچوب، هر حسگر، هر وضوحی را اجرا کنند».

رنگسایی گفت: “شما می توانید زمان زیادی را روی یک برنامه صرف کنید، اما چگونه می توانید هزاران مشتری را در خط پایان قرار دهید؟ این واقعا مشکل سخت تر است.”

رنگاسایی گفت که برای رسیدن به این هدف، تلاش نرم افزاری این شرکت شامل دو چیز است: نوآوری های کامپایلر در قسمت جلویی و اتوماسیون در قسمت عقب.

کامپایلر از «تعامل‌های 120 پلاس» پشتیبانی می‌کند، که «انعطاف‌پذیری و مقیاس‌پذیری» را فراهم می‌کند تا انواع برنامه‌های کاربردی بیشتری را نسبت به حالت عادی وارد تراشه کند.

بخش پشتیبان نرم افزار به این معنی است که برنامه های بیشتری را می توان به جای اینکه ماه ها منتظر نتایج بود، “نقشه عملکرد شما” را نشان داد.

رنگاسایی می‌گوید: «بیشتر شرکت‌ها یک انسان را برای دستیابی به عملکرد مناسب در جریان قرار می‌دهند. ما می دانستیم که باید به روشی هوشمندانه خودکار کنیم تا در عرض چند دقیقه تجربه بهتری داشته باشیم.

او گفت که این نوآوری نرم افزاری برای استفاده از “دکمه فشاری” MLSoC طراحی شده است، زیرا “همه ML می خواهند، هیچ کس منحنی یادگیری را نمی خواهد.” این رویکردی است که کارفرمای سابق Rangasayee، Xilinx، در تلاش برای کاربرپسندتر کردن تراشه‌های هوش مصنوعی تعبیه‌شده خود نیز اتخاذ کرده است.

رنگاسایی می‌گوید: «من در شرکت قبلی‌ام یاد گرفتم که نرم‌افزار چقدر مهم است و این واقعاً به قدرت نرم‌افزار ما بستگی دارد. او گفت: “بله، سیلیکون ما عالی است و ما به آن بسیار افتخار می کنیم و بدون سیلیکون شما یک شرکت نیستید.”

اما، برای من، این کارکرد ضروری است، نه کافی؛ کارکرد کافی ارائه یک تجربه ML بدون زحمت است.


منبع: https://www.zdnet.com/article/ai-startup-sima-debuts-purpose-built-ai-chip-for-edge-computing/#ftag=RSSbaffb68