استارت‌آپ هوش مصنوعی SiMa.ai تراشه هوش مصنوعی «هدف‌شده» را برای محاسبات لبه معرفی کرد.
“شما می توانید تغییرات زیادی در مورد معیارها انجام دهید، اما مردم به عملکرد انتها به انتها اهمیت می دهند، نه فقط یک معیار MLPerf.
تراشه SiMa.ai که با فرآیند ساخت 16 نانومتری نیمه هادی تایوان ساخته شده است، دارای قطعات متعددی است که به صورت یک تراشه واحد ساخته شده اند. آنها شامل یک شتابدهنده یادگیری ماشینی با نام رمز “Mosaic” هستند که به ضرب ماتریسی اختصاص داده شده است که پایه و اساس پردازش شبکه عصبی است.
SiMa می‌گوید MLSoC آن، که در اینجا در بسته‌اش نشان داده شده است، اولین تراشه هدفمندی است که نه تنها عملیات ضرب ماتریس هوش مصنوعی را در موارد استفاده تعبیه‌شده انجام می‌دهد، بلکه عملکردهای سنتی بینایی رایانه را نیز که باید در یک برنامه اجرا شوند، انجام می‌دهد.
بله هوش مصنوعی
کریشنا رنگاسایی، یکی از بنیانگذاران و مدیرعامل SiMa.ai، در مصاحبه ای با این سایت گفت: «همه در حال ساختن یک شتاب دهنده یادگیری ماشین هستند، و فقط این به تنهایی. ZDNet.
Rangasayee اظهار داشت که این پشتیبانی گسترده به این معنی است که شرکت مخاطبان بیشتری از ده‌ها هزار مشتری دارد و نه فقط یک جایگاه خاص.
بخش پشتیبان نرم افزار به این معنی است که برنامه های بیشتری را می توان به جای اینکه ماه ها منتظر نتایج بود، “نقشه عملکرد شما” را نشان داد.
علاوه بر Rangasayee، موشه Gavrielov، مدیر عامل سابق Xilinx، یکی از بنیانگذاران است.
این شرکت می‌گوید این قطعه می‌تواند ۵۰ تریلیون عملیات در ثانیه یا «عملیات عملیاتی» را با توان مصرفی ۱۰ تراپیشن در ثانیه بر وات انجام دهد. این بدان معناست که این قطعه هنگام انجام وظایف شبکه عصبی 5 وات مصرف می کند، اگرچه ممکن است با سایر عملکردهای درگیر شده به همان اندازه بالاتر رود.
رنگسایی گفت: “شما می توانید زمان زیادی را روی یک برنامه صرف کنید، اما چگونه می توانید هزاران مشتری را در خط پایان قرار دهید؟ این واقعا مشکل سخت تر است.”
روز سه شنبه، راه اندازی تراشه هوش مصنوعی SiMa dot ai رسما رونمایی شد چیزی که آن را MLSoC می نامد، یک سیستم روی تراشه برای افزایش سرعت شبکه های عصبی با مصرف انرژی کمتر. این شرکت استدلال می‌کند که تراشه جدید، که ارسال به مشتریان را آغاز کرده است، تنها بخشی است که برای انجام وظایف با تأکید زیادی بر وظایف بینایی رایانه، مانند تشخیص وجود یک شی در صحنه، «به‌منظور» ساخته شده است.
کلمه “سیما” ترجمه کلمه سانسکریت برای “لبه” است.
رنگاسایی گفت که برای رسیدن به این هدف، تلاش نرم افزاری این شرکت شامل دو چیز است: نوآوری های کامپایلر در قسمت جلویی و اتوماسیون در قسمت عقب.
SiMa.ai در مقابل تعداد زیادی از رقبای تلفن همراه و جاسازی شده قرار می گیرد. در بازار برتر، رقبای شامل AMD، که اکنون مادر Xilinx است، غول مالکیت معنوی ARM، کوالکام، اینتل و انویدیا هستند. با این حال، این شرکت‌ها به‌طور سنتی بر روی تراشه‌های بزرگ‌تر متمرکز بوده‌اند که با توان بسیار بیشتر، در حد ده‌ها وات کار می‌کنند.
تراشه SiMa.ai به آنچه سازندگانش می گویند یکی از کم مصرف ترین تراشه های موجود در بازار برای انجام کارهای معمولی مانند ResNet-50، رایج ترین شبکه عصبی برای پردازش وظایف ImageNet برچسب گذاری تصاویر، می بالد.
رنگاسایی می‌گوید: «من در شرکت قبلی‌ام یاد گرفتم که نرم‌افزار چقدر مهم است و این واقعاً به قدرت نرم‌افزار ما بستگی دارد. او گفت: “بله، سیلیکون ما عالی است و ما به آن بسیار افتخار می کنیم و بدون سیلیکون شما یک شرکت نیستید.”
کریشنا رنگاسایی، مدیرعامل SiMa می‌گوید: «من در شرکت قبلی‌ام یاد گرفتم که نرم‌افزار چقدر مهم است، و این واقعاً به قدرت نرم‌افزار ما بستگی دارد. او گفت: “بله، سیلیکون ما عالی است و ما به آن بسیار افتخار می کنیم و بدون سیلیکون شما یک شرکت نیستید.” “اما، برای من، این کارکرد ضروری است، نه کافی؛ کارکرد کافی ارائه یک تجربه ML بدون زحمت است.”
بله هوش مصنوعی
SiMa.ai 150 میلیون دلار سرمایه مخاطره آمیز را در چندین دور از غول صندوق سرمایه گذاری مشترک Fidelity و Dell Technologies دریافت کرده است. لیپ بو تان، کارشناس قدیمی صنعت تراشه، که قبلاً رئیس شرکت نرم‌افزار طراحی تراشه Cadence Design بود، در هیئت مدیره SiMa.ai است.
Rangasayee به ZDNet گفت: “نکته جالب برای من این است که تقاضا برای یک پلتفرم هدفمند برای پشتیبانی از میراث بسیار زیاد است.” “آنها می توانند برنامه خود را تقریباً از روز اول اجرا کنند – این یک مزیت بزرگ است که ما داریم.”
با ساخت هسته‌های ARM و مدارهای تصویر اختصاصی همراه با کد شبکه عصبی Mosaic، مشتریان توانایی بیشتری برای اجرای برنامه‌های موجود و در عین حال افزودن کد از چارچوب‌های محبوب ML مانند PyTorch و TensorFlow خواهند داشت.
همچنین: برای تکثیر وظایف هوش مصنوعی، یک کیت شروع از Xilinx، برنامه نویسی کمی مورد نیاز است
همچنین یک هسته پردازنده ARM A65 که اغلب در خودروها یافت می شود، و انواع واحدهای کاربردی برای کمک به وظایف خاص برنامه های بینایی، از جمله یک پردازنده بینایی کامپیوتری مستقل، یک رمزگذار ویدئو و یک رمزگشا، 4 مگابایت روی تراشه وجود دارد. حافظه و تعداد زیادی از تراشه های ارتباطی و دسترسی به حافظه، از جمله یک رابط به مدارهای حافظه 32 بیتی LPDDR4.
کامپایلر از «تعامل‌های 120 پلاس» پشتیبانی می‌کند، که «انعطاف‌پذیری و مقیاس‌پذیری» را فراهم می‌کند تا انواع برنامه‌های کاربردی بیشتری را نسبت به حالت عادی وارد تراشه کند.
همچنین: بازار تراشه های لبه هوش مصنوعی در آتش است، که توسط بودجه «سرسام آور» VC شعله ور شده است
این شرکت هنوز مشخصات معیاری را بر اساس امتیازات بنچمارک MLPerf ارائه نکرده است، اما Rangasayee گفت که شرکت قصد دارد این کار را در مراحل بعدی انجام دهد.
رنگاسایی گفت: «چیزی که مشتریان ما به آن اهمیت می‌دهند، فریم در ثانیه بر وات است» از نظر فریم‌های تصویر در هر وات توان. او گفت: «ما حداقل 10 برابر هر کسی هستیم. ما هر روز آن را به همه مشتریان خود نشان می دهیم.»
او گفت که به این معنی است که تراشه‌های مورد استفاده برای یادگیری ماشینی و رایانه از نظر نحوه محاسبه دستی، پهنای باند و داده‌ها با یکدیگر پیشرفت نکرده‌اند.
Rangasayee گفت رقبا تنها با انجام عملکرد شبکه عصبی یادگیری ماشین “بخش کوچکی از مشکل را مدیریت می کنند”.
هدف محصول SiMa.ai بازارهای مختلفی از جمله روبات‌ها، هواپیماهای بدون سرنشین، وسایل نقلیه خودران و اتوماسیون صنعتی و برنامه‌های کاربردی در بازارهای بهداشت و درمان و دولتی است.
رنگاسایی با اشاره به طراحی اولیه اکثر تراشه‌های رایانه‌ای موجود در بازار، گفت: بسیاری از سیستم‌های بینایی رایانه‌ای امروزی برای صنایع دستی مستقل و سایر کاربردها از «معماری‌های سنتی انبار بار، معماری‌های Von Neumann» استفاده می‌کنند.
همانطور که ZDNet در اوایل سال جاری گزارش داد، ده‌ها استارت‌آپ ده‌ها میلیون بودجه برای ساخت تراشه‌هایی برای هوش مصنوعی در موبایل و سایر کاربردهای محاسباتی تعبیه‌شده دریافت کرده‌اند. از آنجایی که بازار حاشیه ای کمتر مستقر است، راه های مختلفی وجود دارد که فروشندگان به مشکل برخورد کنند.
رنگاسایی گفت: “ما یک SoC ML منحصر به فرد داریم، اولین سیستم روی تراشه که ML را درک می کند، و بنابراین مردم می توانند دید کامپیوتری کلاسیک را انجام دهند و مشکلات قدیمی را علاوه بر ML، در یک معماری واحد حل کنند.”
اصطلاح “Edge AI” به یک اصطلاح عمومی برای اشاره به هر چیزی که در یک مرکز داده نیست تبدیل شده است، اگرچه ممکن است شامل سرورهایی در حاشیه مراکز داده باشد. از گوشی‌های هوشمند گرفته تا دستگاه‌های تعبیه‌شده که با استفاده از چارچوب TinyML برای هوش مصنوعی موبایل گوگل، میکرو وات انرژی را می‌خورند، متغیر است.
رنگاسایی گفت: «همه به ML نیاز دارند، اما این بخشی از مشکل کلی است، نه کل مشکل.
همچنین: برای اندازه گیری هوش مصنوعی بسیار کم توان، MLPerf یک معیار TinyML دریافت می کند
اما، برای من، این کارکرد ضروری است، نه کافی؛ کارکرد کافی ارائه یک تجربه ML بدون زحمت است.
در چشم‌انداز بسیار وسیع تراشه‌های رایانه‌ای هوش مصنوعی، محصولاتی که به بازار «لبه» خدمت می‌کنند، از هواپیماهای بدون سرنشین گرفته تا دستگاه‌های اینترنت اشیا، تلفن‌ها و محیط‌های سرور کم‌مصرف، منطقه‌ای مناسب برای فروشندگان هستند زیرا یکی از کمتر بخش هایی از بازار را در مقایسه با فناوری مرکز داده توسعه داده است.
SiMa MLSoC را در یک هیئت ارزیابی برای آزمایش برنامه ها ارائه می دهد.
بله هوش مصنوعی
“آنها به دنبال یک تجربه سیستم روی یک تراشه هستند که در آن شما بتوانید کل برنامه را روی یک تراشه اجرا کنید.”
اگرچه اعلامیه روز سه‌شنبه در مورد یک تراشه است، اما SiMa.ai تاکید ویژه‌ای بر قابلیت نرم‌افزار خود، از جمله آنچه «تکنیک‌های بهینه‌سازی کامپایلر جدید» می‌نامد، دارد. این نرم افزار امکان پشتیبانی از طیف گسترده ای از چارچوب ها، از جمله TensorFlow، PyTorch، و ONNX را فراهم می کند، کتابخانه های برنامه نویسی غالبی که یادگیری ماشین برای توسعه و آموزش شبکه های عصبی استفاده می کند.
سخت‌افزار تراشه با نرم‌افزار SiMa.ai ارائه می‌شود تا تنظیم عملکرد را بسیار آسان‌تر کند و بارهای کاری بیشتری را مدیریت کند.
رنگاسایی از برنامه های مختلف غیرنظامی و دولتی مشاهده کرد: “این یک بازار چند تریلیون دلاری است که هنوز از فناوری چند دهه استفاده می کند.”
او گفت که این نوآوری نرم افزاری برای استفاده از “دکمه فشاری” MLSoC طراحی شده است، زیرا “همه ML می خواهند، هیچ کس منحنی یادگیری را نمی خواهد.” این رویکردی است که کارفرمای سابق Rangasayee، Xilinx، در تلاش برای کاربرپسندتر کردن تراشه‌های هوش مصنوعی تعبیه‌شده خود نیز اتخاذ کرده است.
او گفت: “من تعجب می کنم که بخش دولتی با چه سرعتی در حال حرکت است.” رنگسایی خاطرنشان کرد، تصور معمول این است که پنج تا هفت سال طول می‌کشد تا دولت‌ها فناوری جدید را تهیه کنند، اما همه چیز بسیار سریع‌تر از این اتفاق می‌افتد. کاربردهایی که دولت به ویژه به آنها علاقه مند است مواردی مانند استفاده از تانک های ML و آشکارسازهایی است که به دنبال مواد منفجره دست ساز هستند. او گفت که ماهواره ها نیز یک برنامه امیدوارکننده هستند.
نکته دیگر به نفع تراشه به گفته رنگاسایی این است که عملکرد آن ده برابر هر قطعه قابل مقایسه ای است.
رنگاسایی گفت، تنها شرکت‌هایی که «در خط دید ما هستند، Hailo و Mythic هستند، اما، «تمایز بزرگ ما این است که آنها فقط شتاب‌دهنده‌های ML می‌سازند، ما در حال ساخت SoCهای کامل ML هستیم».
این شرکت می‌گوید نرم‌افزارش به کاربران این امکان را می‌دهد که «هر برنامه بینایی رایانه‌ای، هر شبکه، هر مدل، هر چارچوب، هر حسگر، هر وضوحی را اجرا کنند».
Rangasayee می‌گوید: «چیزی که در مورد بازار لبه‌های جاسازی شده بسیار متفاوت است، در مقابل محاسبات ابری، این است که «مردم به‌جای صرفاً یک تراشه برای توابع یادگیری ماشین، به دنبال حل‌کننده‌های مشکل برنامه‌های کاربردی سرتاسری هستند».
رنگاسایی گفت که بازار دولتی به ویژه سریعاً این فناوری را پذیرفته است
رنگاسایی توضیح داد: ما اولین شرکتی هستیم که برای حل هر مشکل بینایی کامپیوتری کد را می شکنیم، زیرا به پایه کد اهمیتی نمی دهیم، می تواند در C++ باشد، می تواند در پایتون یا هر چارچوب ML باشد. او گفت که حمایت گسترده از برنامه ها، شرکت را متمایل می کند تا خود را جزیره الیس تراشه ها بداند. بیچاره هایت را به ما بده، خسته هایت را به ما بده، همه را می گیریم! او گفت.
رنگاسایی می‌گوید: «بیشتر شرکت‌ها یک انسان را برای دستیابی به عملکرد مناسب در جریان قرار می‌دهند. ما می دانستیم که باید به روشی هوشمندانه خودکار کنیم تا در عرض چند دقیقه تجربه بهتری داشته باشیم.
“بله، ما اعداد داریم و بله، بهتر از هر کس دیگری کار می کنیم، اما در عین حال، ما نمی خواهیم وقت خود را صرف ساختن معیارها کنیم، ما فقط می خواهیم مشکلات مشتریان را حل کنیم.”
این دسته از تراشه‌هایی که با چند وات کار می‌کنند، SiMa.ai را در کنار تعداد زیادی از استارت‌آپ‌ها قرار می‌دهد، از جمله Hailo Technologies، Mythic، AlphaICs، Recogni، EdgeCortix، Flex Logix، Roviero، BrainChip، Syntiant، Untether AI، Expedera، Deep AI. آند، و پلومرای، فقط واضح ترین آنها را نام ببریم.
رنگاسایی گفت: در حال حاضر اولویت کسب درآمد است. “ما یک شرکت بسیار کوچک هستیم” با 120 کارمند، “ما نمی توانیم تیمی را به تنهایی برای انجام ML Perf اختصاص دهیم.”