یک شبکه عصبی با ارسال برخی از داده های ورودی به پارامترها یا وزن های خود و ضرب ورودی در وزن، پیش بینی می کند. آن عملیات ریاضی، حاصل ضرب یک بردار ورودی و یک ماتریس پارامتر، ضرب-انباشته نامیده می شود، یا MAC، عملیات، و برنامه های شبکه عصبی هزاران تن از آنها را در هر ثانیه انجام می دهند، زیرا وزن های متعدد هر لایه شبکه به ورودی اعمال می شود. .
بازار به اصطلاح لبه‌ای برای هوش مصنوعی اخیراً منطقه‌ای بزرگ بوده است و استارت‌آپ‌ها ده‌ها میلیون سرمایه خطرپذیر برای ارائه تراشه‌ها و نرم‌افزار دریافت می‌کنند. این تلاش‌ها منجر به ایجاد ابزارهای توسعه ویژه برای اشکال یادگیری ماشینی هوش مصنوعی، مانند ابتکار TinyML از Google شده است.
نویسندگان از این هم فراتر می روند. آنها با پیش‌بینی استقرار در ماهواره‌ها و دیگر مناطق عجیب و غریب، روی کشف آشکارسازهای نوری به نام گیرنده‌های یکپارچه کار کردند که می‌توانند با تعداد بسیار کمی فوتون کار کنند.
هر ردیف از یک ماتریس را می توان روی یک طول موج نور کدگذاری کرد و سپس به دستگاه مشتری “پخش” کرد، به طوری که یک سیگنال WDM چند طول موج می تواند یک ماتریس وزن کامل یا حتی ماتریس های متعدد را ارسال کند. در دستگاه مشتری، یک گیرنده نوری داده های کدگذاری شده در هر طول موج را بازیابی می کند و آن را با داده های ورودی ترکیب می کند تا ضرب ماتریس را در حوزه نوری به جای الکتریکی انجام دهد. پس از تبدیل شدن از سیگنال نوری، محصول را می توان به صورت الکتریکی روی RAM محلی ذخیره کرد.
رویکرد ممکن سومی نیز وجود دارد، و آن این است که سعی کنیم با دقت بیشتری توازن کنیم که چه کاری روی دستگاه‌های محدود و با چه ابزاری انجام می‌شود. این طرحی است که در اکتبر ارائه شد توسط محققان MIT در مجله علمی Science.
Sludds و تیم می نویسند که این منجر به ساده سازی چشمگیر اجزایی می شود که باید در یک دستگاه مشتری در لبه قرار گیرند.
از این رو، کلید Netcast نحوه به حداقل رساندن دسترسی به حافظه و ترافیک شبکه برای دستگاه مشتری بود.
منبع: https://www.zdnet.com/article/problem-scaling-ai-mit-proposes-sub-photon-optical-deep-learning-at-the-edge/#ftag=RSSbaffb68
محقق الکساندر اسلادز و همکارانش در آزمایشگاه تحقیقاتی الکترونیک، علوم کامپیوتر و آزمایشگاه هوش مصنوعی MIT و آزمایشگاه لینکلن با مشارکت نوکیا و تحقیقات NTT، سیستمی را توسعه داده اند که از فوتونیک برای ارسال داده ها به یک دستگاه مشتری استفاده می کند که در آن می توان آن را در حوزه نوری به روشی بسیار کارآمدتر محاسبه کرد.
آنها نوشتند: «تحقق محاسبات با کمتر از یک فوتون در هر MAC، می‌تواند کلاس جدیدی از سیستم‌های محاسباتی را فعال کند که هم از ورودی مشتری و هم از داده‌های وزن سرور محافظت می‌کند» از دیدگاه حریم خصوصی داده‌ها. همچنین می تواند محاسبات در فضاپیما را قابل اعتمادتر کند. داده‌های وزن از یک ایستگاه پایه جهت‌دار می‌تواند به فضاپیما مخابره شده و در فضاپیما طبقه‌بندی شود، قبل از اینکه نتایج به زمین مخابره شود.»
کسری بسیار کوچک وات صرفه‌جویی در مصرف انرژی است و مهم است زیرا بسیاری از دستگاه‌های لبه، در مقایسه با دستگاه‌های محاسباتی معمولی که از ده‌ها یا صدها وات استفاده می‌کنند، بودجه کل انرژی بر حسب میلی‌وات یا هزارم وات دارند. . عملیات فمتوژول نت‌کست به طور مؤثر برنامه را به زیر آنچه تا به امروز «یک گلوگاه سرسخت نزدیک 1 pJ» بود، با نام یک پیکوژول یا یک تریلیونم ژول می‌رساند.
اسلادز و تیم تیم نوشت: «این نتیجه ممکن است در ابتدا شگفت‌انگیز به نظر برسد، زیرا کمتر از یک فوتون در هر MAC غیرمعمول است. ما می‌توانیم این اندازه‌گیری را با توجه به اینکه در زمان بازخوانی، یک محصول برداری-بردار با MAC 100 = انجام داده‌ایم درک کنیم. هر MAC می‌تواند کمتر از یک فوتون در خود داشته باشد، اما سیگنال اندازه‌گیری شده فوتون‌های زیادی در خود دارد. “
به طور کلی، بزرگ‌ترین کار برای اکثر شبکه‌های عصبی، واکشی داده‌ها از تراشه‌های حافظه RAM و دسترسی به شبکه است. این یک مشکل است زیرا وزن‌های عصبی معمولاً در RAM ذخیره می‌شوند، بنابراین هر لایه از عملیات MAC می‌تواند به چندین سفر از طریق گذرگاه PCIe به RAM و شاید حتی به یک کارت خط شبکه برای ذخیره‌سازی حافظه از راه دور نیاز داشته باشد.
دانشمندان MIT از ردیاب‌های نوری ویژه برای انجام معادله هوش مصنوعی فقط با تابش نور به یک دستگاه مشتری کم مصرف استفاده کردند. این رویکرد می تواند به ویژه در فضای عمیق مفید باشد.
