مجله: sciencedaily

یک معماری محاسباتی جدید، محاسبات پیشرفته یادگیری ماشینی را قادر می‌سازد تا بر روی یک دستگاه لبه‌ای کم مصرف و با محدودیت حافظه انجام شوند. این تکنیک ممکن است خودروهای خودران را قادر سازد تا در زمان واقعی تصمیم گیری کنند در حالی که تنها از کسری از انرژی که در حال حاضر توسط کامپیوترهای تشنه انرژی آنها نیاز است استفاده می کنند.

از یک دستگاه خانه هوشمند پیش بینی آب و هوا را بخواهید، چند ثانیه طول می کشد تا دستگاه پاسخ دهد. یکی از دلایلی که این تأخیر رخ می‌دهد این است که دستگاه‌های متصل حافظه یا قدرت کافی برای ذخیره و اجرای مدل‌های عظیم یادگیری ماشینی لازم برای درک اینکه کاربر از آن چه می‌خواهد را اجرا کنند. این مدل در مرکز داده ای ذخیره می شود که ممکن است صدها مایل دورتر باشد، جایی که پاسخ محاسبه شده و به دستگاه ارسال می شود.

محققان MIT روش جدیدی را برای محاسبه مستقیم روی این دستگاه ها ایجاد کرده اند که این تاخیر را به شدت کاهش می دهد. تکنیک آنها مراحل حافظه فشرده اجرای یک مدل یادگیری ماشینی را به یک سرور مرکزی منتقل می کند که در آن اجزای مدل بر روی امواج نور کدگذاری می شوند.

امواج با استفاده از فیبر نوری به یک دستگاه متصل منتقل می شوند، که امکان ارسال هزاران داده را به سرعت از طریق شبکه فراهم می کند. سپس گیرنده از یک دستگاه نوری ساده استفاده می کند که به سرعت محاسبات را با استفاده از قطعات مدلی که توسط آن امواج نور حمل می شود انجام می دهد.

این تکنیک در مقایسه با روش های دیگر منجر به بهبود بیش از صد برابری در بهره وری انرژی می شود. همچنین می‌تواند امنیت را بهبود بخشد، زیرا داده‌های کاربر نیازی به انتقال به یک مکان مرکزی برای محاسبه ندارند.

این روش می‌تواند یک خودروی خودران را قادر می‌سازد تا در زمان واقعی تصمیم‌گیری کند و در عین حال تنها درصد کمی از انرژی مورد نیاز رایانه‌های پرقدرت را مصرف کند. همچنین می‌تواند به کاربر اجازه دهد تا مکالمه‌ای بدون تأخیر با دستگاه خانه هوشمند خود داشته باشد، از آن برای پردازش ویدیوی زنده از طریق شبکه‌های سلولی استفاده شود، یا حتی طبقه‌بندی تصاویر با سرعت بالا را در فضاپیمایی میلیون‌ها مایل دورتر از زمین فعال کند.

"هر بار که می خواهید یک شبکه عصبی را اجرا کنید، باید برنامه را اجرا کنید، و اینکه چقدر می توانید برنامه را اجرا کنید بستگی به سرعتی دارد که می توانید برنامه را از حافظه وارد کنید. لوله ما بسیار بزرگ است -- این مربوط به ارسال یک فیلم بلند کامل از طریق اینترنت در هر میلی ثانیه یا بیشتر است. به این ترتیب داده ها به سرعت وارد سیستم ما می شوند. و می تواند به همین سرعت محاسبه کند، (نویسنده ارشد، درک انگلوند، دانشیار دپارتمان مهندسی برق و علوم کامپیوتر (EECS) و عضو آزمایشگاه تحقیقاتی الکترونیک MIT می گوید.)

الکساندر اسلادز، نویسنده اصلی و دانشجوی فارغ التحصیل EECS در این مقاله به انگلوند پیوسته است. سامیل باندیوپادیای دانشجوی فارغ التحصیل EECS ، رایان هامرلی، دانشمند پژوهشی، و همچنین سایرین از MIT، آزمایشگاه MIT لینکلن، و شرکت نوکیا. این تحقیق در Science منتشر خواهد شد.

سبک کردن بار

شبکه‌های عصبی مدل‌های یادگیری ماشینی هستند که از لایه‌هایی از گره‌های متصل یا نورون‌ها برای تشخیص الگوها در مجموعه داده‌ها و انجام وظایفی مانند طبقه‌بندی تصاویر یا تشخیص گفتار استفاده می‌کنند. اما این مدل‌ها می‌توانند حاوی میلیاردها پارامتر وزنی باشند، که مقادیر عددی هستند که داده‌های ورودی را هنگام پردازش تغییر می‌دهند. این وزن ها باید در حافظه ذخیره شوند. در عین حال، فرآیند تبدیل داده ها شامل میلیاردها محاسبات جبری است که برای انجام آنها به قدرت زیادی نیاز دارد.

اسلادز می‌گوید فرآیند واکشی داده‌ها (در این مورد وزن شبکه عصبی) از حافظه و انتقال آنها به قسمت‌هایی از رایانه که محاسبات واقعی را انجام می‌دهند، یکی از بزرگترین عوامل محدودکننده سرعت و بهره‌وری انرژی است.

"بنابراین فکر ما این بود که چرا این همه بلند کردن سنگین را انجام ندهیم - فرآیند واکشی میلیاردها وزنه از حافظه - آن را از دستگاه لبه دور نکنیم و در جایی قرار دهیم که دسترسی فراوانی به قدرت و حافظه داشته باشیم؟ که به ما این توانایی را می دهد که آن وزنه ها را به سرعت بیاوریم؟" او می گوید.

معماری شبکه عصبی که آنها توسعه دادند، Netcast، شامل ذخیره وزن در یک سرور مرکزی است که به یک سخت افزار جدید به نام فرستنده گیرنده هوشمند متصل است. این فرستنده گیرنده هوشمند، تراشه ای به اندازه انگشت شست که می تواند داده ها را دریافت و ارسال کند، از فناوری موسوم به فوتونیک سیلیکونی برای برداشت تریلیون ها وزن از حافظه در هر ثانیه استفاده می کند.

وزن‌ها را به‌عنوان سیگنال‌های الکتریکی دریافت می‌کند و آن‌ها را روی امواج نور نشان می‌دهد. از آنجایی که داده های وزن به صورت بیت (1 و 0) کدگذاری می شوند، فرستنده گیرنده آنها را با تعویض لیزر تبدیل می کند. لیزر برای 1 روشن و برای 0 خاموش می شود. این امواج نور را ترکیب می کند و سپس به صورت دوره ای آنها را از طریق یک شبکه فیبر نوری منتقل می کند تا دستگاه مشتری برای دریافت آنها نیازی به پرس و جو از سرور نداشته باشد.

Bandyopadhyay توضیح می دهد: "اپتیک عالی است زیرا راه های زیادی برای انتقال داده ها در اپتیک وجود دارد. به عنوان مثال، می توانید داده ها را روی رنگ های مختلف نور قرار دهید و این باعث می شود تا توان داده بسیار بالاتر و پهنای باند بیشتری نسبت به وسایل الکترونیکی داشته باشید."

تریلیون ها در ثانیه

هنگامی که امواج نور به دستگاه مشتری می رسد، یک جزء نوری ساده که به عنوان مدولاتور باند پهن "Mach-Zehnder" شناخته می شود از آنها برای انجام محاسبات آنالوگ فوق سریع استفاده می کند. این شامل کدگذاری داده های ورودی از دستگاه، مانند اطلاعات حسگر، بر روی وزنه ها است. سپس هر طول موج جداگانه را به گیرنده ای می فرستد که نور را تشخیص داده و نتیجه محاسبات را اندازه گیری می کند.

محققان راهی برای استفاده از این تعدیل کننده برای انجام تریلیون ها ضرب در ثانیه ابداع کردند که سرعت محاسبات روی دستگاه را به میزان قابل توجهی افزایش می دهد در حالی که تنها از مقدار کمی نیرو استفاده می کند.

برای اینکه چیزی سریعتر بسازید، باید آن را کارآمدتر کنید. اما یک معاوضه وجود دارد. ما سیستمی ساخته‌ایم که می‌تواند با حدود یک میلی‌وات قدرت کار کند، اما همچنان تریلیون‌ها ضرب در ثانیه انجام می‌دهد. اسلادز می‌گوید: از نظر سرعت و بهره‌وری انرژی، این افزایش مرتبه‌ای بزرگ است.

آنها این معماری را با ارسال وزنه ها روی یک فیبر 86 کیلومتری آزمایش کردند که آزمایشگاه آنها را به آزمایشگاه MIT لینکلن متصل می کند. Netcast یادگیری ماشینی را با دقت بالا - 98.7 درصد برای طبقه بندی تصویر و 98.8 درصد برای تشخیص رقم - در سرعت های سریع فعال کرد.

Hamerly می افزاید: "ما باید مقداری کالیبراسیون انجام می دادیم، اما من از اینکه چقدر کار کمی برای دستیابی به چنین دقت بالایی در خارج از جعبه باید انجام می دادیم شگفت زده شدم. ما توانستیم دقت تجاری مرتبط را بدست آوریم."

در حرکت رو به جلو، محققان می‌خواهند روی تراشه فرستنده گیرنده هوشمند برای دستیابی به عملکرد بهتر تکرار کنند. آنها همچنین می خواهند گیرنده را که در حال حاضر به اندازه یک جعبه کفش است، به اندازه یک تراشه کوچک کنند تا بتواند روی یک دستگاه هوشمند مانند تلفن همراه قرار گیرد.

این تحقیق تا حدی توسط NTT Research ، بنیاد ملی علوم، دفتر تحقیقات علمی نیروی هوایی، آزمایشگاه تحقیقات نیروی هوایی، و دفتر تحقیقات ارتش تامین می‌شود.

لینک مطلب: https://www.sciencedaily.com/releases/2022/10/221020140609.htm

منبع: Materials provided by Massachusetts Institute of Technology. Original written by Adam Zewe. Note: Content may be edited for style and length.