Когато облакът е залят, това е изчисляване на ръба, а за помощ

По протежение на бреговата ивица на австралийския щат Нов Южен Уелс (NSW) лети флот от дронове, помагайки за запазването на водите в безопасност. По-рано тази година дроновете помогнаха на спасителите на щата в Далечния Северен бряг спасиха двама тийнейджъри, които се бореха при тежък прибой.

Дронът се захранва от изкуствен интелект (AI) и алгоритми за машинно зрение, които постоянно анализират своите видео емисии и подчертават елементи, които се нуждаят от внимание: да речем, акули или бездомни плувци. Това е същият вид технология, която позволява на Google Photos да сортира снимки, домашна камера за охрана за откриване на непознати и интелигентен хладилник, който да ви предупреди, когато вашите нетрайни продукти са близо до сроковете им на годност.

Но докато тези услуги и устройства се нуждаят от постоянна връзка към облака за своите AI функции, дроновете NSW могат да изпълняват задачите си за откриване на изображения със или без солидна интернет връзка, благодарение на невронните изчислителни чипове, които им позволяват да извършват дълбоко учене изчисления на местно ниво,

Тези чипове са част от нарастващата тенденция на иновативни компютърни иновации, които позволяват на нашите софтуерни устройства да изпълняват поне някои критични функции без постоянна връзка с облака. Възходът на ръбните компютри помага за решаването на нови и стари проблеми и проправя пътя към следващото поколение интелигентни устройства.

Разтоварване на облака

През последните две десетилетия облакът се превърна в дефакто начин за хостинг на приложения, с основателна причина.

„Нещото, което прави облака толкова привлекателен, е, че е склонен да разтовари разходите за стартиране на всяка дейност, която искате да извършите“, казва Роб Хай, главен технически директор на IBM Watson. „Облакът… позволява на хората да… решават истински проблеми днес, без да се налага да преминават през разходите за създаване на инфраструктура."

С повсеместното свързване с интернет и почти безброй облачни приложения, услуги и платформи за развитие, бариерите за създаване и внедряване на приложения намаляха значително. Огромните ресурси на облачни доставчици като IBM, Google и Amazon са стимулирали развитието не само на тривиални бизнес приложения, но и на сложен софтуер, който изисква огромно количество изчисления и съхранение - AI и алгоритми за машинно обучение, както и стрийминг и AR (разширена реалност) приложения.

Но тези постижения създадоха и предизвикателство: повечето приложения, които използваме, не могат да функционират, освен ако не са свързани към облака. Това включва повечето приложения, които работят на компютри и телефони, както и софтуера в хладилници, термостати, брави, камери за наблюдение, автомобили, дронове, датчици за времето и т.н.

С появата на Интернет на нещата (IoT), все по-голям брой устройства работят със софтуер и генерират данни и повечето от тях ще изискват връзка към облака, за да съхраняват и обработват тези данни. Количеството мощност и широчина на честотната лента, необходими за изпращане на тези данни в облака, е огромно, а пространството, необходимо за съхраняването на данните, ще предизвика предизвикателствата на дори най-мощните облачни бегемоти.

"Има много данни, които събираме в тези системи, независимо дали е на ръба, или е IoT устройство или друго място, за което почти бихте могли да решите да не ви интересува", казва Хай. Но ако всяко решение трябва да се проведе в облака, всички тези данни ще трябва да бъдат изпратени през мрежата до облачните сървъри, които да бъдат измити и филтрирани.

Като пример, High имени съвременни самолети, които съдържат стотици сензори, които наблюдават реактивните двигатели и събират стотици гигабайти данни за състоянието и ефективността по време на всеки полет. "Колко от тези данни наистина имат значение, ако искате да ги анализирате в агрегат? Вероятно само част от тях", казва Хай. "Защо просто не се отървете от него при източника, когато не е необходимо за нищо друго, което правите?"

Правенето на това, което High предлага извън облака, преди беше почти невъзможно, но напредъкът на процесорите с ниска мощност System-on-Chip (SoC) даде на крайните устройства повече изчислителна мощност и ги остави да поемат част от изчислителната тежест на техния екосистеми, като например извършване на анализи в реално време или филтриране на данни.

„Има толкова много данни в ръбовата среда, че има смисъл да включите някои от възможностите за изчисляване на облака в изчислителния капацитет на крайното устройство“, казва High.

Притеснения за поверителност

Ползите за ръбните изчисления не се ограничават до освобождаване на облачни ресурси.

Remi El-Ouazzane, New Technology Group и генерален мениджър в Movidius (Intel), цитира камери за търговска сигурност като друг пример за това, когато компютърните изчисления могат да направят огромна промяна. Виждате тези камери на светофари, на летища и на входа на сградите, като денонощно записвате и предавате висококачествено видео в мрежата.

„Колкото по-малко данни ви трябват, за да се върнете обратно в сървър или център за данни, толкова повече почистване и финизиране можете да направите на местно ниво, толкова по-добри ще са общите ви разходи за собственост от гледна точка на съхранение и прехвърляне“, казва Ел-Уаззане.

Това означава да осигурите на камерите възможност да анализират собствените си видео емисии, да определят кои кадри или дължини на видеото изискват внимание и да изпращат само тези данни до сървъра.

Когато тези камери са инсталирани във вашия дом, офис или друго частно местоположение, връзката с облака също се превръща в потенциален проблем за сигурността. Хакерите и изследователите по сигурността успяха да компрометират връзката между домашните уреди и техните облачни сървъри, за да прехващат чувствителни видео емисии. Разбирането на данните на местно ниво отпада необходимостта от видеопровод между вашия дом, личния ви живот и доставчик на услуги.

Movidius, който беше придобит от Intel през 2016 г., е един от няколкото стартиращи компании, които правят компютърни чипове, специализирани за AI задачи като разпознаване на реч и компютърно зрение. Компанията произвежда Vision Processing Units (VPU) - процесори с малка мощност, работещи с невронни мрежи, които анализират и „разбират“ контекста на цифровите изображения, без да е необходимо да ги изпращат обратно в облака.

Movidius Myriad 2 е постоянно включен процесор за виждане, създаден за среда с ограничена мощност.

"Когато камерата разбере семантиката на това, което гледа, тогава възможността да се налагат правила за това, което камерата може да направи или не може да се превърне в много лесна задача", казва Ел-Уазан. "Не е нужно всъщност да заснемете хола си през следващите 12 часа, само за да знаете, че в даден момент вашето куче прекоси килима пред дивана."

Други компании проучват използването на специализирани AI задвижвани крайни изчисления, за да запазят поверителността на потребителите. Apple iPhone X, например, се захранва от чипа A11 Bionic, който може да изпълнява AI задачи локално, което му позволява да изпълнява сложно разпознаване на лицето, без да изпраща снимка на потребителя в облака.

Повече AI обработка в края може да проправи пътя за децентрализиран изкуствен интелект, където потребителите трябва да споделят по-малко данни с големи компании, за да използват AI приложения.

Намаляване на латентността

Друг проблем на големите доставчици на облаци е, че техните центрове за данни се намират извън големите градове, като ги поставят на стотици и хиляди мили от хората и устройствата, използващи техните приложения.

В много случаи закъснението, причинено от данни, пътуващи до и от облака, може да доведе до лоши резултати или по-лоши фатални резултати. Това може да бъде дрон, който се опитва да избегне сблъсъци или кацане на неравно място, или автомобил със самостоятелно управление, който се опитва да реши дали се сблъсква с препятствие или пешеходец.

Лекото внедряване на Movidius в дълбоки невронни мрежи и компютърно зрение прави своите чипове подходящи за мобилни крайни устройства като дронове, за които хардуерът, консумиращ енергия като графичните процесори, не е възможен. Дроновете са особено интересно проучване, тъй като се нуждаят от достъп до ниско закъснение за изчисляване на AI и трябва да продължат да функционират в офлайн настройки.

Откриването на жестове като друга област, в която изчисляването на ръбовете помага за подобряване на работата с дронове. "Целта е да се направят дронове достъпни за много хора. Жестът изглежда добър начин хората да ги използват. Забавянето има значение, когато жеста на дрона да изпълни някаква задача", казва Ел-Уаззане.

За стартиращи компании като Skylift Global, която предоставя тежки безпилотни услуги на спасителни работници и първи реагиращи, достъпът с ниска латентност до AI и изчисляването на ресурси може да спести пари и живот. „Това ще намали значително разходите за приемане на данни, ще намали закъсненията в мрежата, ще увеличи сигурността и ще помогне да превърнете поточните данни в решения в реално време“, казва Амир Емади, изпълнителен директор и основател на Skylift.

Предоставянето на доставки на първи реагиращи лица изисква решения за втората секунда. "Колкото повече време минава, например за борба с горски пожар, толкова по-скъпо става да се оправи ситуацията. Тъй като нашите дронове стават способни да взимат решения в реално време на ръба, дори когато загубят свързаност, ние ще можем да спестим повече живот, пари и време “, казва Емади.

Други домейни, които се нуждаят от изчисляване в реално време, са приложения с разширена и виртуална реалност и автономни превозни средства. "Това са всички изчислителни среди, базирани на опит. Те ще се случват около хората", казва Закари Смит, изпълнителен директор на Packet, стартиращ в Ню Йорк старт, фокусиран върху предоставянето на възможност на разработчиците да имат достъп до високоразпространен хардуер.

Приложение AR или VR, което не може да бъде в крак с движенията на потребителя, ще доведе до замайване или ще попречи на опита да стане потапящ и реален. А закъснението ще бъде още по-голям проблем, когато самоуправляващите се автомобили, които разчитат до голяма степен на компютърното зрение и алгоритмите за машинно обучение, станат основни.

„Закъснението от 30 милисекунди няма да има значение за зареждане на уеб страницата ви, но наистина ще има значение автомобил, който да определи при скорост от 60 км / ч, ако трябва да завие наляво или надясно, за да не се сблъскате с малко момиче“, казва Смит.

Посрещане на предизвикателствата на ръба

Въпреки необходимостта да се приближи компютърът до ръба, поставянето на специализиран хардуер във всяко устройство може да не е окончателният отговор, признава Смит. "Защо просто не поставите всички компютри в колата? Мисля, че това наистина има връзка с развитието на това колко бързо можете да контролирате жизнения цикъл на това", казва той.

"Когато пускате хардуер в света, той обикновено остава там от пет до 10 години", казва Смит, докато технологиите, които използват тези случаи на използване на опит, се развиват на всеки шест до 12 месеца.

Дори много големи компании със сложни вериги за доставки често се борят с актуализирането на техния хардуер. През 2015 г. Fiat Chrysler трябваше да си припомни 1, 4 милиона превозни средства, за да отстрани уязвимостта на сигурността, която беше изложена пет години по-рано. И гигантският производител на чипове Intel все още се мъчи да се справи с недостатъка на дизайна, който излага на хакерите стотици милиони устройства.

El-Ouazzane на Movidius признава тези предизвикателства. "Знаем, че всяка година ще трябва да сменяме гама от продукти, защото всяка година ще внесем повече интелигентност на ръба и ще искаме нашите клиенти да ъпгрейдват", казва той.

За да избегне постоянни извиквания и да позволи на клиентите да използват дългосрочно техния хардуер, Movidius снабдява своите процесори с допълнителни ресурси и капацитет. "Нуждаем се от възможността през следващите няколко години да извършим надстройки на тези продукти", казва Ел-Уазан.

Packet, компанията на Смит, използва различен подход: Създава микро центрове за данни, които могат да бъдат внедрени в градове, по-близо до потребителите. След това компанията може да предостави на разработчиците компютърни ресурси с много ниска закъснение - колкото се може по-близо до потребителите, без да поставя реалния хардуер на ръба.

„Вярваме, че ще има нужда от механизъм за доставка на инфраструктура, който да постави хардуер, до който могат да бъдат достъпни разработчиците във всеки град в целия свят“, казва Смит. Компанията вече работи на 15 места и планира в крайна сметка да се разшири до стотици градове.

Но амбициите на Packet отиват по-далеч от създаването на миниатюрни версии на разпръснатите съоръжения, управлявани от харесванията на Google и Amazon. Както Смит обяснява, разполагането и актуализирането на специализиран хардуер не е възможно с публичния облак. В бизнес модела на Packet, производителите и разработчиците разполагат специализиран хардуер в крайните центрове за данни на компанията, където те могат бързо да го актуализират и обновят, когато възникне нужда, като същевременно гарантират, че потребителите им получават супер бърз достъп до изчислителни ресурси.

Hatch, един от клиентите на Packet, е отстъпка от Rovio, мобилната компания за игри, която създаде Angry Birds. Компанията управлява Android на крайно-изчислителни сървъри, за да предостави услуги за стрийминг на мултиплейър игри с ниска латентност на потребителите с устройства с Android от нисък клас.

„се нуждае от доста специализирани ARM сървъри на всички тези пазари по света“, казва Смит. „Те са персонализирали конфигурациите на предлаганите от нас сървъри и ние го поставихме на осем глобални пазара в цяла Европа. Скоро това ще бъде 20 или 25 пазари. На тях им се струва като Amazon, но стигат до пускане на персонализиран хардуер на всеки пазар в Европа."

Теоретично Hatch би могъл да направи същото в публичния облак, но разходите биха го направили неефективен бизнес. "Разликата е между поставянето на 100 потребители на процесор срещу поставянето на 10 000 потребители на процесор", казва Смит.

Смит вярва, че този модел ще се хареса на поколението разработчици, което ще стимулира следващите софтуерни иновации. „Това, върху което сме фокусирани, е как да свържем софтуерното поколение, хората, израснали в облака, със специализирани хардуерни примитиви“, казва Смит. "Говорим за потребители, които дори не могат да отворят своя MacBook, за да погледнат вътре. Това е човекът, който ще внесе иновации в хардуерния / софтуерния стек."

Ще се разсеят ли облаците?

Когато крайните устройства стават способни да изпълняват сложни изчислителни задачи, опасно ли е бъдещето на облака?

"За мен крайните изчисления са естествено и логично следващо развитие на облачните изчисления", казва IBM Watson's High.

Всъщност през 2016 г. IBM внедри набор от инструменти, които позволяват на разработчиците безпроблемно да разпределят задачи между ръба и облака, особено в IoT екосистемите, където крайните устройства вече събират много данни за непосредствената им среда. А в края на 2016 г. Amazon Web Services, друга основна платформа за облачни разработки, обяви Greengrass, услуга, която дава възможност на разработчиците на IoT да стартират части от облачните си приложения на крайните си устройства.

Нищо от това не означава, че облакът си отива. „Просто има много неща, които са по-добре направени в облака, дори когато все още се върши много работа на ръба“, казва Хай. Това включва задачи като агрегиране на данни от много различни източници и извършване на мащабен анализ с огромни набори от данни.

„Ако трябва да създадем модели в алгоритмите на AI, които използваме в тези крайни устройства, създаването и обучението на тези модели все още е много масивен изчислително-интензивен проблем и често изисква изчислителен капацитет, който далеч надхвърля наличното на тези крайни устройства“, „Високо казва.

Ел-Йоззане се съгласява. „Възможността за обучение на AI модели на местно ниво е изключително ограничена“, казва той. "От гледна точка на дълбокото обучение, обучението има само едно място за сядане и то е в облака, където получавате достатъчно изчислителни ресурси и достатъчно място за съхранение, за да можете да се справите с големи масиви от данни."

Разпоредбите на El-Ouazzane също използват случаи, когато крайните устройства са назначени с критични за мисията и времето задачи, докато облакът се грижи за по-напредналото заразяване, което не зависи от латентността. "Живеем в свят на приемственост между облака и ръба."

„Съществува много симбиотична и синергична връзка между крайните и облачните изчисления“, казва Хай.