Category: технологии

2017

Мое интервью для StorageNews на Skolkovo Robotics & AI

Интервью в StorageNews: Микросхемы нового поколения для ускорения вычислений нейросетей
(Интерью с Юрием Панчулом – старшим инженером по проектированию интегральных схем для ускорения вычислений нейросетей стартапа Кремниевой Долины компании Wave Computing )



SN. Чем занимается ваша компания и с чем вы едете на форум Skolkovo Robotics 2019 в «Сколково?

Ю.П. В «Сколково» я презентую наш проект Triton, который представляет собой комбинацию трех типов вычислительных устройств для ускорения вычислений нейросетей:


  • первый тип – кластер из классических процессоров общего назначения;

  • второй – процессор потоков данных (dataflow processor) на основании архитектуры крупнозернистого реконфигурируемого массива CGRA (Coarse Grained Reconfigurable Array);

  • третий тип – матричный умножитель на основе систолического массива из умножителей-сумматоров (multiply-add). Эти устройства представляют собой три разных способа организации вычислений с разным балансом гибкости и производительности.



Если говорить о них подробнее, то классические процессоры – самые гибкие. Они могут вычислить все множество нейросетей, определяемых стандартами типа TensorFlow и ONNX.

Процессоры потоков данных могут вычислять в 10 раз быстрее, чем кластеры классических процессоров, но накладывают ограничения на типы узлов нейросети. При этом они могут вычислять многое из того, что не могут вычислять матричные ускорители, например, необычные активационные функции (activation function).

Матричные умножители ориентированы на вычисления узкого подмножества и ориентированы на сверточные сети (CNN – Convolutional neural network). Зато они вычисляют по порядку в 10 раз быстрее, чем процессоры потоков данных, и в 100 раз быстрее, чем кластеры из процессоров общего назначения.

Если мерить по плотности производительности (по количеству операций, которые можно выполнить на структуре размеров в один квадратный миллиметр микросхемы), то процессоры потоков данных на порядок больше по вычислительной плотности, чем классические. А матричные на порядок больше по вычислительной плотности, чем процессоры потоков данных.

Collapse )

Презентации:


  1. Triton AI Platform

  2. Current MIPS core offering

  3. MIPS Open

2017

Десятиклассница из Сибири хочет стать проектировщицей процессоров. А может и нейроускорителей?

Вчера мне пришло письмо от десятиклассницы из Сибири, которая хочет стать разработчицей микропроцессоров. Она уже получила некоторый результат в этой области - добавила инструкцию умножения в простейший процессор schoolMIPS, синтезировала его для ПЛИС Intel FPGA MAX10, определила максимальную частоту и повышение производительности простых программ. Все это она сначала делала в деревне Бурмистрово Новосибирской Области, а потом на конференции в Томске.

Теперь Даша Криворучко (так зовут десятиклассницу) переехала жить в московский интернат и спрашивает у меня, чего бы ей еще спроектировать. Я думаю, что на этом этапе карьеры ей стоит спроектировать аппаратный ускоритель нейросетей на основе систолического массива для умножения матриц. Использовать язык описания аппаратуры Verilog и ПЛИС Intel FPGA, но не дешевенький MAX10, а что-нибудь подороже, чтобы вместить большой систолический массив.

После этого сравнить производительность аппаратного решения с программой, работающей на процессоре schoolMIPS, а также с программой на Питоне, работающей на десктопном компьютере. В качестве тестового примера использовать распознавание цифр с небольшой матрицы.



Collapse )

Как вы готовы помогать таким начинаниям?

Я готов писать материалы для онлайн-курсов
2(9.1%)
Я готов преподавать в летних школах
7(31.8%)
Я готов помогать проводить олимпиады
4(18.2%)
Я готов снабжать российских школьников FPGA платами
0(0.0%)
А если российские и украинские школьники сделают гиганских роботов, которые поработят мир?
9(40.9%)
2017

Японские феи показывают работу master-slave триггера в новой манге по цифровой электронике

Сейчас в издательстве ДМК-Пресс выходит русский перевод японской манги 2013 года про цифровые схемы, созданной Амано Хидэхару и Мэгуро Кодзи. Несмотря на несерьезную форму изложения, суть этой книжки очень здравая. Например, она начинает от древних микросхем малой степени интеграции и быстро привязывает их к современному языку описания аппаратуры Verilog и программируемым логическим интегральным схемам (ПЛИС). Также манга четко определяет зачем нужны комбинационные и последовательностные схемы, и дает представление о методах оптимизации.

Манга избегает ошибок многих своих предшественников. Одну из таких ошибок совершил Чарльз Петцольд в книге "Код", которая вводила последовательностную логику не на D-триггерах, управляемых фронтом тактового сигнала (edge-triggered D-flip-flop), а на D-триггерах с работой по уровню (защелках, level-sensitive D-latch), хотя потом переключалась на правильные триггеры. Вероятно, ошибка была связана с тем, что Чарльз Петзольд, который прославился как автор учебников по программированию GUI в Microsoft Windows, не был практикующим разработчиком электроники, и для него защелки были "проще", чем триггеры с фронтом. Проблема в том, что защелки плохо совместимы со статическим анализом задержек при логическом синтезе, главной технологии проектирования цифровых схем последних 30 лет. Системы на кристалле внутри гаджетов типа айфона в качестве элементов состояния в 99% случаях используют D-триггеры переключаемые по фронту, а защелки используют только в очень специальных случаях. Давать новичкам строить схемы на защелках - это значит вводить их в заблуждение.

В этом смысле манга лучше чем Петзольд. Вот как элегантно манга объясняет работу двухступенчатого master slave D-триггера, управляемого фронтом тактового сигнала. Это делается с помощью феи "Хи-хи-хи" и феи "Ха-ха-ха":


Collapse )
2017

Российские и украинские команды взяли верх над европейцами на европейском конкурсе Интела по FPGA

Золото досталось России, серебро разделила Россия и Италия, бронза досталась Украине. Таковы результаты европейского финала престижного соревнования InnovateFPGA под эгидой Интела. Победители поедут в Калифорнию, где встретятся с финалистами из Америки и Азии. Надеюсь, теперь не нужно будет объяснять на Хабре, почему Verilog и ПЛИС/FPGA стратегически важны, несмотря на то, что "вакансий на джаву больше".

Студенты, которые сейчас делают проекты на ПЛИСах, через несколько лет будут делать массовые микросхемы для самоуправляемых автомобилей, ускорителей нейронных сетей, дополненной реальности и других приложений, в который обычный процессор не справляется. Именно поэтому Intel потратил 16.7 миллиардов долларов на покупку Altera и вход в рынок ПЛИС. А на днях Интел купил еще и компанию eASIC для дешевой конверсии дизайнов из ПЛИС в ASIC (в eASIC есть достаточно многочисленная российская команда).

Победа российских и украинских команд в интеловском конкурсе InnovateFPGA возникла не на пустом месте, а в результате работы конкретных людей в ЛЭТИ, ИТМО, КПИ и других местах, о которых уже были статьи на Хабре. Если продолжить эти начинания и расширить преподавание ПЛИС и языков описания аппаратуры во все технические вузы от Калининграда до Якутии, от Львова до Тбилиси и Астаны - то через пару десятилетий это может изменить расстановку сил в мировой электронной промышленности примерно так же, как работы Курчатова и Королева изменили расстановку сил в мировой атомной промышленности и освоении космоса.



Collapse )
2017

Заметка на портале SFLike с моим интервью



http://www.sflike.com/2018/03/21/mips-technologies

Развитие микроэлектроники: технологии важнее политики

Процессор ELISE для систем компьютерного зрения – это обычная на вид микросхема. Однако старший инженер американской компании MIPS Technologies Юрий Панчул уверяет: это новый шаг в развитии искусственного интеллекта, позволяющий создавать «умную» технику.

«Их можно использовать, к примеру, в видеокамерах, способных распознавать лица, в контроллерах, других видеоустройствах. Одна такая плата стоит около тысячи долларов. Самый простейший пример ее применения – это поставить ее в шопинг-центре. Если она будет просто наблюдать проходящих мимо людей, она автоматически будет при этом распознавать их пол, возраст, возможно, даже некоторые их интересы, вкусы в одежде и т.д., и тут же выдавать специальную, ориентированную именно на них рекламу. Это – реальный пример использования искусственного интеллекта. Также эта камера способна отсеять из изображения все лишнее, например, фон, природные объекты и т.д. Залы в аэропорту Шереметьево тоже оборудованы такими камерами», – рассказывает Юрий.

Помимо этого, уникальность ELISE в том, что в ней сошлись разработки одновременно американских и российских компаний. Юрий Панчул уверяет: вопреки популистским трендам, российские компании способны производить технику не только военного, но и коммерческого использования, притом на довольно высоком уровне.

«Истоки этого производства берут начало в индустриальном кластере, образовавшемся в Зеленограде еще в 60-е годы. Тогда это был, в основном, оборонный комплекс, и сам Зеленоград представлял собой полузакрытый город. Однако вскоре они стали использоваться для самых разных проектов, включая изготовление компьютеров для космических станций. В СССР создавались свои микросхемы, микроконтроллеры и т.д. Хотя из-за закрытости страны они несколько отставали от западных аналогов, тем не менее, на этих предприятиях была создана среда, где самые разные специалисты и ученые могли взаимодействовать между собой», – поясняет Юрий.

Затем, после краха Советского Союза, часть оборонных и космических предприятий перепрофилировались в гражданские. Так, известное советское объединение «ЭЛАС» трансформировалось в современную группу компаний «Элвис» – одного из участников разработки «умной» электроники. При этом Юрий Панчул признается: во многих сегодняшних зеленоградских компаниях порой работают те самые, советские инженеры.

Выход новых российских компаний на глобальный рынок обнажил, с одной стороны, существенное техническое отставание, но с другой – определенные преимущества, которые выработались в советское время.

«Например, наши инженеры владели специальными ноу-хау, связанными с радиационно стойкими микросхемами для космоса. Пятнадцать лет назад инженеры компании «Элвис» делали различные микросхемы для использования в космосе. Они создали свое собственное процессорное ядро, а также специализированный процессор обработки сигналов, в том числе изображений. Затем они поняли, что им выгоднее сотрудничать с американскими компаниями, чтобы не тратить деньги и труд инженеров на обычное процессорное ядро вместо инвестирования в свое уникальное ноу-хау – блоки обработки изображений», – рассказывает Панчул.

Тогда наследники зеленоградского комплекса начали закупать процессорные ядра у MIPS Technologies.

«Я начал работать в MIPS с 2009 года, и в тот же период начал общаться со своим знакомым в Москве, который рассказал мне об этих предприятиях. С 2011 года мы совместно со специалистами по продажам MIPS стали ездить в Москву и развивать сотрудничество. В то же время российские компании начали сотрудничать с другими предприятиями Силиконовой долины, к примеру, Synopsys, Cadence Design Systems, ARM Holdings, TSMC и так далее», – рассказывает Юрий.

Резкое возрастание масштабов такого сотрудничества американский инженер объясняет «тихой технологической революцией», произошедшей в России в последние 5-10 лет.

«В России сохранился созданный еще в советское время круг специалистов, но теперь к нему добавилось финансирование от «Роснано», а также налаживание связей с компаниями в Силиконовой долине и с азиатскими фабриками. Практически, им удалось преодолеть все прежние недостатки. Вначале СССР был закрыт, затем, после его краха, у компаний просто не было денег и связей с мировым рынком. Но затем возникло «Роснано», и его деньги наложились на прежние ресурсы: старых специалистов и новые связи с западными компаниями. Одновременно с этим в России появилось новое поколение молодых инженеров.

Теперь зеленоградские компании – такие, как «Элвис», «Миландр», Байкал Электроникс, КМ211 и другие представляют собой смесь старых инженеров, начинавших еще в СССР, с новыми специалистами, имеющими опыт совместной работы с компаниями Силиконовой долины. Словом, открытие страны совпало с притоком финансирования, а такие компании, как Наутех и КМ211 стали, к тому же, посредниками при взаимодействии с ведущими азиатскими фабриками. Это действительно стало технологическим прорывом», – подытожил Юрий.

Ксения Кириллова, SF Like

Какие по вашему главные факторы успеха российско-американских проектов в области микроэлектроники?

Инвестиции
4(13.8%)
Образование
7(24.1%)
Бизнес-связи со странами СНГ
1(3.4%)
Бизнес-связи с США
6(20.7%)
Бизнес-связи с Европой
2(6.9%)
Бизнес-связи с Азией
5(17.2%)
Поддержка российского правительства
2(6.9%)
Емкость российского рынка
2(6.9%)
Другие (указать в комментариях)
0(0.0%)
2017

Украинские стартапы вернулись из Лас-Вегаса. И вот

Украинские стартапы вернулись с шоу электроники в Лас-Вегасе. Некоторые из них полетели прямо в Украину, а другие заехали в Silicon Valley и устроили серию презентаций в инкубаторе / акселераторе BootUp. Это не первый привоз украинских стартапов в Калифонию, однако четыре года назад презентации стартапов были настолько слабые, что их было неудобно даже описывать в посте про UTGEM-2014, первую в истории международную конференцию украинского хайтека в Сан-Франциско. За прошедшее время уровень привозимых стартапов ощутимо повысился, и теперь их можно обсуждать по гамбургскому счету.

Привозом стартапов из Украины занимается организация Ukraine Venture Capital and Private Equity Association (UVCA), которая состоит из венчурного капиталиста Андрея Колодюка (Aventures), кандидата наук Ольги Афанасьевой (Украинская академия банковского дела), и нескольких инвесторов, причем не только украинских. Например, членом UVCA является Александр Галицкий, большая часть проектов которого (ЭЛВИС, Parallels) связана с Россией и Зеленоградом.

В Калифорнии UVCA помогает маркетер Никита Сафроненко, который помимо общественной нагрузки от украинского сообщества работает в Фейсбуке, где анализирует спам. Вот Никита вместе с Ольгой:



Вообще UVCA и ее помощники - это неприбыльная организация, но при этом эффективная структура. С привезенными стартапами ситуация сложнее:

Collapse )

Какие из компаний и организаций вам понравились?

UVCA - ассоциация украинских инвесторов
1(3.2%)
Kray Technologies - дроны
4(12.9%)
Kwambio - керамика
6(19.4%)
Univrsee - VR-кинотеатров
1(3.2%)
Cubomania - умные игрушки
1(3.2%)
PassivDom - дома на 3D принтере, с солнечные батареями
2(6.5%)
Senstone - брошка для записи креативных мыслей
1(3.2%)
Blocks - умные часы с сенсорами для индустриальных применений
4(12.9%)
Киево-Могилянская Академия
0(0.0%)
Суровый инвестор в конце
8(25.8%)
Из-за бугра плюете?
3(9.7%)
2017

От Торонто до Томска: подведение итогов и планирование будущих семинаров по электронике в России

Видите японского робота-собачку слева от девушки Ирины? Этот робот из компьютерного музея у офиса Гугла управлялся встроенным процессором MIPS R4000. Дальний потомок этого процессора, MIPS microAptiv UP, станет темой нескольких докладов на семинаре по обмену опытом преподования электроники, который пройдет в Томске на следущей неделе. Ядро MIPS microAptiv UP, в своем бесплатном варианте, MIPSfpga, стало удобной морской свинкой для студенческих экспериментов по микроархитектуре процессорных ядер и созданию систем на кристалле.

Важная часть экспериментов с MIPSfpga случилась в России, на Украине и в Казахстане в течении двух прошлых лет - про это рассказала на конференции в Торонто Сара Харрис, профессор Университета Лас-Вегаса. В семинарах на эту и смежные темы проектирования чипов (Nanometer ASIC) приняли участие МГУ, МФТИ, МИФИ, МИЭТ, ИТМО и другие ведущие университеты.

Сейчас эксперимент продолжается: в этом месяце, помимо конференции в Томске, в Россию приезжает Роберт Оуэн, известный консультант по университетским образовательным программам в области микроэлектроники. За последние 23 года Роберт Оуэн посетил сотни университетов в Европе, Азии, Америке и даже Африке, как представитель Texas Instruments, ARM, Xilinx и Imagination. Он помогал университетам поставить программы в области DSP, микроконтроллеров, встроенных процессоров и систем на кристалле.

Вся эта деятельность - не абстрактное образование ради образования. На технологиях разработки микросхем с использованием языков описания аппаратуры Verilog и VHDL и использовании синтезируемых ядер стоит бизнес таких российских компаний как ЭЛВИС-НеоТек и Байкал Электроникс, о которых расскажет в лекции на этой неделе никто иной как Чубайс.



Про эти и другие мероприятия из прошлого и будущего подробнее под катом.
Collapse )
2017

Чубайс прочтет лекцию на фоне слайда с лицензиатами MIPS - Байкал Электроникс и ЭЛВИС-НеоТек

Чубайс прочтет лекцию на фоне слайда с лицензиатами MIPS - Байкал Электроникс и ЭЛВИС-НеоТек:

https://edunano.ru/events/rossiyskaya-nanoindustriya-2007-2017-2027/#




Кто для вас Чубайс прежде всего?

Архитектор приватизации
32(74.4%)
РАО ЕЭС России
3(7.0%)
Руководитель РОСНАНО
8(18.6%)

Как вы относитесь к Чубайсу?

Положительно
5(10.4%)
Нейтрально
5(10.4%)
Отрицательно
32(66.7%)
Мозаично - в разных аспектах по разному
6(12.5%)
Из-за бугра плюете?
0(0.0%)
2017

Приходите на прогулку в тумане по горе для изучения растений Калифорнии

Приглашаю в субботу на прогулку. Завел для этого event на facebook:

https://www.facebook.com/events/1129521390486549/

И распостранил следующее объявление:

Объявление 1. Надоела жара и разговоры про Трампа? Предлагаем вам прогуляться в компании русских и украинских инженеров по тропинке на горе Mount Vision в западной части округа Марин. Лес на Mount Vision состоит из редкой сосны мягкоигольной (Pinus muricata, Bishop pine), шишки которой раскрываются как правило во время пожаров (до этого они могут десять лет висеть закрытыми). Помимо этой сосны, лес на Mount Vision - идеальное место для знакомства к калифорнийскими растениями, так как в нем много красивых эндемников. Форма одежды - три-четыре слоя, с зимней курткой и нескользкой походной обувью. На горе, из-за близости к океану и расположению на полуострове, бывает реально холодно, даже летом. Встречаемся в час дня (1PM) в книжном магазине Point Reyes Books в живописной деревне Point Reyes. Если вы опоздали, мой телефон 408-306-9524.


Объявление 2. Господа! А не устроить ли нам обсуждение русского и украинского хайтека в реале? Есть минимум две темы - российско-американские проекты в микроэлектронике и обучение школьников дизайну на FPGA ( см. https://geektimes.ru/post/289827/ ). Для этого есть очень эстетное и нежаркое место - гора Mount Vision в Marin County (легче всего доехать их Silicon Valley по 880-580-Sir Francis Drake). Тусовка организуется русскими инженерами из Intel, MIPS / Imagination Technologies и присоединившимся товарищами из Сан-Петербурга. В поход можете взять справочники по природе Калифорнии, ибо мы увидим очень нечасто встречающийся тип экосистемы. И зимнюю одежду в три-четыре слоя - там часто бывает туман и конкретный холод даже летом, из-за близости океана и расположения на продуваемом полуострове. Плюс нескользящую обувь для хайкинга.


Объявление 3. One of the most unusual places in the vicinity of Silicon Valley is Mount Vision in Marin County. There will be a nature hike this Saturday organized by several botanically-inclined Russian and Ukrainian engineers. We will meet at Point Reyes Bookstore at 1PM on Saturday and drive to nearby Mount Vision. The details are inside the event. You don't need to speak Slavic languages to participate. Make sure to bring 3-4 layers of clothes - it might be very foggy, cold and windy because of ocean influence in Point Reyes peninsula location. Good hiking shoes are also necessary - the road is steep. California plant reference manuals will be useful - we are going to see many interesting endemics including Bishop Pine - a pine that opens its cones after a forest fire.



Collapse )

Место встречи:



Вы присоединяетесь?

Да
1(50.0%)
К тусовке 24 июня в Point Reyes не присоединяюсь, но присоединюсь к тусовке в Москве 16 июля
1(50.0%)

Какое из трех объявлений лучше

1
0(0.0%)
2
1(33.3%)
3
0(0.0%)
А объявление на украинском?
2(66.7%)
Из-за бугра плюете?
0(0.0%)
2017

Навальный ошибался про Чубайса и РОСНАНО



Навальный как-то сказал на Дожде что якобы "от «Роснано» «мы не дождемся никаких нанотехнологий, потому что это невозможно»." Возможно, Навальный, возможно. Вот 28-нанометровый чип для умных камер, совместный российско-британо-американо-тайваньский проект, сфинансированный РОСНАНО, блоки для видеообработки внутри которого были спроектированы в России. Этот чип можно применять для ADAS (безопасность вождения автомобилей), для компьютерного зрения в роботах, для камер слежения в аэропортах и других применений. А также трехмерная бинокулярная камера на этом чипе. Движение Навального может такое спроектровать или сфинансировать?

Чип для умных камер ELISE - одно из самых высокотехнологичных изделий России 2017 года

У каждой российской микроэлектронной компании есть рассказ, почему она самая хорошая и передовая. По английски это называется «claim to fame» — «заявка на славу». Одни российские компании славятся оригинальной архитектурой и/или микроархитектурой CPU, другие — спроектированной в России системой на кристалле, третьи — спроектированными в России блоками, которые были лицензированы западным компаниям.

У российской компании ЭЛВИС (ELVEES), которая исторически специализировалась на космической электронике, DSP и хардверно-поддерживаемом распознавании образов, текущая «заявка на славу» выражена в совместном российско-британско-американско-тайваньском чипе для «умных камер» под названием ELISE. Инженеры в подмосковном Зеленограде спроектировали внутри этого чипа несколько блоков для видео-обработки и GNSS, которые потом кросс-лицензировала британско-американская Imagination Technologies.

Блоки от элвисовцев интегрированы с тремя разнородными процессорными ядрами: двухядерным кластером суперскалярных ядер MIPS P5607 (Apache) с частотой 1.2 GHz, процессором с аппаратно-поддерживаемой многопоточностью MIPS interAptiv (1 GHz) и небольшим вспомогательным процессором с аппаратно-поддерживаемой виртуализацией MIPS M5150 (Virtuoso).

На днях мне попали в руки два изделия с чипом ELISE - плата для разработчиков и трехмерная бинокулярная камера. Элвисовцы также дали мне список на 10 страниц, что есть на плате, что есть внутри чипа, и какой для этого поддерживается софтвер. К сожалению, они не разрешили мне выложить эти страницы в интернет, поэтому я кое-что перескажу своими словами, а также добавлю инфо про используемые ядра, после чего вы все остальное можете запросить у элвисовцев сами.

На фотографиях выше некоторые из инженеров-участников проекта. Девушка слева спроектировала часть load-store unit в MIPS P5607, юноша в зеленой майке написал модели интерфейсов шин, а товарищ в клетчатой рубашке - архитектор софтверной экосистемы:

Collapse )

Офис ЭЛВИСа находится в подмосковном Зеленограде, в здании в центре снимка ниже, через дорогу от института МИЭТ, из которого ЭЛВИС черпает кадры (также из МИФИ, МФТИ и других мест). Вы можете запросить информацию от них, запросить у них плату и что-нибудь на ней сделать (чтобы сфотографировать плату с девушкой, мне пришлось на время отобрать плату у коллеги, который сейчас портирует на плату Андроид. Вы тоже может на нее что-нибудь спортировать, правда я не знаю, когда элвисовцы будут раздавать эти платы широко).



Какие цели вы считаете самыми интересными для российских микроэлектронных компаний?

Создание оригинальной архитектуры CPU
15(13.4%)
Создание собственной микроархитектуры CPU для уже имеющей международное признание архитектуры
13(11.6%)
Физическое проектирование собственной системы на кристалле
15(13.4%)
Проектирование RTL (register transfer level) блоков, которые можно лицензировать зарубежным компаниям (например DSP, видеообработка)
17(15.2%)
Создание российских EDA tools (Electronic Design Automation - софтвера для автоматизации проектирования)
15(13.4%)
Надо вместе с Навальным идти спасать Шекспира и мальчика от коррупции и полицейского произвола, после чего идти на европейский вектор
28(25.0%)
Из-за бугра плюете?
9(8.0%)