В ближайшие несколько лет приближаются к двум сотен ускорителей AI-специфических аппаратных ускорителей. Пусть это погрузится. Просто в прошлом месяце произошли текплатформы Dove в текущее состояние рынка с «глубокими делениями между запусками AI CHIP, разработчики». В ее кусочке Николь Хемсот обращает внимание на аппаратную экосистему AI, его заинтересованные стороны и ее борьбу за привлечение усыновления разработчика. Это резкий звонок для пробуждения:
Разрыв в понимании не является общей бориком о отсутствии инструментов или времени или ресурсов. Существуют некоторые глубокие, фундаментальные дыры в том, как чипы AI разработаны (и у кого), как разработчики экспериментируют с новыми архитектурами, и как рынок/больше разработчиков могут принять их, если им удастся найти путь к производству.
«Глубокие деливки между запусками CHIP AI, разработчики» — DEEXTPLATFORM
Я был инженерным машинам обучения на программах DARPA задолго до того, как было такая вещь, как «машинное обучение инженерам» и, как таковой, я должен был быть джецом из всех профессий. Но мы сейчас находимся в точке перегиба в программном и аппаратном обеспечении промышленности, где дифференцирование и специализация в инженерных ролях происходит в головокружительном темпе. Чтобы эхо глубоко разделить сообщение, если вы строят или делать ставки на аппаратное ускорение, крайне важно понять:
Как рыночные силы, технологические ограничения и индивидуальные стимулы разработчика создают четкий путь наименьшего сопротивления, ведущий от аппаратного ускорения.
То, что путь к массовому принятию аппаратного ускорения не вымощено свободным фишкам. Единственный способ преодолеть огромное разрыв с разработчиками — показать свою приверженность разработчивому опыту.
Сборные образец вопросов
Работав на десятки приложений AI и просмотрел много раз больше архитектур во время моей карьеры, я обнаружил, что каждый из них был «ограниченным аппаратным обеспечением» так или иначе. Они либо получили пользу или могли бы выиграть от аппаратного ускорения.
Через эти пятнадцать странных лет я видел только три успешных модели здания команды:
Шаблон «MasterMind» — найти один или два человека, которые являются 10-разными инженерами производительности. В идеале они построили ваше приложение хотя бы раз раньше и уже знакомы как с алгоритмами, так и для целевого оборудования. Ключевым навыком MasterMind является в искусстве настройки программного обеспечения для каждой последней падения производительности из оборудования.
Уровень «аппаратного первого» — установите аппаратную цель в начале проекта и только нанимать людей, которые испытывают с ним. Enshrine Требования к производительности и требования к выполнению производительности на каждый толкатель Git.
Схема «Алгоритмы — первая» — используйте наличие научных документов и с открытым исходным кодами для перемещения требований к точности приложения. Беспокоиться о остальных позже.
Я написал о рисунке «Mastermind» в другом месте, и глубокие делится с ним немного:
…. Нанимайте людей, которые кажутся (SiC) сложность проблемы [ускорения] во всех его формах … что понимают [ускорение] и что это значит от точки зрения разработчика. Это не маленькое обязательство разгружать правильные биты рабочей нагрузки на правильное устройство, и она может занять год или более, чтобы установить, что на новой архитектуре.
«Глубокие деливки между запусками CHIP AI, разработчики» — DEEXTPLATFORM
Если приложенное предприятие может найти «Mastermind» — Big If — это — эта модель команда может быть эффективной, пока бизнес не должен масштабироваться. К сожалению, по всем причинам, по которым глубокие деличные чехлы, там просто не хватает мидмода, чтобы пойти в эти дни. Следовательно, эта модель команда относительно редка в дикой природе.
Принимая «аппаратное сначала» стратегию стратегии работ по применению, которые уже имеют капитал и/или множество инженеров прошивки в доме. Могут ли те же инженеры изучать ML? Возможно, но в то время как индивидуальные аппаратные инженеры могут быть промытыми, ориентированные на аппаратные организации, как правило, смертельно вялые в ай. Инкубирующая культура все на устройстве создает фундаментальные пределы скорости в процессе R & D. Рассмотрим: в то время как ученые данные, нанятые «алгоритмами — первыми» предприятиями, являются тренировки и тестирование сотен моделей в день в облаке, «аппаратные-первые» инженеры имеют узкие пробивки тактовой скоростью одного или двух устройств на своем столе.
«Алгоритмы — первые» предприятия обычно семятся, где бизнес-кейс и линия к новым данным пересекаются. Эти организации расцветают в относительной доступности академических документов ML и с открытым исходным кодами. Ученые данные ML-Savvy, как правило, среди первых, более младших напрошений. Из-за этой ранней инерции Modus Operandi сосредоточен на требованиях точности дехвалков, прежде всего.
Кто здесь употребление аппаратного ускорения? Там просто не хватает мастеров, чтобы построить бизнес. Аппаратный-первый клиент хороший, но они могут знать вас слишком хорошо; Вы столкнетесь с конкуренцией со стороны собственных команд, и ваши технологии вряд ли будут преобразовывать свой бизнес. Это оставляет алгоритмы толпы. Уобщенно понимается содействий программного обеспечения, которые замена нового оборудования является самым дешевым способом повышения производительности приложений. Но использует вашу технологию в качестве под ключ в качестве обновления от I5 до I7? Навряд ли. Так как вы делаете продажу?
Опыт разработчика
Глубокие деливки рассказывают нам о Mastermind, около 2009 года, которым требуется образец чипа и двенадцать месяцев, чтобы определить, полезно ли ваша технология аппаратного ускорения. Если это звучит к вам болезненно, представьте, как это звучит вашему клиенту разработчика.
Культура разработки программного обеспечения резко изменилась в последнее десятилетие, а фокус на 2019 году прямо на скорости и ловкости. Благодаря облако, инженерам программного обеспечения — особенно те, которые являются обращенными к данным, теперь организованы вокруг идеи оборудования как абстракция. Это вдвойне верно для алгоритмов — первых предприятий. Когда алгоритмы — первый разработчик взволнован в аппаратном ускорении, последнее, что вы хотите, чтобы они должны были сделать, это оставить этот удобный пузырь абстракции. Позвольте мне разобрать это для вас:
Уважаемый поставщик аппаратного ускорения, ваша стратегия GO-рынка должна превратить ваши технологии в пшеницы, которые клиент вашей возможности ест на завтрак, а именно программное обеспечение и данные. — Автор
Но прежде чем я сделаю большую раскрыть здесь и отдаю всю мою лучшую тактику для того, чтобы стать разработчиком пшеницы, позвольте мне заверить вас из следующих: разработчики не собираются говорить с вами. При нацелении на рынок разработчика бремя доказательства находится на поставщике. Не ожидайте, что ваши клиенты дадут вам отзывы о своей технологии до того дня, когда они могут забрать его и использовать его. Тогда ожидайте отчетов об ошибках — множество из них. С этим в мыслях….
CI> Изготовление. Водопад развитие потребовалось много разговоров, а разработчики сделаны с этим сейчас. Знаете ли вы, какое провилетное программное сообщество поселилось вместо разговоров? Непрерывная интеграция. Будь то Circleci, Jenkins или хорошая Оле Трэвис, разработчики закреплены CI как линхпин инженерного процесса. Если вы хотите, чтобы ваш аппаратный продукт ускорения быть частью разговора, прежде чем перейти к изготовлению, то найдите способы поддержки процесса клиента во время вашей фазы R & D. Как минимум, вам понадобится интерфейс программного обеспечения (пшеницы!), Что разработчики могут начать интегрировать прямо сейчас и способ показать им ожидаемую дельту (больше пшеницы!) В ключевых показателях производительности. До тех пор, пока вы относитесь к двум точкам касания в качестве контрактов и попадают в некоторые промежуточные вехи, вы выиграете приемные. Вы, возможно, даже не нуждаетесь в рабочем средстве для этого.
Hello_World Time> Время выполнения. В чем разница между приступлением и самоподписью «Счастливый клиент?» Восторг. И что нужно, чтобы насладиться разработчиком, ищенным способом ускорить свой код? Множество отличных аппаратных компаний получили репутации для плохого программного обеспечения, потому что они не так задают этот вопрос. Они гиперсциплины на «ускорении» части и отказываются думать о прекрасном опыте разработчика. Снижение задержки, безусловно, важно, но в конце длительного процесса интеграции. Если вы не хотите быть в лагере «Плохое программное обеспечение», первое, что вы должны попытаться минимизировать — до задержки, перед энергопотреблением — это Hello_world The Hello_World. Это тактический No-Brainer: не перетащите клиента через тлеющий аду, который является каждым видом на поставщик. Выясните, какой управляющий пакет они используют и поддерживают его. Если ОС требует дополнительной настройки, укажите скрипт Bootstrap. Сделанный.
Пакеты> Алгоритмы. Если бы не было очевидно из предыдущего предложения, набор инструментов, которые могут появиться вспомогательным к вашей основной стоимости, тем не менее, чрезвычайно важны для вашего успеха. Это связано с тем, что разработка программного обеспечения теперь доминирует как на «рамки» и связанные с ними инструментами, как это на основе языков программирования. Больше не хватает для обеспечения горстки ускоренных алгоритмов на языке и заявляю о его «поддержании». Для приема усыновления структуры данных под капотом этих алгоритмов необходимо красиво играть с основными структурами данных о ключевых структурах приложений. Выяснить, что это. Затем работайте с основами Frameworkers, чтобы обеспечить взаимодействие. Делайте даже немного этого, и вы запечатали свою репутацию за заботу о опыте разработчика.
Изображения> Документы. Docker разрушил документы. Как? Повторяемость. Когда разработчик пытается воспроизвести артефакт — тестовое состояние, обученная модель, что угодно — документы оставляют слишком много места для ошибки. В эпоху Докера все не считаются повторяемыми, если они не контейнерируются и родительны. Это отлично подходит для разработчиков — и для вас. Первое, что вы должны сделать, это построить контейнер Hello_world, где все просто работает. Затем найдите способ сохранить эту вещь на сегодняшний день. Нужен PCI Passthrough? Отлично. Детали реализации не имеют значения так много, поэтому просто используйте VM. Точка здесь состоит в том, чтобы убедиться, что самые первые шаги в вашем опыте вашего потенциального клиента не путешествие через ядро чистилище и зависимости ада. Примечание: Это не оправдание для прокручивания документов! Они все еще на 100% необходимо, но больше не достаточно.
Оригинал: «https://dev.to/__f0cal__/deep-divides-between-ai-chip-startups-developers-a-developer-s-perspective-276l»