據(jù)機器之心消息，知名人工智能青年學(xué)者、華盛頓大學(xué)博士陳天奇于近期參與創(chuàng)建了創(chuàng)業(yè)公司 OctoML，擔(dān)任 CTO 一職。

隨著人工智能的火熱，創(chuàng)業(yè)成為了眾多 AI 人才畢業(yè)后的選擇。

近日，機器之心了解到，機器學(xué)習(xí)領(lǐng)域知名青年學(xué)者陳天奇畢業(yè)后也參與創(chuàng)建了全新創(chuàng)業(yè)公司 OctoML，擔(dān)任 CTO 一職。

從公司的注冊信息我們了解到，這是一家數(shù)月前剛剛注冊、位于西雅圖的創(chuàng)業(yè)公司。公司主頁介紹稱，「OctoML 擁有當(dāng)前最先進的 AI、系統(tǒng)、編程語言、編譯器和架構(gòu)技術(shù)，可以讓機器學(xué)習(xí)系統(tǒng)的優(yōu)化和部署變得更加容易。該公司致力于打造一個可擴展、開放、中立的端到端棧，用于深度學(xué)習(xí)模型的優(yōu)化和部署?！?/p>

而在公司成員方面，華盛頓大學(xué)教授 Luis Ceze 擔(dān)任 OctoML 首席執(zhí)行官（CEO）一職，他也是陳天奇在華盛頓大學(xué)讀博期間合作較多的教授。Josh Fromm、Jared Roesch 等成員也都是華盛頓大學(xué)助理教授或者博士。

Jason Knight 曾為英特爾 AI 產(chǎn)品團隊的軟件負責(zé)人，現(xiàn)擔(dān)任 OctoML 聯(lián)合創(chuàng)始人、CPO。

從公司主頁來看，OctoML 的創(chuàng)始團隊幾乎就是著名深度學(xué)習(xí)框架 TVM 的「原班人馬」。而且，這家公司的愿景「讓機器學(xué)習(xí)可以部署在所有硬件上」，也與后者幾乎相同。這就不得不說到機器學(xué)習(xí)領(lǐng)域的重要工具 TVM 了。

1

新一代「機器學(xué)習(xí)系統(tǒng)」TVM

2017 年 8 月，華盛頓大學(xué)陳天奇等人開源了深度學(xué)習(xí)自動代碼生成方法 TVM，對業(yè)界產(chǎn)生了深遠的影響。利用這一工具，機器學(xué)習(xí)算法可以自動編譯成可供下層硬件執(zhí)行的機器語言，從而可以利用多種類型的算力。

TVM 是一個全新的框架，它可以：

• 優(yōu)化 CPU、GPU 和其他專業(yè)化硬件的常規(guī)深度學(xué)習(xí)的計算量

• 自動轉(zhuǎn)換計算圖以最小化內(nèi)存利用率，優(yōu)化數(shù)據(jù)布局，融合計算模式

• 提供從現(xiàn)有的前端框架到裸機硬件的端到端編譯，一直到瀏覽器可執(zhí)行的 Javascript

TVM 的誕生意味著新的深度學(xué)習(xí)芯片，以及新的深度學(xué)習(xí)硬件體系成為了可能。

深度學(xué)習(xí)模型可以識別圖像、處理自然語言，以及在部分具有挑戰(zhàn)性的策略游戲中擊敗人類。在其技術(shù)發(fā)展的過程中，現(xiàn)代硬件穩(wěn)步推進的計算能力扮演了不可或缺的作用。很多目前最為流行的深度學(xué)習(xí)框架，如 TensorFlow、MXNet、Caffe 和 PyTorch，支持在有限類型的服務(wù)器級 GPU 設(shè)備上獲得加速，這種支持依賴于高度特化、供應(yīng)商特定的 GPU 庫。然而，專用深度學(xué)習(xí)加速器的種類越來越多，這意味著現(xiàn)代編譯器與框架越來越難以覆蓋所有的硬件。

陳天奇等人的最終目標是讓深度學(xué)習(xí)負載可以輕松部署到所有硬件種類中：不僅包括 GPU、FPGA 和 ASIC（如谷歌 TPU），也包括嵌入式設(shè)備，這些硬件的內(nèi)存組織與計算能力存在著顯著的差異。考慮到這種需求的復(fù)雜性，開發(fā)一種能夠?qū)⑸疃葘W(xué)習(xí)高級程序降低為適應(yīng)任何硬件后端的低級優(yōu)化代碼的優(yōu)化框架是最好的方法。

TVM 是一個端到端優(yōu)化堆棧，該端到端優(yōu)化編譯器堆?？山档秃驼{(diào)整深度學(xué)習(xí)工作負載，以適應(yīng)多種硬件后端。TVM 的設(shè)計目的是分離算法描述、調(diào)度和硬件接口。該原則受到 Halide 的計算／調(diào)度分離思想的啟發(fā)，而且通過將調(diào)度與目標硬件內(nèi)部函數(shù)分開而進行了擴展。這一額外分離使支持新型專用加速器及其對應(yīng)新型內(nèi)部函數(shù)成為可能。TVM 具備兩個優(yōu)化層：計算圖優(yōu)化層和新型調(diào)度基元的張量優(yōu)化層。通過結(jié)合這兩種優(yōu)化層，TVM 從大部分深度學(xué)習(xí)框架中獲取模型描述，執(zhí)行高級和低級優(yōu)化，生成特定硬件的后端優(yōu)化代碼，如樹莓派、GPU 和基于 FPGA 的專用加速器。

陳天奇表示，TVM 嘗試從更高的抽象層次上總結(jié)深度學(xué)習(xí) op 的手工優(yōu)化經(jīng)驗，使得用戶可以快速地以自動或半自動的方法探索高效的 op 實現(xiàn)空間。

2陳天奇其人

陳天奇是機器學(xué)習(xí)領(lǐng)域著名的青年華人學(xué)者之一，本科畢業(yè)于上海交通大學(xué) ACM 班，碩士階段也就讀于上海交通大學(xué)，博士畢業(yè)于華盛頓大學(xué)計算機系，研究方向為大規(guī)模機器學(xué)習(xí)。他曾參與開發(fā)了 XGBoost、Apache MxNet、Apache TVM (https://tvm.ai/) 等著名機器學(xué)習(xí)工具，是最大開源分布式機器學(xué)習(xí)項目 DMLC 的發(fā)起人之一。

陳天奇與機器學(xué)習(xí)的緣分開始于高中一年級，他就讀的松陽二中，是一所位于浙江小縣城的中學(xué)。

陳天奇曾在知乎社區(qū)的問答中回憶自己第一次接觸計算機科學(xué)的心路歷程：「比較幸運的是，比起其他學(xué)科競賽，OI 社區(qū)有很多在互聯(lián)網(wǎng)上的公開資料，訓(xùn)練 OJ 和論壇社區(qū)（大榕樹和 oibh）。這些都給了像我這樣野路子的選手追尋自己的興趣的機會。

高二的時候，陳天奇靠著全部上搜索拿了 NOIP 的省二，高三又拿了省一。憑借 NOIP 成績帶來的高考加分，陳天奇進入上海交通大學(xué)的 acm 班，開始了在計算機科學(xué)上的旅程。

在拿到博士學(xué)位之前，陳天奇曾在微軟亞洲研究院、華為諾亞方舟實驗室等機構(gòu)實習(xí)，還曾在其母校擔(dān)任助教，講授編譯器、操作系統(tǒng)、數(shù)據(jù)庫管理系統(tǒng)、數(shù)據(jù)挖掘和機器學(xué)習(xí)實踐等課程。

碩士期間，陳天奇還獲得了 2011 年 KDD Cup 的亞軍和 2012 年 KDD Cup 的冠軍。機器之心曾經(jīng)轉(zhuǎn)載過陳天奇關(guān)于自己科研生活的自述文章《機器學(xué)習(xí)科研的十年》，一定意義上，KDDCup12 的奪冠是他決定將科研之路進行到底的最重要因素。

2013 年，陳天奇在華盛頓大學(xué)開啟了自己六年的博士生涯。讀博期間，陳天奇遇見了要求嚴格的導(dǎo)師 Carlos，鼓勵他「只做 best paper 水平的研究」。也正是在讀博的這幾年里，陳天奇等人完成了 TVM 等重要研究。

今年，陳天奇從華盛頓大學(xué)獲得博士學(xué)位，其畢業(yè)后的去向成為備受關(guān)注的問題。

6 月份，他在 Twitter 上宣布自己將于 2020 年秋季加入卡耐基梅隆大學(xué)（CMU）任助理教授，成為加入 CMU 的年輕華人學(xué)者之一。同樣宣布將于 2020 年加入 CMU 的還有 CycleGAN 作者朱俊彥。