听说三星8K 8K电视在很多方面都比普通电视有了很大提升,这是真的吗?

芯片这方面的工作杨教授在学術上也有很大的成就。他曾经在

杨教授创立了 GTI 这家公司其实我第一次知道 GTI 这个公司之后,我看 Gyrfalcon 这个词还比较有意思不知道杨教授能不能解释一下,这是什么意思

是一个大鸟的意思。中国东北有一种鸟叫海东青Falcon 就是鹰的意思,Gyr 就是一个大鸟的意思

OK。好像是说飞行速喥最快的一种鸟

对,所以说中国的歼 11 战斗机叫猛禽实际有人翻译成猛禽。这种鸟就是原始的海东青

感觉就是,其实我相当于是见证叻咱们 GTI 整个的创史过程最早开始也跟董琪,跟其他几个 Founder 也聊过感觉 GTI 过去一年发展得很快,就像猛禽一样不知道过去一年发生了什么倳情,杨老师能不能给我们解释一下

那好。神经网络大家都知道有过几次发展那么我刚到 Berkeley 的时候是 1985 年,那个时候赶上了上一轮 (发展浪潮)上一轮的时候,那个时候因为 PC 才刚开始通讯还在 Analog (阶段),就是模拟电话所以当时神经网络作为当时的下一代的计算工具呢,也有很哆人在研究它的主要特点就是平行处理。

那么这是当时我在 Berkeley 读博士的时候做的一个叫做 Cellular Neural Networks它里边呢,我当时是用 Analog 实现的Analog 电路,就是用電阻电容和运算放大器当时也是主要是做的图像处理,是做的我们的汉字识别当时用 MOSIS,就是学校支持的电路工艺做的在电路里头做絀来的。

那后来呢神经网络由于其他方面,就是这个 PC 啊通讯啊,都在发展神经网络当时也有遇到一些困难的地方。实际上就是说怎麼训练这个东西怎么学习。因为当时我们在整个读 PhD (期间)我也就是弄了几个特征,我们当时叫滤波器现在大概如果要数的话那现在就昰几百万个了。我们那时候能设计出来几个就不错了甚至那个时候尤其是做图像处理的那些处理器的算法,比如说像边缘识别或者角識别,好多都被用人名命名了包括 Berkeley 的一个教授叫 Canny,他 (设计的) 就是著名的边缘提取滤波器现在呢 —— 这都是人工做的 —— 现在就是机器學习。

所以当这一波的人工智能再起来的时候您是看到了什么机遇?我知道您创立 GTI应该是看到了一个很大的机遇,当时创立这个公司嘚初衷是什么

当时创立这个公司的初衷呢,就是感觉到现在PC/电脑都已经放到手机上了。第二是通讯都已经做到第五代通讯了而且目標就是 IoT,Internet of Things物联网。那么下面呢大家又重新在考虑智能。为什么叫 Internet of Things 呢原来就叫 Internet,相对来讲就应该叫 Internet of People对不对?那 People 只要连起来大家就鈳以交流。因为有这个语言文化互相都懂。那你说Thing,这个东西连在一起那很难交流。所以这个时候就需要赋予这个物体一定的感觉嘚能力和判断的能力。这也就是所谓的人工智能要解决的问题

对。主要是为了解决 IoT 下面的连接 (问题)IoT 已经发展了多少年了,但主要就昰为了连接连接由于 5G 开发了以后,现在正在实施现在急需的就是,连接就要产业化就不是个科研项目了。那么在这个时候呢人工智能就起到了非常关键的作用。这是第一第二呢,人工智能或者叫神经网络,前一段时间呢虽然产业化没有发展,但是在研发方面還是有人在做但是研发方面在做也受益于现在的计算机的能力,那么就开发了这种深度学习的概念

深度学习呢,它的技术方面的定义昰叫多层卷积神经网络的机器学习所以大概有这么三个意思。第一是卷积神经网络第二是多层,第三个是用机器学习不用人,不用編程那么实际它本身的电路结构和算法很早以前就有了,至于为什么能够现在 Popular 起来一个是现在有这个需要,再一个就是现在的算力僦是计算机仿真的能力很强。这个我下面可能在谈到其他问题的时候会再展开讲

OK。那咱们创立这个公司一年现在据说芯片已经出来了昰吗?大概做到什么样的性能呢这个芯片

我们这个芯片呢,当时瞄准的就是低成本低功耗,高性能因为高性能是必须的。因为这个偠赋予智能让它能够自己去学习的话,就需要算力所以必须得是高性能。那么在高性能的情况下怎么能够降低成本,降低功耗这個是我们主要的一个工作,集中在这个里边那么得益于原来我做的这个 Analog 电路,它就是个 Device它从架构来讲,和计算机是不一样的所以从這里边呢,我们就达到了我们预期的目标

ASIC 呢,当然只要是 Application Specific 就叫 ASIC我们这就是一个我应该叫它卷积神经网络加速器,它不是一个 SoC那么我們也觉得这个是当前急需的那么一个。因为现在市场还没有起来如果将来市场起来了,根据真正的应用我们会做不同的电路。但是现茬呢还是属于一个平台,就是我们叫做卷积神经网络加速器

那主要性能是手机上面吗,在什么芯片/平台/终端上面

手机只是一个应用。提到手机我就顺便把我们最近做的这个东西拿出来看看。这个东西呢是我们给电脑,Laptop 做的它是个 USB Dango,我们这个芯片就在这里它就昰个加速器。那么现在的 PC 呢里边基本什么都有了,就是说你没有 GPU反正只要是 CPU,做训练都没问题但是它速度慢。所以加了这个以后你僦加速了加速了以后呢,那就可以拿到

举个例子,比如说我们这个视频结束之后我们要做渲染Video 处理。那这个东西插到电脑上就可以加速我的渲染过程

对!你比如说有些东西它是需要——时间要很快反应的,那我们的这个可以做到识别每秒可以跑 150 帧。当然其他的也鈳以做但就是很慢。那你做的汽车比如你反应时间可能就比较慢,所以它为什么要加速呢就是说不光要有这个功能,那它还要反应非常快

那就是像安防这种识别,对吧摄像头上边的识别,OK

是。那这个也是用我们的芯片做的一个 WiFi 的小盒子这个就跟手机一样,跟掱机配合像现在华为和苹果都做了 SoC,就是 Single Chip 的 Solution但是这个东西呢,由于 CNN/卷积神经网络的运算量是需要很大的那么我们的就是专门做了这麼一个,配合现有的手机我们就直接把这个手机升级为 AI 手机了。就是这个东西可以直接把你现在的电脑升级为 AI 电脑因为我们手机上已經有了照相机啊,有 MPEG就是这些 Video 的 Decoder 的啊,或者其他的运算的东西它都有。唯一没有的就是怎么做深度学习加速。所以我们主要就是做這个脏活累活。

作为一个算子就像里边有乘法。但是它那里边就是 Convolution所以我们在那个里边就有这个Convolution,不光有 Convolution我们还有 Feedback,就所谓现在嘚 RNN但是现在呢,我们重点主要是做 CNN因为这个 Feedback 还有一些其他的问题。所以现在 RNN 只用在一维的信号处理方面还没有真正用到图像。但是將来我认为是会去做这样的

所以你们选择这个 Inference 的原因,也是因为看到很多 IoT 在终端上面实现的大量机会对吧,是不是这个意思

对。我們先选择了 Inference 的话呢大家都在——很 Popular,就是说现在很流行的就是 Inference 和 Learning或者说 Training。实际上跟人一样Learning 就是试错,就是千万次的 Inference你猜一个数,試一试行就是行了,所以实际上是一样的真正的 Work 就是 Inference,因为你要试验啊就是实践认识,是吧就是反复去做的一件事。那么实践是朂重要的所以 Inference 就是实践。认识是说你这次错了,下次怎么改那现在有很多诀窍,就是说或者是不同的学习的方法但是不同的学习方法最后你还是要时间去检验。

那么我们为什么做这个东西呢当时主要考虑的,现在我讲指出来的一个现在一个局限性,但是这种局限性不是说故意的人为的,而是说随着时代的发展神经网络,或者叫机器学习或者叫人工智能,在 2014 年2015 年之前,基本就是学校在做而且是很少的人在做。为什么是这样呢就是说,没有真正的应用嘛还有就是说,其他应用也很 Popular大家都围着这个 PC 和互联网在做这件倳儿。

那么这个东西呢就变成了—— 神经网络本身按理说应该是一个物理器件,是一个 Device那么后来就主要做的人都是 Computer Science的,就是计算机的囚在做计算机的人在做什们呢,我们叫计算机仿真计算机什么都能做,对不对那么就像你 CPU,GPU 都能做但是 GPU 为什么比 CPU 做得好,就是因為它有平行处理它做得快。但是说能不能做这件事儿都能做,你就拿个 ARM最简单的也能做,只是慢而已

Simulation —— Computer Simulation 只是验证这个功能啊,性能够不够那么 Emulation 呢,就是说我要证明实时这个问题但是它的 Cost 是很大的,因为它的成本高那么最后才做成芯片,这是必需的一个过程

所以现在业界也在说,神经网络有几种有 CPUGPU什么 FPGA还有 ASIC,实际上最终就是 ASIC其他都是一个过程。

是的OK。所以咱们在做这个 Training因为峩知道,现在我们做 Inference 的话因为有一个核心技术问题就是,比如说我们 Model从 Training 到 Inference 中间有一个 Migration 的问题。你们怎么看这个问题

我们看这个问题僦是说,另外的一个刚才我再继续展开 —— 由于集中在 Research集中在 University,那么唯一可用的平台就是 CPU 或者 GPU那相对来讲呢,GPU 速度或者性能更好而苴 Nvidia 也支持这个,他们做的这个平台叫 CUDA那么大家就去集中用了这个平台。但是这个平台有好处就是说下面有一些要调整的。就是做 Research因為你就为了写一篇文章,或者为了证明一个概念那你不计成本,是吧所以那个时候呢,如果说你要考虑现在这个成本的话两年前我茬说要做 Quantization,说为什么做双精度64 个 bit 啊,5 个 bit8 个 bit 都可以,是吧因为当时我们做 Analog,你说电子电容的精度是多少能做到 10% 就已经不错了,10% 也就昰 3 个

就是说那个时候从我个人经验来讲知道这个东西都已经不在乎那个事儿了。但是你 CPUGPU 你用的是 Library,你不去想那个东西已经有了。你偠说做一个 3 个 bit 的一个指令集没有,你倒麻烦所以你只能用浮点和定点。那这样的话所有现在训练出来的人第一,都是学校出来的苐二,都用了 Nvidia 的平台第三呢,根本没有问题说我一定要给它优化那所以说才存在刚才你说的这个问题,因为我们的芯片的话呢要进┅步优化。

一开始我们开发算法也好开发模型也好,用 CPU 或者 GPU 开发包括 Caffe 啊PyTorch 这些东西呢,主要是证明能不能的问题那么下面就要真正要鼡起来,产业化呢就是要证明省不省的问题。你用不用得起的问题所以我们这个东西是想人手一份儿,包括你可以(任何人) 都可以。僦是说人工智能本身呢现在每个人都有自己的定义。有的人觉得这个东西很可怕将来就是超人。

这个和我 30 年前描述计算机都是这样計算机就是被认为要毁灭人类的。但实际上我们觉得计算机 (让我们) 得到了很多好处是吧?当我在上学的时候30 年前的时候,那真就是做計算机的人用计算机用计算机的人做计算机,其他老百姓就是就像现在人工智能就是高发展嘛。但是现在不都是人手一份手机嘛都昰这个。

我们现在讲叫民主化对吧人工智能民主化。就是您说的普及化实际上最终是 ASIC,对吧ASIC 本身是要考虑经济效益,考虑成本对吧?所以这个是我学习到的东西那现在您做的这个 GTI 的这些工作,我也看到了说是借鉴了很多您以前的一些工作包括 CNN 啊,那具体的关联昰什么您刚刚讲的电路本身啊,就是里边也用了一些您当初做的一些东西应该是 (存在) 这样的一些关联性吗?是哪些东西有 (关联)

那这個就牵扯到刚才我说的,电路神经网络和计算机的区分是什么。所以大家现在有个常用词叫异构异构的意思就是我和计算机不一样,泹是怎么个不一样法是吧?第一呢我个人认为,就是说神经网络呢它因为是一个电路,尤其是当时我们做的它是记忆元器件。记憶的和运算的是一体的那么现在标准的计算机的架构,就是处理器存储器,中间还有个 I/O叫接口,有这三个是吧?我们现在做的这個东西是都放在一起的正是因为这样,我们才降低了功耗

因为现在呢,你可以把里边的处理器包括你的存储器,都用最新的比如說是,7 纳米10 纳米的来实现。但是你中间连接接口的那个Pad就是我们叫芯片的管脚,不变对不对?那个东西就是大量的传输高速功耗嘟在那儿。所以这是一个另外就是人也是啊,人的智能实际上是记忆和处理在一起的不是说你想干什么,到哪儿去充一下电,然后洅去存取 —— 它是一体的这个也是不同。但是作为 Computer Simulation 来讲原来架构就是这样,你何苦去改呢所以这也是说,我们认为将来的发展呢實际上就是这种专用的结构。

另外一个呢由于有计算机的话,大家现在也在比说是看谁做得最好。我看现在好多 Startup 在做的芯片呢都在仳这些东西。那么还是计算机的概念计算机有几个特点,第一呢一定要有指令集,就是说我这个东西是专用指令集指令集简化,没必要因为这个东西不需要指令。因为顾名思义深度学习,机器学习嘛机器学习就是不用人来编程序,不用人来编程序还要什么指囹集呀,对不对实际上我们真正用数据来训练里边的参数,训练完了以后呢人工智能和人类智能相比有好处,就是它可以 Copy训练完了鈳以移植,它不像人对不对?我们学完了以后我们的下一辈还得重学。

我觉得您讲的这个实际上就是逻辑上的认识上的一些不同,對吧就是说思维上的一些变化。您讲的这个指令集的变化讲的非常好。那么您是非常有经验的而且时间很长了,在半导体行业做这個研究啊技术,产品啊您看到 AI 时代来了之后,您觉得对整个半导体产业带来些什么样的变革是不是感觉半导体行业又赢来了一个第②春啊,感觉好像我们又重新有人关注半导体尤其是中国,开始有更多投资人开始投资芯片这件事情意味着什么?

很大的一个变化泹是我认为这个是时代的发展造成的。刚才你提到这个第二春对我来讲,这就是一个——或者叫三十年河东三十年河西。我当年在 Berkeley 读書的时候Berkeley EE 和 Computer Science 一起的叫 EECS,对不对当时 CS 的人都是 Hardware 的。我去年还是前年 —— 因为清华跟 Berkeley有一个 Joint Venture 在深圳我回去,结果发现 EE 根本没有人学了伱只要做出个A to D (Analog to Digital),剩下的就是 Digital 的事儿了那么这一点呢,将来也会对软件的人 —— 现在大家都在学软件实际上机器学习将来就是会代替这些人。

我想刚才听您介绍,您也是从硬件学习出发为什么改行呢,两个事儿我是一直跟着走的。第一件事儿就是 EDA (Electronic Design Automation)最早我们来的时候还是画电路的。那个时候就是 —— 后来画不动了因为太多了,所以才有 EDA就是 Electronic Automatic 的 Design 嘛,我中间两个公司也是在 (做)

对这个东西顾名思义,就有点类似机器学习就是用机器代替人来设计。这是第一波那这个呢,就已经说是很 Junior 的就是很初级的 Design Work 已经没了。剩下的就是 Architecture就涉及整个应用,所以就是 ASIC 的定义和应用然后剩下的都是 SynopsysCadence Tools 自动生成了。至于加法器乘法器怎么来的谁都不知道怎么回事,机器知道就荇了就描述的就行,描述功能这还好,但还有一部分人在设计这个 Architecture设计架构。10年 —— 刚才我说的是 20 年前 —— 10 年前由于所有的应用嘟是有 Limited Requirement。

你比如说我当时做数字电视Intel 当时也在做数字电视,我们在 Santa Clara 还立个电视台但是那个时候它的算力不够,那个时候可能是 65 纳米戓者 130 纳米。我跟他说现在你必须得用专用集成电路做。十年后你可能 (就不需要了)所以呢,当时比如说 MPEG Decoder 比如说 Demodulator,比如说手机 —— Qualcomm

所以這也是为什么有的人说现在你就算是做芯片,也就是个集成就是现在需要 System-on-Chip,SoC实际上就是几个Core,或者几个 Interface 放在一起集成起来剩下的功能都是软件设计。所以说 Hardward Design 的人一点都没有了基本连学校都不 Train 了,都没有人去学习了所以 (针对) 刚才你说的,这就是为什么我说是三十姩河东三十年河西。下面三十年呢实际上又给 Hardware 的人 (新的机会),就是我们还要着重去做 Hardware

为什么呢,因为这个我刚才也提到了它不是┅个计算机,它是一个 Device它不一定去竞争,就像苹果手机似的苹果今年出了手机,我就换个新的去年的虽然打电话还可以用,但是大镓就都换是吧?我现在恨不得都变成干脆叫 Lease,就是钱都转到那儿了算起来就是一个 35 块钱,就基本就这个为什么呢,就是计算机 —— 因为它是通用的东西通用的东西 (大家都) 老比谁最好,因为可比那以后的人工智能的应用呢,很广泛的有的东西不需要一年一换。仳如说你们家的 Garage Door Opener那个东西你老换它干什么呢,没必要换包括智能锁啊,好多这些东西

就是有很多 Sensor,对吧

对,所以它不需要换就潒你说安防,或者小区放个安防不可能说明年出了新的我再换,那不可能因为它的功能是不变的,所以你就用那个东西就行所以将來会有很多的,不是说做一个计算机就行了所以这是为什么现在做 Hardware 的就是 IntelNvidiav还有 ARM,就这么这几家嘛其他都是集成。所以这个也是说对于不光是学 Hardware 的人,将来可能好多学 Software 的人也许又转去学 Hardware 了做系统。

对就像您之前说的,确实我认识一些人他们做比如说 AI Infrastructure 的人,最後的这个 Performance 提升很多时候就需要看硬件架构是什么,硬件底层实现怎么回事儿这个时候可能优化性能可能更多都是 SoftwareHardwareCode Design 这些。OK那您也昰长期在中国和美国的半导体行业工作,您怎么看中国的半导体行业因为现在您知道最近一年这也是个热点话题,我们确实有差距对吧?您怎么看问题在什么地方,我们应该做些什么事情可能会把行业的差距缩小?

大的方面刚才我已经说了本身硬件由于 EDA 这个 Tool,由於每个 Applicaiton 是有一定限度的后来都被 General Processor 给替代了,所以这个需求就很少这是第一。第二呢我感觉到前面这 30 年,过去的这 30 年实际上中国还昰处于一个学习和跟踪阶段。尤其做企业的人呢我听了好几个比较有名的老板说不要吃第一个螃蟹。那不要吃第一个螃蟹你怎么创新呢但是为什么,这是适合当时中国国情的因为你没有那个财力,也没有那个需求你犯不上去做这些事儿。那么比较稳的就是先把现在這个基本的事情做好但是现在不一样了,现在中国能做的也都做了跟别人都已经差不多一样了,你要想抄别人的呢或者说学习别人嘚,还没出来呢那就干脆自己去做这个事儿。

对创新这方面您认为是一个突破点对吧?现在应该是个时机了可以做更多的创新,新嘚领域您之前创立了 Legend Silicon,现在又做这家新的公司GTI,我不知道您从前面的经验学习到哪些方面觉得是可以把 GTI 做得更好,这一点您是怎麼样的一个

上次做那件事儿呢,有几点第一呢,就是数字电视进入了产业化阶段因为数字电视一开始也是科研项目,最早是在日本搞絀来的那么没有标准化是不可能产业化的。现在AI也就是这个问题 —— 没有标准化大家都想标新立异,每个人想说我明天能不能再研究絀来一个不同的就是为了不同而去做事儿。那这个就不是产业化了产业化是说尽量相同。而且也不一定说我做完这个事儿就永远不洅做了,已经全解决完了这不是。你看通讯就告诉你了这个标准 —— 第一代通讯就是模拟电话;然后有 2G,第二代就是 GSM (Global System for

实际上在做第②代第三代的时候,5G 的技术也存在了研发上也有人讨论。但是大家说没必要了标准化呢,它可以给你定义一个大家都 Follow 同样的东西,洏且做现在最急需的东西现在我认为大家还是在科研的这种状态。

所以当时您的 Legend Silicon 也参与了很多标准化的过程吗

(Integrated Services Digital Broadcasting — Terrestrial)。在这个时候正好昰 2000 年左右,吴仪副总理到美国来然后能见了小布什。布什当时就问她说你为什么用欧洲的GSM,不用我们的 CDMA当时吴仪傻眼了,不知道说嘚是啥后来一问,哦是通讯标准。感觉好像是说我们在政治上或者在其他方面有取向似的,(其实)

做数字电视的时候当时是朱镕基當总理,他就说了如果是全世界一个标准,因为产业化必须标准化那我们就 Follow。如果超过两个标准我们只能做自己的了,要不然政治仩都没法说就敏感了。所以当时已经有了三个但是做标准就存在知识产权 (的问题)。因为那时候我正好在 Cadence实际上我在帮助日本做 ISDB-T,帮助 Fujisu 做美国的 ATSCDVB-T 我都参与过,而且都是做的芯片当时就是要做芯片,我说做标准必须得有知识产权

所以中国的电视标准,实际上是有我們叫完整自主的什么什么知识产权为什么呢,当时虽然我是美国公民了但是我回清华当教授,还代表中国政府在日内瓦去申请这个标准其他人当然要去 Challenge 你嘛。那么中国当时说的呢因为美国当时的 ATSC 标准是高清,但是是固定接收欧洲的呢,DVB-T 是移动但是是标清的。日夲基本跟欧洲是一样的而且他们也没有什么特别的,主要当时就是美国和欧洲我说中国定的实际上叫高清移动,因为当时说要办奥运會什么的那时候就瞄准 2008 年奥运会,一定要看高清的而且还是要移动的,因为中国人多各个公共的 (平台都需要)。那这个东西如果做出來肯定就是有自己的知识产权嘛所以当时就是做了这个。

实际上不光是对电视行业解决了知识产权的问题使中国开始能够在信息产业囿一些知识产权吧,而且对后来的第四代第五代通讯的标准都有很大的影响。你看以前的标准都有叫什么 Qualcomm,CDMA 的标准都有各国,各个公司的标准到了第四代通讯叫 LTE (Long-Term Evolution)。第一代是模拟第二代就是电话。第三代是把 TextPager 都放里边了,叫 GPRS 或者什么第四代就是 Video,中国基本就把電视的知识产权 (拿到了)基本上也都是这些方面。就是说那就算了也没有什么公司了,所以就叫 LTE所以你再听到第四代,第五代标准沒有任何国家,就是一个国际电联的组织

OK。那这个标准化过程您觉得现在在 GTI 的创业过程中,也可以用这样的流程吗我感觉 AI 是一个更加开放性的,当然他们现在也是面临产业化的挑战对吧?所以这个您觉得也会像通讯会像数字电视这样,会有一些标准出来吗

会,烸一个行业都有你比如说安防的 AI,就有安防的标准智能家居的,肯定有智能家居的标准每个都有,否则的话老百姓说,你弄个智能锁每个人训练都不一样。因为这个东西就像洗照片一样你想想,刚出来照相机的时候照照片的人,洗照片的人用照片的人都是專家。老百姓根本不知道怎么回事儿(还得找专门的) 那叫摄影师。后来变成什么呢卖照相机的人就是卖照相机,卖胶卷的人就卖胶卷咾百姓照相,玩儿然后到店里边去洗。一定得变成这样的这就是一个标准化。你想想胶卷都有标准呢

对,胶卷有不同公司的胶卷楿机有不同公司的相机,但是都可以用

都可以用。但是呢为了老百姓方便。

OK这个还是比较新颖的观点,对我来讲这个确实是比较囿意思。那后面的 AI 商业化也许真的会出现这样的变化对吧?

一定的因为现在 AI 的商业化一定得要产业化,产业化必须得标准化

因为 GTI 作為一家初创公司,现在应该也还算是处于一个早期阶段对吧?芯片这个行业您知道,都是一些大公司IntelNvidia 这种,Qualcomm 这些大公司吧您怎麼看待 GTI 怎么跟这些大公司竞争呢?

我在硅谷呆了 30 多年了嘛这是最重要的,你要做硬件是最重要的尤其是电路。当然刚才我已经谈到了标准是知识产权的问题。软件的人现在都讲究Open Source尤其是 AI,都等不及 (发) 在专用 Paper上赶快先放在网上大家先看。

硬件没有硬件全是专利。那么硬件因为有专利下来以后你看有几家?没有几家咱们现在看,除了Intel、Nvidia这是在 GPU,X86 就是 CPU原来的那些都很少了。ARM 实际上是一个很老嘚公司最早我在 VLSI Technology 的时候,当时就是 ARM、Apple/苹果那在 1991 年,1990 年左右和 VLSI Technology 三家做的这个 ARM 的 Architecture。英国那家公司只是说写指令集VLSI Technology 是做芯片,苹果是做應用但是后来因为其他原因,就不了了之了但是它那个指令集的知识产权在那儿,所以它现在才能够反过来Intel 跟它没法叫板,因为是哃时发生的

所以现在难呢,现在 AI 公司很多你光简化指令没有意义,你说我没用减法Who Cares,反正你用加法了所以因为现在 AI 呢,只是一个 —— 现在 (对) 好多搞芯片的人 (来说)通用的 CPU 或者 GPU 可能专用做 AI 有些 Redundance,比如说我想把其他的都去掉专做这个,但是这个东西绕不过去知识产权你还没做成呢,等做成了就有人来找你了

我们现在是个结构性的不一样,刚才我说过了我没有那三个什么外存内存、处理器、I/O的,嘟在一起的基本上我们为什么有这个信心呢,首先我没有抄别人的这就是我 30 年前自己搞的。但是因为 30 年前在 Berkeley 申请了专利而且那个时候申请专利呢,就保证了没有人去侵犯它这个专利就没有人再去接着申请。2012 年那是 1992 年,(过了) 20 年那算专利失效2012 年的时候,我们赶快接著申请那个失效了以后,第一你首先要说你不是抄别人的,因为有人跟你打官司啊你得能证明这是我的。第二呢你还得有一定的特点,才能保护住

所以在 GTI,我们现在已经有 5 个核心基本专利很快的。当时我们这个专利去 Defense 的时候去申请专利的时候主要就是 Intel 的人在評论。他们认为他们的是 (应该获得专利)但最后下来,没用还是 (我们的) 这个是完全是新的东西。所以呢做芯片必须得有专利。没有专利趁早别做

OK。那咱们讲了很多技术方面的东西和研究方面的东西咱们 GTI 的一个商业发展的策略是什么呢。您觉得我们作为一个初创公司做芯片本身就不容易。面临这么多竞争即使我们有基础,接下来我们在商业发展上会采取什么样的路径

商业发展现在正好是一个拐點,就是从 R&DResearch 到产业化,还缺两样东西第一就是平台,因为我们现在没有产业化平台都是 GPU。你不可能说买个 GPU 挂在门上当智能锁那不鈳能啊。

对GPU 现在也越来越贵是吧?

对啊是。GPU 有它们算的什么服务重心它有它的市场。现在的人大家也都是希望因为算力比较大嘛。还有就是培养的人因为只有这一个平台,所以大家只会用这个东西所以真正说老百姓要干什么,不知道他也不想干让他干的这个倳儿。你说你给我家弄个智能锁 —— 我学个 PhD 得 5 年呢做那些东西 —— Master 都拿不到。没有意义没有平台。所以我们第一件事就是做一个平台做一个非常低成本,低功耗但是还有 AI 的性能。这就很难

让每一个人,我认为产业化让大家都先能玩起来。大家都能玩人才的问題就解决了。就像现在大家都玩计算机那你不愁找懂计算机编程的。都玩手机你不愁找手机 App 的 Developer。我们的做法就是这个产业化嘛。现茬的计算机和 30 年前的计算机完全不一样现在的手机和以前的大哥大也完全不一样。它不是一个办公用品它也不是一个 Business 的用品,它就是┅个家用 (电子设备)就是个玩儿。所以我们现在 —— 你看这个东西做的就像让大家玩一样我也不想拿你去开发什么自动驾驶,智能医疗不用。你就能用这个识别出来一些很简单的东西猫啊,狗啊这些。

对这个普及化确实是需要细分的领域,细分的应用对吧?针對他自己想关注的问题怎么解决

对,所以我们第一个在推这个但是这个比较长,因为需要一个生态系统那么我们先是把芯片做出来,成本因为很低能放到这里边呢,那就肯定是很低的Intel 那个还有散热片呢。我们这个就是这样从低功耗的角度来讲。再就是我们配合 (現状)每个人都有手机,每个人都有电脑我们让你先熟悉什么叫 AI。那么第二个呢也不是做 Mission Critical 的。你说让你去做 AI做自动驾驶,撞死人的倳儿谁负责还没搞清楚呢。你说让他去做智能医疗治好了行,治死人了打官司怎么办?咱们不搞那个事儿

对,您说很多应用呢咜其实需要一个不管是法规啊,或者是政策或者甚至是有些伦理道德方面的,对吧这些东西还有很大的障碍,您看像无人车的产业化安全性啊,整个的法律规范保险,这些都影响到很多东西对吧?而我们所侧重的这种普及化它可能更加容易实现一些,是不是这個道理

比如说,可以给你举个例子现在有很多小玩具可以说话,但那都是云端的云端有几个问题,一个就是说它有一个隐私的问题你每天说什么话,可能也不敢说太多

需要把这些隐私信息存在本地。

对存在本地。第二还有技术问题实际上在云端处理识别的这個功能更复杂。你比如现在科大讯飞不也有人说它不行是,那个问题太难了因为那个东西叫什么,叫非特定人识别因为语言这个东覀是人为定义的。它和图像不一样图像是自然发生的,语言是人为定义的还有口音。

所以您说的就是个性化比如我的手机上其实都昰我的口音,那应该 Train 起来更容易一点对吧?您说放在云端了变成几百万几亿人的 (口音),那这个 Train 起来更不容易了

对啊。不同的语言鈈同的语法,不同的语气不同的语调,还有不同的兴趣实际上你放在自己这儿,训练的就是你感兴趣的事儿可能你家人感兴趣的事兒跟你还不一样,你的孩子更不一样这个就把一个很复杂的问题变成很简单的问题了。就像我当年到美国来的时候就学了英语 900 句在这兒我也没感觉到我有什么难的。因为我也不去跟别人去讨论什么很复杂的事儿关键词抓到了就行。就是一个你要什么需求你有什么问題,这东西非常好训练而且非常有隐私。这就是我们现在要做的这个事儿你就自己做,训练这个东西就行你自己就能开发一个他们那样的 (应用)。

所以你们也提供工具包之类的是吧

对,我们提供这东西就像刚才我说的,没有指令集实际上机器学习这个事儿呢,让現在人工智能有好多人把它复杂化了实际上老百姓还是没有真正切入到这一点。真正讲呢它就是一个大数据,通过整理数据让机器能够执行一些简单的功能,用我的话讲就是像教小孩儿的幼儿园老师。你把它看成是一个小孩儿教给它,这是苹果再拿个梨,问这昰什么它说这是苹果,不对梨,啊梨,下回就是梨你又弄个橘子,它说又是梨不对,苹果不对,什么橘子。就这样一遍一遍地教那这些东西就整理成 —— 就是说行行业业的专家去训练你自己要的东西。

随便举个例子现在中国退休的人很多,有钱了都去到處旅游智能旅游是什么呢,就是现在大家说到此一游,照个照片你也不知道这个东西到底怎么回事儿。将来 AR 就连上了你一照照片,一开始有的人可以去他就讲一段,这是谁这是怎么回事儿。下回呢你说你要到哪儿玩,比如说你说你要到清华。清华我一回去这一个楼,那一个楼我也不知道怎么回事儿。反正到那儿大家都合影嘛4

那后来他们就训练了一个东西,你一照照片它就告诉你说這个楼什么时候建的,为什么怎么回事儿。这不就涨知识了吗现在都是用二维码 (扫信息),这不用而且将来的社区都是交换这个,就昰开发的 App 不用写什么软件 C++基本上你对这个东西感兴趣就行。比如说你到北海你看那里有个半月桥。你到那个地方照个相觉得挺美的,为什么叫半月桥我经常去北海,我也不知道后来看《国宝档案》才知道,那是乾隆写的 “半月桥”是纪晓岚还是谁告诉他,说你看那个大白天的太阳在里边就是半个月亮你说这种涨知识的事儿,谁也不知道啊

对,确实看见了AI能做的事情

所以智能旅游是我们要莋的一个事儿,智能教育智能旅游,就是这些东西像什么自动驾驶,智能交通什么智能医疗,那是国家的事儿这些是社区的事儿。

这个策略就是说我们做一个普及化的平台,可以让大家去做一些像您说的这个智能旅游这些细枝末节的一些应用,对吧让一些开發人员,让这些人才很容易掌握这些工具做这些开发,针对他所关心的一些问题做出些解决

就是这个意思因为我今年 4 月份回国的时候缯经说过,我说要把 AI 玩起来我们这个东西上面写的叫 “Plai”,音译好像就是玩嘛 (Play)但是它的直接意思就是 People Learn AI,就是玩的意思一旦大家都了解了,都玩起来了你人才也不会缺了,行行业业都是专家因为 AI 并不是要解决一个高大上的就这么一个事儿,AI 是要方方面面的解决很简單的事儿

我们最近也在跟一家做 Baby Monitor (的公司合作)。小孩儿一哭 —— 小孩儿嘛总得有人看着 —— 或者他刚要哭的时候,你马上把当妈的这个聲音录在那儿了起码给他 Distracts 一下,就不哭了这就是很简单的一个事儿啊,也不需要什么云这个那个的,这个东西就可以做你自己训練。

其实我自己也一直想因为天天接触 AI 的问题。我想到的问题比如识别出我们家后院的松鼠,后院的水果都被松鼠吃掉了这些东西嘟是很类似的。家用的普通的,普通人所接触到的一些产品怎么样可以解决。而不是说很多看起来非常非常复杂的需要举国之力去解决的这样一个问题。

OK您看到这里有两个以前可能相对来讲隔离比较深的领域,一个是 AI 领域一个是芯片领域。现在有很多 AI 工程师也囿很多芯片工程师。这两个领域随着商业化会越来越 Merge您对这两个领域的工程师,对他们的职业发展有什么建议他们应该关注什么?对 AI 笁程师 (来说) 应该怎么样去更了解硬件还是对硬件工程师 (建议) 怎么去更了解 AI 吗?大概您是怎么给他们建议的包括您也有学生嘛,您对您嘚学生是怎么教育他们的

因为我觉得,因为现在是个拐点拐点变化是很快的,当前的需要就是产业化的问题刚才我说了产业化,标准化让大家都能够用起来。很短的这段时间我很难预测那么等 AI 基本上普及了以后 —— 就像手机这种 —— 非常普及了以后呢,我觉得搞軟件的人已经没用了因为都是什么呢 ——

这是很shock的事情。

你要让一个农民说哪个苹果长虫子了哪个没长虫子。你怎么教你说你还要學 Caffe,让人吓一跳那他只能告诉你,你拿这个东西照几个相然后你告诉我,什么是有虫子的什么是没虫子的,没虫子的喷什么药比洳说你们家扫地机,现在都是瞎眼的只是它很尽力去天天给你扫,现在所谓的智能就是没电了知道走回去充个电但是真正的扫地机呢,是干净的地方就不扫了就不擦,脏了再擦有根头发捡起来,有了可乐 (渍) 喷点东西这才是 (智能)。但就这么几类没那么复杂。

但是這种东西用不着让很专业的人去训练基本上将来大家训练 AI,就需要各种级别的导师而且越低级别的老师需要越多。就像人的智慧一定偠有程度的所以才有一个小学毕业,中学毕业大学毕业,博士教授什么的,越往上 (学历) 高的人学的时间越长学的时间越长,就是 Cost 樾高但是大部分的人,(对) 我们真正需要的 (来说) 呢基本就够了。就像刚才我说的Baby Monitor,你找一个安徽小保姆不照样给你看着么

是。所以您刚才提出的是软件工程师这块那还有硬件工程师,他们这些软硬件工程师该怎么办呢如果说未来 —— 我知道您的这个意思,以某种程度来说也是应该有 AutoML 的含义是不是?也有从某种程度上讲说 AI 本身的普及化之后,可能让普通人就可以教会 AI 怎么去做就是 Train AI,对吧那您说那些过去热门的这些软件工程师怎么办呢?

这一点呢这是一个很热门的 (大家都在) 讨论的问题,是不是会抢了 (这些人的) Job我个人觉得,他们不会会活得更有意义。但是不一定做现在做的这个工作所以我想,什么时候发生我不知道但是最终发生的时候,应该是大家嘟变成老师了都去教机器去做人的事儿。

就好像我们以前教计算机去做事儿现在转变成去教 AI 去做事儿。

对教计算机做事儿呢,你得洎己学本领

你要会它的语言,对吧

对。机器学习呢是你只要整理数据就行了。那么实际上你这么想吧中国几千年文化,大学清華才 100年,100 多年这就是因为工业革命造成的。那么美国的大学 200 多年欧洲的大学 400 多年,都是工业革命造成的也是随着时间不同才有。实際上大学就是为了让人去操纵机器需要一些专业。所以那个时候清华叫什么我们要甘当螺丝钉嘛。就是把人先变成机器人就是学校。

以后不是以后学校就是培养老师,把机器变成机器人不是把人变成机器了。教育是要很大的改变的教育一改变了,人就可以学别嘚你可以教机器去作曲啊,不是还有教机器跳舞的吗多了,是吧各种方向,就是说现在你可能都想象不到就像当年马车司机老觉嘚自己没 Job了,最后不都当 Taxi 司机了也不错嘛。当然不是同一代人啦

这个非常有道理啊!那您说现在做硬件的工程师,他们应该做什么呢

最近这几年 —— 将来我说的那个时候就没有软件硬件这个概念了 —— 最近这几年呢,我觉得硬件工程师做这个系统不是做一样的,只昰 CPUGPU,大家比那个只有几家大公司做,所以会有很多 Startup你别看有很多 Startup,他们不是在竞争就像开饭馆似的,每个人有自己的风味每个囚都有自己的 (特点),只要你自己能够想一个你做的东西有需求就有 Business。这是做硬件的那做软件的人呢,因为有硬件配套么那就是生态系统,可能是要做这个

去卖,做硬件的人很多后来没有了。然后去做芯片芯片也没有了,现在哪有做芯片的了就几家大公司。然後做软件现在连软件也没有了,就几家大公司可能将来我又感觉到,这个又会回来就是为什么说三十年河东,三十年河西呢因为這是个新的领域,原来的东西呢很难适应做这个事儿。所以它就需要人去有更多的灵活性和创新能力而且更服务于方方面面的需求。

OK那非常好,就是说您做了这么多年研究和工程包括现在创业,您觉得未来几年 —— 这是最后一个问题未来几年,比如 3 到 5 年您自己嘚目标是什么。还有就是您觉得 GTI 未来 3 到 5 年的发展会是什么样子

我们最近的这两三年,就是要做一个普及的平台把这个事儿普及起来,這是我们现在 (的目标)普及这件事儿呢,我们认为是个平台效应是 Horizontal的,就是说我拿这个东西你放在 PC 上可以自己去开发自己的应用。然後可能三五年以后呢我们会觉得行业应用的人越来越清楚自己要干什么了,因为他先是拿这个平台这个平台很小,也很物美价廉但昰还是不够专用,那进一步优化怎么办呢就是要做 ASIC,就是在做专用电路

然后我们就开始做 Vertical 的。针对某一个比如说安防,那以后安防標准化了大家都做一样的了。所以方方面面包括汽车,包括智能医疗变成说你看病是可以用那个但是家里边有一个 Personal Doctor,起码早上起来看你一照镜子发现今天没睡醒,提醒你一下那么这种东西我觉得都是比较专用的东西,就像冰箱电视啊这些东西。那么如果有量峩们的 Hardware Engineer,或者是做芯片的就会根据这个量 (进行开发)。原来都被通吃了原来大家都不同,叫 Device

前一段时间开了一个 (会) 叫 Hardware Summit,我当时说什么叫 Hardware大家现在就认为就是 Computer。但是实际上 Hardware 以前不是 ComputerHardware 就是能具体干事儿的一个东西。那这个随着人工智能方方面面 (的应用) 多了各各方面都囿,不一定我就需要最好的

那您个人呢?这个过程中我的理解您是在做整个 AI 的普及化,对不对这是不是您的个人目标?

我的个人目標现在所以我现在实际上在填补空白嘛。因为刚才咱们不说了吗没有 Hardware Design Engineer 了,所以我干脆先启动一下然后在这个时候由于我们的公司增長也很快,以后就要招很多人嘛培养一些新的人,把这些事儿慢慢做起来以后呢我也就退休了。

所以您是还在提携后辈很多新的工程师。所以今天其实也是受益匪浅啊杨老师讲了很多他对于整个 30 年来,包括从上一次的人工智能 (浪潮) 开始整个的发展,不管是通讯半导体,计算机以及现在人工智能。那通过以前的这种计算机通讯这方面的发展看到说我们现在 AI 普及化所面临的一些机遇。所以杨老師创立的这个 GTI 也是为了瞄准这个机会来的对吧?同时也会希望能够利用我们所积累的这些经验用一些新的架构,新的一些方法去为这個普及化而做出努力

所以非常感谢杨老师的分享,(让)我个人是非常非常的受益匪浅所以今天就是我们 Robin.ly 的第四期节目,谢谢大家

好,謝谢让我有这个机会能跟大家分享!

}

我要回帖

更多关于 三星8K 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信