加州大学伯克利分校前教授、谷歌(微博)大脑的杰出工程师David Patterson
【AI世代编者按】谷歌为人工智能和机器学习而专门研发的专用芯片TPU,这一事件震惊硅谷,而研发团队的背后却是一位69岁的老人。
CNBC揭开了TPU研发背后核心人物的面纱,以下为AI世代(微信号:tencentai)编译整理的文章内容:
- 在计算机架构学术领域工作了40年后,大卫·帕特森教授(David Patterson)于2016年夏从美国加州大学伯克利分校退休。
- 如今,他已经成为谷歌人工智能(AI)和机器学习领域专用集成芯片TPU的“幕后大脑”。
- 没有这种关键芯片,谷歌高管们预计,谷歌需要的数据中心要增加1倍,以支持当前极为有限的语音处理功能。
2015年5月份,加州大学伯克利分校为帕特森教授举行了退休庆典,他已经在计算机架构学术领域工作了40年。
在此次庆祝活动上,组织方播放了16分钟长的视频,介绍了帕特森的个人经历,比如他在高中和大学曾充当摔跤手,在加州大学洛杉矶分校攻读数学学位,曾在休斯飞机(Hughes Aircraft)公司短暂工作过,最后在伯克利分校从事过40年学术研究。
帕特森与斯坦福大学教授约翰·亨尼西(John Hennessy)合著过2本书,同时还是计算机研究协会主席。帕特森总结自己的成功要素时称,他每次只关注一件大事。而他的“下一件大事”可能是极为庞大的。
退休后,帕特森没有急着安享晚年,而是于2016年7月份加盟谷歌,雄心勃勃地帮助其设计全新芯片。这种芯片的运行速度至少比今天的处理器快10倍,足以帮助处理人工智能所需的密集计算。这种芯片被称为TPU,帕特森正成为其主要“传道者”之一。
退休庆典周年数日后,帕特森在加州大学伯克利分校对100多名学生和教职员工发表演讲。他穿着印有谷歌研究团队Google Brain标志的T恤说:“4年前,他们(谷歌)曾有这样的担忧,并将其当成重中之重来对待。”
谷歌担忧的是,如果每个Android用户每天使用谷歌的机器学习技术进行3分钟的对话翻译,他们将不得不将数据中心的数量加倍。
谷歌母公司Alphabet每年的资本支出高达100亿美元,其中很大一部分都用于维持数据中心运营。如今,谷歌正押注于所谓的“机器学习复兴”,而深度学习网络要求硬件效率取得巨大突破。
随着数据越来越多、越来越复杂,计算机将会通过建模进行学习,并随着时间推移变得越来越聪明。
不久前,帕特森同样在斯坦福大学发表了同样的演讲,包括4月份发布TPU性能报告的作者们。
这份报告认定,与英特尔和英伟达的当代处理器相比,TPU的运行速度快15到30倍,效率更是达到30到80倍。这份由75名工程师合著的报告将于6月份在多伦多举行的国家计算机架构体系研讨会上公布。
这份报告也是帕特森加盟谷歌的处女作。他每周会前往谷歌位于山景城的总部1次,并前往旧金山办公室2次。他负责向杰夫·迪恩(Jeff Dean)汇报工作,后者是效力谷歌18年的元老,同时也是Google Brain团队主管。
然而这并非帕特森首次与谷歌合作。在2013年到2014年的学术休假期间,他曾前往谷歌工作。但这次不同,他已经加入TPU项目,并担任Distinguished Engineer(杰出工程师,相当于总监级别)。
就在帕特森退休2个月后,TPU芯片被应用到谷歌数据中心。
退休不退场
帕特森是个闲不住的人。
2013年依然在任教的同时,他还参加了举重比赛,并打破了其所在年龄组的加州纪录。
帕特森1987年指导过的博士生马克·希尔(Mark Hill)说:“现在回想起来,没有证据显示他(帕特森)已经退休了,即使我们为他举办了退休庆典。”
希尔如今是威斯康星大学计算机科学系主任,在计算机架构领域,帕特森是20世纪后半期最伟大的学术专家之一。他称帕特森与亨尼西合著的计算机架构著作为该领域25年来最有影响力的教科书。
谷歌宣称,TPU芯片正在公司内部广泛测试。它被用于每个搜索查询,以及改善地图和导航服务。
此外,这种技术也被用于帮助DeepMind的智能程序AlphaGo去年战胜围棋冠军李世石(Lee Sedol)。但不要指望谷歌现在就能与英特尔或英伟达等芯片巨头争夺半导体市场。
外部开发者认为,谷歌的处理器可能被用于该公司的云计算服务和TensorFlow等产品,后者用于机器学习工作负载的开源软件库。
深度学习初创企业Skymind联合创始人兼首席执行官克里斯·尼克尔森(Chris Nicholson)说:“谷歌更擅长为自己开发工具,而非为其他人。他们从来都不是成功的硬件公司,我也没看到他们在追求这种策略。”至少有1家初创企业想要尝试填补谷歌没有踏足的空白领域。
这个项目的几个工程师已经与投资人卡马斯·帕里哈毕提亚(Chamath Palihapitiya)合作,组建了名为Groq的神秘初创企业。
对于TPU来说,它还处于非常早的起步阶段。到目前为止,这种处理器已被证明在所谓的“推论”中非常高效,这也是深度学习的第二阶段。
首个阶段是训练期,谷歌依然依赖于现有的处理器。但谷歌向来以对最尖端项目守口如瓶闻名。在加州大学伯克利分校演讲时,帕特森曾被问及其所在团队的下个项目,他没有透露任何信息。
帕特森表示,他在谷歌学到的一件事就是,与学术界不同,他被禁止公开讨论未来产品。
他说:“我能够说的就是,谷歌从来没有停下过脚步。这似乎是非常好的体验,他们从不放弃,也没有人被解雇。”(编译/金鹿)
推荐:人工智能汹涌而来,未来已变!关注“AI世代”微信号(tencentAI),关注未来。
正文已结束,您可以按alt+4进行评论