为什么AI做出决策这么难?谷歌分析员告诉你答案

分享到:

5baf19accdc345cc88016294b11c2b4620180308132822

左边是呈现给神经网络的图像,该网络被训练来鉴别图像中的物体,比如辨别图像里是否包含花瓶或者柠檬。右边是可视化的图像,显示神经网络中间的一层在图像的每个位置检测到的东西。神经网络似乎在检测花瓶状图案和柠檬状物体。
3月8日消息,据《纽约时报》报道,所谓的神经网络大大推动了人工智能的发展,但理解计算机如何作出决策却十分困难。谷歌的研究人员正在学习机器是如何学习的。

机器正在开始自己学习执行任务。它们在鉴别面孔,识别口语词汇,查看医学扫描图,甚至展开它们自己的对话。

12f38e37540f46ce975b64cb16524a1820180308132822
原始图像以及神经网络看到它后形成的三张可视化图像。网络的第一层主要是检测边缘和颜色。其他的层开始识别更为复杂的概念,如花朵、花瓶和柠檬。

所有这些任务都是通过所谓的神经网络来完成的,这些网络属于复杂的计算机算法,是通过分析海量的数据来学习执行任务。但是,这些神经网络带来了一个科学家正试图解决的问题:判断机器如何得出结论并不总是一件容易的事情。

周二,谷歌的一个团队朝着解决这个问题迈出了一小步。他们所展示的新研究成果,大概描述了显示机器如何作出它们的决策的技术。

43de6922c0be4ebcb349c832374cfc2620180308132822
神经元组自动学会一起表示图像中的概念。五个神经元组似乎分别对应于花朵、花瓶口、瓶身、背景和柠檬。热图显示每个神经元组在图像上的位置。

谷歌研究员克里斯托弗·奥拉(Christopher Olah)指出,“即使只是看到机器作出决策的一部分过程,你也能够形成很多关于它失效的潜在方式的了解。”

越来越多的AI研究人员在开发更好地理解神经网络的方法。目前供职于打车服务巨头Uber人工智能实验室的美国怀俄明州立大学教授杰夫·克兰(Jeff Clune)将这类技术称作“人造神经科学”。

2b412bf6f67a48d69142232ad43d794d20180308132822
神经网络两个不同的层上的神经元组和输出分类。线条显示哪些神经元组支持或抑制后面的神经元组或者输出分类。例如,“柠檬”分类得到了一个黄色的柠檬式的组的强力支持。

理解这些系统如何运作将变得更加重要,因为它们所做的决策目前是由人类来作出的,比如谁获得工作,自动驾驶汽车如何应对紧急情况。

神经网络概念最早在20世纪50年代被提出,它旨在模拟大脑中的神经元网络。但那只是一个粗略的类似。这些算法真的是一连串的数学计算,每个操作都代表一个神经元。谷歌的新研究,意在以高度可视的方式展示这些数学计算是如何执行离散的任务的,如识别照片中的物体。

9e424763c17a4b1ca6994a8a4f609d4b20180308132822
“花瓶”分类获得了分别代表花、花瓶口和背景的神经元组的支持。

在神经网络内,每个神经元都会去识别照片中可能出现的特定特征,比如从特定角度从右到左弯曲的线条,或者合并形成更大形状的多条线条。谷歌希望提供工具来显示每个神经元在试图识别什么东西,哪些神经元识别成功,以及它们的努力如何共同判断照片中实际上有什么——可能是小狗、燕尾服或小鸟。

奥拉表示,谷歌正在讨论的这种技术可能也有助于判断神经网络为什么容易出错,以及在写情况中解释它是如何习得这种行为的。包括克兰在内的其他研究人员认为,该类技术还有助于最大限度地减少“对抗样本”的威胁,比如某人可能通过篡改图像来欺骗神经网络。

研究人员坦言,这项研究仍处于起步阶段。同样供职于Uber人工智能实验室的Jason Yosinski认为谷歌的技术理念“是顶级的”。 Uber的AI实验室产生于该公司收购回来的初创公司Geometric Intelligence。不过Jason Yosinski也警告称,理解计算机思维可能永远都不会变容易。

“在某种程度上,随着这些网络变得越来越复杂,要理解它们为什么做出决策将变得极其困难,”他说道,“这有点像试图理解人类为什么做出某些决策。”

继续阅读
发展人工智能,中国短板仍然醒目

“全球在人工智能专利布局上的前20名,没有一家中国企业。”在日前举行的2018世界智能大会智能科技产业发展CXO论坛圆桌对话环节,北京人工智能专利产业创新中心总经理刘翰伦的话引人深思。他从知识产权角度,给国内人工智能企业来了个现场“把脉”。

蜜蜂数量逐年减少,大黄蜂机器人来帮忙

  在西弗吉尼亚大学的一个温室里,一个大黄蜂机器人BrambleBee正在黑莓植物中穿梭飞行。开发者们正在努力攻克计算机视觉算法,这样不仅能够帮助机器人定位花朵位置,还有利于其操作手臂。机器人手臂顶部有一组软毛刷,就像蜜蜂的毛发,能够伸出来轻轻接触花朵,然后进行授粉。 目前,机器人蜜蜂手臂使用的技术是扫描放置在黑莓灌木丛内的二维码。

高速收费遇上物联网+,智慧交通加速普及

  随着人工智能的不断发展,无感支付、云端支付、电子收费成为高速收费新手段,“互联网+”应用的不断普及,为交通管理领域带来全新思路。

智慧便捷之城如何打造?看大数据下的深圳试点先行

手机点一点,就能解决上下班通勤难题;眼睛眨一眨,就能办好100项政务服务;鼠标动一动,就能享受快捷的便民服务。在深圳这样一座科技创新之都,大数据、云计算、物联网、移动互联网、人工智能等新兴技术风起云涌,正在给人们的生活带来巨大改变。

智慧城市落地发展,这一问题需先解决

  智慧城市建设正成为一个国际化趋势,在技术革新、应用落地、政策支持推动之下,我国却迟迟没有一个标杆性城市产生,究其原因,数据开放成为了目前亟待解决的关键问题。

©2018 Microchip Corporation
facebook google plus twitter linkedin youku weibo rss