评论员文章

理查德·费曼（1918—1988,1965年诺贝尔物理学奖得主）是著名的物理学家，他曾讲过一个故事。

(相关资料图)

某天下午，费曼坐在巴西的一家咖啡馆中思考，这时进来一个卖算盘的日本人，打算向咖啡馆推销算盘。这个日本推销员说用算盘便于记账（当时还没有计算机），但是咖啡馆老板表示不想买。

咖啡馆老板说：既然你说这个东西计算很快，那我随便找一个顾客（碰巧就是费曼），你们两个比试一下，看看机器人和人谁的运算更快。

比试开始，首先是算加法，费曼的速度完全没办法和算盘比，他还没读完数字，日本推销员就已经用算法算出得数了。后来费曼说要增加难度，算乘法，这时用算盘需要更多步骤，所以费曼和算盘的速度差不多。

这下，日本推销员说，这不行，我们要找一样更难运算的：开立方根。

费曼同意了，于是咖啡馆老板随机选定了1729.03这个数字。费曼作为一个物理学家，碰巧知道12的立方是1728（一英尺等于12英寸，求立方体体积时，这种运算是很常见的），所以他只需要知道剩下的1.03怎么开立方。

很快，在几秒钟内，费曼通过使用“泰勒公式”算出了小数点后5位的得数，给出了12.0025，这个数字和正确答案12.00238……的误差是10万分之一。

几分钟后日本推销员才喊出12，费曼完胜算盘。

人与机器的角逐实际上各有优劣，人的直觉和经验是机器无法模仿与超越的，而机器在弱人工智能方面是胜过人类的。一个简单的人造计算器没有智能，但是可以在计算6位数乘以6位数的乘法上胜过人类。100年前那个人造的手摇计算机在计算速度方面已经超过人了。

机器确实有比人做得更好的地方，但是在需要直觉和经验的场景下，机器往往无法胜过人。

人和机器在做决定时，用的是两种不同的方法。

人是用直觉，直觉是人将各方面知识综合在一起形成的，直觉让人快速得到一个解决答案。

机器用的是“梯度下降”算法，这是在求解机器学习算法的模型参数时，最常采用的方法之一。

机器做决策只有一个方法，就是先让人类找到“损失函数”，然后让损失函数最小化。

从这方面看，机器没有任何智能——是人写出损失函数，然后让机器执行优化算法。所以人们对机器的期望不能太高：机器在弱人工智能层面可以做得很好，但是用梯度下降的范式不可能产生强人工智能。

现在我们常说的人工智能，与以前的人工智能最大的区别是：以前，人通过写计算机程序来制定规则，然后输入一些数据，让计算机算出结果；而现在，是人把数据和结果输入进去，通过监督和非监督学习的算法，让机器来学习并得到规则。

以前的人工智能叫做“专家系统”，是基于规则的；现在的人工智能则更多是让系统根据数据去自动优化，学习底层逻辑。

就如所有机器一般，人工智能在某个方面可以很强大，但是复杂的算法常常被掩盖在简单的界面里，使用者在不理解底层逻辑的情况下使用，可能会产生极坏的效果。就好比把机关枪交给一个三岁的小孩去用，结果会难以想象。

我们举几个例子。

有一位美国朋友给我们发来一张优步的自动驾驶汽车的照片，从中我们发现一处不对劲的地方：禁止左转的红灯亮的时候，车居然向左转弯了。

后来我们讨论了这个问题，原来是因为训练自动驾驶时使用的是人类驾驶的数据记录，有人在禁止左转的红灯亮的时候左转过，导致机器学到了这样一个行为。

所以，人并不是一个完美的物种，如果机器完全向人类学习的话，也会学到人的一些坏习惯。

几年前，几位北航的教授做过一个研究，根据人们乘坐北京地铁进站和出站的情况，画出一些曲线，把人分成几种类型。

例如，游客会去圆明园、香山；购物者会去西单、王府井；而小偷的行为曲线与正常人群是非常不一样的。

是否可以用人工智能分析所有人的行为轨迹，找出小偷呢？

可以。

但是另一种分析方法则是比较危险的。

美国新泽西州的警监说：“我们用大数据技术能够算出什么样的人会比较容易犯罪，并算出他们在什么时候会犯罪，这样可以提前预警。”

这让我们想起科幻片《少数派报告》，这里最大的问题就是，这样的计算依赖的是人不可改变的数据平均值。平均来讲，黑人的犯罪率更高，但是并不代表每个黑人的犯罪概率都高，用平均值算出来的结论如果推广开来，对黑人个体就是很不公平的，而在很多场景下是很危险的。

从算法上讲，我们不能只看平均效果，还要看个体行为。

这与抓小偷的区别在于：美国新泽西州的警监抓罪犯的方法，是根据对方的年龄和肤色这些自身无法改变的因素来判断的，这样会冤枉好人；而前面抓小偷的方法则是根据对方的行为，根据行为的判断就没有问题。

很多人工智能算法试图追求的都是平均效果，但如果聚焦到人的话，结论就会完全相反。

可见，人工智能不是万能的，结果要靠人去解读，人和机器要一起合作才是最优的。

人工智能有两个非常深刻的课题需要解决：一是过度拟合问题（假如给了系统太多的自由度，让它学到一些不该学的东西，那么它在样本内的表现很好，但是在样本外就很差）；二是因果关系的问题（即便能发现两个变量的强相关关系，也不能代表其中一个导致了另一个发生）。

这两大挑战，是人工智能目前急需解决的问题。

（张晓泉为香港中文大学商学院副院长、决策科学与企业经济学系教授）