假期清理书单,把这个书读完了,结果发现出奇的好,可以说是值得亲身去读的书,中间的一些论述提供了人工智能专业方面的视角来论证这这个通识观点,可信度很不错;
这篇blog也不是对书的总结,更多的是阅读后的思考和评论;
讨论了什么?意义何在?
这本书是openai两个科学家前些年写的一本书,主要说了nb的创新是不能被计划的(也就是设立目标,然后投入资源猛搞),尤其是就着单一目标疯狂内卷的方式,是有很大隐患;
当然也没清晰论述,应该怎么样,这个是本书比较遗憾的点;
最开始听说这个书,是从得到的万维刚专栏听到的,这个也是非常符合我们国情的,正直我们现在从追赶者逐步进入创新的无人区,追赶阶段非常厉害的做法:设立目标,投入资源,吃苦猛搞的做法,在进入创新&引领阶段,是否还是高效的和可行的,这个确实是值得人深思的问题。当然书里也论述了,直接的通过目标&计划&资源投入是不行的。
目标的欺骗性
这个是本书反复论证的话题,也就是面对一个大规模,复杂的系统,我们简简单单的直奔目标而去的做法,很有可能是不行的;
这里的目标一般在实践中对应两个东西:
- 目标本身,比如生物进化到人类
- 伴随目标出来的阶段性评价:比如目标是盈利,评价就是每年的kpi
目标本身的欺骗性
这里举例就是,生物进化的目标是人类,如果我们在生物早期就按照智力或者类人的方式来筛选,那么大概率就会错过进化到人类必经的扁形虫,最终导致怎么都进化不出人类来;
其核心问题就是,直奔目标的方式,看不到隐藏的必要条件,最后错过必经之路。
目标评价本身的欺骗性
另外也是人工智能中的经典问题:局部极小问题和全局极小问题,比如当下模型是落在局部极小的点,最终我们想得到更优的全局极小,那么按照常用的梯度选择的方式(就是各种方法或者参数组合进行评分,在周围寻找更优的值),那么就会一直呆在局部极小这个范围内,最终错过全局最小;
人工智能中解决的办法(可以详见周志华的西瓜书,全局最小和局部最小章节):
- 添加随机,随机换一个地方开始迭代,或者随机换一种评价梯度的做法
- 添加容忍度:容忍一部分情况变差的情况;
对应到我们公司里做事就是,不能把kpi逼得太死,如果这样,就最终大家做法趋同,然后憋在局部最小里疯狂内卷,也没有机会走到全局最小哪里,必须引入一些多样性,对次优情况有一些容忍,才能走到全局最小哪里;
创新者的窘境等等都是这种情况,在上面局部&全局极小图里,一旦进入一个局部极小,那么要从这个坑里爬出来,进到另外一个宝藏区,比在平地区更难;
欺骗性的实质
实质就是,我们把未知的东西给过度简化了;
踏脚石
就是最初看似和最终目标不相关或者弱相关的东西,最终却是成功路上的关键一环;
比如晶体管开始根本没想到最终在电脑上大放异彩,微波最开始也不是为了微波炉发明的。。。
这种在科学尤其是数学中就太多了,很多数学在一开始弄出来压根不知道要干啥,最后很多在物理学中起到了关键作用。
这个现象就指向,我们在寻找未知的时候,要保持冗余,多样化和包容,这样才能准备好更多的“踏脚石”,最后让伟大的创新得以出现;
终结者2与深渊
(这个水人特效是卡梅隆在《终结者2》之前拍的《深渊》中的特效)
纵观卡梅隆的电影史,卡神正式上线之后,票房糟糕的就是这个深渊了(其实也做到了盈亏平衡,当然后续一系列的刷新纪录没法比),那这个作品是不是应该从卡梅隆职业生涯中最好删掉呢?完全不是;
排除《深渊》本身就是“深水癖”卡神就是一直要拍的电影之外,里面积累的大量的特效以及电影技术的升级,是能够开拍神作《终结者2》的前提;
有时候针对个人来说,在巅峰作品之间,有一些练习,探索,或许可以成为这种踏脚石了;
创新之神:进化
谈论到创新之神,咱们还得服从氨基酸一步步创造了我们的进化;
这个过程就是一个机器的过程,如果说有一个规则,那就是:生存和繁衍。
这里本书给了我认为最牛的一个洞见:进化是一个以“生存和繁衍”为最低条件的搜索,而非一个目标导向的搜索;
搜索
书的最后两章,个人觉得是整本书的精华所在;
作者把人工智能算法的研究也列为搜索的一种,当然自然进化也可以说是一种搜索:搜索最牛的一个模式;
然后本书就是探究关于 “搜索 搜索技术”的,也就是元搜索。
这里我们能够学习的大师级搜索,就是进化么,进化做了什么?就是一个以“生存和繁衍”为最低条件的搜索;
竞争与创新搜索
这里目标导向的竞争,作者认为不是一种创造性力量,而是一种磨砺性力量;
在人工智能的研究中,为了增加创造性,除了一些性能等指标外,有意识的加入“创新性”指标,如果一个算法的创新性很高,那么就给与一个高权重,来增加整个研究过程的创造性;
生活中
这个进化是一个以生存繁衍为最低条件的搜索,让我想到了大公司的创新窘境,当把条件调高到远高于生存繁衍(也就是团队能自负盈亏),而要求“头部产品”,“巨高的利润率”的时候,那么就极大地抑制了创造性,反而掐死了做出颠覆性产品的可能;
个人也好,团队也罢,多加一些多样性和宽容度,就有更多可能;
当然这个宽容度,背后都是有条件的,卡梅隆也是《终结者1》获得很大商业成功,才有《深渊》浪的资本;