1) 计算架构提升算力,算力释放网络结构
线性的延伸这个逻辑,那么未来是量子计算的时代,但量子计算的计算模式如何匹配新的机器学习架构又是一个新的课题,总之,如果算力不断突破,神经网络架构优化的潜力还有进一步释放的空间。特别是架构搜索到架构自主学习的尝试在不断加速。
在海量神经网络架构,自动搜索最优
2) 从相关性到因果推理
从大规模的样本数据统计学习中,关联关系自学习过程高效率实现了从输入到输出的对应映射关系,但这只是描述性的,并不体现因果,也无法实现更深一层次的推理,也就无法从表层感知进化到深层认知,知其然而更知其所以然。贝耶斯、图网络,这些朴素有效的方法也需要像传统机器学习的特征选择和设计一样,变得有自主深化、扩展和完成的能力。
bayesian inference
3) kg和无差异的技术能力
在算法开源的世界里,在技术范式上大家有什么可以差异化的价值模式吗?技术实践和数据结合构成的学习效应会沉淀为领域内的知识壁垒,比如here 在构建地图的数据工作中可以有上万条规则可以自动纠错。也就是说领域内的 kg 可以为技术能力带来有壁垒的差异化,而这里面也会杂揉很多人工的因素和异构的知识在里面。但是核心技术框架不能形成对短期外部知识的依赖,否则进化扩展能力就失去了。
4) 技术的泛化最终会反向强化技术
首先,模型方面,自动化automodeling,甚至自学习,预训练,实现了更低的使用门槛;其次,算力方面,端计算,异构部署,越来越实用越来单位算力越来越低成本;再次,数据方面,小样本算法等降低数据规模依赖。最后,没有什么是比实际应用技术带来的反馈是更好的老师,越大规模应用就会带来越快速度进化。当然,提升可解释性也是泛化的一个主要待攻克障碍,目前也有了一些有希望的尝试。
5) 数据跟随价值流动
数据割裂、封闭的局面将在应用价值的不断成熟面前逐渐突破,当然随之伴生的是数据隐私和数据安全。区块链也许特别适合这种数据的虚拟循环验真。同时,可信计算、联合建模等各种正在加速应用的模式也越来越成熟了。
6) 场景驱动定制,整合打破独立技术
定制化带来的价值提升空间,来自多环节垂直融合适配带来的整体最优,也体现在每个环节的定制上,芯片等也会针对特定需求方向不断进化自身。最终,单体智能会向系统智能过渡。
7) 混合世界
感知、交互和数据能力提升带来真实世界的仿真,实现模拟和加速,虚拟世界和真实世界在体验层面的无缝叠加,成为智能世界的基本模式,越来越普及的生物和物理识别技术,每个人和每个物体都需要多重的虚拟身份来标记。
另外,在网上认真写文章看起来并不是一个合算的生意,先写到这里吧。