通用人工智能已经不远了,下一代人工智能的发展方向-脉冲 ...
admin
2023-08-17 01:20:23
0
个人微信公众号:脑联网人工智能
微信公众号ID:brainterneter
微信公众号介绍:人工智能前沿技术研究、学习、交流
个人知乎主页:https://www.zhihu.com/people/brainternet.top

本文首发在我的微信公众号里,如有公式或图片不清楚,可在我的微信公众号里阅读
通用人工智能已经不远了,下一代人工智能的发展方向-脉冲神经网络

从事机器学习、人工智能7年多的时间里,先后研究过机器学习十大算法,如KNN,SVM, 决策树,贝叶斯分类器等,15年之后继阿尔法狗的深度学习又火了一把,人工智能这个行业也算是相当火爆了。

从事人工智能这份工作,一方面是为了养家糊口,因为环比其它软件开发工作,人工智能算法工程师的收入还是不错的,我此之前写过我们这个行当的收入:脑联网人工智能:人工智能行业就业前景怎么样?真实薪资待遇如何?。另一方面,也是因为自己人工智能行业能够比较全面的发挥自己的专长,毕业后,先是从事软件开发,从C,C++到python,java,编程到达一定阶段开始研究编程风格,又研究了如Linux, RTThread等操作系统,但总感觉还缺少点什么,那就是算法,于是又自学两年,潜心研究算法,我学习算法总是先抛开代码,首先把算法的数学原理搞清楚,由于这些年数学一直没有放下,所以学起来不是很费力,先后学习了深度学习、强化学习。

深度学习的本质就是求复杂函数的解析解,y=f(x),数据集用来迭代求解模型的参数,所谓的全连接、CNN、RNN,只不过是定义复杂的函数单元罢了。强化学习本质上是对蒙特卡洛方法的拓展,而蒙特卡洛方法又是建立在马尔可夫随机过程的基础之上,阿尔法狗、阿尔法元就是强化学习与深度学习相结合的产物,其实在阿尔法系列之前,早在1971年,美国的deepblue深蓝系统就在国际象棋上战胜过人类,深蓝主要是靠蒙特卡洛方法不断的模拟走棋,依靠其强大的计算优势打败人类的,而围棋不管是从搜索空间,还是计算量,都远大于国际象棋,想战胜人类,deepblue的那一套方法行不通了,阿法狗先是从大量高手棋谱里训练出有一定围棋段位的深度学习网络,又用这个网络去指导其本身强化学习模拟推演部分,大大地减小搜索空间,这样计算量就大大减小,同时,现在的计算机已经不是1971年深蓝时代的计算机所能比的了,deepmind大量使用TPU,而且是计算机集群的形式,在这种情况下,以5:1有优势战胜了柯洁、李世石等人。虽然强化学习看起来牛逼,但本质上并没有里程碑的突破,离强人工智能还是有一定的距离,比如阿尔法狗、阿尔法元此类只在棋类游戏中比较厉害,在其它领域就不那么突出了。

抱着对人工智能的崇高期望,直到我研究到脉冲神经网络时,我仿佛看到了曙光,与深度学习不同,脉冲神经网络(Spiking Neural Network,SNN)是更加真实地模拟人脑工作原理的一种网络,其实脉冲神经网络早在1952年就被提出,但一直发展的不温不火,近几年发展稍快,但仅限于学术科研,离实际落地还有一定的距离,不过我很看好它。脉冲神经网络的起源可以追溯到1952年。这一年,Alan Hodgkin和Andrew Huxley提出了Hodgkin-Huxley模型,通过对乌贼巨型突触的试验,该模型建立了有关神经细胞膜电位变化的非线性微分方程组,从而解释了动作电位的起始和传播的离子机制。这项工作也使两人获得了1963年的诺贝尔生理学或医学奖。这种将神经元的放电脉冲电位用公式以及电路模型模拟的思维,便是如今SNN的雏形。

脉冲神经网络(Spiking Neural Network,SNN)作为第三代神经网络技术,有着非常突出的特点与优点,但同时其发展也充满了挑战。我会在后续章节里对脉冲神经网络做更多的剖析和讲解,记得关注哦。

相关内容