既往的研究表明,由于模糊数据的存在,给图片的拍摄类型进行分类是一个难以完成的任务。为了解决这个难题,我们不像以往一样通过训练二值标签的方式来进行分类。而是定义了一种叫做概率标签学习的方式,并且提出了一种“多代理半监督学习框架(MASSL)”来解决两个问题:(1)通常来讲,图片的模糊标签是无法精确获得的,通过将半监督的方式引入到多个卷积网络中,MASSL能够提高多个卷积网络的识别一致性,从而自动的为每张图片打出一个模糊度。(2)我们尝试了KL散度(Kullback-Lerbler)和均方差(Mean squared error,MSE)作为目标函数,来度量预测结果和多代理给出的结果之间的相似度。...
我们现在的深度学习,都是基于一个最重要的学习算法:反向传播,也就是求误差函数关于参数偏导,以此来更新权重。但是反向传播有个最大的弱点:它没有生物基础,我们在人脑里找不到任何反向传播的痕迹。神经网络是根据人脑的结构启发而发明的算法,但是并不是完全地模拟人脑。当然,反向传播虽然没有生物基础,但不见得就是错误的方向,因为现在可以看到,基于反向传播的算法,在很多方面已经超过了人脑。只不过,这可能不是通向更通用的人工智能的方向。那我们就没有模拟人脑神经元的算法吗?其实是有的,叫做脉冲神经网络(spiking neural network,简称 SNN),被称为反向传播和深度学习之后的第三代神经网络。 ...
我们现在的深度学习,都是基于一个最重要的学习算法:反向传播,也就是求误差函数关于参数偏导,以此来更新权重。但是反向传播有个最大的弱点:它没有生物基础,我们在人脑里找不到任何反向传播的痕迹。神经网络是根据人脑的结构启发而发明的算法,但是并不是完全地模拟人脑。当然,反向传播虽然没有生物基础,但不见得就是错误的方向,因为现在可以看到,基于反向传播的算法,在很多方面已经超过了人脑。只不过,这可能不是通向更通用的人工智能的方向。那我们就没有模拟人脑神经元的算法吗?其实是有的,叫做脉冲神经网络(spiking neural network,简称 SNN),被称为反向传播和深度学习之后的第三代神经网络。 ...