单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,神经网络和深度学习课件,1,神经网络和深度学习课件,2,假设,C,是一个只有两个变量,v1,和,v2,的二元函数,定义 为,V,变化的向量,，,定义,C,的梯度为偏导数的向量，,假设C是一个只有两个变量v1和v2的二元函数,定义,3,4,假设,C,是一个有,m,个变量,V1,.Vm,的多元函数,假设C是一个有m个变量V1,.Vm的多元函数,5,学习缓慢,学习缓慢,6,随机梯度下降法,将随机的训练输入标记为,X1,X2,.Xm,随机梯度下降法将随机的训练输入标记为X1,X2,.,7,初始化,初始化,8,定义,S,型函数,对于一个给定的输入,a,返回对应的输出。,定义S型函数对于一个给定的输入a,返回对应的输出。,9,SGD,方法,SGD方法,10,11,加载数据,加载数据,12,94.78%,94.78%,13,隐藏神经元数量改为,100,隐藏神经元数量改为100,14,96.16%,96.16%,15,学习速率选为,0.001,学习速率选为0.001,16,29.39%,29.39%,17,学习速率改为,100,，隐藏神经元改为,30,个,学习速率改为100，隐藏神经元改为30个,18,9.19%,学习速率太高,9.19%,19,20,21,22,谢谢聆听！,你我同行，共同进步。,谢谢聆听！你我同行，共同进步。,23,