当前位置: 首页 > news >正文

网站空间排名点击软件怎样

网站空间,排名点击软件怎样,17网站一起做网店档口出租,做网站多少钱google此前篇章: 神经网络中常用的激活函数 神经网络(系统性学习一):入门篇 单层神经网络(又叫感知机) 单层网络是最简单的全连接神经网络,它仅有输入层和输出层,没有隐藏层。即&#x…

此前篇章:

神经网络中常用的激活函数

神经网络(系统性学习一):入门篇


单层神经网络(又叫感知机)

单层网络是最简单的全连接神经网络,它仅有输入层和输出层,没有隐藏层。即,网络的所有输入直接影响到输出。

结构:输入层 → 输出层

特点

  • 只适用于线性可分问题。即,单层网络只能学习并解决线性可分的问题(例如,二维平面上的两类点可以通过一条直线分开)。

  • 单层感知机的输出由输入的加权和经过激活函数(如sigmoid)产生。

优点:结构简单,计算量较小。

缺点:无法解决非线性问题,如XOR问题(异或问题)。因为单层网络只能找到线性决策边界,无法处理更复杂的模式。


详细讲解

感知机最初设计用于二分类问题,用来判断输入样本属于正类还是负类。

1、模型结构:

感知机的输入:

  • 输入特征向量:\mathbf{x} = [x_1, x_2, \dots, x_n]^\top

  • 权重向量:\mathbf{w} = [w_1, w_2, \dots, w_n]^\top

  • 偏置:b

通常,我们还有一个0项权重,或者说常数项w_{0} ,即x_{0}=1对应的权重。这里我们忽略这一非重点的常数项。

加权和:感知机通过将输入特征与权重进行加权求和,再加上偏置项,得到一个总和值。

z = w_1 x_1 + w_2 x_2 + \cdots + w_n x_n + b

激活函数:通常是符号函数sign(z)

感知机模型的输出为:

2、基本步骤

感知机的学习过程是个迭代优化过程,通过不断调整权重和偏置,使模型能够正确分类训练数据。

1、初始化权重和偏置:

在训练开始前,感知机的权重 w1,w2,...,wn 和偏置 b 通常被初始化为小的随机值,或者初始化为零。学习率 η也是一个超参数,通常设置为一个小的正数,如 0.01 或 0.1。

2、对每一个样本计算加权和:

3、通过激活函数预测样本分类标签y_{\text{pred}}^{(i)}

4、误差计算与权重更新(反向传播):

对于每一个样本,如果预测分类结果正确,则不更新权重和偏置。否则利用预测误差更新权重和偏置:

这里的更新规则是通过误差(y^{(i)} - y_{\text{pred}}^{(i)})来调整权重和偏置。如果分类正确(即 y^{(i)} = y_{\text{pred}}^{(i)},则权重和偏置不发生变化。

5、迭代过程(epoch)

对于每个训练样本,逐个计算加权和、应用激活函数、更新权重和偏置。每一轮迭代,会对所有训练样本进行一次更新。通常需要多轮迭代才能训练出一个合适的模型。

停止条件为:

  • 达到最大迭代次数;

  • 在某一轮迭代中没有发生任何权重更新(即所以样本都分类正确)。


具体例子

假设我们有以下一个简单的训练数据集。

初始化时设定权重 w1=0.1,w2=0.2,偏置 b=0,学习率 η=0.01。

第一轮迭代:

对于样本1,计算加权和:z=0.1×2+0.2×3+0=0.8。 激活函数输出 y_{\text{pred}} = 1,与真实标签一致,因此不更新权重。

对于样本2,计算加权和:z=0.1×1+0.2×1+0=0.3。激活函数输出 y_{\text{pred}} = 1,但真实标签是 -1,所以发生分类错误。更新权重和偏置:

w_1 \leftarrow 0.1 + 0.01 \times (-1 - 1) \times 1 = 0.08

w_2 \leftarrow 0.2 + 0.01 \times (-1 - 1) \times 1 = 0.18

b \leftarrow 0 + 0.01 \times (-1 - 1) = -0.02

对于样本3,计算加权和:z=0.08×3+0.18×1−0.02=0.4。激活函数输出 y_{\text{pred}} = 1,与真实标签一致,因此不更新权重。

第二轮迭代:

...

一直迭代

直到所有样本分类正确或达到停止条件,得到了我们要的 w 和 b

#  若文章对大噶有帮助的话,点个赞支持一下叭!

http://www.dt0577.cn/news/26511.html

相关文章:

  • 谁做的新闻网站比较好百度平台客服电话是多少
  • 大港油田建设官方网站适合seo的网站
  • 常用外贸b2b平台有哪些绍兴百度seo排名
  • 企业网站备案收费免费智能seo收录工具
  • 视频网站seo怎么做简单的个人主页网站制作
  • typecho和wordpress南昌seo排名优化
  • 网站返回首页怎么做100个成功营销案例
  • 如何查询一个网站的空间服务商seo自然优化排名
  • 比亚迪新能源汽车秦长春seo技术
  • 河北建设厅网站首页镇江seo快速排名
  • 网站优化的作业及意义房地产十大营销手段
  • 我国政府网站建设研究论文引擎优化seo是什么
  • 网站主页尺寸西安百度seo代理
  • 网页制作与设计书籍心得体会网站seo快速
  • 安装wordpress数据库连接时出错优化关键词怎么做
  • b2b批发网站大全dw如何制作网页
  • dw网站模板免费网上宣传广告怎么做
  • 做外贸没有网站需要环球网最新消息
  • 政府网站建设的功能外链屏蔽逐步解除
  • 网站建设多少钱一个站免费域名空间申请网址
  • 企业网站源码cms上海关键词优化推荐
  • 厦门做网站哪家公司好广州seo关键词
  • 武汉搜索引擎营销seo模拟点击
  • 网站建站合同北京网站推广公司
  • 网站类型案例百度下载2022新版安装
  • 快对小程序入口seo优化员
  • 沈阳市网站制作公司武汉seo首页
  • 网站如何使用cdn竞价推广哪家公司好
  • 知名的金融行业网站开发抖音关键词排名查询
  • 网页设计与网站建设心得体会搜索引擎的网址有哪些