Cloud1024’s BLOG
往期整理
其他网站
DockerPull离线下载网站
AI网站
GITHUB代理网站
趣屋AI网盘
友情链接
历史归档
文章分类
文章标签
Cloud1024 | 不折腾,无技术!
0
神经网络基础
Linux
软件
教程
10. 激活函数
0
0
分钟
2025-11-2
2025-11-2
文章已上锁,请输入访问密码
提交
目录
1 线性变换(映射)与非线性变换(映射)
2 深度神经网络为何需要引入非线性映射
2.1 早期感知机网络只能通过线性叠加模拟非线性映射过程
2.2 深度学习中的通用逼近定理
2.3 从泰勒展开的视角进一步看引入非线性映射
3 激活函数详解
3.1 Sigmoid激活函数
3.2 tanh函数(双曲正切函数)
3.3 ReLU函数
3.4 Leaky ReLU函数
3.5 ELU (Exponential Linear Units) 函数
3.6 Softmax函数
3.7 Mish函数
3.8 梯度不稳定问题与激活函数的关系
3.9 Pytorch实现激活函数API
你好!我是
Cloud1024
🎉欢迎访问趣屋网站🎉
-- 感谢您的支持 ---
了解更多
目录
1 线性变换(映射)与非线性变换(映射)
2 深度神经网络为何需要引入非线性映射
2.1 早期感知机网络只能通过线性叠加模拟非线性映射过程
2.2 深度学习中的通用逼近定理
2.3 从泰勒展开的视角进一步看引入非线性映射
3 激活函数详解
3.1 Sigmoid激活函数
3.2 tanh函数(双曲正切函数)
3.3 ReLU函数
3.4 Leaky ReLU函数
3.5 ELU (Exponential Linear Units) 函数
3.6 Softmax函数
3.7 Mish函数
3.8 梯度不稳定问题与激活函数的关系
3.9 Pytorch实现激活函数API
交流频道
加入我们的社群讨论分享
点击加入社群
最新发布
10. 激活函数
2025-11-2
8. 自适应学习率系列优化器
2025-11-2
7. 动量系列优化器
2025-11-2
6. 基本梯度下降法系列优化器
2025-11-2
5. 优化器基础概念
2025-11-2
4. 梯度下降法
2025-11-2
教程
61
软件
59
Linux
58
ComfyUI
12
大模型
11
画图
9
AI
8
视频
5
容器
4
工具
4
脚本
4
K8S
4
LLM
4
部署
3
VPS
3
DeepSeek-R1
3
微调
3
LLaMA-Factory
3
SD
2
磁盘
2
CLI
2
DD
2
内网
2
穿透
2
一键
2
Notion
2
Cloudflare
2
路由器
1
分区
1
虚拟化
1
技术
1
系统
1
BIOS
1
BT
1
开心版
1
恢复
1
修复
1
重装
1
YUM
1
手册
1
NFS
1
Hosts
1
HomeAssistant
1
Node-RED
1
MQTT-EMQX
1
面板
1
群辉
1
DSM
1
蜗牛
1
NAS
1
图床
1
Hunyuan
1
Cloud Studio
1
腾讯云
1
蒸馏
1
RAGFlow
1
摘要
1
博客
1
训练
1
LoRA
1
文章数:
61
建站天数:
1504 天
访问量:
访客数: