优化与深度学习 优化与估计 尽管优化方法可以最小化深度学习中的损失函数值,但本质上优化方法达到的目标与深度学习的目标并不相同。 优化方法目标:训练集损失函数值 深度学习目标:测试集损失函数值(泛化性) 1 %matplotlib inline 2 import sys 3 import d2lzh1 ...
分类:
其他好文 时间:
2020-02-20 13:14:49
阅读次数:
93
定义了基于树的候选激活函数搜索空间,并通过变异搜索、交叉搜索和穷举搜索进行了研究。 优化的激活函数 介绍了搜索空间、突变和交叉实现以及整个演化算法。 每个激活函数被定义为一个由一元函数和二元函数组成的树结构。函数按层分组,这样两个一元函数就会被转换成二元函数。 变异 在突变中,激活函数树中的一个节点 ...
分类:
其他好文 时间:
2020-02-20 13:08:18
阅读次数:
56
python: 一:编程语言: 1,跨平台的(windows/安卓androld/苹果ios) 2,面向对象的 3,解释性的 4,全栈的(app,桌面端软 件,网页) 5,易集成c/c++语言模块 二:学习python的用处: GUI(界面),服务端,网络爬虫,深度学习,app,网页,数据分析... ...
分类:
编程语言 时间:
2020-02-20 00:18:00
阅读次数:
211
深度学习(Deep Leaming, DL )属于表示学习( Representation Learning )的范畴,指的是利用具有一定“深度”的模型来自动学习事物的向量表示(vectorial rpresenation)的一种学习范式。目前,深度学习所采用的模型主要是层数在一层以上的神经网络。
... ...
分类:
编程语言 时间:
2020-02-19 23:44:40
阅读次数:
73
1.textCNN 优势:短文本分类 可参照:https://www.cnblogs.com/AntonioSu/p/11969386.html 2.fast Text 优点:训练速度快 3.HAN(Hierarchical Attention Network) 优点:对文档的分类 双向的LSTM, ...
分类:
其他好文 时间:
2020-02-19 23:42:54
阅读次数:
85
课程引用自伯禹平台:https://www.boyuai.com/elites/course/cZu18YmweLv10OeV 《动手学深度学习》官方网址:http://zh.gluon.ai/ ——面向中文读者的能运行、可讨论的深度学习教科书。 第二次打卡: Task03: 过拟合、欠拟合及其解决 ...
分类:
编程语言 时间:
2020-02-19 20:47:13
阅读次数:
105
目录: 基础部分回顾(词向量、语言模型) NLP的核心:学习不同语境下的语义表示 基于LSTM的词向量学习 深度学习中的层次表示以及Deep BI-LSTM ELMo模型 总结 1. 基础部分回顾(词向量、语言模型) 1.1 独热编码-词的表示 1.2 词向量-词的表示 我们为什么需要词向量?(On ...
分类:
其他好文 时间:
2020-02-19 20:39:48
阅读次数:
184
在五月二十七号左右,再次来到一所新的城市,即将在这里度过我研究生的三年,之所以来这么早,是因为希望研究生阶段,能够跟着一个研究方向,自己比较感兴趣的导师。找的第一个导师比较偏学术一些,而我又希望自己在研究生阶段能够有一定的项目经历,所以在经过思考后,我和老师表明了我的想法,老师也表示理解,和我推荐了... ...
分类:
其他好文 时间:
2020-02-18 13:19:39
阅读次数:
87
百度云盘 NLP要学习和应用的好,首先是心理学的基础根基要打牢。必学科目:1.普通心理学,关于脑神经运作的基础和心理状态的基本分类。细分要研究认知心理学和情感管理,再细分,要多学习逻辑思维。2.发展心理学,研究人从出生到死亡的心路历程。3.社会心理学,三人即为社会最小单元,研究人作为群体性动物的交互 ...
分类:
其他好文 时间:
2020-02-18 09:36:34
阅读次数:
397
第一周 机器学习策略 1.1 什么是机器学习策略 1.2 正交化 功能点之间相互独立 1.3 单一数字评估指标 调和平均数 1.4 满足和优化指标 N个指标,满足N 1个指标的前提下优化那一个指标 1.5 训练,开发,测试数据集划分 训练集,开发集,测试集分开 ...
分类:
其他好文 时间:
2020-02-16 16:11:59
阅读次数:
67