摘要:实际项目中需要将BERT线上化需要使模型又快又好的训练,所以经过调研使用目前BERT最新的派生产品ALBERT。ALBERT通过因式分解和共享层与层之间的参数减少了模型参数量,提升了参数效率;通过SOP替代NOP,增强了网络学习句子的连续性的能力,提升了自监督学习任务的能力;通过去掉dropo... ...
分类:
其他好文 时间:
2020-03-08 19:20:58
阅读次数:
83
复制链接: clone到本地 (base) localhost:Pyexample ligaijiang$ pwd /Users/ligaijiang/Pyexample (base) localhost:Pyexample ligaijiang$ mkdir ItChat_Learning (ba ...
分类:
系统相关 时间:
2020-03-07 20:32:27
阅读次数:
151
YAML包括使用缩进范围的块集合。 在这里,每个条目都以一个新行开头。 集合中的块序列表示每个条目带有破折号和空格( - )。 在YAML中,块集合样式不由任何特定指示符表示。 YAML中的块集合可以与其他标量数量区分开来,并且包含其中包含的键值对的标识。 映射是JSON结构中包含的键值的表示。 它 ...
分类:
其他好文 时间:
2020-03-06 01:41:37
阅读次数:
155
机器学习可分为:有监督(Supervised Learning)、无监督(Unsupervised Learning)、强化学习(Reinforcement Learning) 1. 有监督学习:数据集包含样本 x 与标签 y ,训练时,通过计算模型的预测值与真实标签 y 之间的误差来优化网络参数 ...
分类:
其他好文 时间:
2020-03-05 13:54:23
阅读次数:
72
在之前的学习 "2020/01/02 深度学习数学基础学习——朴素贝叶斯" 中,大概的了解了生成学习的原理,但是对算法实现的__完整流程__不够清晰,所以今天想通过对生成学习回顾,明确一下生成学习的流程框架。 学习资料: "斯坦福CS229 note2 Generative Learning alg ...
分类:
其他好文 时间:
2020-03-05 13:14:32
阅读次数:
77
INSERT INTO Book(bid, bName, price, bTypeId) VALUES(2, '射雕英雄传', 39.62, 10); INSERT INTO Book(bid, bName, price, bTypeId) VALUES(3, '天龙八部', 50.02, 10); ...
分类:
数据库 时间:
2020-03-05 01:37:31
阅读次数:
125
题目链接:把字符串转换成整数 题意:将一个字符串转换成一个整数,要求不能使用字符串转换整数的库函数。 数值为0或者字符串不是一个合法的数值则返回0 题解:过滤掉空格,判断正负号,然后判断每个字符是否是数字,进行转换。但是!!!!这里要考虑一个溢出 做法就是记录正负号的时候,做一个标记,在最后和pow ...
分类:
其他好文 时间:
2020-03-05 01:28:17
阅读次数:
79
一、关于集合工具类 java.utils.Collections; Collections工具类可以对List集合中的元素进行排序,但是集合中的元素必须是“可以比较的”,实现Comparable接口。 package com.bjpowernode.java_learning; import jav ...
分类:
编程语言 时间:
2020-03-05 01:19:06
阅读次数:
75
[TOC] "Madry A, Makelov A, Schmidt L, et al. Towards Deep Learning Models Resistant to Adversarial Attacks.[J]. arXiv: Machine Learning, 2017." @artic ...
分类:
其他好文 时间:
2020-03-04 20:54:57
阅读次数:
58
There are three popular metrics to measure the correlation between two random variables: Pearson's correlation coefficient, Kendall's tau and Spearman ...
分类:
其他好文 时间:
2020-03-04 09:49:24
阅读次数:
112