显卡：Nvidia GF MX150 CUDA：CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。 CuDNN：NVIDIA cuDNN是 ...
分类：
系统相关 时间：
2020-04-30 20:56:35
阅读次数：
463
论文地址： "https://arxiv.org/abs/1911.04474" Abstract BiLSTMs结构在NLP的任务中广泛应用，最近，全连接模型Transformer大火，它的 self attention 机制和强大的并行计算能力使其在众多模型中脱颖而出，但是，原始版本的 Tran ...
分类：
Web程序 时间：
2020-04-27 22:43:45
阅读次数：
154
下面一个示例程序中，我们将使用ZMQ进行超级计算，也就是并行处理模型： 任务分发器会生成大量可以并行计算的任务； 有一组worker会处理这些任务； 结果收集器会在末端接收所有worker的处理结果，进行汇总。 taskvent: #include <stdlib.h> #include <zmq. ...
分类：
其他好文 时间：
2020-04-24 13:13:35
阅读次数：
64
对于通常的developer（特别是那些具备并行计算/多线程背景知识的developer）来讲，js的异步处理着实称得上诡异。而这个诡异从结果上讲，是由js的“单线程”这个特性所导致的。 我曾尝试用“先定义后展开”的教科书方式去讲解这一块的内容，但发现极其痛苦。因为要理清楚这个东西背后的细节，并将其 ...
分类：
编程语言 时间：
2020-04-23 20:45:13
阅读次数：
82
Java 多线程进阶 并发编程 并行计算 业务: 任务多, 数据量大 串行 vs 并行 串行编程简单, 并行编程困难 单个计算核频率下降, 计算核数增多, 整体性能变高 并行困难(任务分配和执行过程 高度耦合 ) 如何控制粒度, 切割任务 如何分配任务给线程, 监督线程执行过程 并行模式 主从模式( ...
分类：
编程语言 时间：
2020-04-18 15:33:58
阅读次数：
89
[toc] windows平台下在Visual Studio2019配置MPI环境 MPI下载安装 MPI windows版本的下载地址: "https://docs.microsoft.com/en us/message passing interface/microsoft mpi?redire ...
MapReduce原理 背景 因为如果要对海量数据进行计算，计算机的内存可能会不够。 因此可以把海量数据切割成小块多次计算。 而分布式系统可以把小块分给多态机器并行计算。 MapReduce概述 MapReduce是一种分布式计算模型，由Google提出主要用于搜索领域，解决海量数据的计算问题。 适 ...
分类：
其他好文 时间：
2020-04-05 00:49:37
阅读次数：
74
CUDA是一个并行计算框架.用于计算加速.是nvidia家的产品.广泛地应用于现在的深度学习加速. 一句话描述就是:cuda帮助我们把运算从cpu放到gpu上做,gpu多线程同时处理运算,达到加速效果. 从一个简单例子说起: 注意用sudo 否则可能报错. sudo /usr/local/cuda/ ...
分类：
其他好文 时间：
2020-04-04 20:59:35
阅读次数：
64
Binary Classification Notation used in this course Logistic Regression Sigmoid函数：$\displaystyle \sigma(z) = \frac{1}{1+e^{ z}}$ practice: 总结： y是概率，通过y ...
分类：
其他好文 时间：
2020-04-03 12:13:34
阅读次数：
66
