码迷,mamicode.com
首页 >  
搜索关键字:运算    ( 36678个结果
浮点运算:双精度、单精度、半精度浮点数计算(FP16/FP32/FP64),浮点和定点
1.实数数的表示 参考深入理解C语言-03-有符号数,定点数,浮点数 1.1定点数 一般在没有FPU寄存器的嵌入式系统中使用比较多。比如常见的32位系统中,将高16位作为整数部分,低16位作为小数部分。这样就可以用整数来模拟定点数的 + - * / 运算。关于定点数的数学分析,请参考以下文档:htt ...
分类:其他好文   时间:2021-03-31 12:07:57    阅读次数:0
JS中小数保留的问题(处理循环浮点数的方法)
首先,我们知道计算机是做二进制运算的,因此我们将十进制的数转化成二进制,最后二进制运算完再转化成十进制是有精度丢失的。 例如 - 0.1 + 0.7 = 0.799999999999999 解决方法: 主动保留n为小数,得到数据类型是字符 - ` num = num.toFixed(n); - 转成 ...
分类:Web程序   时间:2021-03-31 12:06:43    阅读次数:0
Kubernetes 实战 —— 04. 副本机制和其他控制器:部署托管的 pod
保持 pod 健康 P84 只要 pod 调度到某个节点,该节点上的 Kubelet 就会运行 pod 的容器,从此只要该 pod 存在,就会保持运行。如果容器的主进程奔溃, Kubelet 就会自动重启容器;如果应用程序奔溃, Kubelet 就会自动重启应用程序。 P84 应用程序也可能因为无限 ...
分类:Web程序   时间:2021-03-31 11:53:08    阅读次数:0
算法里的位运算技巧
#n&(n-1) 作用是消除数字的二进制表示中的最后一个1 #左移和右移 >>> >> <<< << 左移乘2 右移除2 #n&1 == 1 用来判断n的二进制最后一位是不是1,是1则true,是0则false 也就是可以用来判断n的奇偶性 所以,!(n&1) == 1可以用来判断是否为0 ...
分类:编程语言   时间:2021-03-31 11:45:08    阅读次数:0
算法--动态规划
一、概念 1、三要素重叠(+备忘录)子问题、最优子结构、状态转移方程 2、(列状态转移方程)步骤 明确初始条件base case、明确状态、明确选择、定义dp数组/函数 二、斐波那契数列 1、原始暴力递归 重复运算--重叠子问题 递归的时间复杂度 2、带备忘录的递归(自顶向下) class Solu ...
分类:编程语言   时间:2021-03-31 11:35:50    阅读次数:0
寄存器浅谈
寄存器由来: CPU(Central Processing Unit):中央处理器 作用:执行存储器中的指令序列;完成数据传输任务 早期:运算器+控制器 Intel 80386开始,加快CPU处理数据能力,引入高速缓冲存储器(寄存器) 寄存器功能: 暂存数据和中间结果的单元 寄存器分类: 程序可见寄 ...
分类:其他好文   时间:2021-03-30 13:06:56    阅读次数:0
java中的::
此种写法是Java8 Lambda表达式 双冒号运算就是Java中的方法引用 method references [方法引用]的格式是 类名::方法名 举例: 1.表达式: person -> person.getName(); 可以替换成: Person::getName 2.表达式: () -> ...
分类:编程语言   时间:2021-03-30 12:52:29    阅读次数:0
进程 线程 协程之间的区别与联系
一.定义 进程:具有独立功能的程序在某个数据集合上执行一次的过程。 线程:是进程内一个执行实体或执行单元。 比进程更小的能独立运行的基本单位,是操作系统能够进行运算调度的最小单位。 协程:本质上是一种控制抽象,简洁优雅的实现一些控制行为,在协程中,控制行为可从当前执行上下文跳转到程序其他位置,并且可 ...
分类:编程语言   时间:2021-03-29 12:29:41    阅读次数:0
16进制输入 与 输出
类型用__int64 占位符为%I64X 负数加负数会爆 因为底层还是二进制运算 二进制最大位为1则为负数 转换回来就很大了 而且十六进制不会输出正负号 ```c++ #include<iostream>using namespace std;int main(){ __int64 a,b; whi ...
分类:其他好文   时间:2021-03-18 14:33:04    阅读次数:0
判断两线段是否相交,并求交点
首先, 上个示意图. 根据图示, 线段a表示为端点a1和a2, 线段b表示为端点b1和b2. 为了利用向量的叉乘关系, 将线段的端点看成四个向量, 下面用粗体表示向量. 根据向量运算可知a=a2-a1,b=b2-b1.将线段表示为参数方程:a=a1 + t ab=b1 + u b其中参数t,u取值 ...
分类:其他好文   时间:2021-03-18 14:03:21    阅读次数:0
36678条   上一页 1 ... 27 28 29 30 31 ... 3668 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!