简介 在某些场景下,我们需要在一瞬间插入大量数据的情况下,我们要使用一些性能比较好的方式来插入数据,这样才能保证接口的时间。下面测试的数据是1.6W条数据的时间。 sqlalchemy批量插入数据 方式一: @staticmethod def save_data(data, pg_con=None) ...
分类:
数据库 时间:
2021-02-23 14:19:41
阅读次数:
0
你登录到具有性能问题的Linux服务器时,第一分钟要检查什么? 在Netflix,我们拥有庞大的Linux EC2云实例,以及大量的性能分析工具来监视和调查它们的性能。这些工具包括Atlas和Vector。Atlas用于全云监控,Vector用于按需实例分析。这些工具能帮助我们解决大部分问题,但有时 ...
分类:
系统相关 时间:
2021-02-06 11:38:22
阅读次数:
0
1. 直接用limit start, count分页语句, 也是我程序中用的方法: select * from product limit start, count 当起始页较小时,查询没有性能问题,我们分别看下从10, 100, 1000, 10000开始分页的执行时间(每页取20条), 如下: ...
分类:
数据库 时间:
2021-02-01 12:16:04
阅读次数:
0
Master最好不要做任何持久化工作,包括内存快照和AOF日志文件,特别是不要启用内存快照做持久化。 如果数据比较关键,某个Slave开启AOF备份数据,策略为每秒同步一次。 为了主从复制的速度和连接的稳定性,Slave和Master最好在同一个局域网内。 尽量避免在压力较大的主库上增加从库 Mas ...
分类:
其他好文 时间:
2021-01-29 12:10:57
阅读次数:
0
前言 今天分享一下日常工作中遇到的性能问题和解决方案,比较零碎,后续会持续更新(运行环境为.net core 3.1) 本次分享的案例都是由实际生产而来,经过简化后作为举例 Part 1(作为简单数据载体时class和struct的性能对比) 关于class和struct的区别,根据经验,在实际开发 ...
如何使用WebAssembly提升性能?作者|Surma译者|无明Web的大多数性能问题都是由强制布局和过多的绘制引起的,偶尔也需要执行一些耗时的高计算成本任务,而WebAssembly在这个时候就可以派上用场。在之前的文章中,我谈到了如何借助WebAssembly将C/C++库生态系统引入到Web中。squoosh(https://squoosh.app/)是一个广泛使用了C/C++库的Web应
分类:
Web程序 时间:
2020-12-24 12:23:44
阅读次数:
0
最近项目上因为遇到数据量过大导致查询统计性能问题(oracle数据库、单表每月1亿多条车辆定位记录,由一个windows环境下的链路服务程序来接收车辆上传的定位数据写入oracle),急需使用大数据架构来解决。前期同事已经提出整体解决思路(修改链路服务程序,在写oracle的基础上同时写入kafka ...
0、题记在写繁重的业务场景下,你是否遇到过Elasticsearch集群的性能问题?你是否遇到过Elasticsearch数据索引化速度限制问题?你是否遇到过搜索花费时间太长而无法执行的延迟问题?你是否遭遇过Elasticsearch集群故障排查的挑战?你是否努力尝试在零停机情况下提高Elasticsearch集群的稳定性?你是否想过从监控的角度去看Elasticsearch关键指标?如果你对以上
分类:
其他好文 时间:
2020-12-16 12:19:29
阅读次数:
2
背景最近时运不佳,几乎天天被线上问题骚扰。前几天刚解决了一个HashSet的并发问题,周六又来了一个性能问题。大致的现象是:我们提供出去的一个OpenAPI反应时快时慢,快的时候几十毫秒,慢的时候几秒钟才响应。尝试解决由于这种也不是业务问题,不能直接定位。所以尝试在测试环境复现,但遗憾的测试环境贼快。没办法只能硬着头皮上了。中途有抱着侥幸心里让运维查看了Nginx里OpenAPI的响应时间,想把锅
分类:
其他好文 时间:
2020-12-16 12:08:27
阅读次数:
4
背景说明公司的整个电商系统搭建在华为云上,根据老总的估计,上线3个月之后日订单量会达到百万级别,保守估计3个月之后总订单个数预计会有5千万。MySQL单表达到千万级别,就会出现明显的性能问题。根据如此规模的数据,当时考虑了2套解决方案:方案一在业务上根据用户ID做拆分,将数据打散放在5台32U128G的华为云RDS上边方案二直接使用华为云的分布式数据库中间件DDM方案一的好处是,分片算法全部在业务
分类:
数据库 时间:
2020-12-14 13:58:12
阅读次数:
15