Psycopg2执行大数据量SQL卡死的原因是什么?
psycopg2执行大数据量sql卡死的原因及其解决方法
在使用psycopg2处理大数据量sql时,经常会遇到执行execute(sql)后程序卡死的现象,同时内存占用持续上升。这是由于psycopg2默认使用客户端游标,而客户端游标会将全部查询结果加载到内存中,导致内存溢出。
解决方案
要解决此问题,可以使用服务端游标,其只会在需要时才从数据库获取数据,从而避免内存溢出。
服务端游标的用法
psycopg2中,可以通过以下方式开启服务端游标:
with conn.cursor(name='server_cursor') as cursor: cursor.itersize = 10000 # 设置你要的批量大小 cursor.execute(sql) for record in cursor: # 处理记录
其中:
文章推荐
-
Python实现字典的key和values的交换
有些时候我们不得已要利用values来反向查询key,有没有简单的方法呢?下面我给大家列举一些方法,方便大家使用pyth...
Python
3周前 (02-11) 127 -
使用Python脚本来获取Cisco设备信息的示例
今天发现一个使用python写的管理cisco设备的小框架tratto,可以用来批量执行命令。下载后主要有3个文件:Sy...
Python
3周前 (02-11) 77 -
Python的Django中django-userena组件的简单使用教程
利用twitter/bootstrap,项目的基础模板算是顺利搞定。接下来开始处理用户中心。用户中心主要包括用户登陆、注...
Python
3周前 (02-11) 68 -
零基础写python爬虫之神器正则表达式
接下来准备用糗百做一个爬虫的小例子。但是在这之前,先详细的整理一下Python中的正则表达式的相关内容。正则表达式在Py...
Python
3周前 (02-11) 76 -
零基础写python爬虫之抓取百度贴吧代码分享
这里就不给大家废话了,直接上代码,代码的解释都在注释里面,看不懂的也别来问我,好好学学基础知识去! 代码如下:# -*-...
Python
3周前 (02-11) 67
最新文章
- Python实现字典的key和values的交换 3周前 (02-11)
- 使用Python脚本来获取Cisco设备信息的示例 3周前 (02-11)
- Python的Django中django-userena组件的简单使用教程 3周前 (02-11)
- 零基础写python爬虫之神器正则表达式 3周前 (02-11)
- 零基础写python爬虫之抓取百度贴吧代码分享 3周前 (02-11)
- 零基础写python爬虫之使用urllib2组件抓取网页内容 3周前 (02-11)
- 在Docker上部署Python的Flask框架的教程 3周前 (02-11)
- 简单说明Python中的装饰器的用法 3周前 (02-11)
- 利用Python实现简单的相似图片搜索的教程 3周前 (02-11)
- 在Python中使用模块的教程 3周前 (02-11)