如何在python中获取一行一行的MySQL ResultSet
默认情况下,MySQL
ResultSets会从服务器上完全检索,然后才能完成任何工作。在巨大的结果集的情况下,这变得不可用。我实际上想从服务器一个接一个地检索行。
在Java中,按照此处的说明(在“ ResultSet”下),我创建如下语句:
stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY,
java.sql.ResultSet.CONCUR_READ_ONLY);
stmt.setFetchSize(Integer.MIN_VALUE);
这在Java中效果很好。我的问题是:有没有办法在python中做同样的事情?
我尝试做的一件事是将查询一次限制为1000行,如下所示:
start_row = 0
while True:
cursor = conn.cursor()
cursor.execute("SELECT item FROM items LIMIT %d,1000" % start_row)
rows = cursor.fetchall()
if not rows:
break
start_row += 1000
# Do something with rows...
但是,start_row越高,速度似乎越慢。
不,使用fetchone()
代替fetchall()
不会改变任何东西。
澄清:
我用来重现此问题的简单代码如下所示:
import MySQLdb
conn = MySQLdb.connect(user="user", passwd="password", db="mydb")
cur = conn.cursor()
print "Executing query"
cur.execute("SELECT * FROM bigtable");
print "Starting loop"
row = cur.fetchone()
while row is not None:
print ", ".join([str(c) for c in row])
row = cur.fetchone()
cur.close()
conn.close()
在约700,000行的表上,此代码可以快速运行。但是在大约9,000,000行的表上,它会显示“正在执行查询”,然后挂起很长时间。这就是为什么如果我使用fetchone()
或都没有区别的原因fetchall()
。
-
我认为您必须连接传递
cursorclass = MySQLdb.cursors.SSCursor
:MySQLdb.connect(user="user", passwd="password", db="mydb", cursorclass = MySQLdb.cursors.SSCursor )
即使您不使用,默认光标也会一次获取所有数据
fetchall
。编辑:
SSCursor
或支持服务器端结果集的任何其他游标类-检查上的模块文档MySQLdb.cursors
。
-
如何在MySQL中添加到每一行?
2021-04-09 关注 0 浏览87 1答案
-
如何在MySQL中为每个组选择第一行?
2021-02-02 关注 0 浏览90 1答案
-
如何在 bash 脚本中获取文件的第一行?
2022-05-26 关注 0 浏览18 1答案
-
如何在Python的一行中附加多个项目
2021-01-29 关注 0 浏览57 1答案
-
如何在Python的一行中输入2个整数?
2021-01-29 关注 0 浏览245 1答案
-
MySql:插入一行并获取内容
2021-02-02 关注 0 浏览83 1答案
-
Python如何在一行中分配多个变量?
2021-01-29 关注 0 浏览67 1答案
-
MySQL:在MySql结果的最后一行获取总计
2021-02-02 关注 0 浏览91 1答案
-
如何在Python的try块中继续下一行?
2021-01-29 关注 0 浏览53 1答案
-
SQL:如何从一个表中为另一行中的每一行获取随机的行数
2021-06-04 关注 0 浏览97 1答案