按行读取内存不够？如何用python解决？

  • Z时代
  • 2024-01-10
  • 分类：综合

python

当我们需要读取一个较大的文件，但是电脑的内存比较小怎么办？要是小文件又该怎么办？今天就为大家带来几个按行读取文件在Python如何巧妙解决的办法。

第一种：readline()

file = open("sample.txt") 
while 1:
    line = file.readline()
    if not line:
        break
    pass # do somethingfile.close()

一行行得从文件读数据，这样是比较慢的，但是节约内存；

测试读10M的sample.txt文件，每秒大约读32000行；

第二种：fileinput

import fileinput 
for line in fileinput.input("sample.txt"):
    pass

写法稍微简单，不过测试以后发现每秒只能读13000行数据，效率上比上一种方法慢了两倍多；

第三种：readlines()

file = open("sample.txt") 
while 1:
    lines = file.readlines(100000)
    if not lines:
        break
    for line in lines:
        pass # do something
file.close()

用同样的数据测试，它每秒可以读96900行数据。效率是第一种方法的3倍，第二种方法的7倍。

第四种：文件迭代器

每次只读取和显示一行，读取大文件时如下：

file = open("sample.txt") 
for line in file:
    pass # do something
file.close()

以上就是Python中按行读取目录下文件名的一些方法，需要的小伙伴可以参考下。

以上是 按行读取内存不够？如何用python解决？ 的全部内容， 来源链接： utcz.com/z/529804.html

回到顶部