python分块读取大数据,避免内存不足的方法

如下所示:

def read_data(file_name):

'''

file_name:文件地址

'''

inputfile = open(file_name, 'rb') #可打开含有中文的地址

data = pd.read_csv(inputfile, iterator=True)

loop = True

chunkSize = 1000 #一千行一块

chunks = []

while loop:

try:

chunk = dcs.get_chunk(chunkSize)

chunks.append(chunk)

except StopIteration:

loop = False

print("Iteration is stopped.")

data = pd.concat(chunks, ignore_index=True)

#print(train.head())

return data

以上这篇python分块读取大数据,避免内存不足的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

以上是 python分块读取大数据,避免内存不足的方法 的全部内容, 来源链接: utcz.com/z/359457.html

回到顶部