[Python] Csv資料分割


Posted by mike-hsieh on 2023-12-21

如題,近期由於需要移轉一些資料,使用了Csv檔,但是整份新增會發生內存不足,所以需要分割。

import pandas as pd

# open file
df = pd.read_csv(r'D:\Projects\__Python\table_file_202312201350.csv', sep=',', index_col=False)

# 每個csv保存10萬筆
for i in range(0, len(df), 1000000):
    file_name = r'D:\Projects\__Python\table_file_' + str(i) + '.csv'  # 保存文件路徑以及文件名稱
    df[i:i+1000000].to_csv(file_name.format(i), index=False)

#pandas #Python #splite csv #seperate csv







Related Posts

D3_交作業流程跟心態培養

D3_交作業流程跟心態培養

Markdown

Markdown

Git 筆記 - 將本地專案推送至別的儲存庫同步

Git 筆記 - 將本地專案推送至別的儲存庫同步


Comments