问题介绍(ffill填充存在的问题)

在pandas读取excel经常会遇到合并单元格的问题。例如:

此时使用pandas读取到的内容为:

如果去百度,几乎所有人会说应该用如下代码:

df['班级'] = df['班级'].ffill()

这样看起来没问题,但是,该解决方案并不能适用于所有场景,甚至会造成数据错误。


例如:

对班级和备注填充后:

孙武空本来是数据缺失,现在被错误的标记成了挂科数据。


再例如:

对所有列填充后:

同样存在大量数据或错误数据。

正确填充方式

思路:① 使用openpyxl将合并单元格拆分,生成中间文件 ② 读取中间文件

第一步,使用如下工具类生成拆分单元格并生成中间文件:

import openpyxl# 拆分所有的合并单元格,并赋予合并之前的值。# 由于openpyxl并没有提供拆分并填充的方法,所以使用该方法进行完成def unmerge_and_fill_cells(worksheet):all_merged_cell_ranges = list(worksheet.merged_cells.ranges)for merged_cell_range in all_merged_cell_ranges:merged_cell = merged_cell_range.start_cellworksheet.unmerge_cells(range_string=merged_cell_range.coord)for row_index, col_index in merged_cell_range.cells:cell = worksheet.cell(row=row_index, column=col_index)cell.value = merged_cell.value# 读取原始xlsx文件,拆分并填充单元格,然后生成中间临时文件。def unmerge_cell(filename):wb = openpyxl.load_workbook(filename)for sheet_name in wb.sheetnames:sheet = wb[sheet_name]unmerge_and_fill_cells(sheet)filename = filename.replace(".xls", "_temp.xls")wb.save(filename)wb.close()# openpyxl保存之后,再用pandas读取会存在公式无法读取到的情况,使用下面方式就可以了# 如果你的excel不涉及公式,可以删除下面内容# 原理为:使用windows打开excel,然后另存为一下from win32com.client import DispatchxlApp = Dispatch("Excel.Application")xlApp.Visible = FalsexlBook = xlApp.Workbooks.Open(str(Path(".").absolute() / filename))# 这里必须填绝对路径xlBook.Save()xlBook.Close()return filenameif __name__ == '__main__':unmerge_cell("test.xlsx")

拆分后的sheet页如图:

然后再使用pandas读取中间文件即可:

import pandas as pddf = pd.read_excel("test_temp.xlsx")

结果为: