我在 periscopedata 中创建图表并使用 pandas 来得出我们的结果。从结果中删除重复项时我遇到了困难。
这是计算后我们的数据在最终数据框中的样子。
vendor_ID date opening purchase paid closing
B2345 01/01/2015 5 20 10 15
B2345 01/01/2015 15 50 20 45
B2345 02/01/2015 45 4 30 19
我想删除基于 vendor_ID 和日期的重复条目,但保持开始打开并保持最后一个条目关闭
即)我想要的预期结果
vendor_ID date opening purchase paid closing
B2345 01/01/2015 5 70 30 45
B2345 02/01/2015 45 4 30 19
我试过下面的代码来删除重复项,但这给了我们不同的错误。
df.drop_duplicates(subset=["vendor_ID", "date"], keep="last", inplace=True)
我如何编写这样的代码来删除重复项并保留上面示例中提到的第一个和最后一个。
请您参考如下方法:
使用GroupBy.agg与 GroupBy.first , GroupBy.last和 GroupBy.sum为输出的每一列指定:
注意:谢谢@Erfan - 如果需要使用最小和最大列代替第一个和最后一个,将字典更改为 {'opening':'min','purchase':'sum', 'paid':'sum', 'closing':'max'}
df1 = (df.groupby(["vendor_ID", "date"], as_index=False)
.agg({'opening':'first','purchase':'sum','paid':'sum', 'closing':'last'}))
print (df1)
vendor_ID date opening purchase paid closing
0 B2345 01/01/2015 5 70 30 45
1 B2345 02/01/2015 45 4 30 19
此外,如果不确定日期时间是否已排序:
df['date'] = pd.to_datetime(df['date'], dayfirst=True)
df = df.sort_values(["vendor_ID", "date"])
df1 = (df.groupby(["vendor_ID", "date"], as_index=False)
.agg({'opening':'first','purchase':'sum','paid':'sum', 'closing':'last'}))
print (df1)
vendor_ID date opening purchase paid closing
0 B2345 2015-01-01 5 70 30 45
1 B2345 2015-01-02 45 4 30 19
您还可以为 sum 所有没有前 2 列的列创建动态字典,并用于第一个和最后一个:
df['date'] = pd.to_datetime(df['date'], dayfirst=True)
df = df.sort_values(["vendor_ID", "date"])
d = {'opening':'first', 'closing':'last'}
sum_cols = df.columns.difference(list(d.keys()) + ['vendor_ID','date'])
final_d = {**dict.fromkeys(sum_cols,'sum'), **d}
df1 = df.groupby(["vendor_ID", "date"], as_index=False).agg(final_d).reindex(df.columns,axis=1)
print (df1)
vendor_ID date opening purchase paid closing
0 B2345 2015-01-01 5 70 30 45
1 B2345 2015-01-02 45 4 30 19
