Skip to main content
 首页 » 编程设计

python之从字典列表创建 Dataframe,不使用 pd.concat()

2025年02月15日7tuyile006

我的数据结构是 numpy 数组的字典,看起来像这样:

metric_one =  
{0: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
1: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
2: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
3: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9])} 
 
metric_two =  
{0: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
1: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
2: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9]), 
3: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9])} 

带有以下标签:

['a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j'] 

我想要一个如下所示的数据框:

   0  1  2  3 
a  0  0  0  0 
b  1  1  1  1 
c  2  2  2  2 
d  3  3  3  3 
e  4  4  4  4 
f  5  5  5  5 
g  6  6  6  6 
h  7  7  7  7 
i  8  8  8  8 
j  9  9  9  9 
a  0  0  0  0 
b  1  1  1  1 
c  2  2  2  2 
d  3  3  3  3 
e  4  4  4  4 
f  5  5  5  5 
g  6  6  6  6 
h  7  7  7  7 
i  8  8  8  8 
j  9  9  9  9 

我可以通过将每个字典转换为数据帧然后使用 pd.concat() 将它们连接起来来实现。然而,这真的很慢,尤其是当要连接的词典增长时(我需要连接大约 20 个)。从分析来看,似乎在连接之前创建单个数据帧实际上花费了大部分时间。因此我想知道是否有更好的方法来做到这一点,例如以一种巧妙的方式将字典重新排列成一个包含所有字典的大数据结构(也许在一个列表中?也许在一个大字典中?)这样我们就可以通过将这个大数据结构传递给构造函数来只构建一个数据帧。

谢谢!

请您参考如下方法:

假设

metrics = [metric_one, metric_two] 
idx = ['a', 'b', 'c', 'd', 'e', 'f', 'g', 'h', 'i', 'j'] 

仅使用 numpy

lol = [list(np.concatenate([m[i] for m in metrics])) for i in range(4)] 
np.array(lol).T 
pd.DataFrame(np.array(lol).T, idx * len(metrics)) 

朴素时间测试