Pandas DataFrame有一个内置方法sort_values(),可以根据给定的变量对值进行排序。该方法本身使用起来相当简单,但是它不适用于自定义排序,例如,

  • t恤尺寸:XS、S、M、L和XL
  • 月份:一月、二月、三月、四月等
  • 星期几:周一、周二、周三、周四、周五、周六和周日。

在本文中,我们将了解如何对Pandas DataFrame进行自定义排序。

问题

假设我们有一个关于服装店的数据集:

df = pd.DataFrame({    'cloth_id': [1001, 1002, 1003, 1004, 1005, 1006],    'size': ['S', 'XL', 'M', 'XS', 'L', 'S'],})


python dataframe排序后取索引 python dataframe 列排序_如何让set有序


我们可以看到,每一块布料都有一个尺寸值,数据应该按以下顺序排序:

  • XS代表特大号
  • S代表小号
  • M代表中号
  • L代表大号
  • XL为特大号

但是,当调用sort_values('size')时,将得到以下输出。


python dataframe排序后取索引 python dataframe 列排序_如何让set有序_02


输出不是我们想要的,但它在技术上是正确的。实际上,sort_values()是按数字顺序对数值数据排序,对对象数据按字母顺序排序。

以下是两种常见的解决方案:

  1. 为自定义排序创建新列
  2. 使用CategoricalDtype将数据强制转换为具有有序性的类别类型

为自定义排序创建新列

在这个解决方案中,需要一个映射数据帧来表示一个自定义排序,然后根据映射创建一个新的列,最后我们可以按新列对数据进行排序。让我们通过一个例子来看看这是如何工作的。

首先,让我们创建一个映射数据帧来表示自定义排序。

df_mapping = pd.DataFrame({    'size': ['XS', 'S', 'M', 'L', 'XL'],})sort_mapping = df_mapping.reset_index().set_index('size')


python dataframe排序后取索引 python dataframe 列排序_如何让set有序_03


之后,使用sort_mapping中的映射值创建一个新的列 size_num。

df['size_num'] = df['size'].map(sort_mapping['index'])

最后,按新的列大小对值进行排序。

df.sort_values('size_num')


python dataframe排序后取索引 python dataframe 列排序_dataframe 排序_04


这当然是我们的工作。但它创建了一个备用列,在处理大型数据集时效率可能会降低。

我们可以使用CategoricalDtype更有效地解决这个问题。

使用CategoricalDtype将数据强制转换为具有有序性的类别类型

CategoricalDtype是具有类别和顺序的分类数据的类型[1]。它对于创建自定义排序非常有用[2]。让我们通过一个例子来看看这是如何工作的。

首先,让我们导入CategoricalDtype。

from pandas.api.types import CategoricalDtype

然后,创建一个自定义类别类型cat_size_order

  • 第一个参数设置为['XS'、'S'、'M'、'L'、'XL']作为尺寸的唯一值。
  • 第二个参数ordered=True,将此变量视为有序。
cat_size_order = CategoricalDtype(    ['XS', 'S', 'M', 'L', 'XL'],     ordered=True)

然后,调用astype(cat_size_order)将大小数据强制转换为自定义类别类型。通过运行df['size'],我们可以看到size列已经被转换为一个类别类型,其顺序为[XS

>>> df['size'] = df['size'].astype(cat_size_order)>>> df['size']0     S1    XL2     M3    XS4     L5     SName: size, dtype: categoryCategories (5, object): [XS < S < M < L < XL]

最后,我们可以调用相同的方法对值进行排序。

df.sort_values('size')


python dataframe排序后取索引 python dataframe 列排序_pandas.dataframe_05


这样效果更好。让我们来看看原理是什么。

使用cat的codes属性访问

现在size列已经被转换为category类型,我们可以使用.cat访问器以查看分类属性。在幕后,它使用codes属性来表示有序变量的大小。

让我们创建一个新的列代码,这样我们可以并排比较大小和代码值。

df['codes'] = df['size'].cat.codesdf


python dataframe排序后取索引 python dataframe 列排序_如何让set有序_06


我们可以看到XS、S、M、L和XL的代码分别为0、1、2、3、4和5。codes是类别实际值。通过运行df.info(),我们可以看到实际上是int8。

>>> df.info()RangeIndex: 6 entries, 0 to 5Data columns (total 3 columns): #   Column    Non-Null Count  Dtype   ---  ------    --------------  -----    0   cloth_id  6 non-null      int64    1   size      6 non-null      category 2   codes     6 non-null      int8    dtypes: category(1), int64(1), int8(1)memory usage: 388.0 bytes

按多个变量排序

接下来,让我们把事情变得更复杂一点。这里,我们将按多个变量对数据帧进行排序。

df = pd.DataFrame({    'order_id': [1001, 1002, 1003, 1004, 1005, 1006, 1007],    'customer_id': [10, 12, 12, 12, 10, 10, 10],    'month': ['Feb', 'Jan', 'Jan', 'Feb', 'Feb', 'Jan', 'Feb'],    'day_of_week': ['Mon', 'Wed', 'Sun', 'Tue', 'Sat', 'Mon', 'Thu'],})

类似地,让我们创建两个自定义类别类型cat_day_of_week和cat_month,并将它们传递给astype()。

cat_day_of_week = CategoricalDtype(    ['Mon', 'Tue', 'Wed', 'Thu', 'Fri', 'Sat', 'Sun'],     ordered=True)cat_month = CategoricalDtype(    ['Jan', 'Feb', 'Mar', 'Apr'],     ordered=True,)df['day_of_week'] = df['day_of_week'].astype(cat_day_of_week)df['month'] = df['month'].astype(cat_month)

要按多个变量排序,我们只需要传递一个列表来代替sort_values()。例如,按monthday_of_week排序。

df.sort_values(['month', 'day_of_week'])


python dataframe排序后取索引 python dataframe 列排序_dataframe排序_07


ustomer_idmonthday_of_week排序。

df.sort_values(['customer_id', 'month', 'day_of_week'])


python dataframe排序后取索引 python dataframe 列排序_pandas.dataframe_08