有些事情让我不安,比如运算符重载。我决定不支持运算符重载,这完全是个人选择,因为我见过太多 C++ 程序员滥用它。

——James Gosling

Java 之父

运算符重载的作用是让用户定义的对象使用中缀运算符(如 + 和 |)或一元运算符(如 - 和 ~)。说得宽泛一些,在 Python 中,函数调用(())、属性访问(.)和元素访问 / 切片([])也是运算符。

我们为 Vector 类简略实现了几个运算符。__add__ 和 __mul__ 方法是为了展示如何使用特殊方法重载运算符,不过有些小问题被我们忽视了。此外,我们定义的Vector2d.__eq__ 方法认为 Vector(3, 4) == [3, 4] 是真的(True),这可能并不合理。

运算符重载基础

在某些圈子中,运算符重载的名声并不好。这个语言特性可能(已经)被滥用,让程序员困惑,导致缺陷和意料之外的性能瓶颈。但是,如果使用得当,API 会变得好用,代码会变得易于阅读。Python 施加了一些限制,做好了灵活性、可用性和安全性方面的平衡:

不能重载内置类型的运算符

不能新建运算符,只能重载现有的

某些运算符不能重载——is、and、or 和 not(不过位运算符

&、| 和 ~ 可以)

前面的博文已经为 Vector 定义了一个中缀运算符,即 ==,这个运算符由__eq__ 方法支持。我们将改进 __eq__ 方法的实现,更好地处理不是Vector 实例的操作数。然而,在运算符重载方面,众多比较运算符(==、!=、>、=、<=)是特例,因此我们首先将在 Vector 中重载四个算术运算符:一元运算符 - 和 +,以及中缀运算符 + 和 *。

一元运算符

-(__neg__)

一元取负算术运算符。如果 x 是 -2,那么 -x == 2。

+(__pos__)

一元取正算术运算符。通常,x == +x,但也有一些例外。如果好奇,请阅读“x 和 +x 何时不相等”附注栏。

~(__invert__)

对整数按位取反,定义为 ~x == -(x+1)。如果 x 是 2,那么 ~x== -3。

支持一元运算符很简单,只需实现相应的特殊方法。这些特殊方法只有一个参数,self。然后,使用符合所在类的逻辑实现。不过,要遵守运算符的一个基本规则:始终返回一个新对象。也就是说,不能修改self,要创建并返回合适类型的新实例。

对 - 和 + 来说,结果可能是与 self 同属一类的实例。多数时候,+ 最好返回 self 的副本。abs(...) 的结果应该是一个标量。但是对 ~ 来说,很难说什么结果是合理的,因为可能不是处理整数的位,例如在ORM 中,SQL WHERE 子句应该返回反集。

1 def __abs__(self):2 return math.sqrt(sum(x * x for x inself))3

4 def __neg__(self):5 return Vector(-x for x in self) #为了计算 -v,构建一个新 Vector 实例,把 self 的每个分量都取反

6

7 def __pos__(self):8 return Vector(self) #为了计算 +v,构建一个新 Vector 实例,传入 self 的各个分量

x 和 +x 何时不相等

每个人都觉得 x == +x,而且在 Python 中,几乎所有情况下都是这样。但是,我在标准库中找到两例 x != +x 的情况。

第一例与 decimal.Decimal 类有关。如果 x 是 Decimal 实例,在算术运算的上下文中创建,然后在不同的上下文中计算 +x,那么 x!= +x。例如,x 所在的上下文使用某个精度,而计算 +x 时,精度变了,例如下面的 🌰

算术运算上下文的精度变化可能导致 x 不等于 +x

>>> importdecimal>>> ctx =decimal.getcontext()                  #获取当前全局算术运算符的上下文引用>>> ctx.prec = 40                          #把算术运算上下文的精度设为40

>>> one_third = decimal.Decimal('1') / decimal.Decimal('3') #使用当前精度计算1/3>>>one_third

Decimal('0.3333333333333333333333333333333333333333')     #查看结果,小数点后的40个数字>>> one_third == +one_third                    #one_third = +one_thied返回TRUE

True>>> ctx.prec = 28                          #把精度降为28

>>> one_third == +one_third#one_third = +one_thied返回False

False>>> +one_third Decimal('0.3333333333333333333333333333')   #查看+one_third,小术后的28位数字

虽然每个 +one_third 表达式都会使用 one_third 的值创建一个新 Decimal 实例,但是会使用当前算术运算上下文的精度。

x != +x 的第二例在 collections.Counter 的文档中(https://docs.python.org/3/library/collections.html#collections.Counter)。类实现了几个算术运算符,例如中缀运算符 +,作用是把两个Counter 实例的计数器加在一起。然而,从实用角度出发,Counter 相加时,负值和零值计数会从结果中剔除。而一元运算符 + 等同于加上一个空 Counter,因此它产生一个新的Counter 且仅保留大于零的计数器。

🌰一元运算符 + 得到一个新 Counter 实例,但是没有零值和负值计数器

>>> from collections importCounter>>> ct = Counter('abracadabra')>>> ct['r'] = -3

>>> ct['d'] =0>>>ct

Counter({'a': 5, 'r': -3, 'b': 2, 'c': 1, 'd': 0})>>> +ct

Counter({'a': 5, 'b': 2, 'c': 1})

重载向量加法运算符+

两个欧几里得向量加在一起得到的是一个新向量,它的各个分量是两个向量中相应的分量之和。比如说:

>>> v1 = Vector([3, 4, 5])>>> v2 = Vector([6, 7, 8])>>> v1 +v2

Vector([9.0, 11.0, 13.0])>>> v1 + v2 == Vector([3+6, 4+7, 5+8])

True

确定这些基本的要求之后,__add__ 方法的实现短小精悍,🌰 如下

def __add__(self, other):

pairs= itertools.zip_longest(self, other, fillvalue=0.0) #生成一个元祖,a来自self,b来自other,如果两个长度不够,通过fillvalue设置的补全值自动补全短的

return Vector(a + b for a, b in pairs) #使用生成器表达式计算pairs中的各个元素的和

还可以把Vector 加到元组或任何生成数字的可迭代对象上:

1 #在Vector类中定义

2

3 def __add__(self, other):4 pairs = itertools.zip_longest(self, other, fillvalue=0.0) #生成一个元祖,a来自self,b来自other,如果两个长度不够,通过fillvalue设置的补全值自动补全短的

5 return Vector(a + b for a, b in pairs) #使用生成器表达式计算pairs中的各个元素的和

6

7 def __radd__(self, other): #会直接委托给__add__

8 return self + other

__radd__ 通常就这么简单:直接调用适当的运算符,在这里就是委托__add__。任何可交换的运算符都能这么做。处理数字和向量时,+ 可以交换,但是拼接序列时不行。

重载标量乘法运算符*

Vector([1, 2, 3]) * x 是什么意思?如果 x 是数字,就是计算标量积(scalar product),结果是一个新 Vector 实例,各个分量都会乘以x——这也叫元素级乘法(elementwise multiplication)。

>>> v1 = Vector([1, 2, 3])>>> v1 * 10Vector([10.0, 20.0, 30.0])>>> 11 *v1

Vector([11.0, 22.0, 33.0])

涉及 Vector 操作数的积还有一种,叫两个向量的点积(dotproduct);如果把一个向量看作 1×N 矩阵,把另一个向量看作 N×1 矩阵,那么就是矩阵乘法。NumPy 等库目前的做法是,不重载这两种意义的 *,只用 * 计算标量积。例如,在 NumPy 中,点积使用numpy.dot() 函数计算。

回到标量积的话题。我们依然先实现最简可用的 __mul__ 和 __rmul__方法:

1 def __mul__(self, scalar):2 ifisinstance(scalar, numbers.Real):3 return Vector(n * scalar for n inself)4 else:5 returnNotImplemented6

7 def __rmul__(self, scalar):8 return self * scalar

这两个方法确实可用,但是提供不兼容的操作数时会出问题。scalar参数的值要是数字,与浮点数相乘得到的积是另一个浮点数(因为Vector 类在内部使用浮点数数组)。因此,不能使用复数,但可以是int、bool(int 的子类),甚至 fractions.Fraction 实例等标量。

提供了点积所需的 @ 记号(例如,a @ b 是 a 和 b 的点积)。@ 运算符由特殊方法 __matmul__、__rmatmul__ 和__imatmul__ 提供支持,名称取自“matrix multiplication”(矩阵乘法)

>>> va = Vector([1, 2, 3])>>> vz = Vector([5, 6, 7])>>> va @ vz == 38.0 #1*5 + 2*6 + 3*7

True>>> [10, 20, 30] @ vz380.0

>>> va @ 3Traceback (most recent call last):

...

TypeError: unsupported operand type(s)for @: 'Vector' and 'int'

下面是相应特殊方法的代码:

>>> va = Vector([1, 2, 3])>>> vz = Vector([5, 6, 7])>>> va @ vz == 38.0 #1*5 + 2*6 + 3*7

True>>> [10, 20, 30] @ vz380.0

>>> va @ 3Traceback (most recent call last):

...

TypeError: unsupported operand type(s)for @: 'Vector' and 'int'

众多比较运算符

Python 解释器对众多比较运算符(==、!=、>、=、<=)的处理与前文类似,不过在两个方面有重大区别。

正向和反向调用使用的是同一系列方法。例如,对 == 来说,正向和反向调用都是 __eq__ 方法,只是把参数对调了;而正向的 __gt__ 方法调用的是反向的 __lt__方法,并把参数对调。

对 == 和 != 来说,如果反向调用失败,Python 会比较对象的 ID,而不抛出 TypeError。

众多比较运算符:正向方法返回NotImplemented的话,调用反向方法

分组

中缀运算符

正向方法调用

反向方法调用

后备机制

相等性

a == b

a.__eq__(b)

b.__eq__(a)

返回 id(a) == id(b)

a != b

a.__ne__(b)

b.__ne__(a)

返回 not (a == b)

排序

a > b

a.__gt__(b)

b.__lt__(a)

抛出 TypeError

a < b

a.__lt__(b)

b.__gt__(a)

抛出 TypeError

a >= b

a.__ge__(b)

b.__le__(a)

抛出 TypeError

a <= b

a.__le__(b)

b.__ge__(a)

抛出T ypeError

看下面的🌰

1 from array importarray2 importreprlib3 importmath4 importnumbers5 importfunctools6 importoperator7 importitertools8

9

10 classVector:11 typecode = 'd'

12

13 def __init__(self, components):14 self._components =array(self.typecode, components)15

16 def __iter__(self):17 returniter(self._components)18

19 def __repr__(self):20 components =reprlib.repr(self._components)21 components = components[components.find('['):-1]22 return 'Vector({})'.format(components)23

24 def __str__(self):25 returnstr(tuple(self))26

27 def __bytes__(self):28 return (bytes([ord(self.typecode)]) +bytes(self._components))29

30 def __eq__(self, other):31 return (len(self) == len(other) and all(a == b for a, b inzip(self, other)))32

33 def __hash__(self):34 hashes =map(hash, self._components)35 returnfunctools.reduce(operator.xor, hashes, 0)36

37 def __add__(self, other):38 pairs = itertools.zip_longest(self, other, fillvalue=0.0) #生成一个元祖,a来自self,b来自other,如果两个长度不够,通过fillvalue设置的补全值自动补全短的

39 return Vector(a + b for a, b in pairs) #使用生成器表达式计算pairs中的各个元素的和

40

41 def __radd__(self, other): #会直接委托给__add__

42 return self +other43

44 def __mul__(self, scalar):45 ifisinstance(scalar, numbers.Real):46 return Vector(n * scalar for n inself)47 else:48 returnNotImplemented49

50 def __rmul__(self, scalar):51 return self *scalar52

53 def __matmul__(self, other):54 try:55 return sum(a * b for a, b inzip(self, other))56 exceptTypeError:57 returnNotImplemented58

59 def __rmatmul__(self, other):60 returnself @ other61

62 def __abs__(self):63 return math.sqrt(sum(x * x for x inself))64

65 def __neg__(self):66 return Vector(-x for x in self) #为了计算 -v,构建一个新 Vector 实例,把 self 的每个分量都取反

67

68 def __pos__(self):69 return Vector(self) #为了计算 +v,构建一个新 Vector 实例,传入 self 的各个分量

70

71 def __bool__(self):72 returnbool(abs(self))73

74 def __len__(self):75 returnlen(self._components)76

77 def __getitem__(self, index):78 cls =type(self)79

80 ifisinstance(index, slice):81 returncls(self._components[index])82 elifisinstance(index, numbers.Integral):83 returnself._components[index]84 else:85 msg = '{.__name__} indices must be integers'

86 raiseTypeError(msg.format(cls))87

88 shorcut_names = 'xyzt'

89

90 def __getattr__(self, name):91 cls =type(self)92

93 if len(name) == 1:94 pos =cls.shorcut_names.find(name)95 if 0 <= pos

98 raiseAttributeError(msg.format(cls, name))99

100 defangle(self, n):101 r = math.sqrt(sum(x * x for x inself[n:]))102 a = math.atan2(r, self[n-1])103 if (n == len(self) - 1 ) and (self[-1] <0):104 return math.pi * 2 -a105 else:106 returna107

108 defangles(self):109 return (self.angle(n) for n in range(1, len(self)))110

111 def __format__(self, fmt_spec=''):112 if fmt_spec.endswith('h'):113 fmt_spec = fmt_spec[:-1]114 coords =itertools.chain([abs(self)], self.angles())115 outer_fmt = ''

116 else:117 coords =self118 outer_fmt = '({})'

119 components = (format(c, fmt_spec) for c incoords)120 return outer_fmt.format(','.join(components))121

122 @classmethod123 deffrombytes(cls, octets):124 typecode =chr(octets[0])125 memv = memoryview(octets[1:]).cast(typecode)126 returncls(memv)127

128 va = Vector([1.0, 2.0, 3.0])129 vb = Vector(range(1, 4))130 print('va == vb:', va == vb) #两个具有相同数值分量的 Vector 实例是相等的

131 t3 = (1, 2, 3)132 print('va == t3:', va ==t3)133

134 print('[1, 2] == (1, 2):', [1, 2] == (1, 2))

上面代码执行返回的结果为:

va ==vb: True

va==t3: True

[1, 2] == (1, 2): False

从 Python 自身来找线索,我们发现 [1,2] == (1, 2) 的结果是False。因此,我们要保守一点,做些类型检查。如果第二个操作数是Vector 实例(或者 Vector 子类的实例),那么就使用 __eq__ 方法的当前逻辑。否则,返回 NotImplemented,让 Python 处理。

🌰 vector_v8.py:改进 Vector 类的 __eq__ 方法

1 def __eq__(self, other):2 if isinstance(other, Vector): #判断对比的是否和Vector同属一个实例

3 return (len(self) == len(other) and all(a == b for a, b inzip(self, other)))4 else:5 return NotImplemented #否则,返回NotImplemented

改进以后的代码执行结果:

>>> va = Vector([1.0, 2.0, 3.0])>>> vb = Vector(range(1, 4))>>> va ==vb

True>>> t3 = (1, 2, 3)>>> va ==t3

False

增量赋值运算符

Vector 类已经支持增量赋值运算符 += 和 *= 了,示例如下

🌰  增量赋值不会修改不可变目标,而是新建实例,然后重新绑定

>>> v1 = Vector([1, 2, 3])>>> v1_alias = v1             #复制一份,供后面审查Vector([1, 2, 3])对象

>>> id(v1)                 # 记住一开始绑定给v1的Vector实例的ID

4302860128

>>> v1 += Vector([4, 5, 6])       #增量加法运算

>>> v1                    #结果与预期相符

Vector([5.0, 7.0, 9.0])>>> id(v1)                 #但是创建了新的Vector实例

4302859904

>>> v1_alias                #审查v1_alias,确认原来的Vector实例没被修改

Vector([1.0, 2.0, 3.0])>>> v1 *= 11                #增量乘法运算

>>> v1                   #同样,结果与预期相符,但是创建了新的Vector实例

Vector([55.0, 77.0, 99.0])>>>id(v1)4302858336

完整代码:



1 from array importarray2 importreprlib3 importmath4 importnumbers5 importfunctools6 importoperator7 importitertools8

9

10 classVector:11 typecode = 'd'

12

13 def __init__(self, components):14 self._components =array(self.typecode, components)15

16 def __iter__(self):17 returniter(self._components)18

19 def __repr__(self):20 components =reprlib.repr(self._components)21 components = components[components.find('['):-1]22 return 'Vector({})'.format(components)23

24 def __str__(self):25 returnstr(tuple(self))26

27 def __bytes__(self):28 return (bytes([ord(self.typecode)]) +bytes(self._components))29

30 def __eq__(self, other):31 ifisinstance(other, Vector):32 return (len(self) == len(other) and all(a == b for a, b inzip(self, other)))33 else:34 returnNotImplemented35

36 def __hash__(self):37 hashes =map(hash, self._components)38 returnfunctools.reduce(operator.xor, hashes, 0)39

40 def __add__(self, other):41 pairs = itertools.zip_longest(self, other, fillvalue=0.0)42 return Vector(a + b for a, b inpairs)43

44 def __radd__(self, other):45 return self +other46

47 def __mul__(self, scalar):48 ifisinstance(scalar, numbers.Real):49 return Vector(n * scalar for n inself)50 else:51 returnNotImplemented52

53 def __rmul__(self, scalar):54 return self *scalar55

56 def __matmul__(self, other):57 try:58 return sum(a * b for a, b inzip(self, other))59 exceptTypeError:60 returnNotImplemented61

62 def __rmatmul__(self, other):63 returnself @ other64

65 def __abs__(self):66 return math.sqrt(sum(x * x for x inself))67

68 def __neg__(self):69 return Vector(-x for x inself)70

71 def __pos__(self):72 returnVector(self)73

74 def __bool__(self):75 returnbool(abs(self))76

77 def __len__(self):78 returnlen(self._components)79

80 def __getitem__(self, index):81 cls =type(self)82

83 ifisinstance(index, slice):84 returncls(self._components[index])85 elifisinstance(index, numbers.Integral):86 returnself._components[index]87 else:88 msg = '{.__name__} indices must be integers'

89 raiseTypeError(msg.format(cls))90

91 shorcut_names = 'xyzt'

92

93 def __getattr__(self, name):94 cls =type(self)95

96 if len(name) == 1:97 pos =cls.shorcut_names.find(name)98 if 0 <= pos

101 raiseAttributeError(msg.format(cls, name))102

103 defangle(self, n):104 r = math.sqrt(sum(x * x for x inself[n:]))105 a = math.atan2(r, self[n-1])106 if (n == len(self) - 1 ) and (self[-1] <0):107 return math.pi * 2 -a108 else:109 returna110

111 defangles(self):112 return (self.angle(n) for n in range(1, len(self)))113

114 def __format__(self, fmt_spec=''):115 if fmt_spec.endswith('h'):116 fmt_spec = fmt_spec[:-1]117 coords =itertools.chain([abs(self)], self.angles())118 outer_fmt = ''

119 else:120 coords =self121 outer_fmt = '({})'

122 components = (format(c, fmt_spec) for c incoords)123 return outer_fmt.format(','.join(components))124

125 @classmethod126 deffrombytes(cls, octets):127 typecode =chr(octets[0])128 memv = memoryview(octets[1:]).cast(typecode)129 return cls(memv)

View Code