关于python:为什么我需要’b’来用Base64编码字符串?

Why do I need 'b' to encode a string with Base64?

在此python示例之后,我将字符串编码为Base64:

1
2
3
4
>>> import base64
>>> encoded = base64.b64encode(b'data to be encoded')
>>> encoded
b'ZGF0YSB0byBiZSBlbmNvZGVk'

但是,如果我省略前导b

1
>>> encoded = base64.b64encode('data to be encoded')

我收到以下错误:

1
2
3
4
5
Traceback (most recent call last):
  File"<stdin>", line 1, in <module>
  File"C:\Python32\lib\base64.py", line 56, in b64encode
   raise TypeError("expected bytes, not %s" % s.__class__.__name__)
   TypeError: expected bytes, not str

为什么是这样?


base64编码采用8位二进制字节数据,并且仅使用字符A-ZA-Z0-9+/ *进行编码,因此可以通过不保留所有8位字符的通道进行传输一点数据,例如电子邮件。

因此,它需要一个8位字节的字符串。您可以使用b''语法在Python 3中创建它们。

如果删除b,它将成为一个字符串。字符串是Unicode字符序列。 base64不知道如何处理Unicode数据,它不是8位的。实际上,实际上并没有什么。 :-)

在第二个示例中:

1
>>> encoded = base64.b64encode('data to be encoded')

所有字符都完全适合ASCII字符集,因此base64编码实际上是没有意义的。您可以将其转换为ascii

1
>>> encoded = 'data to be encoded'.encode('ascii')

或更简单:

1
>>> encoded = b'data to be encoded'

在这种情况下,这将是同一件事。

*大多数base64口味的末尾也可能包含=作为填充。此外,某些base64变体可能使用+/以外的字符。有关概述,请参见Wikipedia的"变体"摘要表。


简短答案

您需要将bytes-like对象(bytesbytearray等)推送到base64.b64encode()方法。有两种方法:

1
2
3
>>> data = base64.b64encode(b'data to be encoded')
>>> print(data)
b'ZGF0YSB0byBiZSBlbmNvZGVk'

或带有变量:

1
2
3
4
>>> string = 'data to be encoded'
>>> data = base64.b64encode(string.encode())
>>> print(data)
b'ZGF0YSB0byBiZSBlbmNvZGVk'

为什么?

在Python 3中,str对象不是C样式的字符数组(因此它们不是字节数组),而是它们是没有任何固有编码的数据结构。您可以通过多种方式对该字符串进行编码(或解释)。最常见的(在Python 3中是默认值)是utf-8,特别是因为它与ASCII向后兼容(尽管,使用最广泛的编码也是如此)。这就是当您使用string并在其上调用.encode()方法时发生的情况:Python正在以utf-8(默认编码)解释字符串,并为您提供与其对应的字节数组。

Python 3中的Base-64编码

最初,问题标题是关于Base-64编码的。继续阅读有关Base-64的内容。

base64编码采用6位二进制块,并使用字符AZ,az,0-9,'+','/'和'='进行编码(某些编码使用不同的字符代替" +"和" /')。这是基于基数64或基数64的数字系统的数学构造的字符编码,但是它们有很大的不同。数学中的Base-64是一个数字系统,例如二进制或十进制,您可以对整个数字进行基数更改,或者(如果要转换的基数是2的乘方小于64,则从右到大)剩下。

base64编码中,翻译是从左到右完成的;前64个字符是为什么将其称为base64编码的原因。第65个'='符号用于填充,因为编码会提取6位块,但通常要编码的数据是8位字节,因此有时最后一块中只有2或4位。

例:

1
2
3
4
5
6
>>> data = b'test'
>>> for byte in data:
...     print(format(byte, '08b'), end="")
...
01110100 01100101 01110011 01110100
>>>

如果您将二进制数据解释为单个整数,则可以通过以下方法将其转换为base-10和base-64(base-64表):

1
2
3
base-2:  01 110100 011001 010111 001101 110100 (base-64 grouping shown)
base-10:                            1952805748
base-64:  B      0      Z      X      N      0

但是,base64编码将重新组合此数据:

1
2
3
base-2:  011101  000110  010101 110011 011101 00(0000) <- pad w/zeros to make a clean 6-bit chunk
base-10:     29       6      21     51     29      0
base-64:      d       G       V      z      d      A

因此,从数学上来说," B0ZXN0"是我们二进制文件的base-64版本。但是,base64编码必须沿相反方向进行编码(因此原始数据将转换为" dGVzdA"),并且还具有一条规则来告诉其他应用程序最后还剩下多少空间。这是通过在末尾添加'='符号来完成的。因此,此数据的base64编码为'dGVzdA ==',带有两个'='符号以表示当解码该数据以使其与原始数据匹配时,需要从末端删除两对位。

让我们测试一下,看看我是否不诚实:

1
2
3
>>> encoded = base64.b64encode(data)
>>> print(encoded)
b'dGVzdA=='

为什么使用base64编码?

假设我必须通过电子邮件将某些数据发送给某人,例如以下数据:

1
2
3
4
5
6
>>> data = b'\x04\x6d\x73\x67\x08\x08\x08\x20\x20\x20'
>>> print(data.decode())

>>> print(data)
b'\x04msg\x08\x08\x08   '
>>>

我植入了两个问题:

  • 如果我尝试在Unix上发送该电子邮件,则该电子邮件将在读取\x04字符后立即发送,因为这是END-OF-TRANSMISSION的ASCII(Ctrl-D),因此其余数据将被排除在传输之外。
  • 另外,虽然Python足够聪明,可以在我直接打印数据时转义我所有的邪恶控制字符,但是当该字符串被解码为ASCII时,您可以看到'msg'不存在。那是因为我使用了三个BACKSPACE字符和三个SPACE字符来擦除'msg'。因此,即使我没有EOF字符,最终用户也无法将屏幕上的文本转换为真实的原始数据。
  • 这只是一个演示,向您展示简单发送原始数据有多困难。将数据编码为base64格式可为您提供完全相同的数据,但格式应确保可以安全地通过电子媒体(例如电子邮件)发送。


    如果要编码的数据包含"外来"字符,我认为您必须使用" UTF-8"进行编码

    1
    encoded = base64.b64encode (bytes('data to be encoded',"utf-8"))

    如果字符串是Unicode,最简单的方法是:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    import base64                                                        

    a = base64.b64encode(bytes(u'complex string: ?áéíóú?',"utf-8"))

    # a: b'Y29tcGxleCBzdHJpbmc6IMOxw6HDqcOtw7PDusOR'

    b = base64.b64decode(a).decode("utf-8","ignore")                    

    print(b)
    # b :complex string: ?áéíóú?

    有您需要的一切:

    1
    expected bytes, not str

    前导b使您的字符串成为二进制。

    您使用什么版本的Python? 2.x或3.x?

    编辑:请参阅http://docs.python.org/release/3.0.1/whatsnew/3.0.html#text-vs-data-instead-of-unicode-vs-8位了解Python中字符串的详细信息3.x


    b只是意味着您将输入作为字节或字节数组而不是字符串。