当前位置 主页 > 服务器问题 > win服务器问题汇总 >

    彻彻底底地理解Python中的编码问题

    栏目:win服务器问题汇总 时间:2019-11-28 12:31

    Python处理文本的功能非常强大,但是如果是初学者,没有搞清楚python中的编码机制,也经常会遇到乱码或者decode error。本文的目的是简明扼要地说明python的编码机制,并给出一些建议。

    问题1:问题在哪里?

    问题是我们的靶子,心中没有问题去学习就会抓不住重点。

    本文使用的编程环境是centos6.7,python2.7。我们在shell中键入python以打开python命令行,并键入如下两句话:

     s = "中国zg"
     e = s.encode("utf-8")

    现在的问题是:这段代码能运行吗?

    答案是不能,会报如下的错:

    UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128)

    请留意一下错误中说明的0xe4,它是我们分析错误的突破口。

    相信很多人都遇到过这个错误。那么新的问题来了。

    问题2:Why?

    要搞清楚原因,我们不妨认真分析下这两句话的执行流程:

    首先,我们通过键盘在python命令行解释器中键入了 中国zg 并且给它加上了英文的双引号,然后又赋值给了变量s,看起来很稀松平常是不是?其实里面大有玄机。

    当我们通过键盘在程序中输入字符时,我们是通过操作系统完成这个功能的。我们在屏幕上看到的 中国zg 实际上是操作系统给我们人类的一个反馈,告诉你:“嗨,哥们,你在程序中输入了字符 中国zg ”

    那操作系统给程序的反馈是什么呢?答案就是01串,这个01串是什么样子,又是怎么生成的呢?

    答案就是操作系统使用自己的默认编码方式,将中国zg进行了编码,并把编码后的01串给了程序。

    我们用的centos系统默认的编码是utf-8,所以,只要知道中国zg每个字符的utf-8的编码就可以知道01串是什么了。

    查询后,可以获得它们的编码是(以16进制和2进制表示):

    z g
    E4B8AD E59BBD 7A 67
    11100101 10011011 10111101 11100101 10011011 10111101 01111010 01100111

    现在我们知道操作系统传给程序的01串长什么样子了。然后,程序会怎么处理它呢?

    程序看到这个01串被双引号包围着,自然知道这个01串是一个字符串。然后这个字符串被赋值给了s。

    到此,就是第一句的执行逻辑。

    现在继续进行第二句的执行。

    e = s.encode("utf-8")的意思是将字符串s用utf-8进行编码,并将编码后的字符串赋值给e。问题来了,程序现在知道s中的01串,还知道这个01串表示的是字符串,但这个字符串的编码是什么呢?我们必须知道01串的现有编码才能解析出里面的字符,也才能用新的编码方式,如utf-8来重新编码它。操作系统只给程序传来了01串,并没有告诉程序这个01串用的字符编码是什么。

    此时,python程序就会用它自己默认的编码当作s的编码,进而来识别s中的内容。这个默认的编码是ASCII,所以,它会用ASCII来解释这个01串,识别出字符串的内容,再将这个字符串转为utf-8编码。

    好了,程序碰到的第一个字节就是E4(11100101 ),傻眼! ASCII编码中没有这玩意儿,因为ASCII编码中字节第一位都是0。

    怎么办?

    报错呗,于是我们就看到了上面的错误。

    错误中的0xe4就是字符 “中” 的utf8编码的第一个字节。

    问题3:How?