python处理中文编码和判断编码示例

下面所说的都是针对python2.7

代码如下:

#coding:utf-8#chardet 需要下载安装

import chardet#抓取网页htmlline = “http://www.***.com”html_1 = urllib2.urlopen(line,timeout=120).read()#print html_1encoding_dict = chardet.detect(html_1)#print encodingweb_encoding = encoding_dict[‘encoding’]if web_encoding == ‘utf-8’ or web_encoding == ‘utf-8’: html = html_1else : html = html_1.decode(‘gbk’,’ignore’).encode(‘utf-8’)

#有以上处理,整个html就不会是乱码。