注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

北漂的小羊

Java编程,开发者,程序员,软件开发,编程,代码。新浪微博号:IT国子监

 
 
 

日志

 
 
关于我

在这里是面向程序员的高品质IT技术学习社区,是程序员学习成长的地方。让我们更好地用技术改变世界。请关注新浪微博号: IT国子监(http://weibo.com/itguozijian)

网易考拉推荐

Java字符编码根本原理之乱码问题...gbk to utf-8  

2013-02-04 20:41:57|  分类: JAVA |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
Java开发中,常常会遇到乱码的问题,一旦遇到这种问题,常常就很扯蛋,每个人都不愿意承认是自己的代码有问题。其实编码问题并没有那么神秘,那么不可捉摸,搞清Java的编码本质过程就真相大白了。
 
先看个图:
Java字符编码根本原理之乱码问题...gbk to utf-8 - 天涯草 - 天涯草
 
 
 
其实,编码问题存在两个方面:JVM之内和JVM之外。
 
 
1、Java文件编译后形成class
这里Java文件的编码可能有多种多样,但Java编译器会自动将这些编码按照Java文件的编码格式正确读取后产生class文件,这里的class文件编码是Unicode编码(具体说是UTF-16编码)。
 
因此,在Java代码中定义一个字符串:
String s="汉字";
不管在编译前java文件使用何种编码,在编译后成class后,他们都是一样的----Unicode编码表示。
 
2、JVM中的编码
JVM加载class文件读取时候使用Unicode编码方式正确读取class文件,那么原来定义的String s="汉字";在内存中的表现形式是Unicode编码。
 
当调用String.getBytes()的时候,其实已经为乱码买下了祸根。因为此方法使用平台默认的字符集来获取字符串对应的字节数组。在WindowsXP中文版中,使用的默认编码是GBK,不信运行下:
public class Test { 
        public static void main(String[] args) { 
                System.out.println("当前JRE:" + System.getProperty("java.version")); 
                System.out.println("当前JVM的默认字符集:" + Charset.defaultCharset()); 
        } 
}
 
当前JRE:1.6.0_16 
当前JVM的默认字符集:GBK
 
当不同的系统、数据库经过多次编码后,如果对其中的原理不理解,就容易导致乱码。因此,在一个系统中,有必要对字符串的编码做一个统一,这个统一模糊点说,就是对外统一。比如方法字符串参数,IO流,在中文系统中,可以统一使用GBK、GB13080、UTF-8、UTF-16等等都可以,只是要选择有些更大字符集,以保证任何可能用到的字符都可以正常显示,避免乱码的问题。(假设对所有的文件都用ASCII码)那么就无法实现双向转换了。
 
要特别注意的是,UTF-8并非能容纳了所有的中文字符集编码,因此,在特殊情况下,UTF-8转GB18030可能会出现乱码,然而一群傻B常常在做中文系统喜欢用UTF-8编码而不说不出个所以然出来!最傻B的是,一个系统多个人做,源代码文件有的人用GBK编码,有人用UTF-8,还有人用GB18030。FK,都是中国人,也不是外包项目,用什么UTF-8啊,神经!源代码统统都用GBK18030就OK了,免得ANT脚本编译时候提示不可认的字符编码。
 
因此,对于中文系统来说,最好选择GBK或GB18030编码(其实GBK是GB18030的子集),以便最大限度的避免乱码现象。
 
3、内存中字符串的编码
内存中的字符串不仅仅局限于从class代码中直接加载而来的字符串,还有一些字符串是从文本文件中读取的,还有的是通过数据库读取的,还有可能是从字节数组构建的,然而他们基本上都不是Unicode编码的,原因很简单,存储优化。
 
因此就需要处理各种各样的编码问题,在处理之前,必须明确“源”的编码,然后用指定的编码方式正确读取到内存中。如果是一个方法的参数,实际上必须明确该字符串参数的编码,因为这个参数可能是另外一个日文系统传递过来的。当明确了字符串编码时候,就可以按照要求正确处理字符串,以避免乱码。
在对字符串进行解码编码的时候,应该调用下面的方法:
getBytes(String charsetName)    
String(byte[] bytes, String charsetName)
 
而不要使用那些不带字符集名称的方法签名,通过上面两个方法,可以对内存中的字符进行重新编码。

Java代码 
  1. package com.elmer.c;  
  2.   
  3. import java.io.UnsupportedEncodingException;  
  4.   
  5. public class GbktoUtf8 {  
  6.       
  7.        public String convertString(String gbk){  
  8.             String utf8 = "";  
  9.             try {  
  10.                 utf8 = new String(gbk2utf8(gbk),"UTF-8");  
  11.             } catch (UnsupportedEncodingException e) {  
  12.                 e.printStackTrace();  
  13.             }  
  14.             return utf8;  
  15.         }  
  16.   
  17.         public byte[] gbk2utf8(String chenese) {  
  18.             char c[] = chenese.toCharArray();  
  19.             byte[] fullByte = new byte[3 * c.length];  
  20.             for (int i = 0; i < c.length; i++) {  
  21.                 int m = (int) c[i];  
  22.                 String word = Integer.toBinaryString(m);  
  23.   
  24.                 StringBuffer sb = new StringBuffer();  
  25.                 int len = 16 - word.length();  
  26.                 for (int j = 0; j < len; j++) {  
  27.                     sb.append("0");  
  28.                 }  
  29.                 sb.append(word);  
  30.                 sb.insert(0"1110");  
  31.                 sb.insert(8"10");  
  32.                 sb.insert(16"10");  
  33.   
  34.                 String s1 = sb.substring(08);  
  35.                 String s2 = sb.substring(816);  
  36.                 String s3 = sb.substring(16);  
  37.   
  38.                 byte b0 = Integer.valueOf(s1, 2).byteValue();  
  39.                 byte b1 = Integer.valueOf(s2, 2).byteValue();  
  40.                 byte b2 = Integer.valueOf(s3, 2).byteValue();  
  41.                 byte[] bf = new byte[3];  
  42.                 bf[0] = b0;  
  43.                 fullByte[i * 3] = bf[0];  
  44.                 bf[1] = b1;  
  45.                 fullByte[i * 3 + 1] = bf[1];  
  46.                 bf[2] = b2;  
  47.                 fullByte[i * 3 + 2] = bf[2];  
  48.   
  49.             }  
  50.             return fullByte;  
  51.         }  
  52.   
  53.         public static void main(String[] args) {  
  54.             GbktoUtf8 gtu = new GbktoUtf8();  
  55.             System.out.println(gtu.convertString("我是q !"));  
  56.         }  
  57.   
  58. }  

核心是找的资料,还没放到web里试过 
二. 
Java代码 
  1. public class TranCharset {  
  2.   
  3.     private static final String PRE_FIX_UTF = "&#x";  
  4.   
  5.     private static final String POS_FIX_UTF = ";";  
  6.   
  7.     public TranCharset() {  
  8.     }  
  9.   
  10.     /** 
  11.      * Translate charset encoding to unicode 
  12.      *  
  13.      * @param sTemp 
  14.      *            charset encoding is gb2312 
  15.      * @return charset encoding is unicode 
  16.      */  
  17.     public static String XmlFormalize(String sTemp) {  
  18.         StringBuffer sb = new StringBuffer();  
  19.   
  20.         if (sTemp == null || sTemp.equals("")) {  
  21.             return "";  
  22.         }  
  23.         String s = TranCharset.TranEncodeTOGB(sTemp);  
  24.         for (int i = 0; i < s.length(); i++) {  
  25.             char cChar = s.charAt(i);  
  26.             if (TranCharset.isGB2312(cChar)) {  
  27.                 sb.append(PRE_FIX_UTF);  
  28.                 sb.append(Integer.toHexString(cChar));  
  29.                 sb.append(POS_FIX_UTF);  
  30.             } else {  
  31.                 switch ((int) cChar) {  
  32.                 case 32:  
  33.                     sb.append("&#32;");  
  34.                     break;  
  35.                 case 34:  
  36.                     sb.append("&quot;");  
  37.                     break;  
  38.                 case 38:  
  39.                     sb.append("&amp;");  
  40.                     break;  
  41.                 case 60:  
  42.                     sb.append("&lt;");  
  43.                     break;  
  44.                 case 62:  
  45.                     sb.append("&gt;");  
  46.                     break;  
  47.                 default:  
  48.                     sb.append(cChar);  
  49.                 }  
  50.             }  
  51.         }  
  52.         return sb.toString();  
  53.     }  
  54.   
  55.     /** 
  56.      * 将字符串编码格式转成GB2312 
  57.      *  
  58.      * @param str 
  59.      * @return 
  60.      */  
  61.     public static String TranEncodeTOGB(String str) {  
  62.         try {  
  63.             String strEncode = TranCharset.getEncoding(str);  
  64.             String temp = new String(str.getBytes(strEncode), "GB2312");  
  65.             return temp;  
  66.         } catch (java.io.IOException ex) {  
  67.   
  68.             return null;  
  69.         }  
  70.     }  
  71.   
  72.     /** 
  73.      * 判断输入字符是否为gb2312的编码格式 
  74.      *  
  75.      * @param c 
  76.      *            输入字符 
  77.      * @return 如果是gb2312返回真,否则返回假 
  78.      */  
  79.     public static boolean isGB2312(char c) {  
  80.         Character ch = new Character(c);  
  81.         String sCh = ch.toString();  
  82.         try {  
  83.             byte[] bb = sCh.getBytes("gb2312");  
  84.             if (bb.length > 1) {  
  85.                 return true;  
  86.             }  
  87.         } catch (java.io.UnsupportedEncodingException ex) {  
  88.             return false;  
  89.         }  
  90.         return false;  
  91.     }  
  92.   
  93.     /** 
  94.      * 判断字符串的编码 
  95.      *  
  96.      * @param str 
  97.      * @return 
  98.      */  
  99.     public static String getEncoding(String str) {  
  100.         String encode = "GB2312";  
  101.         try {  
  102.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  103.                 String s = encode;  
  104.                 return s;  
  105.             }  
  106.         } catch (Exception exception) {  
  107.         }  
  108.         encode = "ISO-8859-1";  
  109.         try {  
  110.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  111.                 String s1 = encode;  
  112.                 return s1;  
  113.             }  
  114.         } catch (Exception exception1) {  
  115.         }  
  116.         encode = "UTF-8";  
  117.         try {  
  118.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  119.                 String s2 = encode;  
  120.                 return s2;  
  121.             }  
  122.         } catch (Exception exception2) {  
  123.         }  
  124.         encode = "GBK";  
  125.         try {  
  126.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  127.                 String s3 = encode;  
  128.                 return s3;  
  129.             }  
  130.         } catch (Exception exception3) {  
  131.         }  
  132.         encode = "BIG5";  
  133.         try {  
  134.             if (str.equals(new String(str.getBytes(encode), encode))) {  
  135.                 String s4 = encode;  
  136.                 return s4;  
  137.             }  
  138.         } catch (Exception exception3) {  
  139.         }  
  140.         return "";  
  141.     }  
  142.   
  143.     public static void main(String args[]) {  
  144.         System.out.println(XmlFormalize("下载"));  
  145.     }  
  146. }  


Java代码 
  1. package com.lang.string;  
  2.   
  3.   
  4. public class ConverFromGBKToUTF8 {  
  5.  public static void main(String[] args){  
  6.     
  7.   try {  
  8.      
  9.          ConverFromGBKToUTF8 convert = new ConverFromGBKToUTF8();  
  10.          String chenese = "我是我我们";  
  11.         byte [] fullByte = convert.gbk2utf8(chenese);  
  12.          String fullStr = new String(fullByte, "UTF-8");  
  13.          System.out.println("string from GBK to UTF-8 byte:  " + fullStr);  
  14.   
  15.   
  16.      } catch (Exception e) {  
  17.       e.printStackTrace();  
  18.      }  
  19.  }  
  20.    
  21.  public byte[] gbk2utf8(String chenese){  
  22.   char c[] = chenese.toCharArray();  
  23.         byte [] fullByte =new byte[3*c.length];  
  24.         for(int i=0; i<c.length; i++){  
  25.          int m = (int)c[i];  
  26.          String word = Integer.toBinaryString(m);  
  27. //         System.out.println(word);  
  28.           
  29.          StringBuffer sb = new StringBuffer();  
  30.          int len = 16 - word.length();  
  31.          //补零  
  32.          for(int j=0; j<len; j++){  
  33.           sb.append("0");  
  34.          }  
  35.          sb.append(word);  
  36.          sb.insert(0"1110");  
  37.          sb.insert(8"10");  
  38.          sb.insert(16"10");  
  39.            
  40. //         System.out.println(sb.toString());  
  41.            
  42.          String s1 = sb.substring(08);            
  43.          String s2 = sb.substring(816);            
  44.          String s3 = sb.substring(16);  
  45.            
  46.          byte b0 = Integer.valueOf(s1, 2).byteValue();  
  47.          byte b1 = Integer.valueOf(s2, 2).byteValue();  
  48.          byte b2 = Integer.valueOf(s3, 2).byteValue();  
  49.          byte[] bf = new byte[3];  
  50.          bf[0] = b0;  
  51.          fullByte[i*3] = bf[0];  
  52.          bf[1] = b1;  
  53.          fullByte[i*3+1] = bf[1];  
  54.          bf[2] = b2;  
  55.          fullByte[i*3+2] = bf[2];  
  56.            
  57.         }  
  58.         return fullByte;  
  59.  }  
  60. }  



JAVA字符编码系列二:Unicode,ISO-8859-1,GBK,UTF-8编码及相互转换 

1、函数介绍 
在Java中,字符串用统一的Unicode编码,每个字符占用两个字节,与编码有关的两个主要函数为: 
1)将字符串用指定的编码集合解析成字节数组,完成Unicode-〉charsetName转换 
public byte[] getBytes(String charsetName) throws UnsupportedEncodingException  

2)将字节数组以指定的编码集合构造成字符串,完成charsetName-〉Unicode转换 
public String(byte[] bytes, String charsetName) throws UnsupportedEncodingException 

2、Unicode与各编码之间的直接转换 
下面以对中文字符串"a中文"的编码转换为例,来了解各种编码之间的转换 
1)Unicode和GBK 
测试结果如下,每个汉字转换为两个字节,且是可逆的,即通过字节可以转换回字符串 
String-GBK〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4 
ByteArray-GBK〉String:0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文) 

2)Unicode和UTF-8 
测试结果如下,每个汉字转换为三个字节,且是可逆的,即通过字节可以转换回字符串 
String-UTF-8〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87 
ByteArray-UTF-8〉String:0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文) 
3)Unicode和ISO-8859-1 
测试结果如下,当存在汉字时转换失败,非可逆,即通过字节不能再转换回字符串 
String-ISO-8859-1〉ByteArray:\u0061\u4E2D\u6587(a中文)-〉0x61 0x3F 0x3F 
ByteArray-ISO-8859-1〉String:0x61 0x3F 0x3F-〉\u0061\u003F\u003F(a??) 
3、Unicode与各编码之间的交叉转换 
在上面直接转换中,由字符串(Unicode)生成的字节数组,在构造回字符串时,使用的是正确的编码集合,如果使用的不是正确的编码集合会怎样呢?会正确构造吗?如果不能正确构造能有办法恢复吗?会信息丢失吗? 

下面我们就来看看这种情况,这部分可以说明在某些情况下虽然我们最终正确显示了结果,但其间仍然进行了不正确的转换。 

1)能够正确显示的中间不正确转换 
我们知道String-GBK〉ByteArray-GBK〉String是正确的,但如果我们采用String-GBK〉ByteArray-ISO-8859-1〉String呢?通过测试结果如下: 
String-GBK〉ByteArray-ISO-8859-1〉String:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????) 

这时我们得到的字符串为?乱码“a????”,但是通过继续转换我们仍然可以复原回正确的字符串“a中文”,过程如下: 
String-GBK〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-GBK〉String 
对应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u00D6\u00D0\u00CE\u00C4(a????)-〉0x61 0xD6 0xD0 0xCE 0xC4-〉\u0061\u4E2D\u6587(a中文) 

也就是我们在首次构造字符串时,我们用了错误的编码集合得到了错误的乱码,但是我们通过错上加错,再用错误的编码集合获取字节数组,然后再用正确的编码集合构造,就又恢复了正确的字符串。这时就属于是“能够正确显示的中间不正确转换”。在Jsp页面提交数据处理时常常发生这种情况。 

此外能够正确显示的中间不正确转换还有: 
String-UTF-8〉ByteArray-ISO-8859-1〉String-ISO-8859-1〉ByteArray-UTF-8〉String 
和 
String-UTF-8〉ByteArray-GBK〉String-GBK〉ByteArray-UTF-8〉String 
对应:\u0061\u4E2D\u6587(a中文)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u6D93\uE15F\u6783(a涓枃)-〉0x61 0xE4 0xB8 0xAD 0xE6%0x96 0x87-〉\u0061\u4E2D\u6587(a中文) 

4、编码过程中错误诊断参考 
1)一个汉字对应一个问号 
在通过ISO-8859-1从字符串获取字节数组时,由于一个Unicode转换成一个byte,当遇到不认识的Unicode时,转换为0x3F,这样无论用哪种编码构造时都会产生一个?乱码。 
2)一个汉字对应两个问号 
在通过GBK从字符串获取字节数组时,由于一个Unicode转换成两个byte,如果此时用ISO-8859-1或用UTF-8构造字符串就会出现两个问号。 
若是通过ISO-8859-1构造可以再通过上面所说的错上加错恢复(即再通过从ISO-8859-1解析,用GBK构造); 
若是通过UTF-8构造则会产生Unicode字符"\uFFFD",不能恢复,若再通过String-UTF-8〉ByteArray-GBK〉String,则会出现杂码,如a锟斤拷锟斤拷 
3)一个汉字对应三个问号 
在通过UTF-8从字符串获取字节数组时,由于一个Unicode转换成三个byte,如果此时用ISO-8859-1构造字符串就会出现三个问号;用GBK构造字符串就会出现杂码,如a涓枃。 
  评论这张
 
阅读(5407)| 评论(0)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2016