getBytes后转utf8中文 getbytes编码

转载

mob64ca140c3859 2024-05-11 15:26:18

文章标签 getBytes后转utf8中文 Java JVM C C++ 文章分类 架构后端开发

String.getBytes()的问题

String的getBytes()方法是得到一个字串的字节数组，这是众所周知的。但特别要注意的是，本方法将返回该操作系统默认的编码格式的字节数组。如果你在使用这个方法时不考虑到这一点，你会发现在一个平台上运行良好的系统，放到另外一台机器后会产生意想不到的问题。比如下面的程序:

class TestCharset 

{ 


 public static void main(String[] args) 

 { 

 new TestCharset().execute(); 

 } 


 private void execute() { 

 String s = "Hello!你好！"; 


 byte[] bytes = s.getBytes(); 


 System.out.println("bytes 

 lenght is:" + bytes.length); 


 } 


}

在一个中文WindowsXP系统下，运行时，结果为：

bytes lenght is:12

但是如果放到了一个英文的UNIX环境下运行：

$ java TestCharset 

bytes lenght is:9

如果你的程序依赖于该结果，将在后续操作中引起问题。为什么在一个系统中结果为12，而在另外一个却变成了9了呢？上面已经提到了，该方法是和平台（编码）相关的。

在中文操作系统中，getBytes方法返回的是一个GBK或者GB2312的中文编码的字节数组，其中中文字符，各占两个字节。而在英文平台中，一般的默认编码是“ISO-8859-1”，每个字符都只取一个字节（而不管是否非拉丁字符）。

Java中的编码支持

Java是支持多国编码的，在Java中，字符都是以Unicode进行存储的，比如，“你”字的Unicode编码是“4f60”，我们可以通过下面的实验代码来验证：

class TestCharset 

{ 


 public static void main(String[] args) 

 { 

 char c = '你'; 

 int i = c; 

 System.out.println(c); 

 System.out.println(i); 

 } 


} 


不管你在任何平台上执行，都会有相同的输出： 




20320 


20320就是Unicode “4f60”的整数值。其实，你可以反编译上面的类，可以发现在生成的.class文件中字符“你”（或者其它任何中文字串）本身就是以Unicode编码进行存储的： 




char c = '\u4F60'; 

 ... ...

即使你知道了编码的编码格式，比如：

javac -encoding GBK TestCharset.java

编译后生成的.class文件中仍然是以Unicode格式存储中文字符或字符串的。使用String.getBytes(String charset)方法

所以，为了避免这种问题，我建议大家都在编码中使用String.getBytes(String charset)方法。下面我们将从字串分别提取ISO-8859-1和GBK两种编码格式的字节数组，看看会有什么结果：

class TestCharset  
{ 

    public static void main(String[] args)  
    { 
        new TestCharset().execute(); 
    } 

    private void execute() { 
        String s = "Hello!你好！"; 

        byte[] bytesISO8859 =null; 
        byte[] bytesGBK = null; 

        try 
        { 
            bytesISO8859 = 
   s.getBytes("iso-8859-1"); 
            bytesGBK = s.getBytes("GBK"); 
        } 
        catch 
  (java.io.UnsupportedEncodingException e) 
        { 
            e.printStackTrace(); 
        } 

        System.out.println
  ("--------------
  \n 8859 bytes:"); 
        System.out.println("bytes is:     " + arrayToString(bytesISO8859)); 
        System.out.println("hex format is:"
  + encodeHex(bytesISO8859)); 
        System.out.println(); 

        System.out.println
  ("--------------
  \n GBK bytes:"); 
        System.out.println("bytes is:    
  " + arrayToString(bytesGBK)); 
        System.out.println("hex format
  is:" + encodeHex(bytesGBK)); 

    } 

    public static final String 
 encodeHex (byte[] bytes)
 { 
        StringBuffer buff = 
  new StringBuffer(bytes.length * 2); 
        String b; 
        for (int i=0; i<bytes.length ; i++) 
        { 
            b = Integer.toHexString(bytes[i]);  
            // byte是两个字节的，
   而上面的Integer.toHexString会把字节扩展为4个字节 
            buff.append(b.length() > 2 ? b.substring(6,8) : b);  
            buff.append(" "); 
        } 
        return buff.toString(); 
    } 

    public static final String 
 arrayToString (byte[] bytes)
 { 
        StringBuffer buff = new StringBuffer(); 
        for (int i=0; i<bytes.length ; i++) 
        { 
            buff.append(bytes[i] + " "); 
        } 
        return buff.toString(); 
    } 

}

执行上面程序将打印出：

-------------- 

 8859 bytes: 

bytes is: 72 101 108 108 111 33 63 63 63 

hex format is:48 65 6c 6c 6f 21 3f 3f 3f 


-------------- 

 GBK bytes: 

bytes is: 72 101 108 108 111 33 

-60 -29 -70 -61 -93 -95 

hex format is:48 65 6c 6c 6f 21 c4 e3 ba c3 a3 a1 


可见，在s中提取的8859-1格式的字节数组长度为9，中文字符都变成了“63”，ASCII码为63的是“?”，一些国外的程序在国内中文环境下运行时，经常出现乱码，上面布满了“?”，就是因为编码没有进行正确处理的结果。 


而提取的GBK编码的字节数组中正确得到了中文字符的GBK编码。字符“你”“好”“！”的GBK编码分别是：“c4e3”“bac3”“a3a1”。得到了正确的以GBK编码的字节数组，以后需要还原为中文字串时，可以使用下面方法： 




new String(byte[] bytes, String charset) 





　　 mysql 不支持 unicode，所以比较麻烦。 

　　 将 connectionString 设置成 encoding 为 gb2312 

　　 String connectionString 

　　 = "jdbc:mysql://localhost/test?useUnicode=true&characterEncoding=gb2312"; 

　　 

　　测试代码： 

　　 String str = "汉字"; 

　　 PreparedStatement pStmt = conn.prepareStatement("INSERT INTO test VALUES (?)"); 

　　 pStmt.setString(1,str); 

　　 pStmt.executeUpdate(); 

　　 

　　数据库表格： 

　　 create table test ( 

　　 name char(10) 

　　 ) 

　　 

　　 

　　连接 Oracle Database Server 

　　------------------------------------------------------------------------------- 

　　 在把汉字字符串插入数据库前做如下转换操作： 

　　 String(str.getBytes("ISO8859_1"),"gb2312") 

　　 

　　测试代码： 

　　 String str = "汉字"; 

　　 PreparedStatement pStmt = conn.prepareStatement("INSERT INTO test VALUES (?)"); 

　　 pStmt.setString(1,new String(str.getBytes("ISO8859_1"),"gb2312"); 

　　 pStmt.executeUpdate(); 

　　 

　　 

　　Servlet 

　　------------------------------------------------------------------------------- 

　　 在 Servlet 开头加上两句话： 

　　 response.setContentType("text/html;charset=UTF-8"); 

　　 request.setCharacterEncoding("UTF-8"); 





============================================================================ 

Java与Unicode： 




Java的class文件采用utf8的编码方式，JVM运行时采用utf16。 




Java的字符串是unicode编码的。 




总之，Java采用了unicode字符集，使之易于国际化。 




Java支持哪些字符集： 




即Java能识别哪些字符集并对它进行正确地处理？ 




查看Charset 类，最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。 




Java代码 

assertEquals(160, Charset.availableCharsets().size()); 


Set<String> charsetNames = Charset.availableCharsets().keySet(); 


assertTrue(charsetNames.contains("utf-8")); 

assertTrue(charsetNames.contains("utf-16")); 

assertTrue(charsetNames.contains("gb2312")); 


assertTrue(Charset.isSupported("utf-8")); 


需要在哪些时候注意编码问题？ 




1. 从外部资源读取数据： 




这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据： 




Java代码 

InputStream is = new FileInputStream("res/input2.data"); 

InputStreamReader streamReader = new InputStreamReader(is, "GB18030"); 



这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证： 




Java代码 

assertEquals("GB18030", streamReader.getEncoding()); 


正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）： 




Java代码 

char[] chars = new char[is.available()]; 

streamReader.read(chars, 0, is.available()); 

但我们经常写的代码就像下面这样： 




Java代码 

InputStream is = new FileInputStream("res/input2.data"); 

InputStreamReader streamReader = new InputStreamReader(is); 


这时候InputStreamReader采用什么编码方式读取外部资源呢？Unicode？不是，这时候采用的编码方式是JVM的默认字符集，这个默认字符集在虚拟机启动时决定，通常根据语言环境和底层操作系统的 charset 来确定。可以通过以下方式得到JVM的默认字符集： 




Java代码 

Charset.defaultCharset(); 

为什么要这样？因为我们从外部资源读取数据，而外部资源的编码方式通常跟操作系统所使用的字符集一样，所以采用这种默认方式是可以理解的。 




好吧，那么我通过我的IDE Ideas创建了一个文件，并以JVM默认的编码方式从这个文件读取数据，但读出来的数据竟然是乱码。为何？呵呵，其实是因为通过Ideas创建的文件是以utf-8编码的。要得到一个JVM默认编码的文件，通过手工创建一个txt文件试试吧。 




2. 字符串和字节数组的相互转换 




我们通常通过以下代码把字符串转换成字节数组： 




Java代码 

"string".getBytes(); 


但你是否注意过这个转换采用的编码呢？其实上面这句代码跟下面这句是等价的： 




Java代码 

"string".getBytes(Charset.defaultCharset()); 


也就是说它根据JVM的默认编码（而不是你可能以为的unicode）把字符串转换成一个字节数组。 




反之，如何从字节数组创建一个字符串呢？ 




Java代码 

new String("string".getBytes()); 


同样，这个方法使用平台的默认字符集解码字节的指定数组（这里的解码指从一种字符集到unicode）。 






字符串编码迷思： 




Java代码 

new String(input.getBytes("ISO-8859-1"), "GB18030")

上面这段代码代表什么？有人会说： “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确，那么又如何解释我们刚提到的java字符串都采用unicode编码呢？

这种说法不仅是欠妥的，而且是大错特错的，让我们一一来分析，其实事实是这样的：我们本应该用GB18030的编码来读取数据并解码成字符串，但结果却采用了ISO-8859-1的编码，导致生成一个错误的字符串。要恢复，就要先把字符串恢复成原始字节数组，然后通过正确的编码GB18030再次解码成字符串（即把以GB18030编码的数据转成unicode的字符串）。注意，字符串永远都是unicode编码的。

但编码转换并不是负负得正那么简单，这里我们之所以可以正确地转换回来，是因为 ISO8859-1 是单字节编码，所以每个字节被按照原样转换为 String ，也就是说，虽然这是一个错误的转换，但编码没有改变，所以我们仍然有机会把编码转换回来！

总结：

所以，我们在处理java的编码问题时，要分清楚三个概念：Java采用的编码：unicode，JVM平台默认字符集和外部资源的编码。

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。