萬盛學電腦網

 萬盛學電腦網 >> Linux教程 >> Linux下如何將UTF8編碼批量轉換成GB2312編碼

Linux下如何將UTF8編碼批量轉換成GB2312編碼

  UTF8編碼和GB2312編碼是有區別的,在sqlplus中導入UTF8編碼的sql腳本就會出現亂碼錯誤,這時就需要將UTF8編碼轉換成GB2312編碼,可是一個個的轉換十分麻煩,下面小編就教你如何在Linux下將UTF8編碼批量轉換成GB2312編碼。

 Linux下如何將UTF8編碼批量轉換成GB2312編碼

  背景

  本人在使用oracle的sqlplus批量導入UTF8編碼的sql腳本時,由於不了解如何設置讓sqlplus識別UTF8格式,導致出現亂碼、錯行等錯誤,而使工作無法繼續,在google無果的情況下只好想辦法轉換編碼。

  由於文件較多,手動轉換太麻煩,於是想到用腳本批量轉換,幸好網上相關腳本比較多,實現起來唯一的麻煩是UTF8的BOM標記。

  內容:

  代碼如下:

  #!/bin/bash

  for loop in `find 。 -type f -name “*.sql” -print`do

  echo $loop

  mv -f $loop $loop.tmp

  dos2unix $loop.tmp

  file_check_utf8=‘file_check_utf8.log’

  sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then

  echo ‘UTF-8 BOM’

  sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt

  rm -rf $loop.tmp

  elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then

  echo ‘UTF-8’

  iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp

  else

  echo ‘ANSI’

  mv -f $loop.tmp $loop

  fi

  rm -rf $file_check_utf8

  #模擬unix2dos,要求文本文件最後一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop

  done

  #!/bin/bash

  for loop in `find 。 -type f -name “*.sql” -print`do

  echo $loop

  mv -f $loop $loop.tmp

  dos2unix $loop.tmp

  file_check_utf8=‘file_check_utf8.log’

  sed -n ‘1l’ $loop.tmp 》$file_check_utf810. if grep ‘^\\357\\273\\277’ $file_check_utf8 》/dev/null 2》&111. then

  echo ‘UTF-8 BOM’

  sed -n -e ‘1s/^.。。//’ -e ‘w intermediate.txt’ $loop.tmp14. iconv -f UTF-8 -t GB2312 -o $loop intermediate.txt15. rm -rf intermediate.txt

  rm -rf $loop.tmp

  elif iconv -f UTF-8 -t GB2312 $loop.tmp 》/dev/null 2》&118. then

  echo ‘UTF-8’

  iconv -f UTF-8 -t GB2312 -o $loop $loop.tmp21. rm -rf $loop.tmp

  else

  echo ‘ANSI’

  mv -f $loop.tmp $loop

  fi

  rm -rf $file_check_utf8

  #模擬unix2dos,要求文本文件最後一行必須有換行符28. sed -n -e ‘s/$/\r/g’ -e ‘w ’$loop.tmp $loop29. mv -f $loop.tmp $loop

  done

  解釋

  1.處理UTF8的BOM,本人沒有找到好的辦法,最後用sed+grep判斷了一下,如果前三個字節是\\357\\273\\277,則文件必定是UTF8,用sed去掉這三個字節再轉換

  2.為了避免重復或者遺漏,腳本中用iconv對沒有BOM的文件嘗試轉換了一把,轉換成功說明文件是UTF8,否則說明是ANSI也就是GB2312

  3.關於最後的sed命令,那是因為本人的系統上沒有unix2dos命令,所以進行了模擬,目的是為了方便自己在windows下查看和編輯

  以上就是Linux下將UTF8編碼批量轉換成GB2312編碼的方法介紹了,轉換後就能解決亂碼等問題,可使用命令鏡像批量轉換,你學會了嗎?

copyright © 萬盛學電腦網 all rights reserved