容易引起問題的隱式精度轉換

最近項目中有需求對存有 ARGB8888 數(shù)據(jù)的 Bitmap 進行基于原值的透明度(alpha 值)調整,要對每個像素的 alpha byte 處理。

問題

下表描述了 byte 類型在圖像處理和 Java 中分別的表達范圍

領域 符號 表達范圍
圖像處理 unsigned [0..255]
Java signed [-128..127]

假設 Bitmap 中某像素的 alpha byte 二進制表示為 1000 0000
解析為 unsigned 時數(shù)值為 128,而 signed 時則為 -128。

此時如果想將它減半,期望為 128 / 2 = 64 (0100 0000)。
因此在所有數(shù)值都被作為 signed 解析的 Java 中,進行以上計算會出現(xiàn)問題。

1: byte a = (byte) 128; // int 128 的高 24 位被截斷,成為 1000 0000
2: System.out.println(a); // 輸出 -128,證明被作為 signed 解析了
3: byte b = (byte) (a / 2); // alpha 值減半,-128 / 2 = -64
4: System.out.println(b); // 輸出 -64 (1100 0000)

很明顯這與期望的 64 (0100 0000) 不同,如果把在 Java 中計算后的結果保存起來,在圖像處理中該 alpha 會被解釋為 192 (1100 0000)

精度轉換

當 2 個不同類型的數(shù)值進行計算時,精度較低的其中 1 個必須先轉換為精度較高的類型,然后再繼續(xù)進行計算。

隱式轉換

以上第 3 行代碼中類型為 bytea 精度比類型為 inta 低,所以需要被隱式轉換為 int,那么將這行代碼分為 3 步。

  1. 隱式轉換 aint: int t = a
  2. 開始計算: int t1 = t / 2
  3. int 截斷轉為 byte: byte b = (byte) t1

引起問題的隱式精度轉換

其實引起問題的是以上的步驟 1,當 byte 轉換為 int 時,最高位的值會被用作填充轉換后 int 的高 24 位。

a (1000 0000)
隱式轉換為
t (1111 1111 1111 1111 1111 1111 1000 0000)

這時 t 在 Java 中被解析為 -128,因此步驟 2 的計算會有問題。

解決方法

在步驟 1 后插入一個與操作 t = t & 0xff,將高 24 位的值置為 0

t (1111 1111 1111 1111 1111 1111 1000 0000)
&
0xff (0000 0000 0000 0000 0000 0000 1111 1111)
=
t (0000 0000 0000 0000 0000 0000 1000 0000)

這時 t 在 Java 中被解析為 128,這時拿去計算就可以得到預期結果了。

那么將源代碼改一下如下

3: byte b = (byte) ((a & 0xff) / 2); // alpha 值減半,128 / 2 = 64

內置方法

其實也可以用 int Byte:toUnsignedInt(byte) 去達到相同的效果,原理是一樣的。

public static int toUnsignedInt(byte x) {
    return ((int) x) & 0xff;
}
3: byte b = (byte) (Byte.toUnsignedInt(a) / 2); // alpha 值減半,128 / 2 = 64
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,963評論 6 542
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,348評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,083評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,706評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,442評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,802評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,795評論 3 446
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,983評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,542評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,287評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,486評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,030評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,710評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,116評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,412評論 1 294
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,224評論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,462評論 2 378

推薦閱讀更多精彩內容

  • 1 關鍵字 1.1 關鍵字的概述 Java的關鍵字對java的編譯器有特殊的意義,他們用來表示一種數(shù)據(jù)類型,或...
    哈哈哎呦喂閱讀 670評論 0 0
  • 1.編譯程序(1)gcc xx.c,他會默認生成一個a.out的可執(zhí)行文件,在a.out所在目錄,執(zhí)行./a.o...
    萌面大叔2閱讀 1,314評論 0 1
  • 1.編譯程序 (1)gcc xx.c,他會默認生成一個a.out的可執(zhí)行文件,在a.out所在目錄,執(zhí)行./a....
    萌面大叔2閱讀 494評論 0 1
  • C語言基礎 編譯程序 gcc xx.c,他會默認生成a.out的可執(zhí)行文件,在a.out所在目錄,執(zhí)行./a.ou...
    帥碧閱讀 644評論 1 3
  • 凌素雯閱讀 169評論 0 0