画像処理 オーバーフロー

画像処理
uint8は256(0から255)だがこの範囲をこえるとオバーフローとなる

例)

import numpy as np

num0 = np.uint8(0)
print(num0)

num255 = np.uint8(255)
print(num255)

num256 = np.uint8(256)
print(num256)

num257 = np.uint8(257)
print(num257)

num_minus1 = np.uint8(-1)
print(num_minus1)

num_minus2 = np.uint8(-2)
print(num_minus2)

⇒結果
0
255
0
1
255
254

255をこえて256は1周まわって0になる(257はその次の1)
-1は逆に1周まわって255になる(-2はその次の2)
エラーが返ってこないのでむしろ注意。

0 件のコメント:

コメントを投稿

python print

print_pythonnote print ¶ 言葉や数値を出力する ¶ In [ ]: print ( "...