TI-Nspire & Lua / Fehlberg 法 3 / 0 ~ 1 の範囲の数を 2^-n に floor する (それ以外は普通に floor する)、それに意味のないとき

参考: パソコンで見る天体の動き, p.103-109

function floorB(num)
   if (num > 0) and (num < 1) then 
      return 2^math.floor(math.log(num)/math.log(2))
   else 
      return math.floor(num)
   end
end

-- 確かめる
print(floorB(0.1), floorB(0.2), floorB(0.8), floorB(10.3), floorB(20))

f:id:ti-nspire:20170603061540p:plain:w400

広告を非表示にする