что делать с принятыми байтами - зависит от того в какой среде разработки вы пишите свой код.
Это обычный Float IEEE754 (32-битный), а далее гугл в помощь.
Для проверки можете использовать онлайн-конвертер -
http://www.binaryconvert.com/result_float.html?hexadecimal=3C65B02CЧто касается читаемого значения, надо смотреть документацию - список модбас-регистров на этот прибор.
Похоже, что по модбас расход передается в м3/сек.
Float "3С 65 B0 2C" - это число "0.014", если это м3/сек, то в м3/час расход получается:
Q = 0.014 * 3600 = 50.4 м3/ч, то есть примерно как у вы и ожидаете.