Есть способ проще. Любые биты или группу бит можно проверить битовой маской: if ((buf[5] & 0x70) >> 4 == 7) - проверяем 5,6,7 биты, если они все в 1, то условие срабатывает.
Для наглядности маску можно написать в битовом виде: if ((buf[5] & B01110000) >> 4 == 7)
|