я не Юрий, но кое-что понимаю.....
1) выход TO-INT ограничен всё же 32 битами, в подтверждение попробуйте перевести из INT в FLOAT и обратно 4294967040
а потом сделайте к нему fADD 768, и посмотрите....
2) вещественное число - это мантисса и экспонента, в сумме они занимают 32 бита, из них 24 бита мантисса и 8 бит экспонента
тот пример который вы привели
это вы упёрлис в округление младших бит...