Тема: округление после преобразования фурье
В статье стоит исправить
int(fa[i].real() + 0.5)
на что-нибудь типа
int(floor(fa[i].real() + 0.5))
, потому что каст округляет в сторону нуля, а не минус бесконечности. Я около часа это дебажил
Вы не вошли. Пожалуйста, войдите или зарегистрируйтесь.
MAXimal :: φορυμ » Algo » округление после преобразования фурье
Страницы 1
Чтобы отправить ответ, вы должны войти или зарегистрироваться
В статье стоит исправить
int(fa[i].real() + 0.5)
на что-нибудь типа
int(floor(fa[i].real() + 0.5))
, потому что каст округляет в сторону нуля, а не минус бесконечности. Я около часа это дебажил
+1. Тоже сегодня это заметил... -6.99 например плюс +0.5 станет -6...
@a13n значит с fft она всетаки должна пройти...
Страницы 1
Чтобы отправить ответ, вы должны войти или зарегистрироваться
MAXimal :: φορυμ » Algo » округление после преобразования фурье