Немного не в тему, но тут больше вероятность получить правильный ответ.
Актуальны ли еще вычисления с фиксированной запятой или сопроцессоры уже догнали своих "старших братьев" и заморачиваться смысла нет?
Нужно ускорить работу нейросетей, но ресурсов для этого уже нет. Сейчас работаю с типом single.
Если переведу все на сабж, можно ли получить ускорение работы?

Уверены? В алгоритмах определены все места, критичные к производительности, и код их оптимизирован на все 100?

Если уверены, то перевод врядли даст значительный прирост производительности

Уверен :-(
По сравнению с первоначальной версией ускорение примерно раз в 15 получил. Поменял все, включая структуры данных и организацию списков.
Ладно, буду дальше думать.

Если с кодом все в порядке, то нужно использовать методы увеличения скорости обучения, например генетические алгоритмы. Если не секрет, то расскажите подробнее про разработку.

Секретов пока нет. В отличие от всего, что видел в инете, моя сеть может иметь любую топологию (не только многослойный перцептрон), даже петли можно делать, может сохраняться на диск (весьма компактно, в бинарном виде), умеет скрещиваться с себе подобными и мутировать (как раз ГА, реализовано в конструкторе). Правда мутация пока ограничивается только сильными изменением весов (встряска, по сути дела).
Ну и быстрая она, конечно.
Исходников, к сожалению, не дам :-), делается для коммерческого проекта. А так побеседовать - пожалуйста.

Математику с фиск. запятой планирую на асме делать. Ну не верю я, что это ничего не даст :`-(