Книги — symbolic execution

Практический анализ двоичных файлов. Как самому создать в Linux инструментарий для оснащения, анализа и дизассемблирования двоичных файлов