Also ich kann dir aus eigener Erfahrung sagen, dass generell eine Konvertierung AUS dem pdf dann ein graus wird, sobald ausgefallene Symbole, Graphen etc. auftauchen bzw. die PDF-Datei unsauber erstellt wurde.
Vielleicht hilft es, wenn du die PDF Datei zuerst mit einem ordentlichen PDF-Konvertierer in ein andere Format konvertierst und mit diesem dann Calibre speist. leider sind die besseren Programme meist kostenpflichtig, aber vielleicht gibt es ja eine Testversion z.B. von den Abbyy-Produkten