accelerate tta inference; fix bug

实现了batch推理、batch解码，加速了tta选项开启后的推理速度。 修复了打开tta选项后，设备为cuda时程序会报错的错误。