Skip to content

Ctranslate2

https://github.com/OpenNMT/CTranslate2

Fast inference engine for Transformer models

2025年04月03日13:51:54，目前最新的ctranslate2版本为4.5.0

Invalid handle. Cannot load symbol cudnnCreateTensorDescriptor

Unable to load any of {libcudnn_ops.so.9.1.0, libcudnn_ops.so.9.1, libcudnn_ops.so.9, libcudnn_ops.so}
Invalid handle. Cannot load symbol cudnnCreateTensorDescriptor
Aborted (core dumped)

# 卸载已经安装的PyTorch
pip uninstall torch torchaudio

# 安装CUDA11.8的PyTorch
pip3 install torch torchaudio --index-url https://download.pytorch.org/whl/cu118

# 安装CUDA Toolkit 11.8和CUDNN 8.9
conda install "cudnn<9" -y

# 安装旧版CTranslate2
pip install "ctranslate2==4.4.0"

ctranslate2 ImportError: libctranslate2

问题描述：

ctranslate2 ImportError: libctranslate2-de03ae65.so.4.0.0: cannot enable executable stack as shared object requires: Invalid argument

原因分析： 这种问题一般出现在Arch Linux这种滚动更新的Linux发行版本上，由于glibc版本太新。

解决方案： 最简单的办法就是， 装个Ubuntu 22.04(装个Ubuntu这种glibc版本比较旧的)

或者参考下面的网址降级glibc https://github.com/OpenNMT/CTranslate2/issues/1849