Deploy.md

部署

源码编译

常见选项

• --config Debug|Release
• -DBUILD_SHARED_LIBS=ON|OFF
• -DCMAKE_BUILD_TYPE=Debug|Release

Linux

编译环境

sudo apt install build-essential

sudo apt install gcc-11 g++-11
sudo apt install gcc-12 g++-12

sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-11 11
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-12 12

sudo update-alternatives --config  gcc
sudo update-alternatives --display gcc

依赖下载

build.yml

编译命令

mkdir build
cd build
cmake ..
make -j
make install

mkdir build
cd build
cmake ..
cmake --build . -j
cmake --build . --parallel 8
cmake --install .

Windows

编译环境

• https://visualstudio.microsoft.com/zh-hans/downloads/

依赖下载

# 配置环境
VCPKG_DEFAULT_TRIPLET=x64-windows

# 安装依赖
vcpkg install fltk:x64-windows
vcpkg install faiss:x64-windows
vcpkg install opencv:x64-windows
vcpkg install spdlog:x64-windows
vcpkg install yaml-cpp:x64-windows
vcpkg install cpp-httplib:x64-windows

# 导出依赖
vcpkg export fltk        --zip
vcpkg export faiss       --zip
vcpkg export opencv      --zip
vcpkg export spdlog      --zip
vcpkg export yaml-cpp    --zip
vcpkg export cpp-httplib --zip

• OpenCV可以直接官网下载
• faiss[gpu]支持GPU计算

编译命令

mkdir build
cd build
cmake -G "Visual Studio 17 2022" ..
cmake --build . -j
cmake --build . --parallel 8
cmake --install .

• cmake -A x64 ..
• cmake -G "Visual Studio 17 2022 Win64" ..

开发环境

• https://code.visualstudio.com/

模型

• https://hf-mirror.com/models
• https://huggingface.co/models

数据集

• https://hf-mirror.com/datasets
• https://huggingface.co/datasets
• https://github.com/chinese-poetry/chinese-poetry
• https://github.com/chinese-poetry/chinese-poetry-zhCN

服务部署

服务部署

模型优化

模型微调

线上部署

一般来说如果租用线上GPU服务器非常贵，所以建议应用服务放到线上，AI相关服务本地部署使用frp/autossh内网穿透软件为线上应用提供服务。

资源下载

• https://pan.baidu.com/s/1mNAXgaBV6lTQ1qkeFtnOtA?pwd=33p1