...践中完成了线上部署,在此做一下记录与总结 一、购买服务器 服务器选择:服务器的品牌有很多,如亚马逊、阿里云、腾讯等等,各大厂商之间的产品、服务各不相同,但请尽量选择靠谱的产品,在这里我选择的是阿里云,因...
...unJDK。 第一步跟MySQL安装方式相同,首先将jdk8上传到远程服务器; 解压 tar -zxvf jdk-8... 修改/etc/profile文件,添加环境变量: JAVA_HOME=/java/jdk/jdk1.8.0_181 CLASSPATH=$JAVA_HOME/lib/ PATH=$PATH:$JAVA_HOME/bin export PATH JAVA_HOME CLA...
...Docker hub下载速度慢和经常性抽风,于是在自己的主机上搭建registry存放 image,简述搭建过程和列出遇到的坑。 准备工作 docker容器启动配置文件 使用官方的镜像 暴露5000端口 registry的image会存在 /tmp/registry中,如果主机重启了image...
ChatGPT和Sora等AI大模型应用,将AI大模型和算力需求的热度不断带上新的台阶。哪里可以获得...
大模型的训练用4090是不合适的,但推理(inference/serving)用4090不能说合适,...
图示为GPU性能排行榜,我们可以看到所有GPU的原始相关性能图表。同时根据训练、推理能力由高到低做了...