1. 卸载现有驱动：

   sudo apt --purge remove nvidia*
   sudo apt autoremove

2. 通过ubuntu-drivers autoinstall自动安装或从官网下载对应版本驱动
3. 安装NVIDIA容器工具包，以实现Docker对GPU的调用

   # 添加仓库
   distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
   curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
   curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
   # 安装工具包，以实现Docker对GPU的调用
   sudo apt-get update
   sudo apt-get install -y nvidia-container-toolkit
   sudo systemctl restart docker

4. 编辑/etc/docker/daemon.json文件

   {
   "default-runtime": "nvidia",
   "runtimes": {
   "nvidia": {
     "path": "/usr/bin/nvidia-container-runtime",
     "runtimeArgs": []
   }
   }
   }

5. 执行sudo systemctl restart docker重启服务
6. 安装完成后验证：nvidia-smi
7. 最后重启系统使更改生效

1. 若之前尝试过安装，先移除残留配置

   sudo apt remove docker-compose
   sudo rm -f /etc/apt/sources.list.d/docker.list

2. 添加Docker官方GPG密钥

   sudo mkdir -m 0755 -p /etc/apt/keyrings
   sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
   sudo chmod a+r /etc/apt/keyrings/docker.asc

   3.‌ 配置官方仓库

   echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu noble stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

3. 刷新并安装，‌检查版本：docker compose version

   sudo apt update
   sudo apt install docker-compose-plugin

基础操作命令：

1. ‌停止所有运行中的容器

   docker stop $(docker ps -q)

2. 删除所有容器（包括已停止的）

   docker rm $(docker ps -aq)

3. 强制删除方案，针对卡死的容器

   docker rm -f $(docker ps -aq)

4. 执行docker-compose.yaml文件

   docker compose up -d

   配置国内镜像源：

5. 创建文件

   nano  /etc/docker/daemon.json

6. 添加加速地址

   {
   "registry-mirrors":[
   "https://docker.xuanyuan.me",
   "https://docker.1ms.run",
   "https://docker.m.daocloud.io"
   ]
   }

7. 加载重启服务

   systemctl daemon-reload && systemctl restart docker

8. 验证配置

   docker info | grep -A 10 -i "registry mirrors"

安装部署dify详见参考文档https://github.com/langgenius/dify/blob/main/README_CN.md
dify使用手册https://docs.dify.ai/zh-hans/introduction
安装部署coze详见参考文档https://github.com/coze-dev/coze-studio/blob/main/README.zh_CN.md

注：若需保留环境变量灵活性，建议在.env文件中统一管理IP配置。（127.0.0.1改成0.0.0.0，这样局域网内主机能访问）

coze开源调用本地ollama模型：

1. 拉取模型，确保本机能运行
2. 进入到下载的coze-studio文件目录下/backend/conf/model/template中，复制并修改*_ollama.yaml文件到/coze-studio/backend/conf/model/下，名字修改为模型名称，编辑复制过来的yaml文件，修改里面的name、meta.conn_config.model、meta.conn_config.base_url即可
3. 进入coze-studio的docker目录重启服务，使配置生效

   docker compose --profile "*" restart coze-server

大模型应用的技术架构
AI>software>world
AI世界分三类人：AI使用者、AI产品开发者、基础大模型相关

调用大模型，相当于调动一个人
TA懂人话
TA说人话
TA直接给结果，但不一定对

核心心法：把AI当人看
范式变化所在，所有方案的源泉

给大模型布置任务-Prompt Engineering（提示词工程）
适用场景：知识问答、情报分析、写作、编程、文本加工处理。。。
应用程序→prompt→大模型→response→应用程序
人和人对话，程序和LLM对话都要：指令具体、信息丰富、尽量少歧义

给大模型新知识-RAG（检索增强生成）（即时性，现找）
适用场景：智能知识库、智能诊断、数字分身、带例子的Prompt Eng.（Few-shot）...
人找知识，会查资料，LLM找知识，要查向量数据库，向量检索可以找到相似的
传统数据库查找数据是匹配，存在不匹配的情况就无法查找
向量数据库，维度查找，使用余弦算法越小越相似，基于相似度，类似语意查找，相似即可
应用程序→知识线索→（知识→Embeddings→向量数据库）→相关知识→Prompt→大模型→response→应用程序
接口只有提示词，和大模型互动

让大模型深度理解知识-Fine-tuning（微调）（反应快，提前训练）全量或非全量
适用场景：智能知识库、智能诊断、数字分身、带例子的Prompt Eng.（Few-shot）...
人阅读、背诵、理解资料，LLM进行增量机器学习训练
应用程序→知识线索→（知识→Embeddings→向量数据库）→相关知识→Prompt→垂直大模型（Fine-tuning（Retieval-Augmented Generation（知识→Embeddings→向量数据库）））→基础大模型→垂直大模型→response→应用程序

让大模型对接外界-Function Calling（调用函数、APIs（Agent用JSON格式反向提出要求）、工具）
适用场景：智能助手、下一代搜索引擎、机器人、Agent...
推理能力是智能体的核心技能之一，
应用程序→prompt→垂直大模型→Agent（基础大模型）→Function Calling→应用程序→调用→APIs→返回结果→prompt→大模型→response→应用程序

大模型应用的知识体系
场景：智能客服 智能知识库 智能数据分析 智能情报分析 智能助手

官网、熟悉名词术语、要有知识体系、系统学习能力

• 两台镜像仓库，模拟生产环境高可用

  节点类型	数量	CPU	内存	磁盘	主机名	IP	关键服务/组件
  私有镜像库节点	2	4核	4G	40G	harbor1,harbor2	10.31.3.241-242/16; 10.31.3.250/16(VIP)	Harbor, contained, cni, nerdctl, HAProxy, Keepalived

• 没有说明是某个节点单独运行的，需要每个节点都执行

• 主要组件版本：harbor 2.13.2，containerd 1.7.27， cni 1.7.1， nerdctl 2.1.3

二、 配置环境

1. 基础环境配置

# 1. 配置阿里云Ubuntu镜像源
sudo sed -i 's|archive.ubuntu.com|mirrors.aliyun.com|g' /etc/apt/sources.list
sudo sed -i 's|security.ubuntu.com|mirrors.aliyun.com|g' /etc/apt/sources.list

# 2. 安装必要依赖
sudo apt update && sudo apt upgrade -y
sudo apt install -y  chrony containerd iptables haproxy keepalived rsync

# 3. 配置时间同步，timedatectl查看当前时间/时区
sudo timedatectl set-timezone Asia/Shanghai
sudo systemctl enable chrony && sudo systemctl start chrony

# 4.1 设置主节点主机名为harbor1
sudo hostnamectl set-hostname harbor1
# 4.2 设置备节点主机名为harbor2
sudo hostnamectl set-hostname harbor2

# 5.1 harbor1编辑固定IP为10.31.3.241，也可在路由器上操作mac与IP的绑定
cat <<EOF | sudo tee /etc/netplan/50-cloud-init.yaml
network:
  version: 2
  ethernets:
    enp6s18:
      dhcp4: no
      addresses: [10.31.3.241/16]
      routes:
        - to: default
          via: 10.31.0.1
      nameservers:
        addresses: [10.31.0.1, 223.5.5.5]
EOF

# 5.2 harbor2编辑固定IP为10.31.3.242，应用网络修改运行netplan apply
cat <<EOF | sudo tee /etc/netplan/50-cloud-init.yaml
network:
  version: 2
  ethernets:
    enp6s18:
      dhcp4: no
      addresses: [10.31.3.242/16]
      routes:
        - to: default
          via: 10.31.0.1
      nameservers:
        addresses: [10.31.0.1, 223.5.5.5]
EOF

# 6. 添加主机解析，10.31.3.250为后面负载均衡虚拟的VIP地址，确认局域网内没有被占用
cat <<EOF | sudo tee -a /etc/hosts
10.31.3.241 harbor1
10.31.3.242 harbor2
10.31.3.250 harbor.mysen.top
EOF

# 7. 配置ssh启用root密码登录，方便后续传输证书
echo "PermitRootLogin yes" | sudo tee -a /etc/ssh/sshd_config
systemctl restart ssh
passwd root #设置root密码

2. ‌配置containerd‌

# 1. 生成默认配置再修改部分参数，验证安装containerd --version，重启容器systemctl restart containerd
sudo mkdir -p /etc/containerd
containerd config default | sudo tee /etc/containerd/config.toml
sudo sed -i 's|SystemdCgroup = false|SystemdCgroup = true|g' /etc/containerd/config.toml
sudo sed -i 's|registry.k8s.io/pause:3.8|registry.aliyuncs.com/google_containers/pause:3.10|g' /etc/containerd/config.toml

# 2. 安装加载cni网络插件（自行科学上网）
wget https://github.com/containernetworking/plugins/releases/download/v1.7.1/cni-plugins-linux-amd64-v1.7.1.tgz
sudo mkdir -p /opt/cni/bin && sudo tar -xzvf cni-plugins-linux-amd64-v1.7.1.tgz -C /opt/cni/bin

# 3. 安装配置nerdctl‌，验证安装运行nerdctl --version
wget https://github.com/containerd/nerdctl/releases/download/v2.1.3/nerdctl-2.1.3-linux-amd64.tar.gz
sudo tar Cxzvvf /usr/local/bin nerdctl-2.1.3-linux-amd64.tar.gz
sudo nerdctl network create --subnet 172.20.0.0/16 harbor-net

# 4. 创建compose，验证compose version，替代docker-compose
sudo tee /usr/local/bin/compose <<'EOF'
#!/bin/bash
nerdctl compose "$@"
EOF
sudo chmod +x /usr/local/bin/compose

# 5. 环境变量配置，添加必要别名以及创建符号链接，替代docker命令
echo "alias docker='nerdctl'" >> ~/.bashrc
echo "alias docker-compose='nerdctl compose'" >> ~/.bashrc
source ~/.bashrc
sudo ln -s /usr/local/bin/nerdctl /usr/local/bin/docker
sudo ln -s /usr/local/bin/nerdctl-compose /usr/local/bin/docker-compose

3. 生成证书

# 1. 创建证书目录并进入(两个节点都创建目录后，证书的后续2-7步操作都在harbor1节点上操作)
sudo mkdir -p /data/cert && cd /data/cert

# 2. 生成CA证书‌，OpenSSL 3.0+生成的私钥默认使用PKCS#8格式，而Harbor 2.13.2需要PKCS#1格式
openssl req -x509 -nodes -days 365 -newkey rsa:2048 -keyout ca.key -out ca.crt -subj "/CN=harbor.mysen.top"

# 3. ‌生成服务器证书‌
openssl req -new -newkey rsa:2048 -nodes -keyout harbor.mysen.top.key -out harbor.mysen.top.csr -subj "/CN=harbor.mysen.top"

# 4. 生成x509 v3扩展文件
cat > v3.ext <<-EOF
authorityKeyIdentifier=keyid,issuer
basicConstraints=CA:FALSE
keyUsage = digitalSignature, nonRepudiation, keyEncipherment, dataEncipherment
extendedKeyUsage = serverAuth
subjectAltName = @alt_names

[alt_names]
DNS.1=harbor.mysen.top
IP.1 = 10.31.3.250
IP.2 = 10.31.3.241
IP.3 = 10.31.3.242
EOF

# 5. 使用CA签发证书
openssl x509 -req -days 365 -extfile v3.ext -in harbor.mysen.top.csr -CA ca.crt -CAkey ca.key -CAcreateserial -out harbor.mysen.top.crt

# 6. 合并证书为PEM格式，并设置权限，harbor.mysen.top.pem用于haproxy，harbor.pem用于harbor.yml
cat harbor.mysen.top.key harbor.mysen.top.crt > harbor.mysen.top.pem
chmod 600 harbor.mysen.top.pem
cat ca.crt harbor.mysen.top.crt > harbor.pem
chmod 600 harbor.pem

# 7. 同步证书到harbor2节点
rsync -avz /data/cert/ root@harbor2:/data/cert/

# 8. 两个节点添加CA证书信任
sudo cp /data/cert/ca.crt /usr/local/share/ca-certificates/
sudo cp /data/cert/harbor.mysen.top.crt /usr/local/share/ca-certificates/
sudo update-ca-certificates --fresh

4. 部署Harbor

# 1. 下载Harbor离线安装包，解压并进入目录
sudo wget https://github.com/goharbor/harbor/releases/download/v2.13.2/harbor-offline-installer-v2.13.2.tgz
sudo tar xvf harbor-offline-installer-v2.13.2.tgz && cd harbor

# 2. 复制默认配置文件，修改hostname为harbor.mysen.top，修改https证书路径
cp harbor.yml.tmpl harbor.yml
sudo sed -i 's|reg.mydomain.com|harbor.mysen.top|g' /root/harbor/harbor.yml
sudo sed -i 's|/your/certificate/path|/data/cert/harbor.pem|g' /root/harbor/harbor.yml
sudo sed -i 's|/your/private/key/path|/data/cert/harbor.mysen.top.key|g' /root/harbor/harbor.yml

# 3. 使用创建的网络配置
cat <<EOF | sudo tee -a /root/harbor/harbor.yml
network:
  name: harbor-net
  external: true
EOF

# 4. 修改Harbor安装脚本，docker-compoes替换为compose，注释掉Docker检查部分
sudo sed -i 's|=docker-|=|g' /root/harbor/install.sh
sudo sed -i 's/^.*check_docker.*$/#&/' /root/harbor/install.sh
sudo sed -i 's|down|stop \&\& $DOCKER_COMPOSE rm|g' /root/harbor/install.sh

# 5. 修改prepare脚本，替换docker为nerdctl
sudo sed -i 's|docker|nerdctl|g' /root/harbor/prepare

# 6. 使用nerdctl解压生成本地镜像文件，防止在线拉取镜像
nerdctl load -i harbor.v2.13.2.tar.gz

# 7. 安装并启动Harbor，验证在局域网内其他主机上通过浏览器访问https://10.31.3.241或242
sudo ./prepare && sudo ./install.sh

5. 负载均衡

# 1. 配置HAProxy，stats auth后为账号密码
cat <<EOF | sudo tee -a /etc/haproxy/haproxy.cfg

frontend harbor-https
    bind *:443 ssl crt /data/cert/harbor.mysen.top.pem
    mode http
    option httplog
    option forwardfor
    default_backend harbor-backend

backend harbor-backend
    mode http
    balance roundrobin
    server harbor1 10.31.3.241:443 check
    server harbor2 10.31.3.242:443 check

listen stats
    bind *:8080
    mode http
    stats enable
    stats uri /haproxy?stats
    stats realm Haproxy\ Statistics
    stats auth mysen:kubernetes
    stats hide-version
    stats refresh 30s
EOF

# 2. 检查配置语法
sudo haproxy -c -f /etc/haproxy/haproxy.cfg

# 3.  启动HAProxy，验证运行systemctl status haproxy
sudo systemctl restart haproxy && sudo systemctl enable haproxy

# 4.1 配置主节点 (harbor1)的keepalived，根据实际网卡名称修改enp6s18，priority为优先级
sudo tee /etc/keepalived/keepalived.conf <<-'EOF'
global_defs {
    router_id harbor_ha_1
}

vrrp_script chk_haproxy {
    script "killall -0 haproxy"
    interval 2
    weight 2
}

vrrp_instance VI_1 {
    state MASTER
    interface enp6s18
    virtual_router_id 51
    priority 101
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass kubernetes
    }
    virtual_ipaddress {
        10.31.3.250/16
    }
    track_script {
        chk_haproxy
    }
}
EOF

# 4.2 配置备节点（harbor2）keepalived的配置文件，auth_pass后为密码，备节点的优先级低于主节点
sudo tee /etc/keepalived/keepalived.conf <<-'EOF'
global_defs {
    router_id harbor_ha_2
}

vrrp_script chk_haproxy {
    script "killall -0 haproxy"
    interval 2
    weight 2
}

vrrp_instance VI_1 {
    state BACKUP
    interface enp6s18
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass kubernetes
    }
    virtual_ipaddress {
        10.31.3.250/16
    }
    track_script {
        chk_haproxy
    }
}
EOF

# 5. 启动Keepalived，验证运行sudo systemctl status keepalived
sudo systemctl restart keepalived && sudo systemctl enable keepalived

6. 部署验证

# 1. 完整重启服务，确保依赖服务正确启动，先停止haproxy后，进入/root/harbor/目录再执行。
sudo systemctl stop haproxy
cd /root/harbor/ && docker-compose down && docker-compose up -d
sudo systemctl restart haproxy

# 2. 证书验证
md5sum /data/cert/harbor.mysen.top.pem  # 传输后验证文件完整性，两个节点运行对比
openssl verify -CAfile ca.crt harbor.mysen.top.crt  # 验证证书链完整性,OK正常
openssl x509 -in /etc/harbor/ssl/harbor.crt -noout -text | grep -A1 "Subject Alternative Name"  # 验证SAN扩展是否包含所有IP和域名
curl https://10.31.3.242  # 在harbor1上运行，查看返回是否为html标签
curl https://10.31.3.241  # 在harbor2上运行，查看返回是否为html标签
openssl s_client -connect 10.31.3.242:443 -servername harbor.mysen.top | openssl x509 -noout -text  # 在harbor1上运行与下一条命令对比，应该完全一致
openssl s_client -connect 10.31.3.241:443 -servername harbor.mysen.top | openssl x509 -noout -text  # 在harbor2上运行与上一条命令对比，应该完全一致
openssl s_client -connect 10.31.3.250:443 -servername harbor.mysen.top | openssl x509 -noout -text  # 检查HAProxy是否与harbor1/2一致

三、 使用手册

1. 镜像同步

还存在复制问题没有解决？？
其他仓库推送到harbor提示证书问题？？

# 在harbor1的web界面操作：
1.1 在局域网内其他电脑上访问harbor1仓库管理地址https://10.31.3.241（默认账户密码为：admin/Harbor12345）
1.2 点击系统管理的子菜单→仓库管理→新建目标
目标名：harbor2
目标url：https://10.31.3.242
不用输入访问ID和密码，点击测试连接，确定。
1.3 点击系统管理的子菜单→复制管理→新建规则
名称：harbor2
目标仓库：harbor2-https://10.31.3.242
触发模式：事件驱动
勾选删除本地资源时同时也删除远程的资源
其他默认，也可根据需要修改。

# 在harbor2的web界面操作：
1.1 在局域网内其他电脑上访问harbor2仓库管理地址https://10.31.3.242（默认账户密码为：admin/Harbor12345）
1.2 点击系统管理的子菜单→仓库管理→新建目标
目标名：harbor1
目标url：https://10.31.3.241
不用输入访问ID和密码，点击测试连接，确定。
1.3 点击系统管理的子菜单→复制管理→新建规则
名称：harbor1
目标仓库：harbor2-https://10.31.3.241
触发模式：事件驱动，勾选删除本地资源时同时也删除远程的资源
其他默认，也可根据需要修改。

2. 镜像拉取

# 1. 获取Calico 3.30.2官方镜像，typha为大规模集群需要
nerdctl pull calico/cni:v3.30.2
nerdctl pull calico/node:v3.30.2
nerdctl pull calico/kube-controllers:v3.30.2
nerdctl pull calico/pod2daemon-flexvol:v3.30.2
nerdctl pull calico/typha:v3.30.2

3. 镜像推送

# 2. 重新标记并推送至Harbor（根据实际主机名修改）
nerdctl tag calico/cni:v3.30.2 harbor.mysen.pro/library/calico-cni:v3.30.2
nerdctl tag calico/node:v3.30.2 harbor.mysen.pro/library/calico-node:v3.30.2
nerdctl tag calico/kube-controllers:v3.30.2 harbor.mysen.pro/library/calico-kube-controllers:v3.30.2
nerdctl tag calico/pod2daemon-flexvol:v3.30.2 harbor.mysen.pro/library/calico-pod2daemon-flexvol:v3.30.2
nerdctl tag calico/typha:v3.30.2 harbor.mysen.pro/library/calico-typha:v3.30.2

# 3. 推送镜像(需先登录Harbor)
nerdctl login harbor.mysen.pro
nerdctl push harbor.mysen.pro/library/calico-cni:v3.30.2
nerdctl push harbor.mysen.pro/library/calico-node:v3.30.2
nerdctl push harbor.mysen.pro/library/calico-kube-controllers:v3.30.2
nerdctl push harbor.mysen.pro/library/calico-pod2daemon-flexvol:v3.30.2
nerdctl push harbor.mysen.pro/library/calico-typha:v3.30.2

4. 配置k8s拉取私有镜像

四、 其他事项

1. 证书续期

2. 安全加固

3. 监控维护

为了能远程家里电脑，同时映射web网站服务。

拓扑图

配置清单

局域网搭建

根据需求及现有设备，采购配置缺少的设备，确保局域网内设备之间能通信。

服务器配置

1. 服务器部署Proxmox VE，具体部署流程请点这里。

2. 上传windows的ISO以及ubuntu24.04的ISO文件至PVE。
3. 新建虚拟机安装windows系统。
4. 开启远程桌面服务。
5. 新建虚拟机安装ubuntu系统。
6. 部署1panel管理系统。
7. 安装frpc客户端应用。

   NAS存储配置

8. 配置阵列raid 1
9. 启用docker与NFS服务。
10. 拉取jlesage/firefox镜像。
11. 部署火狐浏览器容器。

云服务配置

1、带固定IP的云服务器（阿里云、腾讯云、百度云等等）

2、局域网内能部署docker容器的设备（主机、NAS、路由器等等）
以阿里云为例：
1、创建一个价格最优惠的实例就行（推荐部署Ubuntu22.04 64位 UEFI版），ecs.e-c1m1.large 20G大概26元/月

（图为直接买三年的价格算下来差不多12块/月，2025年7月21日的价格）
1、等待自动部署开机，点击云服务器管理控制台的远程连接登录进系统。
2、安装1panel社区版（注意配置登录端口和路径），完成后通过 http://公网IP:端口/路径 访问1panel管理面板，在应用商店中安装frp服务端实用工具和OpenResty web服务器。
3、根据frp服务端配置的两个端口，在阿里云实例网络与安全中，配置入方向规则。
局域网内主机（联网、linux系统）：
1、安装1panel社区版，部署frp客户端（端口那些和阿里云的一致），部署需要穿透到外网访问的服务。
2、修改frpc.toml文件，添加需要映射的配置信息，重启frp客户端。
阿里云OpenResty：
1、申请免费SSL证书。
2、添加网站反向代理。
注：自行申请域名以及备案。
验证：输入域名访问测试。

从GPT1到GPT4

1. GPT-1（2018年）
   基于12层Transformer解码器架构，参数量1.17亿，首次采用无监督预训练+微调范式，在文本生成任务中展现基础语言理解能力。
2. GPT-2（2019年）
   参数量增至15亿，训练数据达40GB，证明模型规模扩大可显著提升零样本任务表现，生成文本连贯性增强。
3. GPT-3（2020年）
   参数量突破1750亿，引入Few-shot学习能力，支持代码生成等复杂任务，但存在逻辑错误和偏见问题。
4. GPT-4（2023年）
   多模态融合架构，优化推理能力和安全伦理机制，在专业考试和创意写作中达到人类水平。

什么是AI

人工智能（AI）指通过算法模拟人类认知功能的系统，涵盖机器学习、自然语言处理、计算机视觉等领域。其核心目标是使机器具备感知、推理、学习和决策能力。

分析式与生成式AI的区别

GPT是如何训练出来的

1. 预训练：通过海量文本学习语言规律，采用自注意力机制捕捉长距离依赖。
2. 微调：在标注数据上调整模型的参数以适应具体任务。
3. RLHF：通过人类反馈强化学习优化输出质量，如ChatGPT的对话对齐。

AIGC的表现与优势

1. 效率提升：快速生成营销文案或设计草图，比人工快100倍。
2. 成本优化：电商产品描述生成成本降低90%。
3. 创新赋能：辅助科研人员生成蛋白质结构假设，加速药物研发。

AIGC的通用能力应用

1. 医疗：合成匿名病例数据辅助罕见病研究。
2. 教育：为每位学生生成个性化习题。
3. 保险：车险理赔中AI定损将处理时间从3天缩短至25分钟。
4. 文案：快速生成新媒体内容，提高曝光度。

大模型API调用

全球AI发展现状

1. 技术发展前沿：2025年全球AI持续突破，生成式AI和多模态融合和成为核心发展方向（多模态生成技术实现文本到3D模型的跨越），行业定制化生成模型成为新趋势。
2. 全球竞争格局：欧洲4月推出《AI大陆行动计划》，美国7月发布《Winning this AI Race》计划，中国8月发布《关于深入实施“人工智能+”行动的意见》文件。
3. 行业应用深化：医疗健康、国家电网、海尔工厂、钢铁生产、农业创新都在利用AI提高效率。
4. 未来发展趋势：Agentic AI的崛起，从被动响应转向自主执行复杂任务；AI将更深度融入经济社会各领域，推动生产力变革和产业升级。

API调用项目实操

1. 情感分析-Qwen（掌握DashScope调⽤⼤模型）

   • 获取API
     访问阿里云百炼平台：https://bailian.console.aliyun.com/ ，完成注册登录
     点击右上角齿轮，点击API-Key，点击创建API-KEY(建议添加描述，区分用途)，复制API Key
     
     
   • 配置环境
     以Ubuntu24.04为例（系统已默认安装python3）：

     # 1. 安装python虚拟环境组件
     apt install python3-venv
     # 2. 创建名为test虚拟环境，删除直接rm -rf test即可
     python3 -m venv test
     # 3. 激活虚拟环境，后续安装的依赖包都在虚拟环境中不影响全局python，运行deactivate退出虚拟环境
     source test/bin/activate
     # 4. 在虚拟环境中安装依赖包，dashscope用于AI模型开发的库，python-dotenv用于从.env文件中加载环境变量到应用程序中
     pip install dashscope python-dotenv

   • 构建项目

     # 1. 创建项目目录及文件
     mkdir sentiment && cd sentiment/ && touch .env requirements.txt config.py main.py
     # 2. 在.env文件中添加变量为从阿里云百炼获取的API Key，降低API外泄风险
     echo "DASHSCOPE_API_KEY=您的API" > .env
     # 3. 在requirements.txt文件中添加项目依赖，也可运行pip install -r requirements.txt安装依赖包
     cat << EOF | tee requirements.txt
     dashscope>=1.23.0
     python-dotenv>=1.0.0
     EOF
     # 4. 在config.py文件中引用调用的模型名称、链接及密钥，可以尝试更换模型版本(qwen-turbo/qwen-max)
     cat << EOF | tee config.py
     import os
     from dotenv import load_dotenv
     load_dotenv()
     class Config:
     API_KEY =os.getenv('DASHSCOPE_API_KEY')
     MODEL_NAME = 'qwen-plus-2025-09-11'
     BASE_URL = 'https://dashscope.aliyuncs.com/compatible-mode/v1'
     EOF
     # 5. 在main.py主程序中添加执行代码，注意代码对齐，有严格的代码规范
     cat << EOF | tee main.py
     from http import HTTPStatus
     import dashscope
     from config import Config
     class SentimentAgent:
     def __init__(self):
     dashscope.api_key = Config.API_KEY
     def analyze_sentiment(self, text):
     """情感分析核心方法"""
     messages = [
         {
             "role": "system",
             "content": "你是一个专业的情感分析模型。请分析以下文本的情感倾向，仅返回'正面'、'负面'或'中性'"
         },
         {
             "role": "user",
             "content": text
         }
     ]
     response = dashscope.Generation.call(
         model=Config.MODEL_NAME,
         messages=messages,
         result_format='message'
     )
     if response.status_code == HTTPStatus.OK:
         return response.output.choices[0].message.content
     else:
         raise Exception(f"API调用失败: {response.message}")
     if __name__ == '__main__':
     main = SentimentAgent()
     while True:
     text = input("请输入待分析文本(输入q退出): ")
     if text.lower() == 'q':
         break
     result = main.analyze_sentiment(text)
     print(f"情感分析结果: {result}")
     EOF
     # 6. 运行主程序测试效果
     python main.py

   • 进阶优化

     # 1. 在main.py文件中增加修改模型默认参数，测试输出结果
     response = dashscope.Generation.call(
     model=Config.MODEL_NAME,
     messages=messages,
     result_format='message',
     temperature=0.3,  # 温度参数，不同模型默认值不同，控制输出随机性(0-1)，越大越随机，越小则缺乏创意
     top_p=0.8         # 核采样参数，越高越多样，越低越集中
     )
     # 2. 在main.py文件中扩展情感分类，修改系统提示词，测试输出结果
     "content": "……请分析以下文本的情感倾向，返回: 非常正面/正面/中性/负面/非常负面"
     # 3. 在main.py文件中，系统提示词再增加一行情感强度评分并返回指定的格式，测试输出结果
     "content": "返回JSON格式: {'情感':'正面','评分':0.8}"

   • 案列总结
     注意规范的安全的管理API Key，初步理解prompt工程设计，了解可扩展的架构设计

2. 查询天⽓-Qwen（了解Function Call）

   • 获取API
     除了要获取阿里百炼模型的API外还需要一个查询天气的API（以和风天气为例）
     访问和风天气开发者平台：https://dev.qweather.com/ ，完成注册登录
     在本地执行以下命令生成公钥和私钥（以Ubuntu为例）:

     openssl genpkey -algorithm ED25519 -out ed25519-private.pem \
     && openssl pkey -pubout -in ed25519-private.pem > ed25519-public.pem
     cat ed25519-public.pem

     在和风天气控制台点击项目管理，创建项目，创建凭据，复制ed25519-public.pem的内容至上传公钥中，复制项目ID和凭据ID

     
     
     

     进入test虚拟环境，安装依赖，生成12小时有效的token

     # 1. 进入test虚拟环境
     source test/bin/activate
     # 2. 安装依赖包
     pip3 install PyJWT
     # 3. 创建生成JWT_Token的文件，private_key为生成的ed25519-private.pem内容，sub为项目ID，kid为凭据ID
     cat << EOF | tee make_jwt_token.py
     import sys
     import time
     import jwt
     private_key = """ed25519-private.pem的全部内容"""
     payload = {
     'iat': int(time.time()) - 30,
     'exp': int(time.time()) + 43200,
     'sub': '项目ID'
     }
     headers = {
     'kid': '凭据ID'
     }
     encoded_jwt = jwt.encode(payload, private_key, algorithm='EdDSA', headers = headers)
     print(f"JWT:  {encoded_jwt}")
     EOF

     复制token，到和风天气控制台的帮助与支持，点击JWT验证确保生成的token有效

     
   • 搭建环境

     # 还是在test虚拟环境中安装依赖包，注意当前所在目录
     source test/bin/activate
     pip install dashscope python-dotenv requests

   • 构建项目

     # 1. 创建项目目录及文件
     mkdir weather && cd weather/ && touch .env requirements.txt config.py weather_api.py main.py
     # 2. 在.env文件中添加变量并分别设置为阿里百炼和和风天气的JWT验证
     cat << EOF | tee .env
     API_HOST=和风天气API Host
     QWEATHER_JWT=和风天气的JWT token，例如：Bearer eyJhbGci...
     DASHSCOPE_API_KEY=阿里百炼模型APIkey
     EOF
     # 3. 在requirements.txt文件中添加依赖包，requests为请求依赖包
     cat << EOF | tee requirements.txt
     dashscope>=1.23.0
     python-dotenv>=1.0.0
     requests>=2.31.0
     EOF
     # 4. 在config.py文件中获取模型名称以及API,模型可修改为文本生成或全模态
     cat << EOF | tee config.py
     import os
     from dotenv import load_dotenv
     load_dotenv()
     class Config:
     QWEATHER_HOST = os.getenv('API_HOST')
     QWEATHER_JWT = os.getenv('QWEATHER_JWT')
     DASHSCOPE_API_KEY = os.getenv('DASHSCOPE_API_KEY')
     MODEL_NAME = 'qwen-plus-2025-09-11'
     EOF
     # 5. 在weather_api.py文件中封装API
     cat << EOF | tee weather_api.py
     import gzip
     import json
     import requests
     from config import Config
     class QWeatherAPI:
     @staticmethod
     def get_weather(endpoint, params=None):
     """通用调用API"""
     url = f"https://{Config.QWEATHER_HOST}{endpoint}"
     headers = {
         "Authorization": Config.QWEATHER_JWT,
         "Accept-Encoding": "gzip"
     }
     try:
         response = requests.get(url, headers=headers, params=params)
         response.raise_for_status()
         return response.json()
     except requests.exceptions.RequestException as e:
         print(f"API调用失败: {str(e)}")
         return None
     @staticmethod
     def get_city_id(city_name):
     """调用Geo API获取城市id"""
     return QWeatherAPI.get_weather('/geo/v2/city/lookup', {'location': city_name})
     @staticmethod
     def get_current_weather(city_name):
     """获取实时天气"""
     geo_data = QWeatherAPI.get_city_id(city_name)
     if not geo_data or not geo_data.get("location"):
         return None
     location_id = geo_data["location"][0]["id"]
     return QWeatherAPI.get_weather('/v7/weather/now', {'location': location_id})
     EOF
     # 6. 在main.py文件中添加如下代码
     cat << EOF | tee main.py
     import dashscope
     from http import HTTPStatus
     from config import Config
     from weather_api import QWeatherAPI
     class WeatherAgent:
     def __init__(self):
     dashscope.api_key = Config.DASHSCOPE_API_KEY
     def get_weather_function(self):
     """定义天气查询的Function Call规范"""
     return {
         "name": "get_current_weather",
         "description": "获取指定城市的当前天气情况",
         "parameters": {
             "type": "object",
             "properties": {
                 "city": {
                     "type": "string",
                     "description": "城市名称，如'北京'"
                 }
             },
             "required": ["city"]
         }
     }
     def run_query(self, user_input):
     """处理用户查询"""
     response = dashscope.Generation.call(
         model=Config.MODEL_NAME,
         messages=[{"role": "user", "content": user_input}],
         functions=[self.get_weather_function()],
         result_format='message'
     )
     if response.status_code == HTTPStatus.OK:
         # 检查是否需要调用函数
         if "function_call" in response.output.choices[0].message:
             func_call = response.output.choices[0].message["function_call"]
             if func_call["name"] == "get_current_weather":
                 # 解析参数并调用天气API
                 city = eval(func_call["arguments"])["city"]
                 weather_data = QWeatherAPI.get_current_weather(city)
                 # 将结果返回给模型生成最终回复
                 second_response = dashscope.Generation.call(
                     model=Config.MODEL_NAME,
                     messages=[
                         {"role": "user", "content": user_input},
                         {"role": "function", "name": func_call["name"], "content": str(weather_data)}
                     ]
                 )
                 return second_response.output.choices[0].message["content"]
         else:
             return response.output.choices[0].message["content"]
     else:
         raise Exception(f"API调用失败: {response.message}")
     if __name__ == '__main__':
     main = WeatherAgent()
     while True:
     query = input("请输入您的天气查询(输入q退出): ")
     if query.lower() == 'q':
         break
     result = main.run_query(query)
     print(f"查询结果: {result}")
     EOF

   • 进阶建议
     添加更多功能的函数，例如天气预报、空气质量等
     实现多轮对话记忆功能
     添加用户位置自动识别
   • 案列总结
     理解模型如何决定调用函数以及传递参数

3. 表格提取-Qwen（了解多模态⼤模型）

4. 运维事件处置-Qwen