最近一直在折腾网络开发板,在经历了漫长的市场调研和参数比对后,我的“新玩具”终于落地了——Radxa E20C。其实这次选型过程相当纠结。备选清单里的友善电子NanoPi R76S确实让人眼馋,CPU性能直接翻倍,对于追求极致性能的玩家来说是个无法拒绝的诱惑。反观入门级的R2S,在如今内存和存储芯片价格高企的行情下,性价比显得略微尴尬。最早其实是想入GL.iNet的,奈何心仪的低配版遗憾停产...
因为我的机顶盒无法直接刷系统,且没有root权限,经过思考决定使用DNS劫持的方式实现。相比于adb进去shell命令行执行,使用路由器则无需每次机顶盒重启配置。
小米定制款AX1800系列 CR660x小米的CR6606/6608/6609系列在OpenWRT中可以找到原生固件。
我的购买后得到的是TR608,所以我直接找到CR6608来刷。
参考资料:https://...
咪咕的MGV3200, 国科GK6323的CPU, 没有WiFi功能。已检测DNS被锁了,怎么都搞不来。用了通刷的卡刷包,可以降级,但是升级后卡死了,最后结果通过网络层劫持。我们可以通过一下命令修改DNS, 但是测试发现修改无效。
12adb shell getprop |grep dnsadb shell setprop net.dns1 1.1.1.1
网络层修改使用IPtable强制...
Windows有暂停和推迟更新选项,但是只能暂停很短时间,通过修改注册表可以改为更长的时间
修改注册表
1计算机\HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\WindowsUpdate\UX\Settings
新建DWORD并命名为FlightSettingsMaxPauseDays,然后改为十进制,180天应该够了。
如果你的Windows 11更新之后,暂...
我们下面教大家如何运行vllm大模型推理服务,这里以ECS带GPU的虚拟机(EGS)作为演示:阿里云 - 使用vLLM镜像快速构建模型的推理环境
安装驱动和拉取vLLM镜像首先,我们需要拉取vLLM镜像,该镜像包含vLLM, CUDA, Pytorch等相关依赖。阿里云EGS本身有这个镜像,我们需要登录容器镜像服务控制台,然后在左侧导航栏,单击制品中心。在仓库名称搜索框,搜索vllm或egs...
我们使用Docker Push来将镜像推送到仓库,这个脚本是为了看看推送到私有仓库的速度,从而了解并优化全球的推送速度。
默认本地镜像需要先重新打标签为私有仓库后才可以推送:
123docker imagesdocker tag imageID cr.localrepo.com/namespace/image:tagdocker push cr.localrepo.com/namespace...
这是IPSec站点到站点连接最后一篇,我们之前已经教导使用libreswan和netbird来搭建,最后补全最后一块版图,使用strongSwan来搭建。阿里云 - strongSwan配置示例
样例1dnf install epel-release
1systemctl enable firewalld.service --now
1firewall-cmd --set-default-...
大参数模型虽然性能优异,但计算成本高、推理速度慢。为在保持效果的同时提升效率,可利用大模型生成高质量标注数据,并以此微调小模型,使其在特定任务中逼近大模型表现,这一方法称为模型蒸馏或者更专业准确的说是知识蒸馏(Distill)。
原理在于教师模型(235B)对大量数据进行预测,生成“软标签”(soft labels),这些标签包含了比硬标签(真实标签)更多的置信度信息。学生模型(0.6B...
我们知道PAI还有LangStudio,类似百炼、Coze、Dify的工作流机制。下面我们使用LangStudio来创建知识库和联网搜索聊天机器人。基于LangStudio&DeepSeek的RAG及联网搜索聊天机器人解决方案
SerpAPI注册首先,请先去serpapi.com注册账号。
部署LLM和Embedding模型该步骤可以直接使用Model Gallery部署,请参考自建...
上次我们使用RDS与Dify快速搭建,这次我们将使用计算巢(on ECS)一键搭建Dify,然后在PAI的EAS上搭建LLM。需要注意的是,如果我们希望使用知识库,我们除了搭建LLM模型,需要Embedding模型用于知识库的检索,最后还需重排序模型rerank来优化文本嵌入和排序任务。
相关教程:基于RDS PostgreSQL与Dify平台构建AI应用
创建Dify - 计算巢直接控制台...