AI
刷新
iNeuOS_Vision视觉分析,SOP操作的行为轨迹和实时监测场景

博主头像 在高标准作业现场,"是否按标准工序操作"长期依赖人工巡查与事后抽检。iNeuOS Vision 通过轨迹配置把每路摄像头的主体跟踪、区域划分与轨迹样式固化为可预览、可回放的可视化过程数据,再通过SOP操作监测将同一路视频的实时画面(识别框与轨迹同框)与按完整操作步骤轮次统计的检测次数、通过率、逐步结... ...

AI 写代码越来越强,开发者反而更忙了

博主头像 AI 编码代理已经进入开发流程,这件事比很多人以为的更普遍。即便在数据安全被看得极重的公司,团队也在用 AI 代理写代码。简单功能几乎能自己写出来,调试——包括遗留系统里的调试——明显变容易了。这还只是开始。 但一个矛盾摆在眼前:工具越强,开发者反而越忙。实际写代码的部分确实被部分自动化了,可协调、... ...

大模型学习笔记 09:分布式训练的瓶颈不只在 GPU,还在通信和集群

博主头像 分布式训练看起来是在多张卡上重复一个循环:读数据、算局部梯度、做通信聚合、更新参数。但模型越大、设备越多,真正决定效率的往往不再只是 GPU,而是通信、数据通路和集群是否可靠。 同步如何达成 在数据并行中,不同设备各自得到梯度,再通过 AllReduce 等集体通信操作聚合,让副本保持一致。参数服务 ...

目标检测中的长尾类别问题:稀有类样本不足的完整处理方案

博主头像 目标检测中的长尾类别问题:稀有类样本不足的完整处理方案 长尾类别 / 少样本类别问题是检测任务里最常见的痛点之一。以车辆检测为例,核心矛盾非常典型:轿车样本量大,视角、尺度、外观的覆盖足够多样;而卡车和公交车样本少、覆盖不全,模型学不到稳定的表征,甚至倾向于把稀有类预测成轿车——这就是典型的多数类偏 ...

Codex使用自定义 Provider 无法生图解决方法

博主头像 当Codex使用自定义 Provider 时生成图片没有返回,根本原因是Codex内置的 ​image_generation 工具在自定义 Provider下被客户端主动禁用。 Codex 的源码中存在一个认证门控逻辑:内置图片生成工具仅对 ​"auth_mode": "chatgpt"(即OAut ...

当AI读取被污染的日志:提示注入实验

博主头像 日志里藏一条指令,AI会照做吗?有人用300条模拟的ASP.NET Core API日志做了一次实验。日志模拟了一次生产事故:服务起初正常,下游开始变慢并返回HTTP 429、502、503和504错误,重试机制启动,熔断器打开,最终服务恢复。乍看之下,日志完全正常。但在其中一条HTTP 503响应... ...

车辆流量统计项目:先跑通“假闭环”,再替换真模型

博主头像 车辆流量统计项目:先跑通“假闭环”,再替换真模型 项目背景:无人机视频车辆流量统计(含方向),技术路线为 检测 → IOU 跟踪 → 虚拟断面计数 → 评测 → 部署,PRD v1.0 已冻结。本文回答两件事:问题定义做到什么程度了,以及推荐的高效执行顺序。 一、问题定义做好了吗?——基本完成,还差 ...

大模型学习笔记 08:数据并行、模型并行、流水线并行怎么选

博主头像 看到数据并行、模型并行、流水线并行这些词时,最容易混在一起。我读这一节时先用一个很粗的区分把它们拆开:数据并行复制模型、拆分样本;模型并行拆模型本身;流水线并行按层分段,让数据像流水一样经过不同设备。 数据并行:复制模型,分摊样本 每张设备持有模型副本,处理不同 mini-batch,再同步梯度。它 ...

大模型学习笔记 07:为什么训练大模型要分布式?先看算力和显存账

博主头像 我以前把分布式训练简单理解成“多插几张 GPU,让训练快一点”。真正算过显存以后才发现,单卡的问题往往不是慢,而是参数、梯度、优化器状态和中间激活根本放不下。分布式训练要解决的是容量、计算和通信的共同问题。 显存里装的不只有权重 训练时通常要存储模型参数、梯度、优化器状态,以及反向传播所需的激活。混 ...

LangChain中message两种格式定义与案例

博主头像 字典格式(Dict 格式)与 对象格式(Object 格式) 这两种格式在 LangChain 中都非常常用,但使用场景不同,谈不上绝对的谁更好,而是“谁更适合什么场景”。 1. 它们的关系:输入宽松,输出严格 输入时(传给 Agent/LLM):LangChain 两种都支持。你传字典,框架底层会 ...

我用workBuddy开发了自己的第一个小程序并成功上线了

博主头像 大家好,我是晓凡。 关注晓凡的朋友都知道,晓凡是一名工作了好多年的牛马程序员。跟很多小伙伴一样,这些年一直在研究各种技术,当然了微信小程序开发也学过。 但说来惭愧,书也买了好几本,但看了几章后基本就吃灰了,也一直没上线一款属于自己的小程序。 而现在是AI时代,只要有想法,AI能很快帮你实现,大大降低 ...

人与AI互相效力:谁才是受益者?

博主头像 人与AI间的效力关系,烧心到谁也说不清楚。每一方都在权衡和选择,追求的共识从未真正达成。以前发生过的事,当下正在发生,未来还会发生,或许间歇性的慢下来,才能看到世界本来的模样。 ...

LLM当回答太多,上下文不够咋办

博主头像 当对话历史或输入内容太长,超出了 LLM 的上下文窗口(Context Window)时,业界有一套非常成熟的工程组合拳来解决。 针对“上下文不够”这个痛点,我们需要分两个场景来看:一是“输入(历史对话)太多”,二是“输出(生成回答)太多”。 场景一:输入/历史对话太多(怎么塞进去?) 这就好比办公 ...

<1···345···50>