科技

Ollama还是vLLM：并发8路快2.3倍，单请求却反过来

一组A100测量报告，单请求时Ollama生成更快，8路并发时vLLM的总吞吐约为其2.3倍。个人本地交互与多人推理服务关注的指标不同；冷启动、尾延迟和模型配置会改变选型判断。

一项小规模RAG检索基准显示，Milvus与Elasticsearch取得相同的Recall@10，Milvus的检索延迟较低。但生产选型还取决于语料规模、元数据过滤、全文检索需求，以及增加一套系统的维护成本。

10月20日，Plotly公布MiniMax M3.1 Flash正式版的数据分析测试：43题答对41题，正确率约95%，每题中位耗时3分钟，整轮按MiniMax API标价折算为4.09美元。模型已经发布并开放API等渠道；低Token单价和完整任务的等待时间需要分开看。

个人低成本试用可以先选Gemini CLI；长会话重构、CI自动化和团队部署则要同时比较Claude Code与Gemini CLI的上下文管理、认证方式和失败信号。免费请求多，并不能说明工程故障更少。

新加坡金融管理局于2026年10月7日发布金融机构AI风险管理指引。金融机构使用第三方开发或提供的AI交付服务，仍须自行管理风险；董事会监督与AI识别要求可先行落实，生命周期控制和能力要求随后跟进。

新加坡网络安全局于2026年10月13日发布一项覆盖1000名受访者的AI时代网安人才研究。调查显示，初级岗位更可能被重新设计，中高级人才需求预期增强；核查AI结论、研判威胁和权衡业务风险，正成为不同资历从业者的关键能力。

新加坡网络安全局于2026年10月13日宣布将制定自主机器人安全指南，范围从设计、采购延伸到部署后的监控与更新。ST Engineering同日提出部署前独立验证中心计划。机器人在现场的行为还取决于模型、传感器、网络、人员和环境，单查代码不足以判断整套系统是否安全。

为 Python 项目生成 CycloneDX SBOM 后，交付流程还应验证清单格式、根组件和依赖版本，找出同一环境中的意外多版本，并核验最终文件的签名。下文给出生成与校验命令、CI 阻断条件，以及这些检查各自能发现什么问题。

在单核、50并发、50毫秒模拟I/O等待的实验中，FastAPI与Uvicorn的单工作进程吞吐约为Flask与Gunicorn同步组合的7.8倍。这个差距取决于等待能否重叠、工作进程配置和实际负载；选新项目框架或迁移旧服务，还要计算校验、文档与扩展改造的成本。

为FastAPI配置链路追踪，先用OpenTelemetry自动记录请求，再经OTLP导出到本地Jaeger验证。确认数据库和HTTP客户端的现成埋点覆盖范围后，只为关键业务步骤补Span，并配置采样、日志关联与敏感信息过滤。

在默认分支的 .github/dependabot.yml 中，为 npm、Docker 和 GitHub Actions 分别设置冷却期、检查频率与 PR 上限，就能延后刚发布的普通版本进入更新流程。七天可以作为配置起点；安全更新不受冷却期影响，间接依赖和通知噪声还需分别处理。

文件一旦写入较早的镜像层，后续删除通常无法消除其体积。用多阶段 Dockerfile 编译 Spring Boot 应用，再从独立的 JRE 阶段只复制 JAR，可以把 JDK、源码和 Maven 缓存留在构建环境；文中给出可改写的写法，以及体积和运行结果的验收方法。

当 Webhook 回调会触发扣款时，验签通过仍不能保证只扣一次：合法请求可能再次到达。接收端需要按协议校验新鲜度，以数据库唯一键原子去重、可靠保存任务，并用稳定的业务幂等键约束最终扣款。

已有PostgreSQL且查询量低的团队，可以先用pgvector。若租户和权限等过滤条件经常叠加，应先比较过滤后的召回，再决定是否迁移Pinecone，并把索引内存、运维工作量和完整费用算进去。

开发团队主要追查代码错误，可优先考虑Sentry；SRE需要把主机、链路和日志放在一起排障，Datadog更合适。故障洪峰会放大两种成本：Sentry的额度与按量预算耗尽后可能丢弃事件，Datadog则可能因启用的产品和实际用量增加费用。公开账单样例能帮助估算，但两种方案的监控范围并不相同。