与谁保持一致?

💡 灵机 AI 深度洞见与核心提炼
资深软件工程师警告,构建 AI 智能体时开发者只精通自身领域,其余大量风险只能依赖模型先验,属于未知的未知。他以软件工程为例,指出模型默认输出充满"slop",如冗余的 isRecord 和过度防御的异常处理,根源是非专家在训练中奖励了这些行为,且该问题会泛化到所有 auto-rater、judge、rubric 和 eval。
信源媒体:Hacker News 热门(buzzing.cc 中文翻译)
访问出处网页 ↗