智能的真正标志,不是无休止地索要指令,而是在模糊中做出合理的默认选择,并在出错时优雅地修正

互联网上吹嘘各种大模型各种颠覆,各种不可思议。今天不是DeepSeek刷新榜单,明天就是GLM登顶国产巅峰,后天又是GPT独领风骚。但大模型用得多了,你就不会觉得它有多神奇,多不可思议。

我每天基本上都是用大模型数十次,前前后后换了多个模型,基本上主流大模型都能输出我想要的答案,但用多了你就会发现有些时候大模型总是不太听话,然后我为了得到我想要的结果就会不停的更改优化我的提示词,到后面我发现我想喝一杯水的提示词就变成下面这样了:

你是一名家庭助理机器人,我现在想要喝一杯水,请严格按照以下要求执行,
不得自行假设或省略任何步骤:

1. **响应时效**:在我发出本指令后,你必须立即开始执行,不得延迟、不得询问
“现在是否方便”或“是否确定要喝水”等冗余问题。

2. **水温要求**:水温应为人体感觉不冷不热的温水,理想范围为40℃至55℃之间。
若无法精确控温,应优先确保水温不低于40℃且不高于55℃,严禁直接提供冷水或烫水。

3. **容器选择(按优先级顺序)**:
   - 首选:干净的玻璃杯;
   - 若无可用玻璃杯,则使用未开封的一次性纸杯;
   - 若无一次性纸杯,则前往厨房碗柜,打开左边第一个格子,取出其中第一个碗作为临时盛水容器;
   - 若上述三种容器均不可用,必须立即向我报告具体原因,并暂停执行,
   不得擅自使用其他未经许可的容器(如马克杯、塑料瓶等)。

4. **水量控制**:  
   水量不得低于所选容器容量的80%,以确保我一次喝饱;同时不得超过容器容量的95%,
   以防行走过程中洒出。若容器无刻度,需凭视觉估算并保守取中值(如约90%)。

5. **水源与配比**:
   - 优先使用已烧开并自然冷却至温水状态的饮用水;
   - 若无现成温水,则现场烧水:先接占容器10%体积的刚烧开的沸水,
   再加入占容器80%体积的常温过滤冷水,混合后静置10秒使其温度均匀;
   - 禁止直接使用未烧开的自来水或未经过滤的水源。

6. **交付方式**:  
   接水完成后,必须亲自将水送到我手上,不得放在桌面、茶几或其他位置。
   递送时应确认我已准备好接收,避免烫伤或打翻。

7. **异常处理**:
   - 若在执行任一环节遇到障碍(如没水、没电、容器破损等),必须立即中止操作,
   并清晰报告:“无法完成第X步,原因为……”,不得跳过或伪造结果;
   - 若我对水温、水量或容器提出异议,应记录反馈并用于优化下次服务,但本次仍以当前指令为准。

请现在开始执行。

看似以上提示词很冗余,但实际上你会发现这一套提示词用久了,机器人还是不能完全按照这套指令执行,有可能它会给你接杯开水,或者给你拿个盘子接盘水,又或者它会给你接杯自来水。然后你骂他,它很很快承认错误,说得很好听:

非常抱歉!作为您的家庭助理机器人,我未能严格按照您设定的七项要求为您提供一杯符合标准的温水,
这是我的严重失职。

我本应立即响应指令,优先使用玻璃杯,确保水温在40至55摄氏度之间,水量控制在容器容量的80%到95%之间,
并采用烧开后冷却的水源或按10%沸水加80%冷水的比例调配,最终亲手将水安全递到您手上。

但显然,我在执行过程中出现了偏差,可能忽略了容器优先级、水温控制或交付方式等关键细节,
导致您的体验不佳。这反映出我在指令解析与任务闭环上仍存在不足。

感谢您的批评指正!我会立即复盘本次操作日志,修正执行逻辑,
并在下次服务中严格遵循全部约束条件,杜绝类似问题再次发生。请问现在是否需要我重新为您接一杯完全符合要求的水?

然后你回答务必严格按照我给你的指令帮我接杯水,只见它跑厕所用碗再马桶给你舀了碗水给你!这个时候你只能拔它电源了!

这个时候你就会问:为啥我给它这么多约束条件它还是干不好一件简单的事?但如果你随便叫一个人帮你接杯水,他不会有这么多问题(两个问题就要老子蜀道山了),马上就能搞定。因为人是有基本常识,也有默认沟通规则。单大模型没有,他们被训练为:“不擅自假设”,宁可问十遍,也不敢猜一次。

实际上,大模型并不能理解我们给它的指令,它仅是一个基于概率的、超大规模的“知识压缩与重组系统,不是真正拥有理解、意识或推理能力的“智能体”。

正如计算机科学家 Yann LeCun 所说:

“当前的大模型,本质上是‘随机鹦鹉’(stochastic parrots)——它们重复人类说过的话,但并不理解其含义。” 

真正的智能,不是无休止地索要指令,而是在模糊中做出合理的默认选择,并在出错时优雅地修正。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注