大语言模型 + SQL：利用亚马逊贝德罗克和雅典娜实现确定性答案

2026西湖龙井茶官网DTC发售：茶农直供，政府溯源防伪到农户家 

引言

在当今生成式人工智能快速发展的环境中，大语言模型（LLM）已彻底改变了我们与技术互动的方式。这些模型在文本生成、情感分析和上下文理解等任务中展现出卓越的能力。然而，当我们面对需要绝对精确性和确定性结果的场景时，就会遇到其固有的局限性，这需要我们以创新的方式加以解决。

非确定性模型带来的挑战

大语言模型的内部工作机制

大语言模型通过一套复杂的概率系统运行。其核心机制包括：

1. 上下文预测：它们分析先前的上下文，以预测最可能的下一个词或词序列。
2. 概率分布：它们为不同的回答选项生成一个概率分布。
3. 温度与随机性：它们使用“温度”等参数来控制回答中的创造性与确定性之间的平衡。

正是这种概率特性，使大语言模型在创意和分析类任务中表现出极强的灵活性，但也正是这一点，使其在需要数值精确性或绝对准确性的查询中可靠性不足。

背景：从一次失败的概念验证到创新解决方案

在过去几个月里，我在多次关于生成式人工智能的演讲中，有一段对话引起了我的注意。一个开发团队分享了他们对一次概念验证（POC）失败的沮丧经历。问题在于：他们用于支持工单分析的生成式人工智能实现产生了不一致的结果。

随着我对该案例的深入挖掘，一个有趣的模式浮现出来：

表现良好的部分：

• “分析支持工单 X”
• “案例 Y 的摘要是什么？”
• “这份事故报告暗示了什么？”

这些需要上下文理解和定性分析的问题，得到了精准且有用的回答。

持续失败的部分：

• “哪个部门拥有最多的未处理工单？”
• “上个月处理了多少工单？”
• “平均解决时间是多少？”

那些需要数值精确性和准确计算的问题，始终无法提供可靠的结果。

关键启示

一旦我们理解了大语言模型的根本特性，失败的原因便显而易见：它们本质上是非确定性的。其优势在于自然语言处理和基于概率的内容生成，而非对结构化数据执行精确计算或准确查询。

这一洞察促使我重新提出了一个关键问题：

当大语言模型本身并非为回答确定性问题而设计时，我们该如何回答这类问题？

答案在我意识到无需强迫大语言模型去做它不擅长的事情时浮现出来。相反，我们可以：

1. 让大语言模型专注于其最擅长的领域：理解问题的意图。
2. 在必要时，将该意图转化为结构化查询。