人工智能仍然效果不佳，企业在伪装，一场清算即将来临

Codestrap 的 Dorian Smiley 和 Connor Deeks 认为，大多数企业在有效整合人工智能方面仍面临困难，并且都在假装自己了解正确的策略，因为目前还没有既定的操作指南。他们辩称，当前的大型语言模型（LLM）存在根本性的易错性，包括非确定性的输出和缺乏归纳推理能力，这意味着它们无法可靠地检查自己的工作。Smiley 强调，衡量人工智能编码成功的当前指标（如代码行数）具有误导性；例如，为 SQLite 生成的 AI 代码比原始代码长 3.7 倍，性能却差了 2000 倍。他们预测，8 到 9 个月后将出现一场清算，标志是代码质量问题、源于错误商业建议（如德勤为澳大利亚政府提供的错误报告）的诉讼，以及因客户意识到 AI 使用而产生的价格压力。 此外，大型公司内部的激励机制与仔细审查 AI 的做法不一致，鼓励追求速度而非质量。另一个迫在眉睫的重大问题是，保险承保人对承保与人工智能相关的风险变得警惕，并游说在责任保险单中获得豁免，Deeks 认为，如果不对这些根本性问题进行认真处理，这可能会破坏整个系统。

(来源：Theregister)