拨开迷雾
生成式人工智能以其速度和创造力点燃了软件开发的新浪潮。它加速了原型制作，解决了逻辑难题，并激发了新功能的诞生。但让我们把这种兴奋感与软件工程的现实联系起来。
人工智能先驱安德烈·卡帕西最近将这个问题定义为“九点三月他提出了一个简单的观点：让人工智能模型在90%的时间里都能正常工作很容易。那是“前9%”——演示阶段。但企业软件的运行并非依赖于一个9。它需要99.9%（三个9）或99.99%的可靠性。
这其中的道理很残酷。从90%提升到99%所需的工作量，与最初90%的完成度一样多。在初创公司，90%只是个测试版；在大公司，它却是一个残次品。那缺失的10%并非误差范围，而是工具与累赘之间的区别。
猜测 vs. 计算
要了解为什么人工智能不是万能药，我们必须从基本原理入手。
生成式人工智能是概率性的。它进行猜测。它根据模式预测下一个可能的词语。它是“模糊的”。企业软件是确定性的。它进行计算。输入 A 必须始终产生输出 B。你不可能拥有“可能”正确的财务报告或访问控制。它们要么正确，要么错误。
当你将未经处理的AI代码直接注入到受DORA、GDPR和HIPAA等法规约束的复杂企业架构中时，就如同将一张彩票放入了一个需要绝对确定性的系统中。“试试看”绝不是处理患者数据或银行交易的可行策略。
低代码作为底盘
未来不在于人工智能或稳定性，而在于将二者结合起来的架构。
这就是低代码平台的作用所在，例如 Mendix 不要再仅仅把人工智能当作生产力工具，而应该把它看作是架构的护栏。把人工智能想象成高速引擎，把低代码想象成底盘、转向和制动系统。
这种方法从两个方面解决了复杂性问题：
- 抽象化：开发者无需博士学位即可构建 AI 应用。低代码抽象了底层细节。您无需费力处理向量数据库或复杂的 API 集成；只需使用标准化的拖放式连接器即可。
- 治理：与其让 AI 编写难以调试的原始代码，不如利用 AI 配置标准化的、预先测试过的模块。平台会强制执行安全措施。如果 AI 检测到有风险的数据模式，平台的限制会阻止其部署。
视觉开发：从黑盒子到玻璃盒子
人工智能生成的代码还存在第二个风险：晦涩难懂。如果人工智能生成的脚本只有一位专家工程师才能解读，那就人为地制造了一个信息孤岛，将真正了解该领域的业务利益相关者排除在外。
我们需要“左移”——在编写代码之前就制定好计划。在构建之前，人工智能代理可以帮助利益相关者起草并可视化清晰的需求。这确保了在人工智能生成逻辑之前，人类已经对“蓝图”达成一致。低代码模型更进一步，将逻辑可视化。
它将人工智能生成的“黑箱”变成了“玻璃箱”。
- 一致性：业务专家和架构师可以查看可视化模型并验证逻辑。
- 控制：当人工智能加速工作流程时，平台的可视化特性确保人始终是主导者。您不仅了解系统当前运行状态，还了解其运行原理。
底线
Karpathy 说得对：生产级人工智能即将到来。但我们尚未达到那个阶段。
企业应该停止追问人工智能编写代码的速度有多快，而应该开始思考：什么样的架构才能确保人工智能安全运行？答案在于将人工智能引擎与低代码平台相结合。这样既能获得速度优势，又能保持控制力。