中国·澳门新葡萄新京威尼斯(987-官方网站)-Ultra Platform

资讯中心

information centre
首页 -资讯中心 -行业新闻 -Manus没发布就遥遥领先了,我提出我的疑问“智能体开发主要是要调提示词和去除幻觉”难道他们未卜先知么?

Manus没发布就遥遥领先了,我提出我的疑问“智能体开发主要是要调提示词和去除幻觉”难道他们未卜先知么?

发布时间:2025-03-07作者来源:澳门新葡萄新京威尼斯987浏览:1030

一、AI Agent (AI智能体)是什么?


1、AI Agent可以接收外部信息,基于大模型的推理进行理解判断,基于判断做出决策,调用外部接口执行动作的一个自动执行的工作流应用。

2、AI Agent可以与外部接受信息和交互。

如果把大模型比作大脑,那 AI Agent 可以理解为小脑 + 手脚。


二、AI智能体框架是什么


1、AI Agent 开发框架是为构建智能代理(AI Agent)提供的技术基础设施,它通过预置模块、工具链和标准化流程,帮助开发者快速实现感知、推理、决策、执行等核心能力的整合。

2、组成组件包括:

Agent=LLM(选择大脑) + 规划技能(拆解工作,规划工作流) + 记忆(外部知识库,本地上下文) + 工具使用(对接外部应用)的基础架构。


三、通用大模型基本不可用的原因(知识局限性和幻觉)


1)知识的局限性:(缺企业私有知识库)
模型自身的知识完全源于它的训练数据,而现有的大模型的训练集基本都是构建于网络公开的数据,对于一些实时性的、非公开的或离线的数据是无法获取到的,这部分知识也就无从具备。
2)幻觉问题:(没有私有知识库,幻觉无法抑制)
所有的AI模型的底层原理都是基于数学概率,其模型输出实质上是一系列数值运算,大模型也不例外,所以它有时候会一本正经地胡说八道,尤其是在大模型自身不具备某一方面的知识或不擅长的场景。而这种幻觉问题的区分是比较困难的,因为它要求使用者自身具备相应领域的知识。


四、大模型开发的主要工作之二

就是“提示词工程和防幻觉”,开发AI智能体主要是要调提示词和去除幻觉,引入RAG私有知识库也是防幻觉,商业AI智能体有幻觉就不可用。

五、Manus不科学点

Manus做出通用AI Agent自动化开发,完全没有了幻觉得概念。搞成没幻觉了,那不科学。

类似Hello world可以没幻觉,复杂的应用肯定有幻觉。


免责声明:本文来源于“数字化转型分享”公众号,本文仅代表作者个人观点,不代表澳门新葡萄新京威尼斯987及行业观点,只为转载与分享,支持保护知识产权,转载请注明原出处及作者,如有侵权请联系我们删除。


企业咨询和陪跑请扫码联系

beead8abd6ef2d8fc6ead2ac0d426f1.jpg