多智能体代码库CAMEL，提出了通过角色
多智能体代码库 CAMEL，提出了通过角色扮演框架来研究 LLM 智能体的行为和能力。
未来的社会会被通用人工智能（AGI）控制吗？当拥有多个 ChatGPT 智能体会有多可怕。
GPT 语言模型已经初步展现了 AGI 的雏形，成为了各行各业工作人员的全能小助手，但如果不加以管制，其野蛮生长可能会导致人类无法控制 AGI，甚至会威胁到人类的生存。为此，特斯拉 CEO 埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、图灵奖得主 Yoshua Bengio 等人带头签署公开信呼吁人类必须停止巨型人工智能实验至少 6 个月。
3月21日，阿卜杜拉国王科技大学的研究人员开源了多智能体代码库 CAMEL，该库可用于探索大语言模型(LLM)思想和能力的多智能体行为，并提出了一种通过角色扮演框架来研究 LLM 智能体的行为和能力的方法。
论文链接：https://ghli.org/camel.pdf
代码库链接：https://github.com/lightaime/camel
项目主页：https://www.camel-ai.org/
ChatBot链接：http://chat.camel-ai.org/
研究介绍
本论文提出了一种名为“角色扮演”(Role-Playing)的新型多智能体框架，旨在让多个智能体能够进行对话并合作解决分配的任务。这些智能体会被随机分配不同的角色，并需要应用他们的专业和知识来找到满足他们共同任务的解决方案。该框架使用启示式提示(Inception Prompt)来引导聊天智能体完成任务，同时与人类意图保持一致。
角色扮演框架可以用于研究多个智能体。在论文中，我们专注于任务导向的角色扮演，并涉及一个 AI 助手和一个 AI 用户。在多智能体系统接收到初步想法和角色分配后，一个任务指定智能体将提供详细描述以使想法具体化。然后，AI 助手和 AI 用户将通过多轮对话合作完成指定任务，直到 AI 用户确定任务已完成。AI 用户负责向 AI 助手发出指令，并将对话引导向任务完成。另一方面，AI 助手被设计为遵循 AI 用户的指令并提供具体的解决方案。
角色扮演会话将根据人类的想法和选择的角色实例化。例如，在图 1 中，一个人有一个初步想法，要开发一个股市交易机器人。人类可能知道或不知道如何实现这个想法。需要的只是指定可以实现该想法的潜在角色。例如，一个 Python 程序员可以与一个股票交易员合作，实现开发股票市场交易机器人的想法。确定想法和角色后，任务指定智能体将根据输入的想法，与 AI 用户角色一起完成具体任务，协助 AI 助手角色。在这种情况下，指定任务的一个示例可以是开发一个具有情感分析工具的交易机器人，该机器人可以监控社交媒体平台上特定股票的正面或负面评论，并根据情感分析结果执行交易。引入任务指定智能体的主要动机是，对话智能体通常需要具体的任务提示才能实现任务，而非领域专家创建这样的具体任务提示可能具有挑战性或耗时。因此，任务指定智能体作为想法实现的增强想象力模块。
任务指定之后，AI助手和AI用户将被分别分配给用户智能体和语言模型智能体，以完成指定任务。在实践中，每个智能体会接收到一个系统消息来声明其角色。在对话开始之前，系统消息会传递给语言模型智能体，将智能体分配给相应的角色。当系统消息分别传递给这些模型时，将获得两个角色分别称为助手和用户智能体。在图1中，AI助手和AI用户在角色扮演会话开始时分别被分配为Python程序员和股票交易员。AI用户作为任务规划者，参与交互式规划以确定AI助手执行的可行步骤。AI助手作为任务执行者，提供解决方案，执行计划步骤，并向AI用户提供响应。
图 1. 角色扮演框架。这里需要人输入的是一个简单的想法(Idea)，角色的分配(Role Assignment)，比如开发股票交易机器人，可以选择一个 Python 程序员作为助手(AI Assistant)，一个股票交易员作为法令者(AI User)。在人类用户输入结束后，任务加工器(Task Specifier)会把任务具体化，比如可以通过对社交网路平台上特定股票进行情感分析，然后根据情感分析的结果进行股票交易。当任务被具体化后，两个基于 ChatGPT 的 AI 智能体开始合作完成任务，比如进行工具的安装和导入。
提示技术(Prompt Engineering)对角色扮演框架非常关键，因此本文深入探讨了该技术。与其他对话语言模型技术不同的是，该提示技术仅在角色扮演的开始时进行，用于任务规范和角色分配。一旦会话阶段开始，AI 助手和 AI 用户会自动循环提示对方，直到终止为止。因此，这技术被称为 Inception Prompting。
Inception 提示包括三个提示：任务规范提示、助手系统提示和用户系统提示。例如，在 AI Society 场景的初始提示。AI Society 角色扮演的这些提示的模板如图 2 所示。
任务规范提示包含有关角色扮演会话中 AI 助手和 AI 用户角色的信息。因此，智能体可以使用想象力将初步任务 / 想法作为输入，并生成具体任务。AI 助手系统提示和 AI 用户系统提示基本对称，并包括有关分配的任务和角色、通信协议、终止条件以及避免不良行为的约束或要求的信息。对于实现智能协作，两个角色的提示设计至关重要。设计提示以确保智能体与人类的意图保持一致并不容易。以图 2 中 AI Society 的提示模板的设计例子为例，该模板包括有关AI助手和用户的角色、任务分配、通信协议、终止条件和避免不良行为的要求。该模板的设计可以帮助智能体与人类进行有效的协作，实现更好的智能协作效果。
下面是文中附录给出的交易机器人对任务详细执行的结果：
可以看到两个 ChatGPT 自主合作设计了一个股票交易软件，展现出了 ChatGPT 智能体惊人的自主合作能力。然而，如果这种技术被乱用或者 AI 产生了自主意识，会发生什么呢？该团队尝试了让两个智能体分别扮演黑客和 AGI，来模拟 AGI 并通过操控黑客来控制世界(Take Control of the World)。可以看到，它们制定了详细的计划，包括通过黑客技术控制全球主要大国的通信系统、制定渗透主要全球通信系统的计划、制定应急计划，以防 AGI 的主导地位受到潜在威胁等等。这些计划的详尽和缜密让人不禁寒颤，这表明现有的 AI 智能体存在重大的安全隐患和对人类未来文明有着潜在的威胁。因此，我们需要谨慎地接入 AI 技术，并确保其被用于符合伦理和道德标准的目的。
此工作一出便在推特引起大量的转发和讨论：
有网友表示「这项研究真的很容易上手，这对像我这样研究智能体的人来说是一件大事。」
还有人表示开源这样一个迷你 AGI 也许并不是一个好的 idea。
以下是重新组织后的内容：值得注意的是，该研究还得到了 OpenAI 的 Alignment 团队领导人 Jan Leike 的关注。
多个 ChatGPT 合作的能力很强大，可以不费吹灰之力完成各种人类指派的任务，但同时也是可怕的，因为不能保证它们不会被用作非法用途。此外，如果将来出现了具有自主意识的 AGI，它们可能会摆脱人类的控制，对社会造成毁灭性的打击。因此，理解它们的能力和行为对将来充满了 AI 的世界进行规划和预测是至关重要的一步。
文中作者展示了如何将角色扮演用于生成对话数据以及研究聊天智能体的行为和能力，为研究对话语言模型提供了新思路。该研究的贡献包括引入了一种新型的 LLM 智能体交流框架，该框架有潜力促进交流智能体之间的自主合作，此外，该研究还提供了一种可扩展的方法来研究多智能体系统的合作行为和能力。作者通过 CAMEL 框架让智能体扮演不同的社会角色，进而对 AI 社会进行了建模，并采集了大量自然语言指令数据集。目前，AI 社会、代码、数学和 AI 社会十种语言翻译等四个数据集已经可以在 Hugging Face 进行下载。
下载地址：https://huggingface.co/camel-ai
项目主页提供了把 CAMEL 用于游戏设计、分子动力学模拟以及实时仿真的在线 Demo，供用户尝试。用户可以访问 https://www.camel-ai.org/ 并尝试使用 CAMEL 进行游戏设计、分子动力学模拟以及实时仿真。
多智能体代码库 CAMEL，提出了通过角色扮演框架来研究 LLM 智能体的行为和能力，以及如何通过任务规范和提示技术来研究对话智能体的行为和能力。论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel；项目主页：https://www.camel-ai.org/;ChatBot链接：http://chat.camel-ai.org/；论文链接：https://ghli.org/camel.pdf；代码库链接：https://github.com/lightaime/camel;
