查看原文
其他

16.9K 下一代大型语言模型开源程序

小苏 爱编程爱技术 2023-12-13

AutoGen  下一代大型语言模型应用程序,由微软、宾夕法尼亚州立大学和华盛顿大学共同研究开发。

提供增强的LLM推理,如错误处理,多配置推理,上下文编程等。

提供具有不同复杂性的工作系统的集合。支持复杂工作流的多种对话模式。

通过可自定义和可转换的代理,开发人员可以使用AutoGen构建有关会话自治、代理数量和代理会话拓扑的各种会话模式。

🔥 特性:

  • 多Agent会话框架

AutoGen提供了多代理会话框架作为一个高级抽象。有了这个框架,人们可以方便地构建LLM工作流。

  • 轻松构建各种应用程序

AutoGen提供了一系列工作系统,涵盖了各种领域和复杂性的广泛应用。
  • 增强的LLM推理和优化

AutoGen支持增强的LLM推理API,可用于提高推理性能并降低成本。

AutoGen 是一个框架,使用多个 AI 代理来开发 LLM 应用程序,这些代理可以协同解决任务。可定制,可转换,无缝地允许人类参与任何一个环节。可以在各种模式下运行。

Autogen框架图:

AutoGen 内置代理:

这里设计了一个泛型 ConversableAgent 类,这些代理能够通过交换消息来相互交谈以共同完成任务。代理可以与其他代理通信并执行操作。不同的代理在接收消息后执行的操作可能不同。两个具有代表性的子类是 AssistantAgent 和 UserProxyAgent 。

AutoGen 对话流程图:

AssistantAgent 设计为充当 AI 助手,默认使用 LLM,但不需要人工输入或代码执行。
UserProxyAgent 是用户的代理,默认情况下,在每个交互回合中,将人工输入作为代理的回复,并且还具有执行代码和调用函数的能力。
简单来说,在Autogen框架中,有两个默认的代理:用户代理(user) 和助手代理 (assistant)。
  • 用户代理代表用户工作 (我们人类),可以独立做决定或向真正的用户请求输入。
  • 助手代理是一个通用的AI助手,负责执行具体的任务。
这两个代理可以协同工作,构建强大的应用,如Chat GPT Plus代码解释器集成插件的增强版本。
用户代理和助手代理之间的聊天被自动化,同时允许人工干预或反馈,实现高效灵活的任务完成方式。

🍄 安装体验

前提准备
  • Python 版本>= 3.8,< 3.12。
  • 准备 OpenAI Api key

1、执行命令安装:

pip install pyautogen
2、使用 Git命令clone源码到本地
git clone https://github.com/microsoft/autogen.gitcd autogen
3、 修改配置文件
①在项目根目录找到 OAI_CONFIG_LIST_sample 文件
②把文件复制一份并修改文件名OAI_CONFIG_LIST

③填写OpenAI API密钥

// Please modify the content, remove these two lines of comment and rename this file to OAI_CONFIG_LIST to run the sample code.// if using pyautogen v0.1.x with Azure OpenAI, please replace "base_url" with "api_base" (line 11 and line 18 below). Use "pip list" to check version of pyautogen installed.[ { "model": "gpt-4", "api_key": "<your OpenAI API key here>" }, { "model": "gpt-3.5-turbo", "api_key": "<your OpenAI API key here>" }, { "model": "<your Azure OpenAI deployment name>", "api_key": "<your Azure OpenAI API key here>", "base_url": "<your Azure OpenAI API base here>", "api_type": "azure", "api_version": "2023-07-01-preview" }, { "model": "<your Azure OpenAI deployment name>", "api_key": "<your Azure OpenAI API key here>", "base_url": "<your Azure OpenAI API base here>", "api_type": "azure", "api_version": "2023-07-01-preview" }]
3、运行示例
python test/twoagent.py
进入人机交互模式,AutoGen 会等待用户下发指令
我们下发一个指令,如讲个笑话

如果需要退出,只需要输入 exit 即可!

官方在源码的 test 目录下提供了很多示例,大家感兴趣的可以尝试~

AutoGen 提供增强的LLM推理。多代理对话,简化了复杂LLM工作流程的编排,自动化和优化。最大限度地提高了 LLM 模型的性能,并克服它们的弱点。轻松支持各种对话模式。跨越了来自各种领域和复杂性的广泛应用。

一句话总结就是:单一的 AI 已经无法满足日益增长的需求,AutoGen 让多个 AI 代理协同工作,共同完成复杂的任务。

最后贴上官网的链接:

开源地址:

https://github.com/microsoft/autogen

开发手册:

https://microsoft.github.io/autogen/docs/Getting-Started

点关注不迷路
本文发表于公众号【爱编程爱技术
关注我们,阅读更多精彩内容

点击上方关注我们,谢谢支持

往期推荐:

Cmder:25k+ stars 开源的命令行终端工具,我愿称之为最强!
Team IDE:高颜值的客户端工具集,开源!
Potplayer 播放器发布新版本,高颜值无广告!
frp:70k+ Stars!简单、高效的内网穿透工具
KMS:开源、免费、全自动激活 Windows、Office!
帮小忙:在线工具箱网站,130多款免费工具!
PDF24:人人都能用的免费PDF软件,所有你需要的功能全都有!
13k+ Stars 开源免费的 Github 加速器,突破地域限制!
tabler:36k+ stars 免费开源的仪表盘工具包!
13K+ Stars 开源、高颜值的影视软件发布更新!
继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存