AutoGen作為一個最大化LLM(如GPT-4)能力的框架而脫穎而出。由微軟研究院開發的AutoGen通過提供一種自動化、優化和編排工作流的方法，簡化了復雜的、基于多代理llm的應用程序的創建。我們在以前的文章中也有過介紹，你可以與許多GPT交談，并且GPT和GPT之間也可以互相交談。每個GPT都是它自己的“代理”，并在總體業務流程中扮演特殊角色。

但是AutoGen是用命令行模式進行交互的，這對我們的輸入來說非常不方便，所以這次我們來對其進行改造，使用Streamlit創建一個web界面，這樣可以讓我們更好的與其交互。

這個項目略微粗糙，但它應該為為AutoGen代理創建簡單的ui提供了一個很好的起點。

這里需要注意的是：

明確要求不要運行代碼或將文件存儲在本地，因為這是Streamlit限制—而不是AutoGen限制。

簡單介紹AutoGen

我們之前已經介紹過AutoGen，所以這里再做個簡單的回顧：

AutoGen自動化了LLM工作流，這在開發人員制作越來越復雜的基于LLM的應用程序時至關重要。

它提供了可定制的代理，這些代理不僅可以與用戶進行自動對話，還可以在代理之間進行自動對話。

AutoGen代理可以合并llm、人工輸入和其他工具的組合，克服每個組件單獨的局限性。無論是代碼生成、執行、調試還是復雜任務解決，AutoGen代理都可以處理各種高級操作。

創建Streamlit應用

我們的目標是這樣的：

我們先安裝如下包：

aiohttp==3.8.6
 aiosignal==1.3.1
 altair==5.1.2
 async-timeout==4.0.3
 attrs==23.1.0
 blinker==1.6.3
 cachetools==5.3.2
 certifi==2023.7.22
 charset-normalizer==3.3.1
 click==8.1.7
 diskcache==5.6.3
 docker==6.1.3
 FLAML==2.1.1
 frozenlist==1.4.0
 gitdb==4.0.11
 GitPython==3.1.40
 idna==3.4
 importlib-metadata==6.8.0
 Jinja2==3.1.2
 jsonschema==4.19.1
 jsonschema-specifications==2023.7.1
 markdown-it-py==3.0.0
 MarkupSafe==2.1.3
 mdurl==0.1.2
 multidict==6.0.4
 numpy==1.26.1
 openai==0.28.1
 packaging==23.2
 pandas==2.1.2
 Pillow==10.1.0
 protobuf==4.24.4
 pyarrow==13.0.0
 pyautogen==0.1.13
 pydeck==0.8.1b0
 Pygments==2.16.1
 python-dateutil==2.8.2
 python-dotenv==1.0.0
 pytz==2023.3.post1
 referencing==0.30.2
 requests==2.31.0
 rich==13.6.0
 rpds-py==0.10.6
 six==1.16.0
 smmap==5.0.1
 streamlit==1.28.0
 tenacity==8.2.3
 termcolor==2.3.0
 toml==0.10.2
 toolz==0.12.0
 tornado==6.3.3
 tqdm==4.66.1
 typing_extensions==4.8.0
 tzdata==2023.3
 tzlocal==5.2
 urllib3==2.0.7
 validators==0.22.0
 websocket-client==1.6.4
 yarl==1.9.2
 zipp==3.17.0

然后創建

app.py

首先是導入包：

import streamlit as st
 import asyncio
 from autogen import AssistantAgent, UserProxyAgent

streamlit用于創建UI。Asyncio對于異步控制流是必需的，它允許聊天響應。Autogen為聊天代理提供了類。

然后使用Streamlit的write函數設置應用的標題:

st.write("# AutoGen Chat Agents")

這一行將在UI的頂部顯示標題“AutoGen Chat Agents”。

然后就是創建自定義代理類，需要擴展AutoGen的AssistantAgent和UserProxyAgent:

class TrackableAssistantAgent(AssistantAgent):
     def _process_received_message(self, message, sender, silent):
         with st.chat_message(sender.name):
             st.markdown(message)
         return super()._process_received_message(message, sender, silent)
 
 class TrackableUserProxyAgent(UserProxyAgent):
     def _process_received_message(self, message, sender, silent):
         with st.chat_message(sender.name):
             st.markdown(message)
         return super()._process_received_message(message, sender, silent)

這些類覆蓋一個_process_received_message方法，在Streamlit聊天小部件中顯示接收到的消息，為用戶提供實時更新。

然后就是使用Streamlit的側邊欄功能進行配置:

selected_model = None
 selected_key = None
 
 with st.sidebar:
     st.header("OpenAI Configuration")
     selected_model = st.selectbox("Model", ['gpt-3.5-turbo', 'gpt-4'], index=1)
     selected_key = st.text_input("API Key", type="password")

這里可以使用我們上次文章的本地 LLM 方案，這樣就不用使用openai的付費API了

然后就是創建主聊天界面并處理輸入:

with st.container():
     # for message in st.session_state["messages"]:
     #    st.markdown(message)
 
     user_input = st.chat_input("Type something...")
     if user_input:
         if not selected_key or not selected_model:
             st.warning(
                 'You must provide valid OpenAI API key and choose preferred model', icon="??")
             st.stop()
 
         llm_config = {
             "request_timeout": 600,
             "config_list": [
                 {
                     "model": selected_model,
                     "api_key": selected_key
                 }
             ]
         }

上面代碼創建一個聊天輸入字段，如果用戶沒有完成配置，將顯示一個警告。

自定義我們的代理，并為異步聊天設置事件循環:

# create an AssistantAgent instance named "assistant"
 assistant = TrackableAssistantAgent(
 name="assistant", llm_config=llm_config)
 
 # create a UserProxyAgent instance named "user"
 user_proxy = TrackableUserProxyAgent(
 name="user", human_input_mode="NEVER", llm_config=llm_config)
 
 # Create an event loop
 loop = asyncio.new_event_loop()
 asyncio.set_event_loop(loop)

代理的配置需要根據我們的需求自行定義，我們這里只給一個演示。除此以外還要使用asyncio為應用程序處理異步操作做好準備。

最后定義并運行異步函數來啟動聊天:

async def initiate_chat():
 await user_proxy.a_initiate_chat(
 assistant,
 message=user_input,
 )
 
 # Run the asynchronous function within the event loop
 loop.run_until_complete(initiate_chat())

當發送消息時，就可以在用戶代理和助理代理之間發起聊天，結果如下：

總結

將AutoGen代理集成到Streamlit應用程序中，為創建由大型語言模型驅動的交互式智能ui提供了無數可能性。通過我們的以上代碼可以建立一個響應式聊天界面，利用AutoGen的高級功能。AutoGen和Streamlit的結合為實現我們的需求提供了一個強大且對開發人員友好的途徑。