Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

【问题请教】关于 ChatUI 卡片组件能否支持 SSE? #2

Open
LukeLiou opened this issue Sep 14, 2024 · 4 comments
Open

【问题请教】关于 ChatUI 卡片组件能否支持 SSE? #2

LukeLiou opened this issue Sep 14, 2024 · 4 comments

Comments

@LukeLiou
Copy link

如题,我看到博主已经实现文本消息的 SSE,还想请问ChatUI 卡片组件(其他非文本)能否支持 SSE?或者有啥其他思路吗,因为请求大模型需要一定的时间,才能拿到所有结果

@little51
Copy link
Contributor

我这个代码略陈旧些了,并未实现SSE,而是用轮询方法不断post模拟实现的。SSE用openai.beta.chat.completions.stream实现,可参考:https://github.com/git-cloner/querychain/blob/main/chat-app/src/App.js中的chat_stream方法,不过也只是文本

@LukeLiou
Copy link
Author

我这个代码略陈旧些了,并未实现SSE,而是用轮询方法不断post模拟实现的。SSE用openai.beta.chat.completions.stream实现,可参考:https://github.com/git-cloner/querychain/blob/main/chat-app/src/App.js中的chat_stream方法,不过也只是文本

仔细拜读了下, 确实是通过轮询post,我再去看看 SSE 的调用解析,感谢你的思路~
另外还请问:https://gitclone.com/aiit/codegen_stream/v2这个接口是怎么部署的,我想把用 node 搭建的 sse 接口部署到远程

@little51
Copy link
Contributor

这个项目的接口是python实现的。部署方法是https://github.com/git-cloner/codegen?tab=readme-ov-file#install,我未使用node.js实现过SSE

@LukeLiou
Copy link
Author

这个项目的接口是python实现的。部署方法是https://github.com/git-cloner/codegen?tab=readme-ov-file#install,我未使用

好的,谢谢🙏

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants