一个500行Python代码构建的AI搜索工具,而且还会开源,试了一下麻雀虽小该有的都有。

后端是Mixtral-8x7b 模型,托管在 LeptonAI 上,输出速度能达到每秒大约200个 token,用的搜索引擎是 Bing 的搜索 API。作者还写了一下自己的经验:

(1) 搜索质量至关重要。优质的摘要片段是形成精准概括的关键。

(2) 适当加入一些虚构内容实际上有助于补充摘要片段中缺失的“常识性信息”。

(3) 在进行内容概括时,开源模型表现出了卓越的效果。

在线网址:https://search.lepton.run/

GitHub地址:https://github.com/leptonai/search_with_lepton

历史上的今天
02月
7
    抱歉,历史上的今天作者很懒,什么都没写!
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。