據(jù)上流式問答,答案實(shí)時(shí)附帶行內(nèi)引用與來源面板)
掌握Open Glean的Ask在私有數(shù)據(jù)上流式問答答案實(shí)時(shí)附帶行內(nèi)引用與來源面板【免費(fèi)下載鏈接】open-gleanAn open-source AI platform for knowledge work. Connect your apps, find answers, and get work done.項(xiàng)目地址: https://gitcode.com/gh_mirrors/op/open-gleanOpen Glean 是一個(gè)開源的 AI 知識(shí)工作平臺(tái)把你的私有數(shù)據(jù)接入 Hydra DB用它的核心功能 Ask 在記憶、文件與已連接應(yīng)用上提問——答案逐字流式輸出每句話都帶可點(diǎn)擊的行內(nèi)引用 [1]全部出處還能在專屬來源面板中核對(duì)。這就是第二大腦該有的樣子。為什么敢信Ask 的檢索 → 作答 → 引用三步閉環(huán)Ask 不是直接問大模型。它的每個(gè)問題都走一條完整流水線檢索上下文先在你的 Hydra 數(shù)據(jù)庫里搜索相關(guān)內(nèi)容最多取 8 條命中片段流式作答把檢索結(jié)果編號(hào)后交給 LLM答案一個(gè)字一個(gè)字地流進(jìn)對(duì)話窗口引用來源模型必須用[1]、[2]這樣的編號(hào)標(biāo)注依據(jù)前端再把編號(hào)變成可點(diǎn)擊的行內(nèi)引用。整條鏈路的調(diào)度邏輯在 lib/qa.ts 中值得收藏研究。3 步快速上手本地跑起 Open Glean 并提問第 1 步克隆并啟動(dòng)git clone https://gitcode.com/gh_mirrors/op/open-glean cd open-glean npm ci npm run dev第 2 步配置環(huán)境變量把.env.example復(fù)制為.env.local至少填入OPEN_GLEAN_SESSION_SECRET任意 16 位以上隨機(jī)字符串用于加密密鑰會(huì)話 Cookie。第 3 步連接數(shù)據(jù)與模型開始提問打開http://localhost:3000按引導(dǎo)Connect粘貼你的 Hydra DB API Key 并選擇一個(gè)數(shù)據(jù)庫Settings填入 OpenRouter或任意 OpenAI 兼容Key 并挑選模型直接在首頁提問或先到 Context 頁面補(bǔ)充文件、筆記、網(wǎng)頁等上下文。 沒有配置 LLM 也能用Ask 會(huì)自動(dòng)降級(jí)為僅檢索模式照樣返回帶來源的命中片段只是不生成書面答案。Ask 輸入框詳解3 個(gè)開關(guān)決定答案的深度首頁中央的輸入框components/AskSearchBar.tsx下方有三個(gè)控制項(xiàng)是新手最容易忽略的隱藏菜單控件作用適合場(chǎng)景 Web開啟 OpenRouter 網(wǎng)頁搜索插件實(shí)時(shí)聯(lián)網(wǎng)結(jié)果與私有來源并列引用私有數(shù)據(jù)不夠新或不夠全時(shí)? Fast / Deep / ? Research三檔作答深度見下方說明按問題復(fù)雜度切換 Filters按元數(shù)據(jù) key/value 精確過濾如provider: jira數(shù)據(jù)量大時(shí)圈定范圍三種深度模式的定義在 lib/chatMode.tsFast快速混合檢索日常問題首選Deep圖譜增強(qiáng)檢索會(huì)利用知識(shí)圖譜關(guān)系更準(zhǔn)但稍慢Research深度研究為復(fù)雜問題規(guī)劃子問題 DAG、并行執(zhí)行、逐分支寫發(fā)現(xiàn)最后匯總成一份帶統(tǒng)一編號(hào)引用的報(bào)告時(shí)間線會(huì)實(shí)時(shí)展示進(jìn)度。流式問答是如何工作的先檢索、再寫作以一次普通提問為例runQa的執(zhí)行順序是見 lib/qa.ts發(fā)起檢索調(diào)用 Hydra 的/query接口帶上你當(dāng)前選擇的數(shù)據(jù)庫/集合范圍、深度模式與元數(shù)據(jù)過濾條件歸一化結(jié)果把后端返回的片段chunk整理成統(tǒng)一的編號(hào)上下文組裝提示詞系統(tǒng)提示要求模型只用檢索到的上下文回答并用[1][2]行內(nèi)引用還附上了最近 8 輪對(duì)話歷史流式輸出通過streamChat逐段回調(diào)把文字推送到界面支持隨時(shí)停止每個(gè)運(yùn)行都掛在 AbortController 上對(duì)話里的 Stop 按鈕說停就停。這就是為什么你能看到答案正在被寫出來——它不是先生成完再展示而是檢索完成即開始流式傳輸。行內(nèi)引用與來源面板答案的可信度從黑盒變白盒這是 Ask 最有價(jià)值的設(shè)計(jì)。答案里的每個(gè)[n]都會(huì)被轉(zhuǎn)成可點(diǎn)擊的引用按鈕實(shí)現(xiàn)見 lib/citationMarkup.ts點(diǎn)擊后自動(dòng)展開來源面板并滾動(dòng)、閃爍定位到對(duì)應(yīng)來源卡片。來源面板components/SourcesPanel.tsx提供三層信息來源卡片行內(nèi)聯(lián)展示前 4 張卡片每張卡片含連接器 LogoSlack、GitHub、Confluence…、來源名稱Memory / File / Webpage與對(duì)應(yīng)引用編號(hào)更多來源收進(jìn)N more按鈕右側(cè)抽屜點(diǎn)擊N more滑出完整來源列表私有來源與網(wǎng)頁搜索結(jié)果帶 和[W#]編號(hào)統(tǒng)一排序來源預(yù)覽彈窗點(diǎn)擊卡片即打開預(yù)覽——先顯示被引用的原文片段這正是答案實(shí)際依據(jù)的那段話再按需加載完整文檔底部提供復(fù)制和打開原始文件按鈕。?? 一個(gè)安全細(xì)節(jié)預(yù)覽彈窗只允許http/https鏈接在新標(biāo)簽頁打開模型返回的javascript:等危險(xiǎn)協(xié)議一律拒絕——引用可點(diǎn)但不可能點(diǎn)進(jìn)去就中招。讓問答更準(zhǔn)的 3 個(gè)進(jìn)階技巧切換范圍Scope用頂欄的 ScopeSwitcher 指定查詢搜索哪個(gè)數(shù)據(jù)庫、哪些集合檢索會(huì)扇出到所有選中的集合組件在 components/ScopeSwitcher.tsx先喂上下文再提問到 Context 頁上傳文件、保存網(wǎng)頁、記錄記憶私有數(shù)據(jù)越豐富檢索命中越好首頁輸入框還會(huì)檢測(cè)空庫并提醒你去補(bǔ)充善用建議問題輸入框下方的示例如Summarize the Q3 planning doc展示了 Ask 的典型用法——它回答的不只是文檔在哪而是直接基于內(nèi)容給出摘要。寫在最后Open Glean 的 Ask 用一條簡(jiǎn)單的鏈路——檢索私有數(shù)據(jù) → 流式寫作 → 行內(nèi)引用 → 來源面板——解決了 AI 問答最關(guān)鍵的信任問題每一句結(jié)論都可以點(diǎn)回原文出處。項(xiàng)目采用 Apache-2.0 協(xié)議見 LICENSE技術(shù)棧僅 Next.js React Hydra SDK輕量到可以今天下午就跑起來。從你的第一批筆記開始提問吧第二大腦已經(jīng)就位 【免費(fèi)下載鏈接】open-gleanAn open-source AI platform for knowledge work. Connect your apps, find answers, and get work done.項(xiàng)目地址: https://gitcode.com/gh_mirrors/op/open-glean創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考