欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

從API調(diào)用到RAG與Agent:happy-llm帶你跑通大模型應(yīng)用開發(fā)

從API調(diào)用到RAG與Agent:happy-llm帶你跑通大模型應(yīng)用開發(fā) 今年很多開發(fā)者的卡點(diǎn)已經(jīng)不是“大模型能做什么”而是“我明明調(diào)通了 API卻依然不知道怎么把它變成真正的應(yīng)用”??戳艘淮蠖芽蚣芪臋n收藏了十幾個(gè)教程最后面對(duì)一個(gè)最簡(jiǎn)單的知識(shí)庫(kù)問(wèn)答需求還是不知道從哪里下手。這個(gè)問(wèn)題的根源不是缺少學(xué)習(xí)資料而是缺少一條“能親手跑完”的路徑。datawhalechina/happy-llm 這個(gè)開源項(xiàng)目恰好就是為這條路徑設(shè)計(jì)的。它把大模型應(yīng)用開發(fā)拆成一個(gè)個(gè)很小的節(jié)點(diǎn)每個(gè)節(jié)點(diǎn)都用最小可運(yùn)行代碼去驗(yàn)證一個(gè)知識(shí)點(diǎn)從“一句話調(diào)用大模型”開始一直走到 RAG、Agent、Web 應(yīng)用部署。這篇文章不打算簡(jiǎn)單復(fù)述項(xiàng)目介紹而是想結(jié)合 LLM 應(yīng)用開發(fā)的實(shí)際痛點(diǎn)把 happy-llm 背后的設(shè)計(jì)思路、技術(shù)鏈路、環(huán)境準(zhǔn)備、代碼實(shí)現(xiàn)和常見坑位完整梳理一遍。如果你正在學(xué) LLM 應(yīng)用開發(fā)或者準(zhǔn)備用大模型 API 搭一個(gè)真實(shí)項(xiàng)目這篇文章應(yīng)該能幫你少走很多彎路。1. 為什么 LLM 應(yīng)用開發(fā)總卡在“入門到放棄”先聊一個(gè)現(xiàn)象。很多開發(fā)者掌握 Python也了解神經(jīng)網(wǎng)絡(luò)的基本概念但一進(jìn)入大模型應(yīng)用開發(fā)領(lǐng)域就陷入三種典型困境。第一種困境是“只逛概念不動(dòng)手”。Token、temperature、system prompt、上下文窗口、微調(diào)、RAG、Agent每個(gè)詞都聽過(guò)每個(gè)詞都能聊兩句但真要寫代碼時(shí)腦子里只有一個(gè)client.chat.completions.create后面怎么做完全沒(méi)概念。第二種困境是“一上來(lái)就上框架”??吹?LangChain、LlamaIndex 很火直接去讀框架文檔結(jié)果被 Chain、Agent、Tool、Memory 這些抽象概念繞暈??蚣鼙旧頉](méi)有錯(cuò)但框架是給已經(jīng)理解底層邏輯的人用的加速器。如果你還沒(méi)親手調(diào)通過(guò)一次原生 API沒(méi)有自己拼過(guò) messages 數(shù)組沒(méi)有手動(dòng)處理過(guò)一次工具調(diào)用返回框架只會(huì)變成另一層黑盒。第三種困境是“代碼能跑但只會(huì)跑”。網(wǎng)上可以找到大量現(xiàn)成的 DEMO復(fù)制下來(lái)確實(shí)能運(yùn)行但換一個(gè)需求就不知道怎么改。這說(shuō)明沒(méi)有理解 API 請(qǐng)求和響應(yīng)結(jié)構(gòu)背后的工程邏輯上下文是狀態(tài)、輸出格式是契約、工具調(diào)用是循環(huán)、檢索質(zhì)量決定回答質(zhì)量。LLM 應(yīng)用和傳統(tǒng)軟件開發(fā)的本質(zhì)區(qū)別在于傳統(tǒng)接口的輸入輸出是確定的結(jié)構(gòu)而大模型 API 的輸出是概率性的文本。這意味著你必須額外做結(jié)構(gòu)化約束、上下文管理、結(jié)果校驗(yàn)和異常兜底。這一整套方法不是背概念能學(xué)會(huì)的必須通過(guò)一個(gè)接一個(gè)的最小可運(yùn)行代碼去練習(xí)。happy-llm 的意義就是幫你把這條路走通。2. HAPPY-LLM 是什么項(xiàng)目定位與設(shè)計(jì)理念happy-llm 是 Datawhale 社區(qū)維護(hù)的一個(gè)開源學(xué)習(xí)項(xiàng)目。Datawhale 在國(guó)內(nèi)開源社區(qū)里比較特殊它不只是發(fā)代碼還會(huì)組織大家一起學(xué)強(qiáng)調(diào)“開源學(xué)習(xí)”這件事本身。這個(gè)項(xiàng)目的名字里就帶著學(xué)習(xí)理念保持一個(gè)自己能堅(jiān)持的節(jié)奏用小的正向反饋把學(xué)習(xí)持續(xù)下去而不是一次性吞下全部知識(shí)。從項(xiàng)目設(shè)計(jì)來(lái)看它沒(méi)有追求大而全的理論覆蓋而是把目標(biāo)設(shè)定得非常明確讓一個(gè)有一定 Python 基礎(chǔ)的開發(fā)者通過(guò)一段不長(zhǎng)的學(xué)習(xí)時(shí)間親手跑完一條完整的 LLM 應(yīng)用開發(fā)主鏈路。從調(diào) API 開始到提示詞設(shè)計(jì)、結(jié)構(gòu)化輸出、流式輸出、多輪對(duì)話、RAG 檢索增強(qiáng)生成、Agent 工具調(diào)用最后落在一個(gè)可交互的 Web Demo 上。這里要做一個(gè)重要區(qū)分happy-llm 不是生產(chǎn)級(jí)框架不是 LangChain 的替代品也不是一個(gè)大模型推理引擎。你學(xué)完它不會(huì)得到一個(gè)可以直接上生產(chǎn)的高并發(fā)服務(wù)但你會(huì)得到比讀十篇科普文章更扎實(shí)的東西——對(duì) LLM 應(yīng)用開發(fā)主鏈路每個(gè)環(huán)節(jié)的真實(shí)體感。用一個(gè)表格來(lái)對(duì)比它和傳統(tǒng)學(xué)習(xí)方式、框架文檔的區(qū)別對(duì)比維度傳統(tǒng)理論教程直接啃框架文檔happy-llm 這類實(shí)戰(zhàn)學(xué)習(xí)項(xiàng)目學(xué)習(xí)起點(diǎn)從注意力機(jī)制講起從框架抽象概念講起從一行能跑的 API 調(diào)用講起代碼量少以原理圖為主多但零散每個(gè)節(jié)點(diǎn)一個(gè)完整小程序反饋速度慢學(xué)完未必會(huì)寫慢概念太多快每跑通一個(gè)都有正反饋?zhàn)罱K目標(biāo)理解原理使用框架理解主鏈路并具備擴(kuò)展基礎(chǔ)適合人群想深入原理的研究者已有應(yīng)用經(jīng)驗(yàn)的開發(fā)者剛?cè)腴T應(yīng)用開發(fā)的工程師這個(gè)定位非常關(guān)鍵。如果你現(xiàn)在最需要的是快速建立對(duì) LLM 應(yīng)用開發(fā)的整體認(rèn)知并且希望每一步都有代碼可跑那么這類項(xiàng)目比純理論書和純框架文檔都更適合你。3. LLM 應(yīng)用開發(fā)的核心概念先分清幾個(gè)關(guān)鍵詞在動(dòng)手之前先花一點(diǎn)時(shí)間把后面代碼里會(huì)反復(fù)出現(xiàn)的幾個(gè)概念講清楚。這些詞不是拿來(lái)背的是拿來(lái)對(duì)應(yīng)代碼的。第一個(gè)是 Chat Completion API。這是目前大模型應(yīng)用開發(fā)最常用的接口形態(tài)。你傳一個(gè)消息列表給它它返回模型生成的文本。消息列表里每條消息都帶角色通常有 system、user、assistant 三種。system 負(fù)責(zé)設(shè)定模型身份和行為邊界user 是用戶輸入assistant 是模型歷史回復(fù)。多輪對(duì)話就是不斷往這個(gè)列表里追加消息。第二個(gè)是 Token。Token 是模型處理文本的最小單位可以粗略理解成“模型眼里的單詞碎片”。文本長(zhǎng)度、上下文窗口、計(jì)費(fèi)都以 Token 計(jì)算。你傳入的 messages 和模型輸出的完整內(nèi)容總 Token 數(shù)不能超過(guò)模型的上下文窗口。第三個(gè)是 Temperature。它控制輸出的隨機(jī)性數(shù)值越高回答越發(fā)散越低越確定。需要穩(wěn)定解析結(jié)果時(shí)通常設(shè)置低一些需要?jiǎng)?chuàng)意文案時(shí)可以設(shè)高一些。第四個(gè)是 Embedding。它把一段文本轉(zhuǎn)換成一個(gè)高維向量讓語(yǔ)義相近的文本在向量空間里距離更近。RAG 里的“檢索”本質(zhì)上就是計(jì)算用戶問(wèn)題和文檔向量之間的相似度。第五個(gè)是 Function Calling。它是讓模型具備“行動(dòng)能力”的關(guān)鍵。你在請(qǐng)求里聲明一個(gè)函數(shù)的結(jié)構(gòu)模型判斷需要調(diào)用它時(shí)會(huì)返回結(jié)構(gòu)化的調(diào)用參數(shù)由你的代碼真正執(zhí)行函數(shù)再把結(jié)果回傳給模型生成最終回答。第六個(gè)是 RAG。RAG 全稱是 Retrieval-Augmented Generation檢索增強(qiáng)生成。核心思路是外部文檔切分成塊向量化后存入向量數(shù)據(jù)庫(kù)用戶提問(wèn)時(shí)先檢索相關(guān)內(nèi)容再把檢索結(jié)果和問(wèn)題一起拼進(jìn)提示詞讓模型基于參考材料回答。它解決的是模型不懂私有知識(shí)、知識(shí)更新成本高、容易產(chǎn)生幻覺(jué)的問(wèn)題。這些概念可以用一張表映射到傳統(tǒng)軟件工程LLM 應(yīng)用概念傳統(tǒng)軟件類比核心作用system prompt配置中心控制行為邊界messages請(qǐng)求參數(shù)傳遞會(huì)話上下文結(jié)構(gòu)化輸出接口契約讓文本可被程序解析Embedding索引把文本變成可計(jì)算語(yǔ)義距離的數(shù)據(jù)Function CallingAPI 網(wǎng)關(guān)讓模型觸發(fā)真實(shí)操作RAG外部數(shù)據(jù)源查詢補(bǔ)充模型不知道的知識(shí)理解了這些映射后面寫代碼時(shí)就不會(huì)覺(jué)得大模型應(yīng)用開發(fā)是另一套完全陌生的東西。它就是“模型做語(yǔ)義理解和決策代碼做確定性的計(jì)算和 IO”的結(jié)合。4. 環(huán)境準(zhǔn)備與前置條件開始寫代碼之前先把環(huán)境準(zhǔn)備好。這里不會(huì)寫死版本號(hào)因?yàn)椴煌瑫r(shí)間安裝的依賴版本會(huì)有差異但整體思路是通用的。建議使用 Python 3.9 或更高版本。如果你本地已經(jīng)裝了 Anaconda 或者 Miniconda可以直接用 conda 創(chuàng)建一個(gè)新環(huán)境如果習(xí)慣用原生 Python用 venv 也足夠。python -m venv llm_env source llm_env/bin/activate # Windows 下使用 llm_env\Scripts\activate然后安裝核心依賴。這里以 OpenAI SDK 為例國(guó)內(nèi)很多大模型服務(wù)商都提供 OpenAI 兼容接口所以代碼結(jié)構(gòu)可以復(fù)用只需要換 base_url 和 api_key。pip install openai python-dotenv numpy gradio把這些依賴寫入requirements.txt也方便后續(xù)重建環(huán)境openai1.0 python-dotenv1.0 numpy1.24 gradio4.0接下來(lái)需要準(zhǔn)備一個(gè) API Key。如果你是第一次接觸優(yōu)先使用你所在環(huán)境容易訪問(wèn)的模型服務(wù)商。注冊(cè)后創(chuàng)建 Key填入項(xiàng)目根目錄下的.env文件LLM_API_KEY你的_API_KEY LLM_BASE_URLhttps://api.openai.com/v1 LLM_MODELgpt-4o-mini EMBEDDING_MODELtext-embedding-ada-002這里強(qiáng)烈建議使用.env文件管理密鑰而不是把 Key 硬編碼在代碼里。后續(xù)涉及任何分享代碼的場(chǎng)景硬編碼 Key 都是高危行為。代碼結(jié)構(gòu)上建議按主題分成獨(dú)立文件不要把所有代碼堆在一個(gè)腳本里。參考結(jié)構(gòu)如下happy-llm-practice/ ├── .env ├── requirements.txt ├── 01_basic_chat.py ├── 02_structured_output.py ├── 03_stream_chat.py ├── 04_rag_demo.py ├── 05_agent_demo.py └── 06_web_demo.py每個(gè)文件都是一個(gè)可以獨(dú)立運(yùn)行的最小示例這本身就是 happy-llm 提倡的學(xué)習(xí)方式一次只關(guān)注一個(gè)知識(shí)點(diǎn)跑通了再進(jìn)下一個(gè)。5. 第一個(gè) LLM 小程序API 調(diào)用與基礎(chǔ)對(duì)話從最簡(jiǎn)單的程序開始。新建01_basic_chat.py先實(shí)現(xiàn)一次最基本的對(duì)話補(bǔ)全。# 文件路徑happy-llm-practice/01_basic_chat.py import os from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) response client.chat.completions.create( modelos.getenv(LLM_MODEL), messages[ {role: system, content: 你是一個(gè)樂(lè)于助人的中文助手。}, {role: user, content: 用一句話解釋什么是大語(yǔ)言模型。} ], temperature0.7 ) print(response.choices[0].message.content)這段代碼做了三件事讀取環(huán)境變量、初始化客戶端、發(fā)起一次對(duì)話請(qǐng)求。注意messages是一個(gè)列表列表里是消息字典。system 消息用來(lái)約束模型行為user 消息是用戶提問(wèn)。這是 LLM 應(yīng)用開發(fā)最核心的數(shù)據(jù)結(jié)構(gòu)后面所有復(fù)雜功能本質(zhì)上都在圍繞這個(gè)列表做文章。運(yùn)行方式很簡(jiǎn)單python 01_basic_chat.py如果一切正常會(huì)看到一行模型生成的回答。如果出現(xiàn)401說(shuō)明 API Key 不正確如果出現(xiàn)超時(shí)檢查 base_url 和網(wǎng)絡(luò)連通性如果提示模型不存在檢查環(huán)境變量里的模型名是否和服務(wù)商提供的一致。這里有一個(gè)初學(xué)者容易忽略的點(diǎn)response是一個(gè)結(jié)構(gòu)化的響應(yīng)對(duì)象不是純文本。.choices[0].message.content才是最終文字內(nèi)容。理解和熟悉這個(gè)響應(yīng)結(jié)構(gòu)比背文檔更有用因?yàn)楹竺孀隽魇捷敵觥⒐ぞ哒{(diào)用時(shí)都要操作這個(gè)結(jié)構(gòu)。6. 工程化第一步結(jié)構(gòu)化輸出、流式輸出與多輪對(duì)話能完成一次基礎(chǔ)對(duì)話之后接下來(lái)要把“模型聊天能力”工程化。這就要處理三個(gè)問(wèn)題模型輸出怎么被程序穩(wěn)定解析用戶體驗(yàn)怎么更流暢多輪對(duì)話的上下文怎么管理。6.1 結(jié)構(gòu)化輸出模型返回的是自然語(yǔ)言文本但程序需要的是 JSON、字典、列表這類結(jié)構(gòu)。比如做一個(gè)信息抽取功能你希望模型返回“公司名、金額、日期”而不是一段口語(yǔ)化描述。解決方案就是結(jié)構(gòu)化輸出?,F(xiàn)在不少模型服務(wù)商支持response_format參數(shù)# 文件路徑happy-llm-practice/02_structured_output.py import os import json from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) response client.chat.completions.create( modelos.getenv(LLM_MODEL), response_format{type: json_object}, messages[ {role: system, content: 你是信息抽取助手。只輸出嚴(yán)格 JSON不要輸出任何解釋。}, {role: user, content: 從這句話中抽取公司名稱和融資金額北京某科技公司宣布完成 5000 萬(wàn)元 A 輪融資。 輸出格式{\company\: \\, \amount\: \\}} ] ) content response.choices[0].message.content data json.loads(content) print(data[company], data[amount])這里真正容易踩坑的地方是JSON 解析失敗。模型偶爾會(huì)輸出多行解釋或者把 JSON 包在代碼塊標(biāo)記里。穩(wěn)妥做法是在 system 消息里反復(fù)強(qiáng)調(diào)“只輸出嚴(yán)格 JSON”并在解析時(shí)加入異常處理失敗就重試一次。如果服務(wù)商不支持response_format參數(shù)退而求其次也可以用強(qiáng)約束的提示詞來(lái)引導(dǎo)輸出格式再配合正則或字符串清理來(lái)做兜底。6.2 流式輸出普通請(qǐng)求要等模型把完整內(nèi)容生成完才返回體驗(yàn)上像卡頓。流式輸出可以邊生成邊推送讓用戶看到逐字出現(xiàn)的效果。代碼改動(dòng)很小# 文件路徑happy-llm-practice/03_stream_chat.py import os from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) stream client.chat.completions.create( modelos.getenv(LLM_MODEL), messages[{role: user, content: 寫一段關(guān)于學(xué)習(xí)大語(yǔ)言模型應(yīng)用開發(fā)的 50 字總結(jié)。}], streamTrue ) for chunk in stream: delta chunk.choices[0].delta if delta and delta.content: print(delta.content, end, flushTrue)對(duì)比普通請(qǐng)求這里只是加了streamTrue然后遍歷返回的 chunk。生產(chǎn)環(huán)境中流式輸出還要考慮客戶端連接斷開、超時(shí)中斷等情況但作為學(xué)習(xí)項(xiàng)目跑通這個(gè)最小示例就足夠了。6.3 多輪對(duì)話與上下文管理大模型 API 本身是無(wú)狀態(tài)的。第二次請(qǐng)求時(shí)模型不會(huì)記得第一次請(qǐng)求說(shuō)了什么。所謂“多輪對(duì)話”其實(shí)是把歷史消息重新全部傳給模型。history [ {role: system, content: 你是一個(gè)中文助手。} ] def chat_with_history(user_input): history.append({role: user, content: user_input}) response client.chat.completions.create( modelos.getenv(LLM_MODEL), messageshistory ) answer response.choices[0].message.content history.append({role: assistant, content: answer}) return answer每次對(duì)話把整個(gè)history數(shù)組傳給模型。這就是為什么上下文窗口很重要?dú)v史越長(zhǎng)消耗的 Token 越多早晚會(huì)超出模型的窗口限制。工程上常用兩種策略一是滑動(dòng)窗口只保留最近 N 條消息二是對(duì)歷史做摘要把早期對(duì)話壓縮成一段概述。至于是不是需要引入專門的消息存儲(chǔ)取決于你的真實(shí)業(yè)務(wù)場(chǎng)景。7. RAG 開發(fā)實(shí)戰(zhàn)讓模型擁有私有知識(shí)模型是在某個(gè)時(shí)間點(diǎn)訓(xùn)練完成的它不知道你公司的內(nèi)部文檔、最新政策、私有產(chǎn)品手冊(cè)。RAG 是目前解決這類問(wèn)題的主流方案。它的核心流程是外部文檔切分成塊 - 每塊文本做向量化 - 向量存入向量數(shù)據(jù)庫(kù)或索引 - 用戶提問(wèn)時(shí)檢索最相關(guān)的若干塊 - 把檢索結(jié)果拼進(jìn)提示詞。下面用一個(gè)最小示例演示完整鏈路。為了不引入額外框架這里直接用 OpenAI 的 Embedding 接口和 NumPy 做相似度計(jì)算。生產(chǎn)環(huán)境請(qǐng)換成真正的向量數(shù)據(jù)庫(kù)但學(xué)習(xí)階段跑通這個(gè)例子更重要。# 文件路徑happy-llm-practice/04_rag_demo.py import os import numpy as np from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) documents [ HAPPY-LLM 是由 Datawhale 社區(qū)維護(hù)的開源學(xué)習(xí)項(xiàng)目。, 它強(qiáng)調(diào)每天一小時(shí)從最小可運(yùn)行代碼開始學(xué)習(xí)大模型應(yīng)用開發(fā)。, RAG 通過(guò)檢索外部知識(shí)來(lái)增強(qiáng)模型的回答能力。, Agent 通過(guò) Function Calling 讓模型具備調(diào)用外部工具的能力。, 多輪對(duì)話需要自行維護(hù)歷史消息列表。 ] def get_embedding(text): resp client.embeddings.create( modelos.getenv(EMBEDDING_MODEL), input[text] ) return resp.data[0].embedding doc_vectors [get_embedding(doc) for doc in documents] def search(query, top_k2): q_vec get_embedding(query) scores [] for i, doc_vec in enumerate(doc_vectors): score float(np.dot(q_vec, doc_vec) / (np.linalg.norm(q_vec) * np.linalg.norm(doc_vec))) scores.append((score, i)) scores.sort(reverseTrue) return [documents[i] for _, i in scores[:top_k]] query 我該怎么學(xué)習(xí)大模型應(yīng)用開發(fā) related search(query) context \n.join(related) prompt f請(qǐng)根據(jù)以下參考資料回答用戶問(wèn)題。 參考資料 {context} 用戶問(wèn)題{query} 如果參考資料不足以回答問(wèn)題請(qǐng)直接說(shuō)明。 response client.chat.completions.create( modelos.getenv(LLM_MODEL), messages[{role: user, content: prompt}] ) print(檢索到的資料) for doc in related: print(-, doc) print(\n模型回答) print(response.choices[0].message.content)這段代碼的核心是search函數(shù)。它把用戶問(wèn)題轉(zhuǎn)換成向量和每條文檔向量計(jì)算余弦相似度取最相似的兩條作為上下文。真正影響 RAG 效果的關(guān)鍵點(diǎn)有兩個(gè)。第一是文檔切分。切得太碎每塊語(yǔ)義不完整切得太大檢索出來(lái)噪音多還浪費(fèi) Token。第二是檢索質(zhì)量。向量相似度并不總是語(yǔ)義相關(guān)有時(shí)候需要加入重排環(huán)節(jié)。學(xué)習(xí)階段先用最樸素的方案跑通理解全流程再逐步引入更高級(jí)的預(yù)處理和檢索策略。這個(gè)例子也解釋了為什么 happy-llm 這類項(xiàng)目強(qiáng)調(diào)“最小可運(yùn)行”RAG 本身不是一個(gè)函數(shù)而是一條數(shù)據(jù)鏈路。如果不從頭到尾親手走一遍只靠讀文檔很難真正理解“切分 - 向量化 - 檢索 - 注入”之間的因果關(guān)系。8. Agent 與 Function Calling從“回答問(wèn)題”到“執(zhí)行任務(wù)”對(duì)話能力和知識(shí)庫(kù)問(wèn)答本質(zhì)還是“回答問(wèn)題”。但很多應(yīng)用場(chǎng)景需要的是“執(zhí)行任務(wù)”用戶問(wèn)“北京今天天氣怎么樣”你需要先去查天氣接口再組織語(yǔ)言回答。模型本身不聯(lián)網(wǎng)、不執(zhí)行代碼所以需要一套機(jī)制讓模型調(diào)用外部工具。這個(gè)機(jī)制就是 Function Calling。過(guò)程可以拆成四步第一步在請(qǐng)求里聲明工具函數(shù)的結(jié)構(gòu)。第二步模型判斷需要調(diào)用工具時(shí)返回一個(gè)tool_calls對(duì)象包含函數(shù)名和參數(shù)。第三步你的代碼真正執(zhí)行這個(gè)函數(shù)拿到結(jié)果。第四步把工具結(jié)果以roletool的消息追加到 messages再讓模型基于工具結(jié)果生成最終回答。下面用一個(gè)查詢天氣的最小示例演示。真實(shí)項(xiàng)目中函數(shù)體內(nèi)部應(yīng)該是請(qǐng)求天氣服務(wù) API這里用本地返回模擬。# 文件路徑happy-llm-practice/05_agent_demo.py import os import json from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) def get_weather(city: str) - str: # 實(shí)際項(xiàng)目中在這里調(diào)用天氣服務(wù) API return f{city} 今天多云氣溫 22 攝氏度。 tools [ { type: function, function: { name: get_weather, description: 查詢指定城市的實(shí)時(shí)天氣, parameters: { type: object, properties: { city: { type: string, description: 城市名例如 北京 } }, required: [city] } } } ] messages [ {role: user, content: 你好請(qǐng)問(wèn)北京今天天氣怎么樣} ] response client.chat.completions.create( modelos.getenv(LLM_MODEL), messagesmessages, toolstools, tool_choiceauto ) msg response.choices[0].message if msg.tool_calls: # 模型決定調(diào)用工具 call msg.tool_calls[0] print(模型要求調(diào)用工具, call.function.name) print(工具參數(shù), call.function.arguments) args json.loads(call.function.arguments) result get_weather(args[city]) # 把工具結(jié)果回傳給模型 messages.append(msg) messages.append({ role: tool, tool_call_id: call.id, content: result }) final_response client.chat.completions.create( modelos.getenv(LLM_MODEL), messagesmessages, toolstools ) print(最終回答, final_response.choices[0].message.content) else: print(模型直接回答, msg.content)這段代碼體現(xiàn)了 Agent 的雛形模型負(fù)責(zé)理解意圖、決定調(diào)用哪個(gè)工具、生成傳給工具的參數(shù)外部代碼負(fù)責(zé)真正執(zhí)行。模型的角色更像是一個(gè)路由器或編排器而不是答案的來(lái)源。初學(xué)者最容易忽略的是工具結(jié)果的回傳格式。tool_call_id必須和模型返回的call.id保持一致否則模型無(wú)法把工具結(jié)果和之前的請(qǐng)求關(guān)聯(lián)起來(lái)。Agent 應(yīng)用開發(fā)真正復(fù)雜的地方在于循環(huán)控制。一個(gè)任務(wù)可能需要連續(xù)調(diào)用多個(gè)工具每次調(diào)用結(jié)果都會(huì)改變后續(xù)步驟。生產(chǎn)環(huán)境還需要考慮設(shè)置最大工具調(diào)用輪數(shù)防止死循環(huán)對(duì)工具輸入做校驗(yàn)對(duì)工具異常做兜底確保工具權(quán)限最小化。所有這些都是 Agent 從 Demo 走向可用的必經(jīng)之路。9. 用 Gradio 把腳本變成 Web 應(yīng)用學(xué)習(xí)到這里你已經(jīng)掌握了 API 調(diào)用、結(jié)構(gòu)化輸出、RAG、工具調(diào)用這幾塊能力但都是在命令行里跑。要讓一個(gè)非技術(shù)的同事或者朋友也能體驗(yàn)可以做一個(gè) Web 頁(yè)面。Gradio 是目前非常方便的工具幾行代碼就能搭出一個(gè)可交互界面。# 文件路徑happy-llm-practice/06_web_demo.py import os import gradio as gr from openai import OpenAI from dotenv import load_dotenv load_dotenv() client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL) ) def chat(message, history): history history or [] messages [{role: system, content: 你是一個(gè)友好的人工智能助手。}] for user_msg, assistant_msg in history: messages.append({role: user, content: user_msg}) messages.append({role: assistant, content: assistant_msg}) messages.append({role: user, content: message}) response client.chat.completions.create( modelos.getenv(LLM_MODEL), messagesmessages ) return response.choices[0].message.content demo gr.ChatInterface(fnchat) demo.launch()運(yùn)行python 06_web_demo.py終端會(huì)輸出一個(gè)本地地址通常是http://127.0.0.1:7860瀏覽器打開即可開始對(duì)話。Gradio 的ChatInterface已經(jīng)幫你處理了歷史消息的展示和記錄你只需要關(guān)心如何調(diào)用模型。這個(gè)階段的重點(diǎn)不是把界面做得復(fù)雜而是理解從純函數(shù)到 Web 交互中間發(fā)生了什么用戶輸入進(jìn)入回調(diào)函數(shù)函數(shù)調(diào)用模型返回值渲染成界面消息。后面如果再接入前端的聊天組件、記憶持久化、用戶鑒權(quán)都是在同一套邏輯上擴(kuò)展。10. 常見問(wèn)題與排查思路把學(xué)習(xí)過(guò)程中最常遇到的問(wèn)題整理成一張表方便你快速定位。問(wèn)題現(xiàn)象可能原因排查方式解決方案調(diào)用報(bào)401API Key 錯(cuò)誤或失效檢查.env中 Key 是否正確重新生成 Key確認(rèn)環(huán)境變量已加載提示module沒(méi)有ChatCompletionopenai SDK 版本過(guò)舊執(zhí)行pip show openai升級(jí)到 1.x 版本請(qǐng)求超時(shí)base_url 配置錯(cuò)誤或網(wǎng)絡(luò)不可達(dá)單獨(dú)請(qǐng)求服務(wù)商接口測(cè)試連通性修改 base_url或調(diào)整超時(shí)時(shí)間JSON 解析失敗模型輸出了多余文本打印原始 response content增加 system 約束解析失敗時(shí)重試上下文超限歷史消息過(guò)長(zhǎng)查看 Token 消耗做滑動(dòng)窗口截?cái)嗷驓v史摘要RAG 檢索結(jié)果不相關(guān)文檔切分不合理或向量檢索不準(zhǔn)打印檢索命中的文本塊優(yōu)化切分策略增加 top_k嘗試重排Gradio 界面打不開端口被占用或未安裝完整查看終端日志更換端口或升級(jí) gradio 版本工具調(diào)用反復(fù)循環(huán)缺少最大輪數(shù)限制觀察日志中的調(diào)用鏈設(shè)定最大循環(huán)次數(shù)校驗(yàn)工具輸入表格之外再補(bǔ)一個(gè)最重要的原則任何時(shí)候模型返回了你不期望的結(jié)果第一件事都是打印原始響應(yīng)內(nèi)容而不是猜。大模型應(yīng)用的調(diào)試靠的是看真實(shí)輸入輸出而不是靠記憶。11. 最佳實(shí)踐與學(xué)習(xí)路線建議如果你決定沿著 happy-llm 這條路系統(tǒng)學(xué)下去下面幾條建議可以幫你走得更穩(wěn)。第一API Key 永遠(yuǎn)不要硬編碼也永遠(yuǎn)不要提交到 Git 倉(cāng)庫(kù)。.env文件要加入.gitignore。如果密鑰已經(jīng)泄露第一時(shí)間去服務(wù)商后臺(tái)吊銷并重新生成。第二結(jié)構(gòu)化輸出一定要做異常兜底。模型不是數(shù)據(jù)庫(kù)不能保證每次都返回合法 JSON。在實(shí)際項(xiàng)目中需要在解析失敗時(shí)設(shè)計(jì)重試、修正或降級(jí)邏輯。第三RAG 項(xiàng)目先評(píng)估檢索質(zhì)量再優(yōu)化生成效果。很多 RAG 應(yīng)用效果不好問(wèn)題不在模型而在文檔切分不合理、檢索命中的內(nèi)容不相關(guān)。上下文再?gòu)?qiáng)喂進(jìn)去的參考材料是錯(cuò)的回答也不會(huì)對(duì)。第四Agent 工具調(diào)用要設(shè)置邊界。真實(shí)項(xiàng)目里工具背后都是真實(shí)操作。查詢接口還好如果是刪除、寫入、轉(zhuǎn)賬這類敏感操作必須做權(quán)限校驗(yàn)、參數(shù)白名單和人工確認(rèn)機(jī)制。第五學(xué)習(xí)路線上建議遵循“先原生后框架”的順序。先用原生 OpenAI SDK 跑通 API 調(diào)用、結(jié)構(gòu)化輸出、RAG、Function Calling理解每一步在做什么再去看 LangChain 這類框架你會(huì)更容易看懂它的設(shè)計(jì)意圖。反過(guò)來(lái)一上來(lái)就用框架很容易被抽象概念繞暈。第六驗(yàn)證每個(gè)節(jié)點(diǎn)時(shí)不要只打印“運(yùn)行成功”要觀察實(shí)際輸出是否符合預(yù)期。學(xué) LLM 應(yīng)用開發(fā)和傳統(tǒng)開發(fā)的另一個(gè)區(qū)別是模型行為有隨機(jī)性同一個(gè)輸入可能得到不同輸出。所以測(cè)試時(shí)不要只看一次結(jié)果要跑幾次觀察穩(wěn)定性。12. 總結(jié)這篇博客從 LLM 應(yīng)用開發(fā)的真實(shí)痛點(diǎn)出發(fā)圍繞 datawhalechina/happy-llm 這個(gè)開源項(xiàng)目梳理了一條從零到一的學(xué)習(xí)和技術(shù)實(shí)踐路徑基礎(chǔ) API 調(diào)用、結(jié)構(gòu)化輸出、流式輸出、多輪對(duì)話、RAG 檢索增強(qiáng)生成、Agent 工具調(diào)用和 Gradio Web 應(yīng)用。最大的收獲不是記住某個(gè)函數(shù)而是理解 LLM 應(yīng)用開發(fā)的主鏈路模型提供語(yǔ)義理解和生成能力工程代碼負(fù)責(zé)上下文管理、輸出約束、外部檢索和工具執(zhí)行。學(xué)完這一條鏈路再去看任何框架或生產(chǎn)系統(tǒng)都不會(huì)覺(jué)得它們不可理解。建議你現(xiàn)在就照著第 4 章搭好環(huán)境跑通第 5 章的第一個(gè)小程序然后每天只推進(jìn)一到兩個(gè)節(jié)點(diǎn)。這種方式看起來(lái)慢但每一步都有真實(shí)的代碼反饋比收藏幾十篇教程然后在收藏夾里吃灰要有效得多。后面有機(jī)會(huì)可以繼續(xù)深入提示詞技巧、RAG 的重排序與評(píng)估、Agent 多工具協(xié)作、模型微調(diào)以及生產(chǎn)級(jí)部署。LLM 應(yīng)用開發(fā)還在快速演進(jìn)但核心鏈路是穩(wěn)定的值得親手跑一遍。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月婷婷电影院| 丁香婷婷九月| 日本nghangse中文字幕| 色婷婷激情| 九九这里是免费的视频5| 五月色丁香| 色99在线视频| 好叼操在线观看| 激情五月激情综合网| 国产熟女一区二区三区五月婷| 激情五月天色色| 《诡秘之主》在线观看| 深爱激情综合网| 欧美噜噜久久久XXX| 国产激情久久久| 国产精品视频久久99| 午夜微拍福利| 人人操97| 色噜噜狠狠一区二区三区| www.久久爱.com| 五月丁香亭亭| 黄色AV日韩| 激情五月婷婷伊人| 五月婷在线| 久久这里只有精品热在99| 天天舔夜夜操www com| 五月婷婷性爱| 婷婷无码五月天| 婷久久| 97色干| 五月婷婷丁香五月婷婷| 婷婷月五天在线在线看| 欧美色99| 精品人妻在线| 丁香五月WWW| 婷婷亚洲综合| 欧美啪啪9| 亚洲激情视频在线观看| 婷婷终合色图| 碰超在线九色| 亚洲情欲久久| 久久人妻视频| 99热只有这里有精品| 深爱激情av| 色噜噜狠狠色综合网| 亚洲亚洲人成综合网络| 任你草| 国产精品久久久海的味道| 天天粽合合合合| 三级毛片7979| 综合超碰熟| 五月综合激情婷婷六月色窝| www99热| www热久久yy9| 日韩人妻无码精品| 人人澡玖玖一| 狠狠操狠狠操| 婷婷五月天天天| 久久视频九九视频| 丁香六月天之亚州热女 | av操一操| 婷婷性爱五月天丁香网| 就爱日五月天| 九九视频在线观看视频在线播放69| 九九这里都是精品| 五月天成人综合| aaaaaa片| 五月综合丁香婷婷| 26uuu青青| 啪啪啪五月天| 色播播之激情五月婷婷| 六月丁香婷婷尤物| 夜丁香五月婷婷| 婷婷激情六月综合| 99热这里只有精品在线播放| 天天爱综合网| 91一起操| 国产看真人毛片爱做A片| 婷婷五月婷婷| seav天堂| 97AV人人插人人操| 色婷天天| 婷婷开心青青草| 天天做天天爱天天爽夜夜揉| 久久99热这里只有精品| 五月丁香综合激情| 五月丁香综合网| 成人丁香五月| 99色免费观看全部| 综合一区二区三区| 日韩黄色网络| 激情文学久久| www.婷婷| 99热久草| 五月天婷婷久久| 色五月综合| 五月婷在线| 大地9中文在线观看免费高清| 亚洲V国产V欧美V久久久久久| 99久久人妻精品无码二区| 99在线精品免费视频| 国产精品久久久久久久久久久久| 丁香五月婷婷高清| 丁婷婷五月天在线播放| 久久国产色| 99色热| 色色色色色色网| 99re这里只有| 五月天丁香综合在线| 成人丁香色| 99色热| 欧美日韩国产一区| 五月婷婷丁香五月亚洲色| 五月丁香色| 欧美丁香六月在线观看视频| 99视频只有精品| 激情深爱五月天| 男人天堂99| 日韩一级片| 久久婷青青草原| 伊人大香久久| 五月天婷婷狠狠| 色婷婷激情| 99综合| 五月婷婷丁香| WWW、99热| 日本黄色精品| 狠狠狠激情网| 9久精品| 中文字幕免费高清电视剧| 五月天色色色网| 玖玖无码中文| 五月开心网| 激情五月综合网| 久久99免费视频网站| 91精品丝袜久久久久久| 婷婷五月在线观看| 久777| www.婷婷五月天| 久er7久热| 丁香六月天| 国产伦亲子伦亲子视频观看| 99re这里只有精品9| 九月丁香五月婷婷| 激情婷婷丁香| 亚洲综合激情五月天婷婷| 久久久久er热| 97婷婷五月丁香| 99热18| 99思思热只有在这里看| 无码少妇高潮喷水A片免费| 超碰国产av| 久久午夜理论| 中文字幕无码人妻少妇免费视频| 亚洲色9| 五月激情站| 色婷婷五月天在线观看| 丁香五月婷婷狠狠色| 99视频这里只有精品10| ZpRSw| 婷婷八月激情| 五月色网| 五月天激情偷拍| 99热资源在线| 日本成人综合| 武则天精品久久| 婷婷丁香六月天| 九月丁香| 五月婷婷丁香六月| 26uuu淫色| 五月激情综合网| 丁香五月婷婷久久久| 天天开心AV色综合婷婷五月天| 97自拍视频在线| 超碰cap| 婷婷五六日| 丁香五月婷婷基地| 亚洲第一色网站| 天天日综合| 操逼六区| 欧洲色色| 欧美综合五月丁香五月天| 大香蕉久久| 五月天堂色| 九九久久五月天| 色色色五月天婷婷| 99视频这里只有久久精品| 国产XXXX搡XXXXX搡麻豆| 亚洲国产色婷婷| 五月激情视频| 久久激情综合| 涩涩激情五月婷婷| 色情久久久| 丁香五月天天| 91九九| 91婷婷丁香| 热久久91| 天干干夜夜操| 婷婷五月天综合在线| 国产中文亚洲欧美日韩性交| 久久人妻熟女一区二区| 天天做天天爱| 噜噜噜噜婷婷五月天| 26uuu成人网| se99高清无码| 97涩婷婷| 日韩一级片| 国产亚洲色婷婷久久99精品91| 久久久27操| www.99热在线观看| 中文在线视频久1| 婷五月天丁香婷五月| 九九99香蕉在线视频播放| 棕合影院色色| 色婷婷五月综合激情中文字幕| 五月色精品| 日韩无码性爱| 婷婷九月丁香| 五月婷婷开心综合| 蜜桃婷婷五月| 99cao婷婷| 亚色网站小视频| 激情综合视频| 99色免费观看全部| 欧美日本va| 99综合自拍| 色色热| 精品99网站| 欧美精品A片一区在线观看| 五月天色色网站| 777.色色| 夜夜久久综合网| 亚洲欧洲另类| 久99视频在线观看| 看久久性爱视频| 亚洲成片在线观看| 亚洲成AV人片在线观看| 婷婷在线视频| 六月婷婷五月丁香| 5月婷婷五月天| 九九激情综合| www.99精品视频| 99色在线| 99综合视频一体| 天天日天天爱天天噪| 丁香六月激情四射| 色综合99色| 婷婷成人五月天| 精品久久这里热66| 日操夜撸| 99热在线这里只有精品| 日韩免费乱轮网站| 五夜婷婷| 综合网啪啪| 丁香五月婷婷啪啪视频| 99网| 99re在线观看| 六月婷婷开心| 丁香五月六月欧美| 五月丁激情| 色播婷婷五月天| 丁香五月大香蕉在线99| 久久小说网| 婷婷中文字幕网| 成人在线日韩| 亚洲操B| 五月婷婷色综图片| 五月婷网站| 久久97| 99碰视频| 成人电影AV在线观看| 五月综合激情网| 五月婷婷激情综合| 99精品视频在线观看| AV在线观看网站| 亚州操人在线视频| 五月天婷婷综合免费| 丁香五月亚洲婷婷| 五月天社区狠狠| 婷婷五月丁香高清无码| 天天网站天天爽| 婷婷久月| 五月丁香六月婷婷啪啪综合| 人人人操Av| 亚州色婷婷| 91人碰| 日本99婷婷| 九九精品丁香花| 亚洲九九99精品视频在线播放| 极品少妇XXXX精品少妇偷拍 | 婷婷色丁香六月| 九九热视频首页/这里只有精品| 婷婷综合色图| 五月激情婷婷图片基地| 激情五月天婷婷视频| 成人久久天天x资源站| 思思视频精品| 亚州AV超碰人人操| 亚洲色热| 色婷婷在线播放| 五月婷婷天堂| 亚洲综合激情五月久久| 玖玖婷婷色欲| 99热狠狠操| 五月婷婷偷拍| WWW.桔色成人.COM入口| 六月丁香影院| 中文字幕AV在线播放| 99爱爱| 九九视频这里只有精品| 激情伊人| 香蕉AV777XXX色综合一区| 1024亚洲无码| 99九九在线观看免费| 久热这里只精品| 开心亚洲久久开心| www.99热这里精品| 五月婷视频| 99热思思| 久久婷综合网| 国产色色网站网址| 六月婷婷开心| 超碰九色| 99人人精品| 久久色情| 九九热这里只有精品31| 91丨九色丨东北熟女| 五月丁香激情四射| 精品一区久热| 色婷婷久久| 丁香五月婷婷呀| 亚艹艹| 最新久久网址| 五月激情婷婷偷拍| 亚洲夜五月| 久久人妻在线| 五月婷av| 五月激情小说| 婷婷久久综| 丁香六月av| 伊人深爱综合| 精品一二三区久久AAA片| 日本人妻操| 婷婷激情小说网| 五月丁香另类网| 久久婷婷五月天激情四射| 色色色热| 成人综合AV| 婷婷天天综合| 日韩另类| 婷婷色导航| 婷婷丁香色情| 狠狠精品干练久久久无码中文字幕| 丁香五月天激情四射网络不好| 婷婷九月色| 欧美成人网99网| 久热9| 婷婷99丁香| 美女丁香五月天| AV性爱网| 牛色色碰| 五月丁香婷中文| 色五月婷婷五月天| 久久婷婷热| 五月天婷婷成人| AA片在线观看视频在线播放| ,99视频久久| 日日干天天射| 热99在线精品| 精品婷婷五月天| 99欧州偷拍视频| 97碰精品| 天天影视色综合网| AV色色天堂中文| 开心五月婷婷六月丁香| 久久怡红院| 色五月首页| 思思热在线视频精品| 久久99草五月婷婷| 思思热精品在线观看| 国产毛多水多女人A片| 操操操操操操婷婷五月天| 色你久久| 五月丁香精品| 成人片在线播放| 天堂中文国产| 激情四射网| 亚洲AV无码成人精品区电影网| 中文字幕性爱丰满| 婷婷六久久| 五月丁香婷婷啪啪综合网| 婷婷亚洲综合| 久久成人综合五月天| 99色婷婷| 色久五月| 韩国97天堂| www.sezonghe| 男人天堂 久久| 五月天婷婷视频小说| 99久久精彩视频。| 色五月婷婷色| 久久99热精品a片在线观看| 五月丁香综合在线| 五月丁香婷中文| av在线资源| 91热99| 大香蕉婷婷丁香天堂AV| 玖玖99福利| 最近中文字幕在线中文视频| 婷婷五月天激情在线观看| 99热这里只有精品9| 六月丁香婷婷综合色播| 丁香狠狠干| 婷婷五月图片小说视频| 欧美激情中文字幕| 亚洲综合激情五月久久| 五月天久久综合| 五月天激情四射| 天堂婷婷五月在线| 99干在线视频| 色婷婷欧美| 99色区| 最近中文字幕大全免费版在线| www.婷婷五月天啪啪| 五月天色软件| 亚洲综合激情五月久久| 天天综合天天玩夜夜玩天天玩夜夜玩 | 丁香婷婷五月| 五月婷六月天| 六月丁香色色| 九九热中文| 99热这里只有精品亚洲| 嫩草视频观看| 欧美槡BBBB槡BBB少妇| 久久99热久久99精品| 六月大香蕉| 色播丁香| 99在线免费观看| 久久伊人五月天| 日韩性爱AV| 991精品在线视频| 色波激情五月天| 九九99偷拍视频| 97操操| 色99视频| 久久99jiu9| 五月综合久久| 狠狠色97| 天天爽天天摸| 天天爽天天弄| 综合久久97| 婷婷射丁香| 逼逼AV| 一区视频网站| 亚洲综合色婷婷文学| 五月丁香狠狠爱| 亚洲va欧美va国产综合久久久| 婷丁香五月天| 色婷婷亚洲综合网站| 26uuu在线观看| 99热免| 五月丁香va| 毛片新网地| 影音先锋五月婷婷| 婷婷五月天综合网| 99re8这里只有精品99re8热视频| 五月天淫乱视频| 亚州日本欧州韩美高青高潮一| 色你久久| 亚洲自拍天堂| 中文字幕按摩做爰| 99操99| 99精品无码网站| 99热在线观看免费中文| 精品香蕉99久久久久网站| 久久总和99| 成人看片网站| 五月激情偷拍婷婷| 日噜噜色| 这里只有精品视频222| 97久久超碰| 亚洲免费99| 男妓跪趴把舌头伸进我的嘴巴| 五月丁香激情综合网官网| 婷婷色九月| 女人高潮内射99精品| 五月丁香婷中文字幕| 9999热免费视频视频| 99久久婷| 婷婷色五月情| 99亚洲视频| 色五月自偷自拍婷婷婷婷| 日本三级韩三级99久久| 天天干天天干天天| 婷婷五月色| 五月停停色色丁香| 久久久大香蕉| 伊人婷婷五月天| 久久草婷婷丁香网站| 激情五月伊人婷婷| 综合在线网| 丁香激情五月综合网| 五月婷婷激情综合在线| 五月婷婷综合激情| 色99欧洲色19| 五月婷婷激情综合av| 丁香五月六月综合激情| 97在线视频人妻九色| 大香久久综合网| 欧美日本不卡黄色片| 五月天天天色| 国产肥白大熟妇BBBB视频| 国产毛多水多女人A片| 国产肥白大熟妇BBBB视频| 欧美成人AAA片一区国产精品| 亚洲综合色婷婷| 九九99精品视频在线观看| 亚洲色优| 久久超视频| 91AV婷婷| 黄色片久久| 久久五月婷综合网| 全高清无码视頻| 久热在线观看视频9| 五月婷婷色啪| 欧日美女Va| 久色五月婷婷综合| 99色| 五月婷婷之综合激情| 欧美日综合| 色综合色| 开心五月婷婷综合在线精品素人| 色婷婷19| 亚洲激情免费视频| 丁香五月偷拍| 九九精品热| 婷婷天堂综合网| 久99在线视频| 激情宗合网激情五月天| 色婷婷操逼| 99热在线观看| 九热精品| 99青青草| 久久伊人五月天| 五月婷久久久久综合| 97色图片中文字幕视频在线观看| 做爱夜夜干天天操| 深爱开心激情网| 深爱婷婷丁香五月激情| 婷婷成人五月天| 99热亚洲综合| 狠狠色丁香婷婷基地| 丁香五月婷婷五月| 狼人久草| 51XX午夜影福利| 狠狠五月天婷婷激情网。| 91无码视频| 丰满少妇乱A片无码| 一区二区免费看| 99精品网站| 天天久久狠狠色综合| 精国产品一区二区三区A片| 日本专区久久| 少妇口诉沐足视频播放器网址| 丁香五月综合激情性爱| 激情五月婷婷综合网| 丁香五月激情婷婷视频| 日日操日日射| 亚洲九区| 91色逼| 逼里香不卡| 青草青草视频2免费观看| 99九九综合久久九九| 综合五月激情网| 婷婷丁香五月综合| 婷婷丁香人妻天久久| 婷婷五月天美女21p| 91妻人人爽人人看片| 五月婷人妻| 99久.| 热久久色| 人人草人人视| 天天综合精品| 五月丁香色色综合| 我爱大香蕉| 中文激情网| 五月婷婷啪啪啪| 婷婷色色五月天| 99视频内射三四| 国产免费AV在线| 9999热在线免费观看| 亚洲激情免费视频| 日日影院 | 色激情综合狠狠婷婷| 深爱五月婷婷| 久久综合激情五月天| 九九色综合| 五月丁香婷婷色色| 99热这里只有精品66| 黄网免费观看| 91九色精品熟女内射| 久9久9久9久9久9久9| 五月丁香婷婷免费视频| 一区二区免费看| 久久久久网站| 日韩亚洲视频| 香蕉久久国产AV一区二区| 激情小说五月天社区丁香 | 狠狠久久婷五月综合色| 激情五月综合网| 99色区| 校花娇喘呻吟校长陈若雪视频| 色婷婷成人丁香| 蜜桃成语时李时珍 免费| 日本综合久久| 欧美25p| 日日色五月天| 情色五月天 网站| 六月丁香五月激情网| 中文字幕按摩做爰| 婷婷婷婷色| 九九精品热播| 久草五月| 欧美成人五月天| 丁香六月综合激| 精品人妻一区| 99精品在线| 色爱综合网| 五月婷av| 婷婷基地爱| 只有久久精品免费| 国产激情在线| 99视频内射三四| 日韩无码成人电影| 五月丁香六月情婷婷久久| 人人摸人人干| 色婷婷综合久久久久| 99这里有精品视频3| 中文字幕 中文字幕明步| 国产一二三四五六七八视频| 一区操| 99在线精品视频| 婷婷五月天va| 淫视馆AV在线| www超碰| 久久婷婷五月综合激情国产| 97色色综合| 婷婷久久五月| 激情六月婷婷| 变天就操逼婷婷五月| 五月激情婷婷在线| 色综合激情| 五月婷婷激情刺激| 99九九99九九九视频精品| 欧美久久网| 欧美成人网婷婷综合在线| 九色视频九色九色91jiuseshipin| 久久久久久久久久久97| 伊人AV五月婷| 丁香五月激情久久麻豆| 五月天婷婷一起草| 亚洲色婷婷| 精品欧美性爱超级爽| 9l视频自拍9l九色成人| 欧美色五月天| 五月激情四射网站| 婷婷五月激情片| 亚洲精品又粗又大又爽A片| 五月色婷婷影院| 日本色五月| 97涩婷婷| 综合五月激情| 69热91天堂| 婷婷瑟五月天久久综合| 思思热在线视频精品| 综合五月婷婷| 99综合久久| 精品久久婷婷| 亚洲操操操| 一本久久婷婷| 五月天开心成人网| 桃色五月天| 久热只有这里有精品| 亚洲在线资源| 婷婷九月亚洲| 婷婷五月综合亚洲| 操逼视频网址| 亚洲五月花| 婷婷五月四狠狠| www.婷婷五月天| 91精品久久久久久久久久久久| 色综合色色| 伊人网啪啪| 99精品网| 操操国产| 五月婷婷无码| 51精品国自产在线| 特级片神马电影| 婷久久高清| 伊人9999| 色婷婷最新域名| 六月丁香网| 久久九九中文字幕| 六月色播| 99热这里只有精品268| www.久久爱| 天天做天天要天天爽| 日本婷婷激情四射中文字幕在线观看| 天天综合图片| 丁香五月激情久久麻豆| 日韩综合大黄| 97操男人的天堂| 人人射av| 丁香五月婷婷五月基地| 五月天成人免费视频| 日韩综合久久| 久久九九@| 超碰在线精品| 欧美色婷婷| 欧美日韩大黄| 日笨久久网| 婷婷五月天堂| 日本在线视频手机播放五月婷| 成人做爰A片免费看网站找不到了| 五月丁香婷中文字幕| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 思思热在线视频观看精品| 色一情一乱一乱一区91Av| 天天色天天爱天天爱天天爱y| 超碰中文字幕在线| 99在线免费视频| 色狠久| 五月婷啪| 久cao香蕉影院| 色天堂A| 第六色在线| 91 原创 在线 九色| 99热免费| 91丨九色丨熟女|老版| 中文激情网| 妻久久人久久| 激情综合网,五月| 九九综合网色全集 | 9视频1在线| 色婷婷成人做爰A片免费看网站 | 日韩成人电影AV| www.99热. com这里只有精品| 中文字幕在线免费观看视频| 日本97人人| 99自拍视频在线观看| 九九婷婷网五月天| 天天插天天草人人玩| 91啪啪网| www.夜夜爱.com| 色人久久| 男人的天堂五月丁香| 色五月天激情| 九九热只有精品6| 先锋资源91| 乱精品一区字幕二区| 亚洲中文字幕AV| 99热在线只有精品| 99色这里| 91超碰在线播放| 日美三级| www.色多多婷| 国产在线aaa片一区二区99| 婷婷色丁香五月| 可以看的AV网站| 99啪| 久久五月天色婷婷| www.玖玖婷婷在线| 丁香五月婷婷av影院| 99久久婷婷国产综合精品草原| 日韩99视频| 五月婷婷五月丁香| 国产玖玖资源| 日日夜夜噜噜爽爽| 五月丁香六月婷婷免费| 天天插天天插天天日| 久久久香| 亚韩在线视频| 九九这里是免费的视频5| 91精品国产色猫| 色播丁香| 丁香五月天啪啪| 婷婷五月大香蕉| 亚洲AV色婷婷人禽五月天| 婷婷天天综合| 婷婷在线午夜| 婷婷五月天久久| 天天爱天天狠天天透| 婷婷五月天免费视频| 骚货艹网站视频| 丁香五月婷婷动漫| 日本婷婷综合精品| aaaaa黄色| 久久99久久99精品免视看婷婷| 五月婷婷偷拍| 色婷婷综合久久久久| 色婷婷丁香综合中文字幕| 丁香婷婷综合色五月激情国产基地| co超碰在线观看| 最新无毒无码AV| 亚洲中文字幕AV在线| 婷婷五月激情四射手| 五月丁香六月激情| 亚洲啪啪自拍| 婷婷五月六月| 久久精品91视频| 91网站黄| 国产精品久久..4399| 99久久久久| 激情网战码亚洲A| 亚洲色色图片| 色婷婷丁香中文在线播放| 五月丁香花伦理电影| 五月丁香六月婷婷手机无线| 人人人操B超碰| 五月天激情婷婷久久| 丁香五月成人婷婷| 国产 亚洲 在线| 五月天com| 五月天成人综合| 欧美性色A片免费免费观看的 | 婷婷五月天成人五月天| 婷婷五六日| 国精产品一区二区三区| 思思网站| 午夜国产精品AV在线播放| 亚州操人在线视频| 999热在线视频| 丁香九月婷婷| 超碰免费观看| 九九99九九99九九99视频网| WWW,色五月| 激情五月综合色婷婷| 天天碰夜夜爽| 色综合九九| 丁香五月色| 国成人网| www.久久久.com| 九九综合精品| www.成人婷婷综合| 激情另类综合| 99在线观看| 99视频日韩| 六月丁香av| 国产激情综合五月久久| 国产精品人成A片一区二区| 99超级超级超级碰| 99久久精品国产色欲| eeuus五月婷| 九九在线这里只有精品视频| 九九热黄色| 日本V在线观看不卡视频网站| 久久五月热| 亚洲综合婷婷| 五月天婷婷青青草| 精品99在线观看| 五月香婷婷| 超碰在线观看caop| 美女五月天婷婷| 婷婷淫淫狠狠六月| 五月婷婷六月丁香综合在线| 婷婷丁香五月天之开心少妇| 久久五月婷婷丁香| 丁香五月日本| 婷婷激情性爱| 欧美三级韩国三级日本三斤| 另类天堂| 色五月人妻| 99视频只有精品| 婷婷久久婷婷| 久久婷婷成人视频| 婷婷五月天综合网| 少妇搡BBBB搡BBB搡毛茸茸| 成人av在线网址| 五月丁香六月婷婷亚洲| 五月天婷婷色色| 99综合入口| 亚洲色色色色色色色色色| 五月婷婷五月天激情网| 天天爽天天日| 日本乱论99| 五月WWW| 五月天激情网图片| 国产白丝在线一区| 婷婷六月花| 思思热在线观看| 变态另类9| 五月六月婷| 国产成人综合电影| 综合激情啪啪| 另类精品视频在线观看| 丁香99| 干婷婷五月天| 色噜噜97视频在线观看| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 2025年最新亚洲在线欧美 | 91视频综合网| 美女美女美女三级色天天天天天| 五月婷av| 91色噜噜狠狠狠狠色综合| 丁香激情婷婷网| 另类少妇人与禽zOZZ0性伦| 香蕉操亚洲| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 噜噜噜久久| 热996精品在线观看| 婷婷成人小说综合| 九月丁香八月婷婷加勒比| 五月久久噜噜| 国外亚洲成AV人片在线观看| 任你草| 六月 丁香 视频| 丁香婷婷五月六月久久| 色J香五月天| 狠狠干.com| 五月色婷婷激情| AA片在线观看视频在线播放| 成人久久天天x资源站| 天天爱天天操| 丁香五月天导航| 国产97色在线 | 日韩| 蜜桃婷婷狠狠久久综合| www.色擼擼.com| 夜色热久| 五月丁婷婷| 色狠狠色噜噜AV天堂五区| 久久婷五月天| 婷婷色综合| 精品婷婷| 日韩色色视频| 九月丁香| 天天综合色| 激情综合青草| JAPANRCEP老熟妇乱子伦视频| 五月天色播网| 亚洲亚洲人成综合网络| 97色色色色色色色色色色色色色| 日本欧美成人片AAAA| 婷婷深爱五月亚洲综合| 丁香六月婷婷缴情欧美| 久热A| 热久久婷婷| 天天日综合| 无码yw| 91久久1118| 婷婷五月电影| 色色色色网站| 色五月激情五月丁香五月婷婷啪啪综合 | 激情中文在线| 丁香五月久久| 任你草| 2w在线视频| 潮汕成人AV片在线| 人人摸人人澡人人| 啪啪一区| 欧美性生交XXXXX无码小说| 婷婷另类开心| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 婷婷丁香18| 就要去操亚洲成人精品五月天丁香婷婷| 99热网站| 互月天综合| 狠狠干狠狠操狠狠爱| 成人在线日韩欧美| 五月婷婷真爱激情网| 9 1大香蕉| 国产操碰| 丁香五月瑟瑟| AV操一操| 婷婷天堂综合| 一本道综合网| 欧美啪啪网| 欧美婷婷| 日日干综合| 9在线9在线婷婷在线国产| 婷久久| 狠狠看狠狠| 无毒黄色网址| 丁香花色色网| 五月丁香婷中文字幕| 性爱激情小说AV五月丁香花| 天天日夜夜拍| 色欲资源网| 一二区成人电影| 婷婷香蕉| 极品人妻VideOssS人妻| 狠狠看狠狠| 亚洲丁香花五月丁香花| 欧美操综合| 天天综合网亚洲网站| 亚洲天堂无码| 久久精品国产精品| 九九综合伊人| www.五月激情红色| 九九操操| 伊人喵咪a V| 婷婷狠狠操| 久色欧美| 五月激情丁香五月宗合| 99热线观看9| 亚洲网综合在线| 伊人91| 激情综合色播| 亚洲婷婷丁香五月天激情小说| 六月综合婷婷开心伊人| 国产看真人毛片爱做A片| 五月亭亭开心网| AV国产有码| 成人 在线 日韩| 久久综合五月婷婷| 五月天操逼激情| 丁香五月激情啪啪| 九九亚洲| 日本九九热| 狠色狠色狠狠色综合网| 91chinese 在线| 婷婷五月成人社区| 色色国产| 五月婷婷激情五月| 99热综合色图| 五月丁香婷婷激情澎湃四射| 九九热九九| 五月天婷婷免费| 97人人看一| 七月丁香婷婷 色色| 五月婷婷六月丁香| 免费AV播放| 五月丁香影院| 婷婷五月天狠狠搞干| 99高级会所久久| 99er6免费视频热播| 色婷婷丁香社综合| 超碰人人妻| 激情网 久久| 免费观看的av| 久久这里只有精品99| 婷婷97碰碰| 大香蕉欧美在线| 激情六月一二| 婷婷五月天亚洲图片| 清色五月天| 婷婷五月丁香91| 伊人玖玖网| 激情综合网五月天| 色五月六月| 五月天激情子轮| 高清无码一区二区三区四区| 久久久久妻| 99re在线视频精品,这里只有精品18,| 亚洲无码黄色| 丁香五月婷婷五月| 色婷婷综合电影| www.精品久9| 2016日日夜夜操| se色综合网| 91色吧网| 神马欧美精| 九九热99免费视频| 久久日九九| www色综合亚洲92| 成人网站av免费网站推荐| 伊人热婷婷| 2015超碰| 99热在线爱| 九月综合| 99热在线观看| 婷婷激情五月综合| 色色色999| 五月丁香激情四射| 成人五月天丁香婷| 99操久久| 四月婷婷五月色综合| 色玖玖爱| 婷婷五月天天天日日夜夜| 天天在线久久综合| 内射丰满人妻| 丁香六月无码播放| 五月婷婷丁香在线| av在线免费网站| 久9视频| 狠狠干,狠狠操| 成人国产欧美大片一区| 久爱综合| 亚洲在线成人| 午夜成人天堂久久无码日韩久久| 欧美97色| 六月亚洲| 99er视频在线| 久草狼人| 久久婷婷六月综合综合| 亚洲精品久久久久AV无码| 五月停性愛| 日韩AV中文字幕在线| 狠狠色噜噜狠狠狠狠综合| 激情综合婷婷五月| 五月天全国最大成人网| 日韩五月丁香| 激情五月婷黄版| 狠狠的日| 色色五月天 亚洲| 影音先锋91资源站| 美女天天久久| 九九爱激情| 久久电影4399| 日本天天色| 久草婷妨| 99综合视频一体| 丁香五月综合在线播放| 激情五月婷婷网| jiZZdr| 五月天大香焦| 婷婷激情在线| 久久有码| 丁香六月综合激情| 欧美性爱五月天| 97爱综合| 在线观看熟女少妇| 婷婷五月天黄色小说| 亚洲精品在线视频| 丁香五月影院| 久久99精品久久久久久青青AR| 亚洲色碰| 五月婷婷视频28| 26uuu精品国产| 一区二区成人电影免费播放| 精品99在线看| 开心五月激情网| 六月婷婷国产| 色婷五月| 亲子乱AV-区二区三区| 激情五月综合网| 色五月丁香五月| 专区无日本视频高清8| 色婷婷888| 五月天激情网页| 另类专区在线| 97se在线视频| 影音先锋女人av鲁色资源网小说免费 | 荡乳尤物3HP1V5| 色综合色婷色基地| 69午夜成人影片| 丁香六月激情综合| 丁香亭亭激情四射| 激情综合网婷婷久久| 五月综合激情| 色婷婷成人色网| 色五月婷婷 成人| 大陆肏屄视频| 538在线精品| 婷婷色播婷婷| 99视频这里只有精品10| 国产做A爰片毛片A片美国| 五月婷网| 吉澤明步Av一區二區| 99免费超碰在线| 99热免费精品热久久66| 久久久免费精彩视频| 婷婷最新地址| 夜夜操夜夜爽| www.精品99| 99精品偷拍视频| 色六月视频| 五月激情综合网| 婷婷色网站| 久久九九@| 婷婷六月偷拍| 狠狠色激情综合| 91碰碰碰| 亚洲美女高潮久久久久久69| 熟女激情五月天 | 一区二区三区四区无码| 婷婷色五月激情| 国产日韩av片| 伊人婷婷五月天| 丁香激情五月天| 丁香五月综合在线播放 | 天天做天天爱天天爽| 超碰超碰在线| 激情亚洲婷婷| 亚洲无码AV片| 天天射色五月天| 啪啪日热| 丁香婷婷久久激情| 激情综合网激情五月天| 五月天合网 | 日本久久超碰| 超碰国产AV| 97超碰在线观看免费| 99热国品免费| 五月婷色丁香| 五月婷婷深深爱| 国在线激情网| 综合另类视频| 婷婷网影院| 伊人玖玖精品| 99九九在线观看免费| 久久五月天网| 丁香婷色| 亚洲永久四色| 在线婷婷| 看片视频在线免费日产在线看| 色色婷| 一本久道综合色婷婷五月| 91人人操人人| 婷婷丁香五月激情| 久久久网站| 九九黄色网| 69五月天视频| 一本色道久久88综合日韩精品| 伊人六月无码视频| 激情6月| 五月丁香婷婷久久| 婷婷五月天.com| 天天操无码| 99精品视频播放| 婷婷五月色播网| 色久丁香五| 东京热五月婷婷| 婷婷五月电影院| 色婷婷亚洲五月天| 婷婷五月久久| 大香网伊人久久综合| 99热精品中文字幕| 日韩AV在线影片| 9久视频| site:pnnrt.com| 日韩熟女啪啪视频| 这里有精品99| 色热久| 五月天基地| 欧美一级操逼视频| 丁香婷婷综合激情五月色| 五月丁香无码| 婷婷五月综合体验看| 伊人高清无码| 婷婷丁香五月天欧美| 色色色综合色| 狼人婷婷综合| Www.激情| 亚洲黄网AV| 成人精品一区二区三区四区五区 | 思思久久精品| 五月婷婷影视| 五月香蕉婷婷| 婷婷激情性爱| 性色综合网| 涩涩五| 26uuu欧美日本| 色日本综合| 开心五月婷婷在线视频免费观看| 这里只有精品视频在线| 91在线97视频| 夜夜操少妇| 少妇人妻人伦A片| 五月婷婷激情刺激| 激情久久久久久| 五月色婷婷中文字幕| 五月丁香操婷逼| 婷婷丁香熟妇综合网| 在线观看的av| 久久久中文| www.99在线|