欧美成人午夜精品久久久,国产?V天堂一区二区三区,欧美精品va在线观看,亚洲一区二区三区免费在线观看,av无码精品一区二区久久,欧美性爱视频不卡一区三区,欧美乱人伦视频在线观看,国产一级牲交高潮

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

Python實戰(zhàn):從零構建金融風控預測模型,解決數據不平衡與特征工程難題

Python實戰(zhàn):從零構建金融風控預測模型,解決數據不平衡與特征工程難題 簡介機器學習中的分類問題是預測建模的核心任務之一旨在根據輸入特征將樣本劃分到預定義的類別中。其基本原理是通過算法學習歷史數據中的模式構建一個從特征到類別標簽的映射函數。在金融科技領域分類模型的技術價值尤為突出它能夠自動化、精準化地處理海量數據識別復雜非線性關系從而支持關鍵業(yè)務決策。典型的應用場景包括信用評分、欺詐檢測和客戶流失預警等。本文聚焦于金融信貸中的個貸違約預測這是一個典型的二分類問題但面臨數據高度不平衡的挑戰(zhàn)。文章深入探討了如何使用SMOTE等過采樣技術和調整類別權重來應對這一難題并詳細介紹了基于業(yè)務理解的特征工程方法如構建負債收入比等衍生特征以提升模型對風險客戶的識別能力。1. 項目緣起從業(yè)務痛點到一個Python預測模型的誕生在金融信貸業(yè)務里最讓風控和業(yè)務部門頭疼的事情之一就是“壞賬”。你放出去的貸款總有一部分人因為各種原因還不上錢這筆錢就成了銀行的損失。傳統(tǒng)上銀行依賴專家經驗、規(guī)則引擎和簡單的統(tǒng)計模型來做審批和預警但面對海量的客戶數據和復雜的還款行為這些方法越來越力不從心。我最近用業(yè)余時間基于公開可獲取的思路和一份模擬數據集用Python完整地走了一遍“個貸違約預測”的建模流程。這不僅僅是一個技術Demo它更像是一次對信貸風控核心邏輯的深度還原和實操演練。通過這個項目你能清晰地看到如何從一堆雜亂的客戶信息數據開始一步步清洗、分析、構建特征最終訓練出一個能相對準確判斷客戶“好壞”的機器學習模型。整個過程涉及數據科學、機器學習以及金融風控的交叉知識對于想進入金融科技領域的數據從業(yè)者或者對信貸業(yè)務邏輯感興趣的技術人員來說是一次絕佳的動手機會。2. 理解風控預測的核心什么是個貸違約預測在深入代碼之前我們必須先搞清楚我們要解決的究竟是什么問題。這決定了我們后續(xù)所有技術選型和評估標準。2.1 預測的本質一個二分類問題個貸違約預測本質上是一個二分類Binary Classification問題。我們的目標是為每一個貸款申請客戶或在貸客戶打上一個標簽“好客戶”會正常還款或“壞客戶”會違約。在建模時我們通常將“違約”定義為正例Positive Class 標簽為1將“正?!倍x為負例Negative Class 標簽為0。這樣模型輸出的就是一個介于0到1之間的概率值表示該客戶違約的可能性有多大。注意定義誰是正例很關鍵它直接影響模型評估指標的選擇。在風控中我們更關心能否準確地抓住“壞人”違約者所以通常將“違約”設為正例。2.2 業(yè)務目標與模型目標的銜接模型預測概率本身不是終點它必須服務于業(yè)務決策。常見的業(yè)務應用場景包括貸前審批在放款前根據模型預測的違約概率結合其他規(guī)則決定是否批準貸款、以及批準多少額度、什么利率。這時模型需要一個閾值Threshold。例如設定閾值為0.3那么預測概率高于0.3的申請將被拒絕或進入人工復核。貸中監(jiān)控對于已放款的客戶定期如每月用其最新的行為數據如還款記錄、消費行為通過模型重新計算違約概率對概率升高的客戶提前預警采取催收或風險化解措施??蛻舴謱痈鶕L險評分將客戶分為不同等級如A、B、C、D級用于差異化營銷或風險定價。因此我們構建的模型最終要能輸出一個穩(wěn)定、可解釋的風險評分并能通過調整閾值來平衡業(yè)務中的“誤殺”拒絕了好客戶損失利息收入和“漏殺”通過了壞客戶造成本金損失。2.3 項目數據集的構成與挑戰(zhàn)一個典型的個貸違約預測數據集通常會包含以下幾類信息這些也是我們后續(xù)特征工程的主要來源客戶基本信息年齡、職業(yè)、教育程度、婚姻狀況、居住城市等。這些是靜態(tài)的、相對穩(wěn)定的信息。財務狀況收入水平、負債收入比、資產情況、歷史信用記錄長度等。貸款信息本次申請的貸款金額、期限、利率、貸款用途、擔保方式等。歷史信用表現(xiàn)如果有過去信用卡的逾期次數、逾期天數、其他貸款的還款記錄等。這是最具預測力的信息但往往難以獲取。外部數據如征信分、多頭借貸信息、消費行為數據等。本項目使用的模擬數據集雖然并非真實銀行數據但會盡可能模擬上述字段的結構。我們面臨的典型挑戰(zhàn)包括數據不平衡違約客戶正例的數量通常遠少于正常客戶負例比例可能達到1:99甚至更懸殊。直接在這種數據上訓練模型會傾向于把所有樣本都預測為“正常”導致對違約客戶完全失效。特征缺失客戶信息填寫不完整存在大量空值。特征異常收入為0或極高年齡超過合理范圍等。數據泄露不小心使用了未來才能知道的信息如“是否最終違約”衍生出的指標作為特征導致模型在訓練時表現(xiàn)虛假的優(yōu)秀上線后完全失效。3. 環(huán)境搭建與核心工具鏈選型工欲善其事必先利其器。一個高效、穩(wěn)定且易于復現(xiàn)的分析環(huán)境是項目成功的基礎。下面是我選擇的工具鏈及理由。3.1 Python環(huán)境管理Anaconda的絕對優(yōu)勢我強烈推薦使用Anaconda來管理Python環(huán)境尤其是數據科學項目。理由如下隔離性可以為這個項目創(chuàng)建一個獨立的環(huán)境例如命名為loan_risk里面只安裝項目所需的包避免與系統(tǒng)或其他項目的包版本沖突。包管理簡便通過conda install命令可以輕松安裝大多數科學計算包如numpy, pandas, scikit-learn它會自動處理復雜的C庫依賴這是pip有時做不到的。集成性自帶Jupyter Notebook/Lab非常適合進行探索性數據分析EDA和交互式建模。創(chuàng)建環(huán)境的命令如下# 創(chuàng)建一個名為loan_risk的Python3.9環(huán)境 conda create -n loan_risk python3.9 # 激活環(huán)境 conda activate loan_risk3.2 核心庫介紹與安裝在激活的loan_risk環(huán)境中我們需要安裝以下核心庫# 使用conda安裝基礎科學計算包 conda install numpy pandas scipy matplotlib seaborn jupyter # 使用pip安裝機器學習相關庫conda通道可能版本較舊 pip install scikit-learn xgboost lightgbm catboost imbalanced-learn # 用于模型解釋 pip install shap # 用于生成分析報告可選但推薦 pip install pandas-profiling ydata-profilingpandas numpy數據操作的基石。pandas的DataFrame是處理表格數據的標準容器numpy提供高效的數值計算。scikit-learn機器學習的“瑞士軍刀”。提供了從數據預處理標準化、編碼、特征選擇、到模型訓練邏輯回歸、隨機森林、評估交叉驗證、ROC曲線的全套工具。它是本項目的主力。XGBoost/LightGBM/CatBoost三大梯度提升樹GBDT框架。它們在結構化數據的表格分類任務上尤其是金融風控領域表現(xiàn)通常優(yōu)于傳統(tǒng)的隨機森林或邏輯回歸是當前競賽和工業(yè)界的首選。我會在后續(xù)對比它們的使用。imbalanced-learn專門處理不平衡數據集的庫。提供了過采樣如SMOTE、欠采樣、以及結合采樣等多種策略是解決風控數據不平衡問題的利器。shap模型解釋領域的王牌工具??梢詫碗s的樹模型預測結果分解到每個特征的貢獻度讓我們知道模型是“憑啥”做出判斷的這對于通過風控模型評審至關重要。matplotlib seaborn數據可視化。Seaborn基于matplotlib提供了更美觀、更簡單的統(tǒng)計圖形接口。3.3 項目目錄結構規(guī)劃一個清晰的項目結構能極大提升協(xié)作效率和代碼可維護性。建議按如下方式組織loan_default_prediction/ ├── data/ # 存放所有數據 │ ├── raw/ # 原始數據只讀 │ ├── processed/ # 清洗處理后的數據 │ └── external/ # 外部數據如有 ├── notebooks/ # Jupyter Notebook用于EDA和實驗 │ ├── 01_eda.ipynb │ ├── 02_feature_engineering.ipynb │ └── 03_model_experiment.ipynb ├── src/ # 源代碼模塊化 │ ├── __init__.py │ ├── data_preprocessing.py │ ├── feature_engineering.py │ ├── modeling.py │ └── utils.py ├── models/ # 保存訓練好的模型文件.pkl或.joblib ├── reports/ # 生成的分析報告、圖表 ├── config.yaml # 配置文件數據庫連接、路徑、參數等 ├── requirements.txt # 項目依賴包列表 └── README.md # 項目說明文檔這種結構將數據、探索性代碼、生產代碼、產出物清晰分離。src下的模塊化代碼最終可以被一個主腳本如train.py調用實現(xiàn)從數據到模型的一鍵化訓練。4. 數據探索性分析用眼睛“看見”風險在動任何模型之前我們必須深入了解數據。探索性數據分析EDA的目標是發(fā)現(xiàn)數據的特點、問題以及潛在的規(guī)律。這個過程我通常在Jupyter Notebook中完成。4.1 數據加載與初窺首先使用pandas加載數據集假設為CSV格式文件loan_data.csv。import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns sns.set_style(whitegrid) # 設置顯示所有列 pd.set_option(display.max_columns, None) # 加載數據 df pd.read_csv(./data/raw/loan_data.csv) print(f數據集形狀: {df.shape}) print(df.head()) print(df.info()) print(df.describe())df.info()會告訴我們每列的非空值數量、數據類型是發(fā)現(xiàn)缺失值的第一步。df.describe()則展示數值型特征的統(tǒng)計摘要均值、標準差、分位數等能快速發(fā)現(xiàn)異常值比如年齡為200歲。4.2 目標變量分布直面不平衡現(xiàn)實接下來首要任務是查看目標變量假設列名為is_default的分布。target_dist df[is_default].value_counts(normalizeTrue) print(f目標變量分布:\n{target_dist}) plt.figure(figsize(6,4)) sns.countplot(xis_default, datadf) plt.title(Distribution of Loan Default (0No, 1Yes)) plt.show()如果違約比例is_default1遠低于10%我們就確認了這是一個嚴重不平衡數據集。這是風控數據的常態(tài)也決定了我們不能用準確率Accuracy作為核心評估指標而應關注精確率Precision、召回率Recall和F1-Score尤其是召回率我們抓住了多少比例的違約客戶。4.3 單變量與多變量分析單變量分析查看每個特征的分布。對于連續(xù)型特征如收入、貸款金額繪制直方圖Histogram或核密度估計圖KDE查看其分布形態(tài)是否偏態(tài)、是否有異常值。fig, axes plt.subplots(2, 3, figsize(15, 8)) num_cols [income, loan_amount, debt_to_income_ratio, credit_history_length, age, loan_term] for idx, col in enumerate(num_cols): ax axes[idx//3, idx%3] sns.histplot(df[col], kdeTrue, axax) ax.set_title(fDistribution of {col}) plt.tight_layout() plt.show()對于類別型特征如職業(yè)、教育程度繪制柱狀圖查看各類別的樣本數量。同時可以計算每個類別下違約率的差異初步判斷該特征是否與違約相關。# 分析‘education’與違約的關系 edu_default_rate df.groupby(education)[is_default].mean().sort_values(ascendingFalse) print(edu_default_rate) edu_default_rate.plot(kindbar) plt.title(Default Rate by Education Level) plt.ylabel(Default Rate) plt.show()多變量分析相關性分析計算數值特征之間的皮爾遜相關系數并繪制熱力圖。這有助于發(fā)現(xiàn)高度相關的特征后續(xù)可以考慮去除或合并以降低模型復雜度、避免多重共線性。plt.figure(figsize(12, 8)) # 選擇數值型列 numeric_df df.select_dtypes(include[np.number]) correlation_matrix numeric_df.corr() sns.heatmap(correlation_matrix, annotTrue, fmt.2f, cmapcoolwarm, center0) plt.title(Correlation Matrix of Numerical Features) plt.show()特征與目標的關系對于重要的連續(xù)特征可以繪制箱線圖Boxplot或小提琴圖Violin Plot按違約與否分組觀察其特征分布的差異。plt.figure(figsize(10, 6)) sns.boxplot(xis_default, ydebt_to_income_ratio, datadf) plt.title(Debt-to-Income Ratio vs. Default Status) plt.show()如果違約組和非違約組在某個特征上的分布有顯著差異那么這個特征很可能是一個強預測因子。4.4 發(fā)現(xiàn)數據問題并記錄通過EDA我們可能會發(fā)現(xiàn)缺失值某些特征如annual_income存在大量空值。異常值age列中出現(xiàn)0或150等不合理數值income列中有個別極大值可能是錄入錯誤或特殊富豪客戶。數據不一致employment_length列中有的寫“5 years”有的寫“5”需要統(tǒng)一。類別不平衡某些類別特征如job_type的某個類別樣本極少。潛在泄露特征是否存在如days_past_due已逾期天數這類在貸前根本不可能知道的信息。將這些問題一一記錄它們是下一步數據預處理和特征工程的輸入。5. 數據預處理與特征工程將原始數據轉化為模型“語言”原始數據就像未經加工的礦石特征工程就是冶煉和提純的過程目的是提取出對預測目標最有用的信息。這一步直接決定了模型性能的上限。5.1 缺失值處理策略缺失值不能直接丟給模型必須處理。策略因特征類型和缺失原因而異連續(xù)型特征均值/中位數/眾數填充最常用。如果數據分布對稱用均值如果存在偏態(tài)或異常值用中位數更穩(wěn)健。對于風控數據我通常優(yōu)先使用中位數填充因為它對異常值不敏感。from sklearn.impute import SimpleImputer # 對收入用中位數填充 median_imputer SimpleImputer(strategymedian) df[income] median_imputer.fit_transform(df[[income]])基于模型的填充用其他特征預測缺失值。更復雜但可能更準確。例如用年齡、職業(yè)、教育程度來預測收入??梢允褂肒NN或隨機森林回歸。增加缺失指示器創(chuàng)建一個新的布爾特征標記該位置是否缺失。有時“缺失”本身也是一種信息例如拒絕填寫收入可能意味著收入不穩(wěn)定。類別型特征單獨作為一個類別如‘Unknown’填充。用眾數出現(xiàn)最頻繁的類別填充。5.2 異常值檢測與處理異常值可能是錯誤也可能是特殊但真實的個案如超高凈值客戶。粗暴刪除可能損失信息。檢測方法標準差法假設數據服從正態(tài)分布將超出均值±3倍標準差的值視為異常。但金融數據常不服從正態(tài)分布。分位數法IQR更穩(wěn)健。計算第一四分位數Q1和第三四分位數Q3定義異常值為小于Q1 - 1.5*IQR或大于Q3 1.5*IQR的值。Q1 df[loan_amount].quantile(0.25) Q3 df[loan_amount].quantile(0.75) IQR Q3 - Q1 lower_bound Q1 - 1.5 * IQR upper_bound Q3 1.5 * IQR outliers df[(df[loan_amount] lower_bound) | (df[loan_amount] upper_bound)]處理方法刪除僅當確信是數據錄入錯誤且占比極小時使用??s尾Winsorization將超出指定分位數如1%和99%的值用該分位數的值替換。這是風控中處理極端值的常用方法能保留樣本但削弱極端值的影響。lower_limit df[income].quantile(0.01) upper_limit df[income].quantile(0.99) df[income] np.where(df[income] lower_limit, lower_limit, df[income]) df[income] np.where(df[income] upper_limit, upper_limit, df[income])視為缺失值并用中位數等填充。分箱Binning將連續(xù)變量離散化異常值會被歸入最高或最低的箱中。5.3 類別型特征編碼機器學習模型只能處理數值。需要將文本類別轉化為數字。標簽編碼Label Encoding為每個類別分配一個整數如[‘高中’ ‘本科’ ‘碩士’]-[0, 1, 2]。適用于有序類別如學歷等級。對于無序類別模型可能會錯誤地認為數字大小有意義。獨熱編碼One-Hot Encoding為每個類別創(chuàng)建一個新的二進制特征0或1。這是處理無序類別的標準方法。但若類別很多如“職業(yè)”有上百種會產生大量稀疏特征增加計算負擔和過擬合風險。from sklearn.preprocessing import OneHotEncoder encoder OneHotEncoder(sparse_outputFalse, dropfirst) # dropfirst避免多重共線性 encoded_features encoder.fit_transform(df[[education, job_type]]) # 將編碼后的特征合并回原DataFrame需處理列名目標編碼Target Encoding / Mean Encoding用該類別下目標變量的均值對于回歸或違約率對于分類來替換類別。例如“職業(yè)學生”的違約率是5%就用0.05替換所有“學生”。這種方法能捕捉類別與目標的關系但容易引起過擬合需要配合交叉驗證進行平滑處理。category_encoders庫提供了穩(wěn)健的實現(xiàn)。5.4 創(chuàng)造新特征領域知識的體現(xiàn)這是特征工程中最有價值的部分需要結合對信貸業(yè)務的理解。衍生比率特征負債收入比DTI 總月負債 / 月收入。這是風控的核心指標。貸款收入比LTI 貸款金額 / 年收入。月供收入比 月還款額 / 月收入。分箱與離散化將連續(xù)年齡分為[18-25, 26-35, 36-50, 51-65, 65]。將收入分為[低 中 高]。分箱后可以作為類別特征處理或者進行目標編碼能更好地捕捉非線性關系并且對異常值更魯棒。交互特征年齡 * 收入或許年輕高收入者和年輕低收入者的風險模式不同。貸款期限 * 貸款利率反映總利息負擔。時間維度特征如果有時間序列數據歷史逾期次數、最大逾期天數、最近一次逾期距今月份數等?;谶^去6/12個月的消費、還款行為計算出的趨勢指標如月均消費增長率。實操心得特征工程不是一蹴而就的。我通常先構建一個基礎特征集原始特征少量關鍵衍生特征訓練一個基線模型。然后通過特征重要性分析如樹模型提供的feature_importances_或SHAP值找出重要特征再圍繞它們進行更精細的加工和創(chuàng)造。這是一個迭代的過程。6. 應對不平衡數據讓模型“看見”少數派在不平衡數據上直接訓練模型會嚴重偏向多數類。我們必須采取策略讓模型“公平”地學習。6.1 評估指標的選擇放棄準確率首先要確立正確的評估標準。假設我們有10000個樣本其中9900個正常100個違約。一個將所有樣本都預測為“正常”的傻瓜模型準確率高達99%。但這毫無用處。我們更關心在所有的違約客戶中我們抓住了多少召回率 Recall/Sensitivity以及在我們預測為違約的客戶中有多少真的是違約精確率 PrecisionF1-Score是精確率和召回率的調和平均數是一個不錯的綜合指標。ROC-AUC接收者操作特征曲線下面積。它衡量的是模型將正例違約排在負例正常前面的能力。AUC越接近1越好0.5相當于隨機猜測。AUC對類別不平衡相對不敏感是風控模型常用的核心指標。PR-AUC精確率-召回率曲線下面積。在正例非常少的不平衡場景下PR-AUC有時比ROC-AUC更能反映模型在正例上的表現(xiàn)。在sklearn中我們可以方便地計算這些指標from sklearn.metrics import classification_report, roc_auc_score, average_precision_score # y_true 真實標簽 y_pred 預測標簽 y_pred_proba 預測概率 print(classification_report(y_true, y_pred)) print(fROC-AUC: {roc_auc_score(y_true, y_pred_proba)}) print(fPR-AUC (Average Precision): {average_precision_score(y_true, y_pred_proba)})6.2 采樣技術改變數據分布過采樣Oversampling增加少數類樣本。隨機過采樣簡單復制少數類樣本。容易導致過擬合。SMOTESynthetic Minority Oversampling Technique在少數類樣本之間進行插值生成“合成”新樣本。這是目前最流行的方法之一。from imblearn.over_sampling import SMOTE smote SMOTE(random_state42) X_resampled, y_resampled smote.fit_resample(X_train, y_train)ADASYN在SMOTE基礎上根據樣本密度自適應地生成不同數量的新樣本關注那些更難學習的少數類樣本。欠采樣Undersampling減少多數類樣本。隨機欠采樣隨機丟棄多數類樣本。會損失大量信息。Tomek Links移除多數類中與少數類樣本非常接近的樣本“邊界”樣本使類別邊界更清晰。Cluster Centroids使用K-Means對多數類進行聚類然后用聚類中心代替整個簇實現(xiàn)有代表性的欠采樣。結合采樣如SMOTEENN先SMOTE過采樣再用Edited Nearest Neighbours清理噪聲樣本。注意事項采樣必須在訓練集上進行絕對不能在整個數據集上做也絕對不能影響測試集標準的流程是先劃分訓練集和測試集然后在訓練集內部進行交叉驗證和采樣。測試集必須保持原始分布以評估模型在真實不平衡世界中的表現(xiàn)。6.3 算法層面的調整改變模型目標許多算法本身提供了處理不平衡的選項。調整類別權重Class Weight在訓練時給少數類的樣本更高的權重讓模型更關注它們。Scikit-learn的許多模型如LogisticRegression,RandomForestClassifier,SVC都支持class_weight參數??梢栽O置為‘balanced’讓算法自動按類別頻率的倒數調整權重。from sklearn.ensemble import RandomForestClassifier model RandomForestClassifier(class_weightbalanced, random_state42)使用對不平衡不敏感的算法梯度提升樹如LightGBM, XGBoost本身對不平衡數據有一定魯棒性并且它們也提供了scale_pos_weightXGBoost或is_unbalanceLightGBM等參數來進一步調整。我的常用策略我會先嘗試在不采樣的情況下使用帶有class_weightbalanced的邏輯回歸或隨機森林作為基線。然后嘗試SMOTE過采樣結合LightGBM/XGBoost。通過交叉驗證對比ROC-AUC和PR-AUC選擇效果最好的組合。通常樹模型配合適當的采樣或權重調整效果最佳。7. 模型構建、訓練與評估尋找最優(yōu)風險識別器現(xiàn)在我們有了干凈、平衡或加權的訓練數據可以開始構建和選擇模型了。7.1 數據劃分與交叉驗證首先將特征X和目標y分離并劃分訓練集和測試集。測試集在整個訓練過程中絕對不能觸碰它用于最終評估模型的泛化能力。from sklearn.model_selection import train_test_split # 假設df是經過預處理和特征工程后的DataFrame X df.drop(columns[is_default, loan_id]) # 去掉目標列和ID列 y df[is_default] # 劃分訓練集和測試集通常70%-80%用于訓練 X_train, X_test, y_train, y_test train_test_split(X, y, test_size0.2, stratifyy, random_state42)stratifyy參數非常重要它保證在劃分后訓練集和測試集中正負樣本的比例與原始數據集一致。為了在訓練集上可靠地評估模型性能并調參我們使用K折交叉驗證K-Fold Cross-Validation。特別是對于不平衡數據使用分層K折交叉驗證Stratified K-Fold更好它能確保每一折中類別比例相同。from sklearn.model_selection import StratifiedKFold, cross_val_score cv StratifiedKFold(n_splits5, shuffleTrue, random_state42) # 以ROC-AUC為評估指標進行交叉驗證 model RandomForestClassifier(class_weightbalanced, random_state42) cv_scores cross_val_score(model, X_train, y_train, cvcv, scoringroc_auc) print(f交叉驗證ROC-AUC得分: {cv_scores.mean():.4f} (/- {cv_scores.std()*2:.4f}))7.2 模型選型與對比我們將對比幾種在風控領域常用的模型邏輯回歸Logistic Regression線性模型可解釋性強是風控模型的傳統(tǒng)主力。它可以輸出概率并且可以通過系數大小判斷特征影響的方向和程度。作為優(yōu)秀的基線模型。隨機森林Random Forest集成樹模型能捕捉非線性關系對異常值和缺失值不敏感能輸出特征重要性??惯^擬合能力較強。梯度提升樹Gradient Boosting TreesXGBoost速度、精度和功能性的標桿提供了豐富的正則化選項防止過擬合。LightGBM微軟出品采用基于直方圖的算法和Leaf-wise生長策略訓練速度更快內存消耗更小在大數據集上表現(xiàn)優(yōu)異是當前工業(yè)界風控建模的“標配”之一。CatBoost擅長處理類別特征無需單獨編碼且對過擬合有很好的抵抗。我會用交叉驗證的ROC-AUC來初步比較這些模型。通常LightGBM和XGBoost會表現(xiàn)最好。7.3 超參數調優(yōu)讓模型發(fā)揮最佳性能模型有很多“旋鈕”超參數如樹的深度、學習率等需要調整以獲得最佳性能。手動調參費時費力我們使用自動化工具。網格搜索GridSearchCV指定一組超參數值窮舉所有組合。適用于參數較少的情況。隨機搜索RandomizedSearchCV在指定的參數分布中隨機采樣一定數量的組合。效率更高尤其當參數空間很大時。貝葉斯優(yōu)化Bayesian Optimization使用如scikit-optimize或optuna庫根據歷史評估結果智能地選擇下一組要嘗試的參數通常能以更少的嘗試找到更優(yōu)解。以下是一個使用GridSearchCV對LightGBM進行調優(yōu)的示例from lightgbm import LGBMClassifier from sklearn.model_selection import GridSearchCV # 定義模型 lgb LGBMClassifier(random_state42, verbosity-1, n_jobs-1) # n_jobs-1使用所有CPU核心 # 定義要搜索的參數網格 param_grid { n_estimators: [100, 200, 300], max_depth: [3, 5, 7, -1], # -1表示不限深度 learning_rate: [0.01, 0.05, 0.1], num_leaves: [31, 63, 127], # 葉子節(jié)點數與max_depth相關 subsample: [0.8, 1.0], # 樣本采樣比例 colsample_bytree: [0.8, 1.0], # 特征采樣比例 } # 使用分層K折交叉驗證進行網格搜索 grid_search GridSearchCV( estimatorlgb, param_gridparam_grid, cvStratifiedKFold(n_splits3, shuffleTrue, random_state42), # 調參時可以用少一些的折數加快速度 scoringroc_auc, n_jobs-1, verbose1 ) grid_search.fit(X_train, y_train) print(f最佳參數: {grid_search.best_params_}) print(f最佳交叉驗證ROC-AUC: {grid_search.best_score_:.4f}) # 獲取最佳模型 best_lgb_model grid_search.best_estimator_7.4 模型評估與閾值選擇用最佳模型在測試集上進行最終評估。記住測試集是模型從未見過的數據。from sklearn.metrics import roc_curve, precision_recall_curve, confusion_matrix # 預測概率 y_pred_proba_test best_lgb_model.predict_proba(X_test)[:, 1] # 計算測試集ROC-AUC test_auc roc_auc_score(y_test, y_pred_proba_test) print(f測試集 ROC-AUC: {test_auc:.4f}) # 繪制ROC曲線 fpr, tpr, thresholds_roc roc_curve(y_test, y_pred_proba_test) plt.figure() plt.plot(fpr, tpr, labelfLightGBM (AUC {test_auc:.3f})) plt.plot([0, 1], [0, 1], k--) # 對角線 plt.xlabel(False Positive Rate) plt.ylabel(True Positive Rate) plt.title(ROC Curve on Test Set) plt.legend() plt.show()模型輸出的是違約概率。我們需要一個閾值來將其轉化為“違約”或“不違約”的決策。閾值的選擇是一個業(yè)務決策取決于我們更看重召回率抓住更多壞人還是精確率減少誤殺好人。如果業(yè)務目標是嚴格控制壞賬率寧愿錯殺好客戶也不放過壞客戶可以選擇一個較低的閾值如0.3提高召回率。如果業(yè)務目標是擴大業(yè)務規(guī)模容忍一定壞賬但希望盡可能減少對好客戶的誤拒可以選擇一個較高的閾值如0.7提高精確率。我們可以通過分析不同閾值下的精確率-召回率曲線來輔助決策precisions, recalls, thresholds_pr precision_recall_curve(y_test, y_pred_proba_test) # 找到使F1-Score最大的閾值 f1_scores 2 * (precisions * recalls) / (precisions recalls) optimal_idx np.argmax(f1_scores) optimal_threshold thresholds_pr[optimal_idx] print(f基于最大F1-Score的最佳閾值: {optimal_threshold:.3f}) print(f對應精確率: {precisions[optimal_idx]:.3f}, 召回率: {recalls[optimal_idx]:.3f}) # 使用選定的閾值做最終預測 final_threshold 0.4 # 根據業(yè)務需求調整 y_pred_final (y_pred_proba_test final_threshold).astype(int) # 輸出分類報告和混淆矩陣 print(classification_report(y_test, y_pred_final)) cm confusion_matrix(y_test, y_pred_final) sns.heatmap(cm, annotTrue, fmtd, cmapBlues) plt.xlabel(Predicted) plt.ylabel(Actual) plt.title(Confusion Matrix) plt.show()混淆矩陣能直觀地展示真正例TP實際違約且被預測為違約抓對了。假正例FP實際正常但被預測為違約誤殺。真負例TN實際正常且被預測為正常放對了。假負例FN實際違約但被預測為正常漏殺。業(yè)務人員可以根據混淆矩陣和成本誤殺損失利息漏殺損失本金來量化模型帶來的價值。8. 模型解釋與部署準備從黑盒到白盒在金融風控領域模型的可解釋性至關重要。監(jiān)管要求、內部風控評審都需要知道模型為什么做出某個決策。8.1 全局解釋哪些特征最重要樹模型如LightGBM自帶特征重要性屬性可以告訴我們哪些特征對模型預測的貢獻最大。importances best_lgb_model.feature_importances_ feature_names X_train.columns # 創(chuàng)建DataFrame并按重要性排序 feat_imp_df pd.DataFrame({feature: feature_names, importance: importances}) feat_imp_df feat_imp_df.sort_values(importance, ascendingFalse).reset_index(dropTrue) plt.figure(figsize(10, 8)) sns.barplot(ximportance, yfeature, datafeat_imp_df.head(20)) plt.title(Top 20 Feature Importances (LightGBM)) plt.tight_layout() plt.show()通常你會發(fā)現(xiàn)debt_to_income_ratio負債收入比、credit_history_length信用歷史長度、annual_income年收入等特征排名靠前這符合業(yè)務直覺。8.2 局部解釋為什么這個客戶被拒絕對于單個客戶的預測我們可以使用SHAP (SHapley Additive exPlanations)值進行解釋。SHAP值基于博弈論公平地將模型預測值分配到每個特征上。import shap # 初始化JS可視化用于Notebook shap.initjs() # 創(chuàng)建一個解釋器 explainer shap.TreeExplainer(best_lgb_model) # 計算測試集前100個樣本的SHAP值計算全部可能較慢 shap_values explainer.shap_values(X_test.iloc[:100]) # 1. 單個樣本的解釋例如第一個被預測為高風險的用戶 shap_index 0 # 選擇你想解釋的樣本索引 shap.force_plot(explainer.expected_value[1], shap_values[1][shap_index], X_test.iloc[shap_index]) # 2. 匯總圖看特征的整體影響方向 shap.summary_plot(shap_values[1], X_test.iloc[:100])力Force圖展示單個預測中每個特征是如何將基礎值所有樣本的平均預測推向最終預測值的。紅色特征推高預測概率增加風險藍色特征推低預測概率降低風險。匯總圖每個點代表一個樣本。x軸是SHAP值對預測的影響大小顏色表示特征值的大小??梢钥刺卣髦蹬c風險的關系例如debt_to_income_ratio越高SHAP值越大即風險越高。當模型拒絕一個客戶的貸款申請時風控人員可以調出該客戶的SHAP解釋圖清晰地告訴客戶“您的申請被拒絕主要是因為您的負債收入比過高0.15且信用歷史較短0.08?!?這大大增強了模型的透明度和可信度。8.3 模型持久化與部署準備訓練好的模型需要保存下來以便在新的數據上做預測。import joblib # 或使用 pickle # 保存模型 model_filename ./models/lgbm_default_predictor_v1.pkl joblib.dump(best_lgb_model, model_filename) print(f模型已保存至 {model_filename}) # 加載模型 loaded_model joblib.load(model_filename) # 對新數據進行預測 # new_data 是經過完全相同預處理和特征工程后的DataFrame new_pred_proba loaded_model.predict_proba(new_data)[:, 1]在實際部署中你可能會封裝成API服務使用Flask或FastAPI創(chuàng)建一個Web服務接收客戶數據返回風險評分和決策建議。集成到風控系統(tǒng)將模型預測邏輯寫成函數嵌入到銀行現(xiàn)有的信貸審批流程中。定期監(jiān)控與更新模型會隨著時間“老化”因為客戶行為和宏觀經濟在變化。需要定期如每季度用新數據評估模型性能必要時重新訓練或更新。9. 項目總結與避坑指南走完整個流程你會發(fā)現(xiàn)一個完整的風控預測項目遠不止“調個包跑個模型”那么簡單。它融合了業(yè)務理解、數據處理、算法應用和工程實踐。最后分享幾點我在這個項目復現(xiàn)和實際工作中的深刻體會第一數據質量決定天花板特征工程決定你能摸多高?;ㄔ跀祿逑春吞卣鞴こ躺系臅r間通常占整個項目的60%-70%。一個聰明的特征如“近三個月查詢征信次數”可能比換一個更復雜的模型提升更大。務必警惕數據泄露確保所有特征在預測時都是可獲得的。第二不平衡處理是風控建模的必修課。不要只看準確率。ROC-AUC和PR-AUC是你的好朋友。多嘗試幾種采樣方法和算法內置的類別權重調整并在驗證集上仔細評估其對召回率抓壞人能力的影響。第三模型解釋性與性能同等重要。特別是在金融領域一個無法解釋的“黑盒”模型即使AUC再高也很難通過內審和監(jiān)管的挑戰(zhàn)。LightGBM/XGBoost SHAP 是目前兼顧性能與可解釋性的黃金組合。在特征設計時也要盡量使用業(yè)務上可理解的變量。第四交叉驗證是防止過擬合的保險繩。永遠不要用測試集來調參或做模型選擇。堅持使用交叉驗證來評估模型在訓練集上的泛化能力。隨機種子random_state要固定確保結果可復現(xiàn)。第五從實驗到生產有很長的路要走。Notebook里的模型只是原型。要將其轉化為生產系統(tǒng)你需要考慮特征工程的代碼如何模塊化、自動化模型如何版本管理預測服務如何保證低延遲、高并發(fā)預測結果如何與業(yè)務系統(tǒng)聯(lián)動監(jiān)控指標如何設計如模型穩(wěn)定性PSI、預測分數分布變化這是一個更大的系統(tǒng)工程。這個基于Python的個貸違約預測項目就像一張精細的“風險地圖”繪制指南。它從數據源頭開始教你如何清理、加工信息如何選擇合適的“繪圖工具”模型如何校準“圖例”閾值以適應不同的業(yè)務場景最后還教你如何向別人解釋這張地圖為什么這么畫。希望這份詳盡的指南能幫你不僅跑通代碼更能理解背后每一步的“為什么”真正掌握用數據驅動信貸風險決策的核心能力。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
中文字幕在线日亚洲9| 五月丁香六月婷婷啪啪综合| 婷婷丁香六月天| 综合激情综合啪啪| 国产成人AV在线| 极品少妇高潮啪啪AV无码| 欧美草久久五月天91| 一起草av在线观看| 五月激情四射网站| 国产精产国品一二三在观看| 在线中文av| 色欲资源网| 色三级色三级| 人妻操日日| 亚洲五月婷婷| 操逼视频一区| 天天草天天摸| 五月天激情小说婷婷基地| 色婷久| 久久性爱视频| 天天色视频| 99小精品| 天天摸.天天mo| 亚洲免费电影2| 激情综合亚洲| 99这里只有| 思思热高清在线观看| 欧美日韩成人| 91久久久久久久久久| 国产精品人成A片一区二区| 99狠狠| 四色女婷婷| 午夜天堂啪啪| 激情综合在线观看| 青青草99热久久精品国| 国产超碰av| 丁香五月天社区| 91se在线观看| AA久久| 亚洲综合狠狠艹| 欧美色五月| 性色综合网| 69凹凸成人综合网| 激情综合网激情五月俺也去| 麻豆AV一区二区三区| 97碰超级人人看| 99热99热在线| 这里只有精品无码| 久久久天天啊| 激情久久久久久久久久| 五月丁香操婷逼| 五月丁香中文| 丁香六月婷婷色播| 婷色五月天| 五月天开心婷婷激情网站| 天天操天天操天天操| 亚洲性受XXXX五月丁香| 5月婷婷6月丁香aV| 五月婷婷伊人久久| 激情五月婷婷在线区| 天天色一道本综合婷婷| 九九九午夜影院成人| 五月丁香久人妻中文| 岛国操B不卡在线| 老司机视频lsj爱就色| 国产SUV精品一区二区6| 久久se 综合网| 在线18av | 国外亚洲成AV人片在线观看| 久久久aaa| 婷婷亚洲在线| 国产超碰人人| 26UUU| 色婷婷av在线观看| 人人色性网| 激情五月综合色婷婷| 天天爽—爽| 婷婷 久综合| 婷婷六月丁香在线| 色狠狠综合| 色欲资源网| 天天爱夜夜爽| www九九热| 国产激情久久久| 色欲一区二区三区精品A片| 色五月激情综合网| 欧美电影在线观看| 日日操夜夜操无码免费| 激情五月天色| 五月天天爱| 婷婷五月天狠狠| jiZZdr| 欧美婷婷成人| 在线观看中文字幕亚洲| 麻豆AV一区二区三区| 久久精品99国产精品日本 | 激情综合网五月丁香| 久热黄色| 亚洲AV影片在线观看| 99福利视频导航| 大香蕉啪啪啪啪啪啪| 日韩精品超碰在线观看| 婷婷成人综合免费视频| 五月丁香六月婷婷操操操| 天天插天天插天天插天天插| 丁香五月天堂网| 538在线精品| 五月婷久久综合| 五月婷婷激情性爱| www.五月天婷婷姐姐| 色播五月婷婷五月| 涩五月婷婷| 香蕉久日夜| 亚洲九九婷婷| 五月激情偷拍婷婷| 99精品久久久| 乱乱av| 色爱综合五月| 色国产五月| 婷婷五月天欧美图片在线播放电驴| 96丁香六月婷婷蜜桃综合久久| 深爱五月激情五月| 狠干综合| 国产99视频永久免费| 夜夜躁爽日| 大香蕉精品视频| 中文字幕成人| 五月婷婷与六月丁香图片激情| tingtingjiqingwuyue| 丁香五月婷婷色| 99爽视频| 伊人久热91| 久久黄A片| 久狠日av| 亚洲网在线观看| 婷婷五月天亚洲综合| 丁香激情合作五月| 欧美色婷婷| www日本熟妇99在线视频| 丁香五月婷婷色情综合| 国产偷人妻精品一区| 五月婷视频| 精品操逼一区二区| 手机激情网| 九九热10| 综合色网站| 手机激情网| 人妻av在线| 丁香婷婷久| 久久九九怡红院| 久久久久人妻精品| www狠狠爱com| 26uuu欧美激情另类| 日本色色图| 亚洲视频码| 五月天婷婷激情干干| 狠狠插狠狠插| 色婷婷影视99| 九热视频| 六月激情丁香一道本7777| 伊人天天色| 五月天婷婷色色| 91色吧网| 亚洲午夜电影| 综合精品99| 少妇激情五月婷婷| 国产成人精品一区二三区熟女在线| 五月天开心色情网| 色色色综合| 亚洲色区17| sewuyue第四色| 狠狠干天天日| 婷婷欧美色| 激情五月婷婷丁香| 9er热在线精品视频| 99在线观看精品视频| 久久综合五月天激情小说网站| 噜噜色五月| 涩五月婷婷| 色九月欧美| 国产va视频| 99久在线精品| 99热| www,五月丁,com| 亚洲天堂99| 97干视频| 色婷婷综合网站| 婷婷综合久久| 公的粗大挺进了我的密道| 激情av| 99在线热| 婷婷丁香五月天影院 | 91碰免费视频| 播四月婷婷六月丁香| 激情综合网五月天| 婷婷玖玖五月天| 亚洲va国产va天堂va综合va| 先锋五月婷婷丁香草草| 精品亚洲国产成人A片在线鸭王| 综合五月天亚洲婷婷| 久大香蕉| 色婷婷丁香五月高清在线| 公的粗大挺进了我的密道| 丁香五月激情宗合网| 99精品亚洲| 日日噜人人人做人| www.cao.com久久| 天堂草在线看www| 嫩草视频| 婷婷色综合| 色99在线| 九九色网专区| 99.N在线视频| 亚洲综合网激情小说| 色五月婷婷在线观看第一页舔| 婷婷中文字暮| 玖玖无码中文| 婷婷婷婷午夜| 99久久这里只有精品| 色爱99| 五月色色色| 琪琪理论片| 韩日另类| 香蕉操亚洲| 思恩热国产视频右线观看| 久久婷婷五月天| 欧美综合激情五月丁香| 黄色中文字目| 亚洲色图日韩网址| 欧美在线视频99| 99rewww| 成人片黄网站色大片免费毛片| 天天干天天色天天干| 婷婷五月丁香色播| 婷婷成人五月天成人文学| 六月婷婷网站| 亚洲五月天婷婷| 日产精品一线二线三线芒果| 日本99在线| 色之综合网| 人妻免费网站| 狠狠色综合网| 五月开心色| 色婷婷av在线| av人人操| 成人在线精品| 情久久综合五月天| 激情五月六月婷婷综合啪啪| 五月丁香久久网| 国产精品扒开腿做爽爽爽A片唱戏| 色情五月停停丁香| 天天草婷婷五月| 色月丁| 玖玖婷婷五月天| 中文aV网| www.综合久久.com| 超碰cap| 丁香五月电影| 婷婷丁香五月激情密臀av| 五月婷婷激情四季| 久婷自拍视频| 色婷婷五月天av在线| 另类图片色五月| 六月婷婷九月丁香亚洲综合| 97在线精品| 超碰在线播放免费观看| 黄色片久久| 色啪网| 日日爱激情| 99re热在线视频| 精品视频网| 最近中文字幕在线中文视频| 婷婷伊人綜合中文字幕| 五月天婷综合| 亚洲色五月婷婷| 五月亭亭六月激情| 在线VA视频| 中文在线成人| 色爱综合五月| 牛牛色av| 黄色短视频在线观看| 伊人在线视频| 9久热| 亚洲五月天另类小说图片| 亚洲欧洲自拍图片专区五月天| 色99免费视频中文| 亚洲热久| 激情九九六月激情免费视频| 国产伊人大香蕉| 国产一级片色色| 99干日本| 97在线精品| 精品色色| 无码99| 热久久国产视频| 激情综合网络插| 中文字幕永久免费| 97色干| 爆乳熟妇一区二区三区爆乳照片| 99热久草| 91爱操| www.色色五月天.com| 激情五月天.色网| 色五天综合| 国产毛片精品一区二区色欲黄A片| 免费亚洲婷婷| 欧美交换配乱吟粗大25P| 五月丁香六月婷婷啪啪| 99精品网| 婷婷中文字幕网站| 97婷婷久久丁香| 九色亚洲| 成片免费观看大全| 久热91精品| 色天堂A| 天天操天天曰天天射| 哇嘎成人久久| 日韩999| 色墦五月丁香| 丁香六月色情| 丁香五月综合在线视频| 婷婷五月在线观看| 色色色无码| 玖玖婷婷五月天| 99热官网| 婷婷丁香五月社区亚洲| 91人人妻人人操| 五月天丁香婷婷社区| 97欧美在线| 色婷婷五月色| 狠狠色婷婷在线| 久热这里只有精品在线观看| 国精产品一区二区三区| 日本色视| 五月丁香婷婷色| 久久婷五月天| 极品少妇婷婷五月| 国产成人网址| 91久久婷婷人人澡草| 97色色色色色| 综合啪啪| 亚洲国产精品二二三三区| 玖玖色综合色| 综合激情在线| 激情影院免费视频婷婷五月天| 婷婷激情五月天小说校园| 婷婷五月天a| 婷婷五月天激情小说| WWW.99视频| www.五月天| 超碰人人摸人人操| 亚洲六月色婷婷| caop在线视频| 亭亭五月激情亚洲在线| 色情免费视频播放| 婷婷久久综合久| 99久久99九九99九九九| 亚洲在线成人| 男女99免费视频| 五月开心婷婷中文字幕| 天天综合社区| 99视频内射三四| 日本女色人人| 大香蕉九九热| 这里只有精品69| 99热66| 五月婷婷六月丁香| 日韩美一级毛卡片| 五月综合婷婷开心网| 色色亚洲五月天| 九九激情网| 99久久終合| 99啪啪| 亚洲激情精品| 五月香婷婷| 色原狠狠综合| 国产精品-91JQ就要激情网91JQ6.91JQ27.CASA:16888 | 婷婷成人综合| 久久婷婷艹| 激情五月天色色| 丁香五月激情综合啪啪| 天天爽天天操| 欧美日韩成人免费在线| www色中色综合| 婷婷久久五月天| 丁香熟女乱| 久久亚洲网| 99热久草| 97五月天婷婷综合激情网| 婷婷五月激情六月丁香 | 99热这里是精品| 99热婷婷| 天堂A∨在线| 天天干天天射综合网| 99热精品无码| 色婷婷久久综合| 久久婷婷五月综合色和| 超碰天堂网| 九九热九九| 五月综合精品| 五月婷婷操操| 思思热在线精品视频网站| 日韩AV大全| 天堂网色色| 我要射综合| 黑人糟蹋人妻HD中文字幕| 色婷婷av在线| 婷婷爱五月| 久久婷婷青青| 色五月天成人在线| 成人午夜天| 玖玖资源站国产| 99九九热在线观看| 五月天操逼网| 色综合色色色色色| 免费看欧美成人A片无码| 婷婷五月天久久久| 欧美成人A片AAA片在线播放 | 9999三级片| 久久久九九九 99| 国精产品一区二区三区| 九月丁香很很色| 婷婷5月天激情综合| 99性视频| 九九人妻福利| 极品人妻XXXXOOOO| 这里只有精品在线播放| 丁香五月天久久| 婷婷五月天色网久| 播丁香五月婷婷欧美| 日韩狠狠色婷婷| 成人av播放| 久久大香蕉视频| 婷婷激情五月色综合| 99热传媒| 五月婷婷免费在线观看视频| 色五月婷婷影视| 99热97| 亚洲爱婷婷| 天天色综网| 亚洲婷婷综合视频| 性爱网五月天| 9er热在线精品视频| 欧美这里只有精品| 婷婷五月天深爱| 日本色色影片| 久久久性爱视频| 伊人婷婷五月天av| 五月婷婷啪啪| 久久久久综合激动五月天| 亚洲精品V天堂中文字幕| 五月婷婷免费视频| www99xxxx五月丁| 婷婷色六月| 99在线观看精品| 五月婷婷激情综合网| 大香蕉久久伊人婷婷五月丁香| 婷婷俺去也| 日本无va视频| 99视频在线看| 六月丁香中文字幕| 欧美激情五月综合| www99精品在线观看| 老司机伊人| 免费播放片大片| 这里只有精品在线观看视频| 国际国外精品欧洲南美洲专区无码不卡| 日本婷婷色| 久久色亭亭五月天| 92久久| 亚洲天堂色色| 噜噜噜久久亚洲精品国产品91| 婷婷五月丁香香蕉| 激情五月天丁香| 天天色天天色天天色天天色天天色| 综合久久综合综合| 五月天色综合| 99小视频网站| 丁香综合网| 婷婷六月天| 丁香五月天网友自拍啪啪啪视频| 99re热在线视频| 亚洲熟妇AV乱码在线观看| 天天操夜夜爽歪歪| 色婷久久| 色站9/| 婷婷开心激情| 99久热这里只有精品| 五月天色图| 久久五月天激情| 9久久婷婷国产综合精品性色| 五月六月播婷婷| 天天干天天日蜜臀av| 五月色婷婷影院| 夜夜爽日日躁| 91久久精品无码一区二区三区| 国产精品久久久久久久久久| 欧美五月婷婷| 精品无码99| 7月婷婷六月丁香| 亚洲图片 丁香婷婷| 久久曰曰| 六月激情网| 日韩五月天婷婷| 婷婷五月丁香色播| 日本精品久久久久中文字幕 | 99日本黄站| 天天色2017| 六月激情婷婷| 久99热在线观看| 色丁香在线视频| 久久九九爽| 丁香五月天社区婷婷| 亚洲AV免费在线| 九九精品热播| 极品五月天| 一起草无码视频| 中文字幕五月久久婷| 久久五月婷综合| 九九色色| 婷婷五月影院| 99在线观看| 久久精品性爱| 久热中文字幕在线线观看| 九九热这里只有精品5| 国产露脸150部国语对白| 99.N在线视频| 婷婷欧美| 婷婷亚洲综合| 日韩九九| 五月天色社区| 五月天欧美激情| 久久久思思热| 伍月婷丁香婷| 婷婷五月丁香综合亚洲 | 丁六月激情| 91婷婷丁香五月天免费视频网站| 精品久久婷婷| 激情爱爱网站| 伊人网大香| 国产成人在线不卡AV| 亚洲AV电影美洲AV电影| 丁香伊人五月色婷婷五十路| WWW.五月com| 色九四色| 热婷婷av| 婷婷中文字幕网| 丁香花操逼| 五月刺激丁香月综合| 男人的天堂婷婷色五月| 91综合视频丁香| 五月婷婷六月激情| 丁香五月伊人| 97人妻碰碰碰碰碰久久久久久| 在线超碰免费| 五月黄色婷婷| 久久99精品久久久久久三级| 欧美日韩五月婷婷| 综合久久伊人| 五月天婷婷亚洲| 国产亚洲99久久精品熟女| 国产精品第一国产精品| 久久久天堂国产精品女人| 婷婷五月激情网| 99热九九热| 丁香色婷婷| 亚洲欧美在线观看| 五月天婷婷色综合| 亚洲无码黄色| 婷婷无码视频| 婷婷天天插天天爱| 极品五月天| 99在线精品在线视频| 婷婷五月综合亚洲| 婷婷天堂综合| 中文字幕网伦射乱中文| 五月丁香激情六月| 激情五月婷婷在线观看| 99免费热视频在线| 色婷婷久久| 超pen个人视频97| 九月色婷婷综合亚洲| 六月激情网| 久久久91| WWW.桔色成人.COM| 婷婷五月天视频免费在线观看| 人人操AV| 青草视频在线播放| www.99免费视频| 婷婷丁香五月激情密臀av| 久久丁香社| 庭庭久久内射| 五月永久激情| 日韩在线观看亚洲| 婷婷五月丁香五月| 色97啪啪| 思思久久网| 色婷婷a三区麻| 在线观看亚洲AV| 婷婷丁香六月| 9一精品视频观看| 99久久婷婷国产综合精品草原| 亚州日本欧州韩美高青高潮一| 久久精热| 五月天综合网| 97色天堂| 亚洲婷婷五月天激情综合| 丁香五月天激情免费在线观看AV777| 高清不卡一区| av在线播放网站| 97资源碰碰在线| 婷婷五月永远18免费久久久| 国产伦亲子伦亲子视频观看| 婷婷激情97| 婷婷丁香在线| 丁香六月婷婷综合欧美| 91色婷婷综合久久中文字幕二区| 婷婷婷婷婷婷婷婷婷婷丁香| 精品久热| 婷婷五月六月丁香| 婷婷情色开心五月天99| 999婷婷综合| 五月丁香色婷婷基地| 91丨九色丨丰满人妖| 精品一二三区久久AAA片| 射久久丁香五月| 亚洲综合色丁香五月天| 九九伊人网| 99国产欧美视频| 久久久色婷婷五月天| 人人爱摸视频| Aaa久久| 国产亚洲精品人人| 欧美日本国产欧美日本韩国99| 婷色五月天| 亚洲网站999| 人人舔天天| 婷婷五月天电影网| 182TV大香蕉| 色婷婷香蕉丁丁网| 激情深爱五月天| www999日韩精品| 婷婷操婷婷干婷婷射| 日日影院 | 99精品国产在热久久| 99热免费观看| 婷婷丁香黄色| 天天爽天天草| 又大又粗九一在线| 色色色色色级无码| 激情小说婷婷| 五月婷婷丁香综合,亚洲天堂| 五月天欧美 另类小说| 色综合另类| 五月激情综合婷婷| 六月丁香婷婷色综合| 国产激情综合| 五月婷婷干干干| 亚洲99综合| 波多野结衣成人作品在线| 五月永久激情| 色婷婷久久| 国产日产成人亚洲欧美国产VA| 欧美α√| 婷婷自拍| 色五月婷婷在线| 亚洲 成人 电影av在线观看| va婷婷| 亚洲成人av在线观看| 玖玖资源天天无码| 国产精产国品一二三在观看| 伊人成人宗合网| 8090在线影视少妇| 五月丁香欧美| 欧美色色色色色色色| 大香蕉久久久久| 99碰碰| 大香蕉久久婷婷| 天天日天天摸天天| 婷婷97C| 色色综合日韩| 思思99re这里只有| 日日干夜夜干| www.日日夜夜| 九九爱激情| 人妻尝试久久久久久久久久久久| 专区无日本视频高清8| 可以直接看的av网站| 中字幕视频在线永久在线观看免费| 在线五月色播| 99综合视频| 狠狠五月丁香色婷| 四川BBB搡BBB爽爽视频| 色五月婷婷五月丁香五月| 婷婷五月丁香亚洲| 精品色色| 97久人人| 天天干天天拍| 丁香婷五月| www.久久99精品| 久9免费视频| 六月色婷婷色| 国产在线网| 婷婷五月天激情诱惑| 亚州综合色| 欧美精品99久久久| 亚洲激情丁香五月基地| 无语停婷丁香网| 日本99色| 久久五月丁香婷婷| 屁股翘好撅高迎合跪趴| 伊人五月成人| 日韩在线视频中文字幕| 日韩中文字幕| 九九精品9| 日本色爽| 26uuu四色| 天天插操| 五月天精品视频| 久久九九爽| 一级操逼大片| www.91九色| 欧洲亚洲免费视频区| 五月婷婷黄网站大全| 激情综合网址| WWW五月天| 9热在线视频精品| 婷婷五月激情欧美| 五月婷色丁香| 99在线视频精品| 第四色在线观看| 99色色网| www.思思99热| 日韩无码专区| 草久私拍| 亚洲六月色婷婷| 婷婷丁香人妻| 久久92| av操逼网| 日本色色色| 激情五月丁香六月综合AVXXXX| 激情婷婷五月天| 丁香五月天亚洲综合| 色婷网| 亚洲五月婷婷| 婷婷色网站| 五月天操逼网| 九九中文色色| 国产精品18久久久| 超碰97免费在线| 久久66精品| 丁香 婷婷 激情 综合 五月| 另类图片五月天激情| 99色在线| 五月天久久综合| 性生活久久朋友人妻| 亚洲五月天综合色| 婷婷五月天亚洲综合| 99热最新国内| 99热18| 午夜成人网站在线观看| 噜噜久| 人妻videos人妻高清| 久婷| 色五月偷偷| 婷婷五月精品| 亚洲深喉aV| www久久99| 婷婷99狠狠躁天天| 久久精品性爱| 精品51XX| 99热这里只有精品最新地址获取| WWW.桔色成人.COM入口| 草综合网| 一起草Av| 婷婷五月激情欧美| 成人啪啪色婷婷久| 色色草97| 久久99人人| 丁香五月影| 激情内射人妻1区2区3区| 五月天婷婷影院| 人妻九九九九| 国产婷婷综合在线免费视频| 五月婷婷综合丁香视频| 看久久性爱99视频| 丁香五月a| 激情五月天www| 国际国外精品欧洲南美洲专区无码不卡| 激情另类综合| .操區COm| 激情com| 视频综合网| 中文字幕婷婷| 丁香九九九九| 东京热免费视频| 丁香六月激情综合啪啪| 婷婷五月丁香色情| 婷婷丁香五月天小说| 九九免费在线视频| 开心色播色五月婷婷| 嫩BBB槡BBBB搡BBBB视频| 激情综合综合综合| 久热这里精品免费| 日韩a热| 国产伊人五月天| 婷婷五月天最新综合你懂的 | 色婷婷精品视频| 婷婷99狠狠| 久久婷婷91| 成人免费在线电影| 日本三级中国三级99| 亚洲旡码| 激情第四色| 欧美 日韩 人妻 高清 中文| 9精品久久999| 91jiuseshunv| 久操干| 丁香五月激情婷婷| 综合激情网五月激情| 丁香六月啪啪| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 操老逼综合网| 丁香深五月婷婷| www.com.色色| 97碰在线| 国产激情综合五月久久| 婷婷久久五月| 五月天婷婷乱| 婷婷爱五月天| 色色国产| 亚洲五月婷婷| 五月婷婷久草| 色婷综合| 九九色影视| 99这里只有免费的小视频在线观看| 99热99免费| 丁香六月在线| 另类精品视频在线观看| 欧洲色| 丁香久久在线| 久久九九99桃花视频| 色婷婷91激情小说| 1010日日无码| 色综合九九色综合88| 色婷婷av在线观看| 91seAV| 超碰人妻在线| 激情五月天色婷婷综合| 国产26uuu| 婷婷在线视频| 五月久久丁香| 久久精典| 另类视频丁香五月| 92久久| 五月婷婷爽爽爽| 婷婷va| 婷丁香五月天| 日本丁香五月| 色狠狠色噜噜AV天堂五区| 人人操 色| 思思99精品视频| 午夜丁香婷婷| www.日日夜夜.com| 久久久五月天婷婷| 色婷婷久久综合| 人妻操在线看| 婷婷丁香在线| 精品操逼一区二区| 婷婷基地成人五月天| 日本色五月| 中文字幕日本最新乱码视频| www.99riav99| 人妻自慰在线| 亚洲综合99| 男男野外做爰全过程69| 久久精品夜色噜噜亚洲a∨| 久久午夜理论| 99热精品在线| 成人在线视频男人的天堂4399| 亚洲激情 久久| 六月婷婷在线视频| 丁香五月激情综合| 天堂中文国产| www,天天干| 色综合久久久无码中文字幕999| 大香蕉五月丁香| 激情深爱综合网| 怡红院AV亚洲一区二区三区H| 九九综合色综合| 五月天激情啪啪| 26uuu欧美| 婷婷视频网| www.色婷婷.com| 色五月婷婷在线观看第一页舔| 丁香五月激情宗合| 日韩av在线电影| 31色区视频免费看| www.五月天婷婷.com| 99热中文字幕久久| 国产精品久久久爽爽爽麻豆色哟哟| 婷婷五月天影院| 色玖玖综合| .肏屄视频一区二区| 色狠狠伊人久久五月丁香| 久久女婷| 狼人狠狠操| 夜夜爽天天爽| 久久婷婷五| 五月丁香婷婷开心| 国产在线网| 婷婷五月天无码熟女| 激情九月婷婷| 婷婷五月激情网站| 亚洲久热| 色丁香婷婷| www.久久爱.com| 综合九九中文字幕| 天天天天天操| 天天操夜夜操| 亚洲 25P| 99色在线| 日韩色色色色色| 日本综合色色| 亚洲第一黄网| 婷婷五月激情综合| 人人操AV| 操91| 婷婷丁香在线| 日本一级一级一级一级| 婷婷九月丁香| 91色逼| 久久丁香婷婷五月| 79色色| 日本欧美999久久久三级片| 另类综合婷婷五月天欧美视频| 五月天成人在线视频网站| 五月丁香六月激情综合网| 婷婷综合五月| 管管補管管紱| 婷婷五月天 丁香五月天 裸体| 26UUU亚洲欧美| www.婷婷五月| 电影《战争与艾拉》免费观看| 婷婷久久综合| 色青青视频| 久久综合天天综合| 欧美三9久九观看| 婷婷噜噜| 大香蕉Av在线| 成人在线精品| 亚洲激情亚洲激情 | 五月婷在线影院| 丁香五月天电影| 婷婷亚洲色| 激情五月综合| 婷婷伊人五月| 伊人五月婷婷国产视频| AV在线大香蕉| 都市激情久久| 丁香五月婷婷社区| 五月丁香五月综合欧美| 久草 天堂| 九九热精品| 五月婷婷丁香在线视频| 97超级操操| 色九月婷婷| http://www.lingjunshare.com/ | 五月天婷综合| 99热这里只有精品免费| 最新五月天婷婷影| 久久人视频| 亚洲av综合网| www色婷婷久久综合久色| 色五月婷婷久久| 五月婷婷综合潮喷| 五月婷婷深深爱| 色啪网| 婷婷狠狠干| 99视频精品全部免费看| 亚洲乱码日产精品BD在线观看| 五月丁香五月天现场视频| 91chinese 在线| 99天堂网| 欧美日本va| 久久免费精品小视频| 亚洲欧洲中文日韩久久AV乱码| 久久人妻在线| 综合99久久| 欧美激情综合色综合啪啪五月| www.91.com处女在线直播| 婷婷五月欧美AA片免费| 欧美99热| WWW.桔色成人.COM| PORNY九色9l自拍视频成人| 色婷婷成人做爰A片免费看网站| 激情五月天偷拍综合网| 青青热久久综合| 2015在线中文字幕| 色色色色色色色色网站| 婷婷五月天激情在线观看| 9色免费网| 中字幕视频在线永久在线观看免费 | 色玖玖网| 开心五月婷婷激情| 久久这里有精品| 婷婷五月情色| 六月丁香六月婷婷欧美| 少妇人妻偷人精品无码视频新浪 | 久久成人亚洲欧美电影| 日韩黄色电影| 我爱va亚洲va52| 久久精品婷婷| Av在线资源| 中文字幕成人| 超碰色色综合| 深爱五月日韩| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 夜夜操夜夜姧| 天天做天天爱天天爽夜夜揉| 人人草碰| 97干干干丁香| 玖玖综合色| 丁香婷婷五月六月天| 五月天色色网站| 丁香六月亚洲| 99超超碰| 超碰人人艹| 五月婷婷丁香俺日污视频| 欧美五月丁香在线观看| AAA久久久AAA久久久AAA| 五月丁香亭亭电影久久| 99精品视频免费观看| 99re热在线视频观看| 可以免费看的av网站| 无码一区二区三区四区五区| 色婷婷激情| 激情五月天婷婷色色色色色色色色色色色 | 开心婷婷中文字幕| 久久婷婷婷婷伊人| 婷婷在线观看五月天在线视频| 中文无码婷婷| 亚洲一区二区无遮挡A片| 伊人天堂婷婷| 色五月婷婷777| 国产精品99久久久久久久女警| 婷婷亚洲天堂| 97色97干| 色色色色av色色色色| 狠狠干五月丁香| 六月婷婷无码| 五月婷五月婷伊人伊人五月婷| 99操逼| 六月婷婷综合久久| 97久久久免费福利网址| 婷婷成人在线| www:99热视频| 九月丁香八月婷婷加勒比| 五月婷婷AV| 婷婷五月影院| 五月丁香六月合| 色综合色综合色综合高潮| 丁香五月在线伊人| 亚洲无码成人网| 婷婷丁香色五月亚洲| 日本色道视频网站| 久久婷五月| 丁香五月影院| 国产精品久久..4399| 久青操| 91碰在线| 综合97五月| 久久99这里只有精品| 日韩免费乱轮网站| 天堂婷婷五月在线| 性 色 婷婷| 久久A热| 高清无码中文字幕aVDV| 五月婷婷视频ab| 欧美成人精品老美女噜噜噜| 色色色.COM| 日日天天干| 久久玖玖综合| 久久作爱| 久久婷婷五月| 色婷五月天| 亚洲熟妇AV乱码在线观看| 综合天堂AV久久久久久久| 天堂久久丁香| 日韩黄色电影| WWW.99热| 亚洲色激情| 99精品视频免费在线播放| 激情丁香淫荡婷婷| 影音先锋男人资源站一区二区| 亚洲综合激情五月久久| 欧美色99| 中文AV网| 熟惀91九色在线| 99操不停| 超碰资源在线| PORNY九色9l自拍视频成人| 五月丁香好婷婷A片网| 亚洲精久久| 日日噜狠狠色综合久久| WWW.开心五月天.COM| 五月婷婷六月丁香色| 成人视屏在线观看| 在线另类| 久久99国产综合精品免费| 亚洲精级| 亚洲一区国产传媒| 色婷婷久久综合| 久久视屏这里只有久久| 色热久资源| 伊人久久五月天| 天天综合 99久久婷婷| 99热这里只有精| 人操91在线| 99热偷拍| 天天狠狠色噜噜| 亚洲这里只有精品| 玖玖热视频| 99惹 精品在线| 五月婷婷另类| 99er6热在线观看精品6| 成人片在线播放| av高清无码| 婷婷伊人75| 五月天激情网图片 - 百度| AV五月婷婷露脸| 中文字幕在线观看视频www| 九九视频在线观看视频6| 超碰人人99| 丁香五月在线伊人| 亚洲 在线 性爱| a久久| 乱精品一区字幕二区| 97操男人的天堂| 男女99免费视频| 色五月综合激情| 色婷天天| 少妇高潮A片无套内谢麻豆传| 丁香五月婷婷总啪啪| 色域五月婷婷丁香| 亚洲视频丁香网va| 99热这里只有精品在线| 精品久久久久成人码免费动漫| 国产无人区大片| 亚洲看av的网站| 久热人妻| 色婷婷亚洲综合av| 日本本土色网第一区| 开心激情网五月天| 任你躁XXXXX麻豆精品| 99干视频| 99热成人在线观看| 国产综合色婷婷精品久久| 婷婷丁香社区| 久久大香蕉| 婷婷五月天六月丁香| AA片在线观看视频在线播放| 婷婷射图| 色色色色综合| 国产FREESEXVIDEOS性中国| 色欧美影院| 亚洲色婷婷视频| 日本91在线| 91九色无码内射| www.狠狠干| 99热这里有精力| 久久丁香婷婷色情综合| 日本的α片xxxwww| 婷婷五月大香蕉| 亚洲人妻电影| 久久99久久99精品免视看婷| 天天爽在线视频| 丁香五月婷婷激情中文| 天天天天干| 99操中文视频| 久久人妻视频| 丁香婷婷浪潮AV久久综合| 激情啪啪五月天| 99九九精品| 成人 在线 日韩| 成人免费va| 狠狠精品干练久久久无码中文字幕| 五月激情综合网| 天天干天天拍| 91狼友视频网页更新| 99热久久最新地址| 激情第四色| 婷综合| 亚洲成人AV在线播放| 国产精品视频网| 99免费视频网| 老师高潮流白浆喷水的A片| 六月婷婷狠狠做| 福利视频在线播放| 日本www五月婷婷| 狠狠操狠狠插| 中文不卡av| 久久机热这里只有 | 色婷婷免费观看| 色五月激情综合| 中文字幕中文有码在线| 成人小说 五月天 婷婷| 丁香五月性爱| 九九色影视| 婷婷五月天av| 五月天婷婷黄色视频| 高清无码视频网址| 婷婷五月成年人| www.久久| 天天天天天色| 日日做A爰片久久毛片A片英语| 春色激情第四色| 亚洲无AV在线中文字幕 | 九热视频精品| 在线只有精品| 婷婷五月天精品| 日本五月婷婷| ztEJj| 日本五月天一页| 欧美日韩成人高清在线| 日韩在线观看亚洲| 久久久.COM| 婷婷综合五月| 婷婷大美在线| 日韩精品视频中文字幕| 狠狠撸激情综合丁香五月天俺来啦| 伊人婷婷99热精品| 人妻精品一区二区三区| 啪啪操操| 色五月婷婷小说亚洲中文字幕组| 久久久久久久久久久44| 色五月综合网| 日韩欧美一区二区三区四区| 国产精品a无线| 五月丁香激情在线| 婷婷五月天久草在线| 国产午夜一区二区三区| 永久免费一区二区三区| 一起草Av| 天天色综合色| 日本偷拍九九九| 天天色粽合合合合合合合| 五夜婷婷| 八戒青柠影视剧在线观看| 涩涩网五月天| 91人人爽人人操| 97人人看| 伊人在线婷婷草| 去色色五月天| 色播六月| 激情五月综亚网| 91干99| 99久在线精品| 色婷婷影院| 97在线观看| 99视频激情四射| 久久这里这里有精品免费视频| 91九色最新视频| 久久婷婷五月天蜜桃| 91狠狠综合久久| 国产偷人爽久久久久久老妇APP|