用户标签：
- orderhistory
- 购买过的旅游服务总数量
- 购买过的普通旅游服务数量
- 购买过的精品旅游服务数量
- 精品+1/普通+1 or 精品订单数/（精品+普通）得出百分比
- 最后一次订单的时间，时间戳最后一次订单的年份，月份
- 一个用户的历史订单中且是精品订单的去过每个大洲的次数
- 一个用户的历史订单中且是精品订单的去过每个国家的次数（training data中有51个国家）
- 一个用户的历史订单中且是精品订单的去过每个城市的次数
- 最后一个订单是否是精品
- 最后一个订单去的地方（洲、国家、城市）
- 最后一个订单的详细时间信息（包含年、月、日、小时）每日的小时信息比较重要，夜里下单人多
- action
- 一个用户action的总次数（用处不大）
- 倒数第1-20个actionType（缺失的用0替代）
- 倒数第1-20个actionTime（缺失的用0替代）
- 最后一个action的详细时间（包含年、月、日、小时）每日的小时信息比较重要，夜里下单人多
- 每种actionType的次数占比
- actionType1-5的时间间隔 timespan_1-5_
- 最后一次每种actionType与下一个actionType之间的间隔，如1-5，5-6, e.g., timespanlast_5-6，timespanlast_6-7，timespanlast_7-8
- actionType2-4与actionType5-9之间的比例
- 倒数1个actionTime的年份，月份
- 每个actionType最后一次出现的时间
- actionType5-9的连续程度sequential_ratio（从最后一个5开始计算，没有5则为0，只有5，则为1，5之后只出现6，则为2，还出现了7则为3，出现8为4）
- 最后10个action中，每个actionType出现的次数
- 倒数3个actiontimespan：倒数第1个action与倒数第2个action之间的时间差，倒数第2个action与倒数第3个action之间的时间差……
- 最后3个，5个，actiontimespan的均值
- 最后3个，5个，actiontimespan的标准差
- 第一个actionTime（用户第一次使用app的时间）action_firsttime
- 最后一个actionTime与第一个actionTime的时间差，描述用户用了app总时间（反应是否是老用户）timespan_total
- 每个用户所有的action中，1-5，5-9，1-9的平均时间间隔timespan_1_5_mean, timespan_5_9_mean, timespan_1_9_mean
- 浏览的action中（actiontype为2-4），最后一个浏览类型的actiontype
- comment
- 一个用户在其所有订单中的平均打分数rating_average
- 最低打分数rating_min
- 最后一次打分数rating_last
- profile
- 是否有男女信息
- 是否是男
- 是否是女
- 是否有年龄信息
- 是否60后，70后，80后，90后，00后
- 用户所属省份
- 所属省份的经纬度
- 不同表之间的复合信息
- 每个用户最后一个actionTime和最后一个orderTime之间的时间差 timespan_action_lastord
- 每个actionType最后一次出现的时间与最后一个actionTIme之间的时间差 timespan_action1tolast, timespan_action2tolast, ...
- ordertime_last_1与ordertime_last_2之间的时间差timespan_lastord_1_2，ordertime_last_2与ordertime_last_3之间的时间差timespan_lastord_2_3
- 最后一个action和最后一个ordertime距离国内重要节日的时间差（天数差），利用时间戳得到一年中第几天，重要节日选取了4个：元旦、春节、劳动节、国庆节，在一年中的天数分别为[1, 40, 121, 182]
首选 xgboost，初始参数列表为：
model_xgb1 = XGBClassifier(
learning_rate=0.03,
n_estimators=3000,
max_depth=5,
min_child_weight=1,
gamma=0,
subsample=0.8,
colsample_bytree=0.8,
objective='binary:logistic',
nthread=4,
scale_pos_weight=1,
seed=314
)模型的训练函数：
def modelfit(alg, X_train, y_train, useTrainCV=True, cv_folds=5, early_stopping_rounds=50):
if useTrainCV:
xgb_param = alg.get_params()
xgtrain = xgb.DMatrix(X_train, label=y_train)
cvresult = xgb.cv(xgb_param, xgtrain, num_boost_round=alg.get_params()['n_estimators'],
nfold=cv_folds, metrics='auc', early_stopping_rounds=early_stopping_rounds)
print('best n_estimators:', cvresult.shape[0])
alg.set_params(n_estimators=cvresult.shape[0])
# fit the algorithm on the data
alg.fit(X_train, y_train, eval_metric='auc')
# predict train set
dtrain_pred = alg.predict(X_train)
dtrain_predprob = alg.predict_proba(X_train)[:,1]
# print model report
print('\nModel Report:')
print("AUC Score (Train): %.5g" % metrics.roc_auc_score(y_train, dtrain_predprob))
print("Accuracy: %.5g" % metrics.accuracy_score(y_train, dtrain_pred))设置评价指标为 AUC，在模型 training 阶段使用 cross_validation(k_folds=5) 计算得到 AUC 值：
modelfit(model_xgb1, X_train, y_train)
### model tuning... ###
model_xgb_final = model_xgb1
#model_xgb_final.fit(X_train, y_train)
y_train_pred = model_xgb_final.predict(X_train)
y_train_predprob = model_xgb_final.predict_proba(X_train)[:,1]
importances = model_xgb_final.feature_importances_
df_featImp = pd.DataFrame({'tags': x_tags, 'importance': importances})
df_featImp.sort_values(by=['importance'], ascending=False).plot(x='tags', y='importance', kind='bar')
print('score_AUC:', round(metrics.roc_auc_score(y_train, y_train_predprob), 5))
print('score_precision:', round(metrics.accuracy_score(y_train, y_train_pred), 5))
scores_cross = model_selection.cross_val_score(model_xgb_final, X_train, y_train, cv=5, scoring='roc_auc')
print('score_cross:', round(np.mean(scores_cross), 5), 'std:', round(np.std(scores_cross), 5))
React
Typescript
Django
Laravel
Facebook
Microsoft
Google
Alibaba
D3
Tencent