A Chat bot that use training data from PTT Gossiping

課堂上的專題，自己做來玩的小玩具，有緣人想看我醜醜的code就拿去用吧!

2021 5月份 PTT-gossiping版上的問卦文章

• 有效文章: 有至少1則推文、回應、噓文且標題為問卦的文章
• 推文: 最多每篇文章只取前100推文
• 將文章及其推文整理成QA型態 -> 文章標題為問題，取最佳推文為回答
  • 取最佳推文方法
    1. 統計該文章下每一則推文出現的詞
    2. 將所有出現過的詞賦予權重(出現次數即該詞彙的權重)，出現次數越多的權重越高
    3. 計算每一則推文出現的詞彙的權重和
    4. 取權重和最高的推文，權重一樣時取越早推文的
  • 最終處理完之後總計有48560筆問答
• 斷詞: CKIP
• Tokenize
  • Character based: 總共有4764個字(Q+A)
  • Word based: 總共有31565個詞(Q+A)
  • Special token: unk sos end pad
• Padding
  • Word-based
    • Question pad 到 30 個詞(最長問題有30個詞)
    • Answer pad 到 60 個詞(最長回答有59個詞)
  • Character-based
    • Question pad 到 42 個詞(最長問題有42個詞)
    • Answer pad 到 70 個詞(最長回答有70個詞)

• Word-based
• Character-based

• Word-based

• Character-based

• 改善取最佳推文的方法
• 資加有效資料量(現在只有用1個月)
• parameter fine-tune
• Architecture: BERT