這篇報告是由哈工大自然語言處理研究所所撰寫的，主要從GPT的技術原理、應用場景等角度對GPT進行詳細介紹。ChatGPT與目前的數據庫

這篇報告是由哈工大自然語言處理研究所所撰寫的，主要從GPT的技術原理、應用場景等角度對GPT進行詳細介紹。

ChatGPT與目前的數據庫、搜索引擎等相比，最顯著的可能就在于它打破了知識傳播的局限。報告中指出，其是全新一代“知識表示和調用方式”。

整體上，ChatGPT的核心算法可以分為“實現基礎的 Transformer 模型、激發出其所蘊含知識的 Prompt/Instruction Tuning 算法、其涌現出的思維鏈能力、以及確保其與人類意圖對齊的基于人類反饋的強化學習算法?！?/p>

看完后，我比較關注的一個是提示學習與指令精調，這部分與基于人類反饋的強化學習算法的應用，使得模型與人類需求對齊。

在指令精調中，openai使用的一部分是來自通過其api獲取的真實人機交互的數據；另一部分，仍是組建了一個標注團隊，來進行相關數據集的梳理與標注。

另一個關注點在于思維鏈（COT），通過在小樣本提示學習的示例中，插入一系列中間推理步驟，提升模型推理能力?？梢岳斫鉃閷⑷祟惤鉀Q問題的思維過程“step by step”的喂給模型。

上述這些核心算法環境，在已有大規模樣本的基礎上，還是需要基于人工標注團隊所形成的高質量數據集，如openai所使用的模型微調數據集，包括新聞文章的摘要數據集、問答數據集等。

報告在給出GPT的核心算法和技術原理的同時，也指出了目前GPT尚存的一些問題，如大規模語言模型自身的局限性，包括模型的時效性，大規模模型的訓練成本，模型回復的可信性等；此外，還有數據泄露風險、基于標注團隊進行精調和引導的標注人員自身偏見問題以及GPT在多數問題上“不確定”式的回答方式等。（需要報告的可戳）

https://katerina-juzi.notion.site/8b1235cd51b04482ba3da0d52e7e51b6