3分鐘快速了解GPT-4
【編者按：3分鐘快速了解GPT-4，高效獲取目前關于GPT-4的重點信息。話不多說，Enjoy!】作者 | 岳揚01. GPT-4簡介說到GPT-4，可能你不知道
【編者按：3分鐘快速了解GPT-4，高效獲取目前關于GPT-4的重點信息。話不多說，Enjoy!】
作者 | 岳揚
01. GPT-4簡介
說到GPT-4，可能你不知道，在北京時間今天凌晨OpenAI發布之前你可能已經用過了。根據這篇Bing Blog的內容 (https://blogs.bing.com/search/march_2023/Confirmed-the-new-Bing-runs-on-OpenAI%E2%80%99s-GPT-4 )，負責搜索和設備的微軟公司副總裁 Yusuf Mehdi 指出五周前New Bing就是使用GPT-4了。那么下面簡單介紹一下GPT-4。
ChatGPT是一個大型多模態模型，可以接受圖像和文本輸入，并生成文本輸出。雖然在許多生活實際場景中不如人類，但GPT-4在各種專業和學術測試中表現出擁有專業人士的水平，包括通過美國律師資格考試 Uniform Bar Exam并獲得了排名前10%左右的分數。
GPT-4是基于Transformer的模型，經過訓練后可以預測文檔中的next token。為了提高準確性和確保GPT-4遵守行為規范，OpenAI在預訓練階段使用RLHF，同時在后訓練過程中控制模型。
02. GPT-4的強大功能
根據OpenAI GPT-4發布會以及OpenAI Blog的相關介紹，我們可以了解GPT-4的如下表現：
- GPT-4能夠很好的進行文本的總結和加工。能夠完成一些GPT-3.5做不了的文章總結任務，比如將一段文本總結為均由G開頭字母組成的一句話，將一段文本總結成一段能夠押韻的話語等。
- GPT-4的代碼生成功能更加強大。能夠用GPT-4實現一個Discord機器人，它通過先生成偽代碼，然后根據偽代碼一步一步實現具體功能。
- GPT-4可以接受圖像輸入，能夠要求它對圖片進行描述。
- GPT-4生成回答的文本長度大大增加，現在可以達到32000個tokens。
- 能夠根據人類繪制的原型圖草圖生成HTML。這個功能真的是太強大啦！
- 能夠實現復雜推理，比如OpenAI GPT-4發布會上用到的稅務例子，他會根據你給他的稅務法律等文件進行復雜推理，幫你解決稅務疑問。
03.GPT-4的技術路線
目前尚未公布過多細節，基于目前筆者掌握的情況，GPT-4和ChatGPT所使用的GPT3.5技術路線應該基本一致，對原理有興趣的朋友可以參考這篇關于ChatGPT的技術解析。
不過GPT-4使用了更多優質（著重強調優質）數據進行訓練，以及模型的參數更大。
最近也涌現出了許多優質的開源大語言模型，我們對此進行了整理，供小伙伴們參考。也歡迎大家持續貢獻輸入，一同完善更新列表。
Awesome Open Source LLMs 列表地址：https://github.com/BaihaiAI/IDP/blob/main/AIGC/Awesome%20LLMs%20-%20a%20list%20for%20trending%20open%20source%20LLM%20projects.md
