#妙筆生花創(chuàng)作挑戰(zhàn)#
2023年是AI席卷全球的一年，人們見識到了各種AI帶來的變化，但是很多人不清楚AI中的術(shù)語。
今天，我們一起學習討論一下吧！
看看那些新聞中的術(shù)語都是什么意思！
人們常說AI大模型，那么什么是大模型呢？
AI大模型是一種基于海量數(shù)據(jù)和強大算力的人工智能模型，AI大模型需要數(shù)百億或數(shù)萬億級別的數(shù)據(jù)，而普通的AI模型則只需數(shù)百萬或數(shù)千萬級別的數(shù)據(jù)。
數(shù)據(jù)量的差異會影響模型的知識覆蓋度和泛化能力，一般來說，數(shù)據(jù)量越大，模型越能學習到更多的知識和規(guī)律，也越能適應(yīng)不同的任務(wù)和場景。
chatGPT中，chat代表聊天，那么GPT代表什么呢？
GPT是Generative Pre-trained Transformer的縮寫，是一種基于深度學習的文本生成模型。它的特點是利用大量的互聯(lián)網(wǎng)數(shù)據(jù)進行預(yù)訓練，然后根據(jù)不同的任務(wù)進行微調(diào)，從而生成各種類型的文本，如對話、故事、詩歌等。
GPT的原理是使用一個稱為Transformer的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，它可以有效地處理自然語言，并且能夠捕捉文本中的長距離依賴關(guān)系。
GPT通過在大規(guī)模的無標注文本上進行自監(jiān)督學習，即讓模型自己從數(shù)據(jù)中學習規(guī)律，而不需要人工提供標簽或反饋。
具體來說，GPT使用了一種叫做Masked Language Modeling（MLM）的方法，它會隨機地遮蓋輸入文本中的一些單詞，然后讓模型根據(jù)剩余的單詞來預(yù)測被遮蓋的單詞。這樣就可以訓練模型學習語言的語法和語義知識。
ChatGPT是一種基于GPT模型開發(fā)的對話生成系統(tǒng)，它可以與用戶進行自然、流暢、有趣的對話。
prompt是什么？為什么需要呢？
Prompt是一種用于啟動人工智能模型的方式，它是一段文本或語句，用于指導(dǎo)模型生成特定類型、主題或格式的輸出。Prompt也可以看作是一種與人工智能模型交流的語言，通過prompt，我們可以告訴模型我們想要什么樣的結(jié)果，以及如何評價結(jié)果的好壞。
Prompt之所以需要，是因為人工智能模型并不是萬能的，它們需要一些指引和約束，才能有效地完成特定的任務(wù)。如果沒有prompt，模型可能會產(chǎn)生無意義或不相關(guān)的輸出，或者無法理解用戶的意圖和需求。
比如我要生成下面的圖片，我需要告訴ai我的要求，于是我輸入了prompt：
small blue kiddie size pool in background with dog laying inside it eating bubbles 35mm lens
什么是大模型參數(shù)？
我們可以理解，人工智能模型的參數(shù)就是它們的大腦神經(jīng)元，它們存儲了模型從數(shù)據(jù)中學習到的知識和經(jīng)驗，也決定了模型的智能和性能。參數(shù)越多，神經(jīng)元越多，模型就越復(fù)雜，也越強大。
所以，我們經(jīng)常聽到一些人工智能模型被稱為大模型，就是因為它們有很多的參數(shù)，比如幾十億或幾千億個。這些大模型可以在多種任務(wù)和領(lǐng)域中表現(xiàn)出高水平的智能和泛化能力，甚至可以超越人類或接近人類水平。
例如GPT4的參數(shù)大概為2800 億
LLaMA2-70b中70b是什么？
70b代表的是模型參數(shù)大小。這個b是指十億的意思，LLaMA2-70b就是說模型有700億個參數(shù)。在計算機科學和工程中，b通常用來表示大數(shù)據(jù)的數(shù)量級，例如，1b表示10億個字節(jié)，也就是1GB
什么是上下文長度？越長越好么？
AI大模型上下文長度是指AI模型在生成預(yù)測或生成文本時，所考慮的輸入文本的大小范圍。上下文長度對于AI模型的性能有著重要的影響。一般來說，更長的上下文長度可以讓模型看到更多的信息，從而做出更準確、流暢、創(chuàng)造性的預(yù)測或生成。
通俗的說，上下文長度就是記憶力，越長的AI，和你對話的越久。
