06智慧對話大語言模型

——prompt入門011本章目標理解prompt的概念和作用理解大語言模型內容的生成過程掌握大語言模型的能力2/33重點重點prompt與大語言模型3/33客廳適合養什么綠植？適合客廳的綠植有：龜背竹發財樹吊蘭綠蘿虎尾蘭這些植物易養護，能美化環境和凈化空氣。生成一份黃山一日游行程計劃黃山一日游計劃6:00AM-出發8:00AM-到達黃山，乘纜車上山9:00AM-游覽始信峰12:00PM-午餐休息1:00PM-游覽光明頂3:00PM-游覽迎客松4:00PM-乘纜車下山6:00PM-返回出發地回答問題生成文本什么是prompt指導AI大語言模型回答問題或生成文本時，所輸入的內容什么是提示詞（Prompt）？4/33教師演示什么是提示詞prompt與大語言模型對話工具（ChatGPT，Kimi、文心一言...）大模型LLM（GPT4、MoonShot、文心一言...）Prompt提示詞Response回復5/33引導模型理解任務提高輸出的相關性和準確性增強模型的適應性prompt是一種特殊的指令，能夠幫助我們與大語言模型進行有效的溝通文本描述初春的一個雨天后，5歲孩子在小區玩水。請模仿《追憶似水年華》作者法國作家馬塞爾·普魯斯特的風格，擴寫到200字#文本'''晚上下過小雨，小米穿著雨靴踩水玩，發現了一只小螞蟻，給它吃塊棒棒糖。迎春花開了，松樹樹干泛青了，小草鉆出地面，去年的月季花根冒出深紫紅的葉子。'''請以markdown代碼輸出Prompt組成輸

入數

據輸

出指

示指令上下文6/33好的提示詞策略7/33發揮大模型優勢補足或避開其劣勢prompt的作用8/33大語言模型生成一篇關于人工智能在醫學領域的應用的論文概要的prompt：引導大語言模型理解任務提供示例和背景信息可以使大語言模型的回答更具相關性和準確性提高大語言模型輸出的相關性和準確性調整prompt來讓同一個大語言模型適應多種類型任務增強大語言模型的適應性請撰寫一篇論文概要，主題是‘人工智能在醫學領域的應用’，涵蓋但不限于診斷輔助、個性化治療方案、藥物研發等方面，并強調其對醫學進步的貢獻先在prompt中提供一個與主題相似的新聞報道示例，并標注出關鍵信息點.然后給出待分析的新聞報道，并請求大語言模型按照之前的標注方式提取關鍵信息科技文章，prompt可能側重于事實性、邏輯性和專業術語的運用；詩歌創作，prompt則可能更注重情感表達、意象構建和語言的韻律美大語言模型內容的生成過程概率預測+文字接龍1.收到提示詞示例:“今天天氣不錯，我決定”4.基于上下文預測下一個token為可能的單詞分配概率分數示例:{“去”:0.7.“停":0.2,“站":0.1}5.根據概率分數選擇標記示例:“去”3.采用Transformer架構處理token理解token之間的關系識別提示詞的整體含義2.將輸入拆分為token（標記）[“今”,“天”,“天”,“氣”,“不”,“錯”,“，”,“我”,“決”,“定”]重復步驟4和步驟5直到形成完整的句子示例:今天天氣不錯，我決定去公園GPTGenerative（生成式）Pre-trained（預訓練）Transformer（變換器）LLM:LargeLanguageModel9/33大語言模型的能力和邊界10/33大語言模型的能力和邊界11/33多輪對話任意語言的轉換能力意圖和情感理解能力對比能力窮舉能力假設推理能力文本總結能力文本改寫能力文本生成能力推理能力創作能力對話能力對話能力12/33多輪對話語言轉換能力意圖和情感分析對話能力-多輪對話上下文編碼自注意力機制原理上下文窗口限制問題+回答總數包括字符、標點、空格限制分段對話定期總結使用關鍵詞提醒精簡輸入使用建議GPT-3.5：4096，大約3000個英文單詞或4000個漢字GPT-4：8192，大約6000個英文單詞或8000個漢字（/tokenizer）13/33多輪對話能力的應用實現旅行規劃嘗試通過與GPT4的對話，實現對旅行的規劃通過多輪對話，逐步細化和明確計劃14/33演示案例1:

多輪對話能力目的預算行程對話能力-語言轉換能力人類語言之間轉換機器語言之間轉換人類語言與機器語言之間轉換不同語言人類語言生成能力不同前5名：英語、西班牙語、法語、德語、中文機器語言生成能力不同前4名：python、Java、Typescript、Javascript限制GPT:使用英文中文優先選擇國內產品編程盡量選用前4種語言使用建議15/33語言轉換能力的應用實現一個選擇禮物程序需求：Designagiftselectionprogramthatprovidesgiftsuggestionsbasedontheuser'sage.16/33演示案例2:

語言轉換能力翻譯需求偽代碼生成代碼轉換代碼對話能力--意圖和情感分析能力真實意圖情緒識別判斷行為特點重要他人能力缺乏真正的情感上下文理解有限缺乏深層次推理限制提供清晰具體的信息簡短和連貫的對話使用明確的情感表達使用建議17/33意圖情感能力的應用分析名著人物通過《傲慢與偏見》中的一段人物對話，分析人物的真真實意圖、情緒、在意的人有哪些、心理狀態和行為特征18/33演示案例3:

意圖情感能力創作能力文本分析能力最強文本潤色修改能力強文本生成能力不可控19/33創作能力-文本分析能力文本統計統計字符數、單詞數、句子數等基本統計信息文本摘要從長文檔中提取主要信息，并生成一個簡短的概述文本分類新聞分類、情感分析（正面、負面、中性）文本總結文本的整體內容進行簡要概述，通常比文本摘要更為簡短知識更新、長文本理解、數據偏見、數據質量、語境歧義、領域專業知識、新穎和未知類別、不確定性限制20/33文本分析能力的應用實現下面文字的文本分析并生成摘要近年來，隨著全球氣候變化的加劇，環境保護成為世界各國共同關注的重要議題。許多國家開始制定更加嚴格的環保政策，以減少溫室氣體排放，遏制環境惡化的趨勢。盡管政策力度不斷加大，全球變暖的趨勢仍然沒有得到有效遏制。專家們認為，單靠政策是不夠的，公眾意識的提升和生活方式的改變同樣至關重要?！?21/33演示案例4:文本分析能力新詞匯與表達、語境誤判、高度主觀性、文化敏感性和幽默、不斷更新的語言規則、知識更新限制、長文本處理能力、用戶意圖識別創作能力-文本潤色能力限制文本校對錯別字識別與修改、語法錯誤檢查與修正、標點符號調整、詞匯選擇優化、語句重組與調整、保持一致的寫作風格文本改寫口語轉書面語、不同體裁風格、語義保持、文本簡化、文本優化、保持一致性文本擴寫增加細節、舉例說明、提供背景信息、解釋專業術語或概念、描述過程或步驟、增加文學修辭、提供多種觀點等22/33文本潤色能力的應用潤色下面文本并嘗試使用不同風格擴寫今天早上我起來得特別早，因為我有好多事情要做。我先吃了早飯，然后就開始工作了。雖然我有點累，但是我還是完成了很多任務。工作結束后，我去公園散步，放松一下。公園里空氣很好，我感到非常舒服23/33演示案例5:文本潤色能力創作能力-使用建議使用優先級文本分析>文本潤色>文本生成分段處理長文本明確和具體的指示補充背景信息注意多義詞和模糊表達24/33推理能力主觀判斷、上下文窗口、非專業算法、數據局限、缺乏常識和領域專長、模型理解能力、過度生成偏見、難以驗證答案的準確性限制對比能力對比分析：事物、概念、人物、事件、文學作品、藝術作品等列舉能力簡單列舉任務：組合/排列/序列，簡單數學問題等假設推理能力多個領域能力不同：歷史事件、文學作品解讀等明確問題和期望補充背景信息結合領域知識使用建議25/33推理能力的應用實現課外組織的選擇分析在考慮參加兩個不同的課外組織，一個是編程俱樂部，另一個是學生會。讓GPT幫我對比一下這兩個活動的優缺點，并跟他探討自己的選擇26/33演示案例6:推理能力基本對話和多輪對話追問澄清引導多輪對話學會提問明確、具體、避免歧義邏輯清晰上下文信息示范數據驗證輸出從回復中找到有價值的部分判斷結果質量：初步識別可靠信息評估信息準確性：與其他來源進行對比處理錯誤信息：指出錯誤，重新提問基本對話27/33實戰訓練—體驗大語言模型的對話能力任務描述請利用豆包、智譜、kimi等工具，為父母設計一個有意義的生日活動任務要求可按如下思路與GPT之間對話，例如：向GPT征求整體生日活動意見針對其中的某個活動獲取具體活動建議關于禮物的討論關于其他細節的討論......28/33完成時間：10分鐘實戰訓練—體驗大語言模型的創作能力任務描述請利用豆包、智譜、kimi等工具分析并創作小說任務要求使用kimi分析某網站榜單熱門小說自擬主題，仿照該小說風格再創作一篇短篇小說，不超過1000字潤色修改小說將小說翻譯成英文根據劇情生成圖片29/33完成時間：20分鐘實戰訓練—體驗大語言模型的推理能力任務描述請利用豆包、智譜、kimi等工具分析，以一名經驗豐富的英語老師為身份，分析如何提高英語成績任務要求設置角色身份列舉提高英語的方法對比方法的優缺點針對提出的方法，提出一些推理性問題30/33完成時間：10分鐘總結31/3321