第4章人工智能發展4.2倫理及安全挑戰教學設計教學背景信息科技是現代科學技術領域的重要部分，主要研究以數字形式表達的信息及其應用中的科學原理、思維方法、處理過程和工程實現。當代高速發展的信息科技對全球經濟、社會和文化發展起著越來越重要的作用。義務教育信息科技課程具有基礎性、實踐性和綜合性，為高中階段信息技術課程的學習奠定基礎。信息科技課程旨在培養科學精神和科技倫理，提升自主可控意識，培育社會主義核心價值觀，樹立總體國家安全觀，提升數字素養與技能。教材分析本節課的教學內容選自人教/地圖出版社選擇性必修4人工智能初步第4章人工智能發展4.2倫理及安全挑戰。2018年在天津舉行的第二屆世界智能大會上，通過圖靈測試的機器人“小薇”擔任主持工作，令人眼前一亮。當前，人工智能技術應用發展迅速，給我們的生產和生活帶來了許多變化。未來的世界會是什么樣的？人工智能將怎樣發展？人工智能與人類智能一樣嗎？機器人會超越人類嗎......人工智能的發展引發了人們對人工智能未來的無限遐想。因此，了解人工智能的發展趨勢，探討人工智能的巨大價值和挑戰，對我們來說非常必要。本章我們將以“優勢局限之我見”為主題開展項目活動，通過查閱資料，與同學探討，完成一篇以“優勢局限之我見”為題的小論文，然后分組選出代表進行辯論。共同探討人工智能的應用價值，了解人工智能應用系統帶來的倫理及安全方面的挑戰，知道維護信息系統安全的重要性，增強我們在信息社會中的安全防護意識和責任感。教學目標1.了解當前人工智能的局限性，以及人工智能在隱私、安全和倫理方面給人們帶來的挑戰。2.提高辯證認識人工智能的能力，培養多角度分析、思考的能力。教學重點與難點教學重點:了解人工智能對人類社會未來發展的巨大價值。教學難點:開闊眼界和思路，培養探討科學的興趣和把握新技術發展趨勢的能力。教學方法與教學手段案例分析法、講授法、任務驅動法。教學過程問題導入體驗探索網絡空間的安全問題人工智能有優勢也有安全隱患。為了發現人工智能技術上的缺陷和漏洞，國際上每年都會組織國際安全極客大賽。在2017年的大賽上（圖4.2.1）（參見教材P148），白帽黑客們（指用自己的黑客技術來維護網絡關系公平正義的黑客，通過測試網絡和系統的性能來判定它們能夠承受入侵的強弱程度）上演了一場與人工智能的巔峰對決。他們的攻擊對象包括當下流行的人臉識別、聲紋識別以及使用銀行卡在智能銷售終端機消費等場景。一位女選手僅用兩分半鐘就破解了人臉識別系統。她利用系統漏洞直接獲取系統控制權限、修改人臉信息，把設備中存儲的評委人臉換成了自己的臉。這意味著人臉識別系統可以被任意人臉“蒙騙”。來自白帽黑客們令人驚嘆的破解展示，說明人工智能存在安全隱患。思考：1.查閱資料，了解人工智能技術會帶來哪些安全問題。2.我們應該如何解決這些安全問題呢？人工智能的隱私挑戰目前，人工智能的發展是以大數據驅動為主導模式的，人工智能在使用大數據資源時，必然涉及對用戶隱私數據的采集、傳輸、處理和顯示等。隱私數據包括身份證號碼、銀行賬戶、密碼、指紋、年齡、家庭、地址和健康狀況等重要個人信息。這些信息如果被合理、合法地應用，會帶來積極的影響；如果被非法利用，則會導致個人隱私被泄露，甚至帶來巨大的損失和危害。思考活動個人隱私的保護現實生活中，人們可能在不經意間就泄露了自己的隱私。例如，很多應用程序在使用前需要用戶注冊，這個注冊過程往往就是用戶授權提供個人信息的過程，其中一些應用程序還對用戶信息的獲取和使用等采取了“霸王條款”——如果不授權，用戶就不能使用。思考：1.使用應用程序及智能工具時，應當如何保護自己的隱私？2.如何提高對隱私泄露風險的防范意識？一般來說，隱私權被侵犯主要出現在數據應用的以下三個環節。數據采集中的隱私侵犯采集數據是許多智能系統的首要工作。例如，智能系統通過收集指紋、聲紋、虹膜、步態和心跳等生理特征數據來辨別人的身份，通過收集人的鍛煉情況、睡眠時間和質量以及人的體征變化等數據來判斷人的身體健康狀況。這就意味著我們把大量的私人信息都交給了智能系統。如果這些數據使用得當，就可以幫助人們提高生活質量。反之，就會造成隱私侵犯，給人們帶來困擾和擔憂，甚至還可能帶來危害。數據存儲和傳輸中的隱私侵犯現在很多智能系統都是架構在網絡之上的，這意味著數據必須在網絡上傳輸及存儲。云存儲是一種新興的網絡存儲技術，通過集群應用、網絡技術或分布式文件系統等功能，將網絡中大量、多種類型的存儲設備通過應用軟件集成起來，協同工作，共同對外提供數據存儲和業務訪問功能。由于云存儲使用便捷、成本低廉，許多公司和政府組織選擇將數據存儲到云端。這些信息就容易遭到攻擊和竊取，如果其中包含隱私信息，將會帶來危害。因此，保護網絡傳輸及云端存儲中的數據安全就成為智能系統開發者必須要考慮和解決的問題。數據分析中的隱私侵犯對大量的數據進行分析，抽取出有用的知識信息，這個過程就是知識抽取。知識抽取工具可以把很多看似不相關的數據通過人工智能技術整合在一起，從中找出有意義的信息。例如，人們每天的網絡聊天和購物等行為，會被網站記錄下來，形成各類數據，這些數據組合在一起，就可分析出一個人的興趣、愛好和行為軌跡等。商家可以利用這些數據預測消費者的潛在需求，為消費者提供所需信息、產品或服務，給人們的生活帶來便利。同時，這也意味著用戶的個人隱私信息被挖掘和利用。因此，規范隱私保護的法律法規是需要與技術應用同步考慮的問題。人工智能的安全挑戰作為新一輪產業變革的核心驅動力，人工智能為產業發展提供了新的機遇。同時，人工智能的廣泛應用也帶來了安全挑戰。人工智能帶來的安全威脅來自無意破壞和惡意破壞。無意破壞指系統本身存在功能缺陷，因獲得的信息有誤而作出錯誤決策。惡意破壞指人為的主觀破壞，例如，一張貓的圖片遭黑客攻擊后被替換成一張狗的圖片，這樣就會造成后期的工作基礎有誤，得到錯誤的結果。面對安全挑戰，只有制定和實施切實可行的應對策略才能讓人工智能沿著健康的軌道發展。思考活動人工智能應用領域的風險案例隨著人工智能的不斷發展，智能產品廣泛應用于生產生活中，不僅提高了生產效率，也提高了人們的生活品質。作為一個新興領域，人工智能也出現過一些風險案例。例如，國外某駕駛員駕駛一輛汽車，當啟動自動駕駛模式后，與拖拉機車相撞而致人死亡。這是首次報道的關于自動駕駛模式致人死亡的事故。思考：1.除此之外，人工智能的風險案例還有哪些？2.分析這些人工智能產品存在風險的原因。這些案例是否都是因為存在安全隱患造成的？安全隱患主要體現在哪些方面？人工智能的安全挑戰主要體現在以下四個方面。國家安全風險人工智能在國家安全相關領域中的應用可能會帶來影響國家安全的風險。人工智能技術對國家安全的影響，主要體現在軍事、信息和經濟三大方面。特別是在國防建設、基礎設施和涉密系統等領域，風險巨大。政府應注意管控人工智能帶來的災難性風險。管控措施主要包括：限制某些人工智能技術的應用；成立專門負責人工智能技術安全的機構；資助相關研究，開發人工智能系統防故障技術；采取相應措施，以防備人工智能生成偽造的音頻、視頻和文本文件等。社會安全風險人工智能所帶來的社會安全風險是多層面的。例如，人工智能技術應用于某些傳統制造業，替代了大量以體力和重復勞動為生的工人，導致市場上該類勞動力的需求大幅下降，失業人員增加，從而影響社會安定。隨著人工智能技術的發展，中高職業技術要求的勞動者的就業形勢也會受到沖擊。另外，有科幻預言指出，基因技術和人工智能技術的結合有可能會帶來社會階層的極端分化。這雖然是科幻預言，但在人類社會的正常發展過程中，這種未來可能發生的裂變及其帶來的潛在危害仍不容小覷。網絡安全風險網絡安全風險主要指網絡傳輸過程中所產生的風險。例如，黑客常使用一些技術攻擊或竊取服務器上的數據。網絡安全風險還包括對人工智能算法、系統和應用進行惡意的網絡攻擊，利用干擾技術，使計算機在進行深度學習的過程中受到欺騙，以及利用數據欺詐等手段遠程控制網絡設備，使設備發生故障或停止工作等。人身安全風險人工智能技術在給人類的生產和生活帶來便捷的同時，也會給人類自身的安全帶來風險。隨著人工智能與物聯網的深入結合，人們的衣食住行與智能產品之間的關聯越來越密切，一旦這些智能產品（如智能醫療設備、自動駕駛汽車等）出現故障，就可能危及人身安全。例如，汽車的自動駕駛系統如果存在嚴重安全漏洞，乘車人員就可能有生命危險。實踐活動容易被人工智能替代的職業及原因1.哪些職業比較容易被人工智能替代？說出理由，并填寫表4.2.1（可在表中自行添加職業類型）。表4.2.1容易被人工智能替代的職業及原因職業是否容易被替代理由司機□是□否快遞員□是□否演員□是□否教師□是□否醫生□是□否記者□是□否律師□是□否會計□是□否...□是□否2.哪些職業永遠不會被人工智能替代？若不想被人工智能替代，人類應具備哪些能力？在小組內分享自己的看法。人工智能的倫理挑戰人類的思考和行動受社會規范、道德倫理和法律法規的約束。人工智能的目標是希望機器能像人一樣理性地思考和行動。因此，讓機器也能像人一樣遵守社會規范、道德倫理以及法律法規成為當前人工智能領域研究和熱議的問題。采取措施保障研究人員開發出的智能產品和智能系統與現有的法律、社會規范和道德倫理一致，確定人工智能產品或系統的法律主體、權利、義務和責任，是人工智能帶來的倫理挑戰。思考活動假如與機器人一起生活智能產品已經應用到我們的現實生活中，例如養老院的老人護理機器人、家里的兒童陪伴機器人等?，F在的機器人雖然還沒有理想中那么完美，但是它們已經在改變著我們的生活。假設你的生活中有一個機器人，它將與你一起生活，它的身份可以是老師、保姆或廚師等。思考：1.試想：你和機器人一起生活的日子會是怎樣的？你們之間會是怎樣的關系？2.人工智能會帶來哪些倫理問題的挑戰呢？人工智能對倫理問題的挑戰，主要表現在以下四個方面。對“什么是人”問題的新挑戰“什么是人”，這在以前是個不容置疑的問題。人是萬物之靈，因其是地球上最有靈性（主觀意識）的生命體而與萬物不同。我們曾認為人的本質是“會思考”，但是，人工智能的出現打破了這一認識，正在實質性地改變著“人”的屬性定義。因為，隨著人機互補、人機互動、人機協同和人機一體技術的發展，智能機器也開始逐步具有人所特有的情感和創造性。智能器官的出現，人的自然身體與智能機器開始“共生”。例如，生物智能芯片植入人腦后，可以幫助人腦記憶、運算和表達。這樣的“共生體”是人還是機器？智能機器人是人嗎？人們不得不重新思考這些問題。假如智能機器人在某種意義上可以被稱為“人”，那么它能和我們人類擁有同等的權利嗎？它是否像人類一樣擁有人格和尊嚴？智能機器人之間能否像人類一樣自由交往？一旦出現問題，承擔相應行為后果的是智能機器人還是它的設計者？這類問題已經成為我們必須面對的新問題和新挑戰。對傳統倫理關系的新挑戰人工智能的出現帶來了諸多的價值難題，包括對傳統倫理關系的挑戰。例如，當前有些青少年終日沉迷于各種智能終端而不能自控，他們對虛擬對象產生過分的眷戀和依賴，認為虛擬世界才是真實、親切的。這種行為影響了他們人格的健康發展，打亂了傳統的倫理關系，這類問題正在變得越發嚴重。又如，人工智能醫生通過虛擬現實技術可以為患者實施手術或進行遠程醫療，模糊了現實和虛擬世界之間的界限，使傳統醫患關系發生改變，可能會給醫患雙方帶來心理上的隔閡。同樣地，人工智能教師和保姆等也面臨著相同的挑戰。另外，智能系統正在為許多社會組織提供管理服務，這有利于提高管理效率、減少人為失誤、節省管理成本。不過，與傳統管理方式相比，智能系統缺乏人類特有的同情心和人情味，也忽視了被管理者的文化傳統和心理特征。隨著具有自主意識的智能機器人的發展和應用，很多新的問題還會出現，如人與機器相比，誰的道德表現更為優異？誰能占據道德制高點？誰更有資格擁有教育、管理權力以及道德裁判權？這些都將成為對人類的傳統倫理關系的新挑戰。對原有社會秩序的新挑戰由于各個地區的生產力發展不均衡，不同地區的人接觸人工智能的機會和方式是不一樣的，對于人工智能產品的應用能力也不同，可能導致最先接觸和使用人工智能技術的部分人獲得較高的收入和社會地位，使原有的社會秩序被打亂。智能機器代替人來聊天、做家務、陪伴和輔導學習等，可能會導致智能機器人“取代”朋友、伴侶和孩子，使社會關系在一定程度上發生改變。此外，人類需要通過勞動獲得自我肯定，實現自身價值，贏得社會尊嚴。但是，當越來越多的智能機器人取代人類勞動時，相關從業者就會失去職業價值，他們在精神上、心理上將承受巨大壓力，這也將成為社會秩序所面臨的新挑戰。對人類未來命運的新挑戰只專注于完成某個特定任務的人工智能技術被稱為弱人工智能，如語音識別、圖像識別和翻譯等。強人工智能指可以像人類一樣思考問題、解決問題、抽象問題、布置計劃和快速學習的人工智能技術。超級人工智能指通過相互學習、相互作用、自我完善、不斷升級，最終超越人類智能水平的人工智能技術。超級人工智能是否會出現？它是否會突破人類設計者的約束？人工智能是否會超越人類，甚至毀滅人類？這些問題目前還只是人類的思考和擔憂。雖然現在還處于弱人工智能時代，但人類應未雨綢繆，防患于未然，人工智能也許會對人類的未來命運提出新的挑戰。項目實施完成論文（二）一、項目活動通過查閱資料，了解當前人工智能的挑戰和局限，完成論文第二部分。二、項目檢查在小組中匯報已完成的論文第二部分，同學之間進行