人工智能的倫理思考精選(五篇)

序言：作為思想的載體和知識的探索者，寫作是一種獨(dú)特的藝術(shù)，我們?yōu)槟鷾?zhǔn)備了不同風(fēng)格的5篇人工智能的倫理思考，期待它們能激發(fā)您的靈感。

篇1

關(guān)鍵詞：人工智能；異化；規(guī)范；生態(tài)文明觀

中圖分類號：TP18

文獻(xiàn)標(biāo)識碼：A

一、人工智能技術(shù)的發(fā)展及其影響

人工智能技術(shù)研究開始于20世紀(jì)50年代中期，距今僅有60年的發(fā)展歷程，但是其迅猛的發(fā)展速度，廣泛的研究領(lǐng)域以及對人類產(chǎn)生的深遠(yuǎn)影響等令人驚嘆。調(diào)查顯示，77.45%的人認(rèn)為現(xiàn)實生活中人工智能技術(shù)的影響較大，并且86.27%的人認(rèn)為人工智能技術(shù)的發(fā)展對人類的影響利大于弊；認(rèn)為人工智能技術(shù)對人類生活影響很小且弊大于利的人權(quán)占很小一部分。人工智能技術(shù)的發(fā)展和應(yīng)用直接關(guān)系到人類社會生活，并且發(fā)揮著重要的作用。人工智能技術(shù)的發(fā)展方向和領(lǐng)域等由人類掌控著，所以人類應(yīng)該盡可能地把人工智能技術(shù)的弊處降到最低以便更好地為人類造福。2016年3月份，圍棋人工智能AlphaGo與韓國棋手李世h對弈，最終比分4∶1，人類慘敗。4月份，中國科學(xué)技術(shù)大學(xué)正式了一款名為“佳佳”的機(jī)器人，據(jù)了解，機(jī)器人“佳佳”初步具備了人機(jī)對話理解、面部微表情、口型及軀體動作匹配、大范圍動態(tài)環(huán)境自主定位導(dǎo)航和云服務(wù)等功能。而在這次正式亮相之前，“佳佳”就擔(dān)綱主持了2016“首屆全球華人機(jī)器人春晚”和“誰是棋王”半Q賽。人工智能技術(shù)確實給人類帶來了諸多的便利，給人類生產(chǎn)生活帶來便利；但是，人工智能技術(shù)的快速發(fā)展超乎人類的預(yù)測，引起了人類的恐慌和擔(dān)憂。百度CEO李彥宏稱，人工智能是“披著羊皮的狼”。毋庸置疑，科學(xué)技術(shù)是一把雙刃劍，當(dāng)人類醉心于科學(xué)技術(shù)所帶來的福利中時，更應(yīng)當(dāng)注意其帶來的負(fù)面作用。人類發(fā)明和創(chuàng)造科學(xué)技術(shù)最終是為了造福人類，而非受到科技的異化。

隨著科技的發(fā)展，人工智能技術(shù)越來越成熟，在此整體趨勢之下，不同的人群對人工智能技術(shù)的不斷成熟與應(yīng)用有著不同的看法。調(diào)查結(jié)果顯示，在關(guān)于機(jī)器人會不會擁有人類的思維甚至超過人類的問題方面，27.45%的人認(rèn)為機(jī)器人會擁有人類的思維和超過人類；而56.86%的人認(rèn)為機(jī)器人不會擁有人類的思維和超過人類，小部分人對此不是很清楚。由于受到人工智能技術(shù)迅猛發(fā)展的沖擊，如機(jī)器人保姆、AlphaGo圍棋等智能產(chǎn)品對人類發(fā)展帶來的威脅，一部分人仍然對人工智能技術(shù)的發(fā)展擔(dān)憂甚至認(rèn)為終有一天機(jī)器人將代替人類、征服人類、控制人類。但是，大部分的人在機(jī)器人是否能夠超過人類方面，保持樂觀積極的態(tài)度，認(rèn)為機(jī)器人永遠(yuǎn)不會擁有人類的思維并且超越人類，因為人類是技術(shù)的主導(dǎo)者，人類掌握著技術(shù)的發(fā)展方向，技術(shù)終究是為了人類服務(wù)。這一看法肯定了人類的無止境的創(chuàng)新，然而，在人類醉心于技術(shù)創(chuàng)新的同時，應(yīng)意識到某些創(chuàng)新確實超出了人類的預(yù)料，如AlphaGo與李世h圍棋人機(jī)大戰(zhàn)就是人類在技術(shù)面前失敗的慘痛教訓(xùn)。因此，面對科技對人類的異化，人類要時刻保持警惕，適時地總結(jié)“技術(shù)異化”的緣由和解決對策。

二、人工智能技術(shù)發(fā)展面臨的問題及其原因

隨著技術(shù)的革新，人工智能技術(shù)的應(yīng)用越來越廣泛，與人們的日常生活聯(lián)系也愈加密切。從智能手機(jī)的普及到自動駕駛汽車的研制成功，再到生產(chǎn)、建設(shè)、醫(yī)療等領(lǐng)域人工智能技術(shù)的應(yīng)用，都表明了人工智能技術(shù)正悄無聲息地改變著我們生活方式。誠然，人工智能技術(shù)使我們的生活更加豐富多彩，給我們帶來了極大便利，但與此同時，人工智能技術(shù)也給社會帶來了一系列不可忽視的問題：人工智能技術(shù)在社會生產(chǎn)領(lǐng)域的應(yīng)用對勞動市場造成沖擊；人工智能系統(tǒng)在收集、統(tǒng)計用戶數(shù)據(jù)過程中個人隱私及信息安全方面的隱患；人類對人工智能產(chǎn)品的依賴引發(fā)的身心健康問題；人工智能引起的責(zé)任認(rèn)定問題等。斯蒂芬?霍金在接受BBC采訪時表示，“制造能夠思考的機(jī)器無疑是對人類自身存在的巨大威脅。當(dāng)人工智能發(fā)展完全，就是人類的末日。”表示同樣擔(dān)憂的還有特斯拉的創(chuàng)始人馬斯克，他曾直言，“借助人工智能，我們將召喚出惡魔。在所有的故事里出現(xiàn)的拿著五芒星和圣水的家伙都確信他能夠控制住惡魔，但事實上根本不行。”不可否認(rèn)，人工智能技術(shù)是把雙刃劍，有利亦有弊，爭議從來就沒有停止過，而最不容忽視的莫過于人工智能技術(shù)引發(fā)的一系列倫理困境，關(guān)于人工智能的倫理問題成了重中之重。

調(diào)查發(fā)現(xiàn)，47.55%的人認(rèn)為人工智能所引發(fā)的倫理問題是因為人性的思考，占比較大；而22.55%的人認(rèn)為是由于人們價值觀念的改變；29.9%的人認(rèn)為是利益分化與失衡以及一些其他的原因?qū)е碌摹Ｓ纱丝梢钥闯鰧?dǎo)致人工智能倫理困境的原因是多方面的。主要總結(jié)為以下幾個方面。

第一，從技術(shù)層面來看，人工智能技術(shù)在現(xiàn)階段仍然有很大的局限性。人工智能是對人腦的模仿，但人腦和機(jī)器還是存在本質(zhì)區(qū)別的，人腦勝于人工智能的地方，就是具有邏輯思維、概念的抽象、辯證思維和形象思維。人工智能雖能進(jìn)行大量的模仿，但由于不具備形象思維和邏輯思維，僅能放大人的悟性活動中的演繹方法，不可能真正具有智能，這決定了機(jī)器不能進(jìn)行學(xué)習(xí)、思維、創(chuàng)造。此外，智能機(jī)器人也不具備情感智能，它們根本無法去判斷自己行為的對錯，也無法自動停止自己的某項行為，所以如果人工智能技術(shù)一旦被不法分子利用，后果不堪設(shè)想。可見，由于人工智能自身技術(shù)上的局限性導(dǎo)致的倫理問題已經(jīng)影響到其未來發(fā)展。

第二，從規(guī)制層面來看，倫理規(guī)制的缺失和監(jiān)督管理制度的不完善是導(dǎo)致倫理問題產(chǎn)生的重要原因。科技的發(fā)展目標(biāo)是為人類謀求幸福，但我們必須認(rèn)識到，無論是在科技的應(yīng)用還是發(fā)展過程中總是存在一些難以控制的因素，倘若沒有相應(yīng)的倫理原則和倫理規(guī)制加以約束，后果難以想象。在目前人工智能領(lǐng)域，缺乏一套成體系的關(guān)于人工智能技術(shù)產(chǎn)品的從設(shè)計、研究、驗收到投入使用的監(jiān)督管理方案，也沒有一個國際公認(rèn)的權(quán)威性的規(guī)范及引導(dǎo)人工智能技術(shù)的發(fā)展及運(yùn)用的組織或機(jī)構(gòu)。現(xiàn)有的監(jiān)督體制遠(yuǎn)遠(yuǎn)滯后于人工智能技術(shù)的發(fā)展速度，無法匹配技術(shù)發(fā)展的需要。缺乏相關(guān)監(jiān)管制度的約束，人工智能技術(shù)就不可避免會被濫用，從而危害社會。

第三，從社會層面來看，公眾對人工智能技術(shù)的誤解也是原因之一。人工智能作為一門發(fā)展迅猛的新興學(xué)科，屬于人類研究領(lǐng)域的前沿。公眾對人工智能技術(shù)的了解十分有限，調(diào)查顯示，對人工智能技術(shù)只是了解水平較低的人較多，占62.75%，以致部分人在對人工智能技術(shù)沒有真實了解的情況下，在接觸到人工智能技術(shù)的負(fù)面新聞后就夸大其詞，人云亦云，最終導(dǎo)致群眾的恐慌心理，從而使得更多不了解人工智能技術(shù)的人開始害怕甚至排斥人工智能技術(shù)。我們必須清楚，人工智能是人腦的產(chǎn)物，雖然機(jī)器在某些領(lǐng)域會戰(zhàn)勝人，但它們不具備主觀能動性和創(chuàng)造思維，也不具備面對未知環(huán)境的反應(yīng)能力，綜合能力上，人工智能是無法超越人腦智能的。在李世h對弈AlphaGo的曠世之戰(zhàn)中，盡管人工智能贏了棋，但人類贏得了未來。

三、人工智能技術(shù)的發(fā)展轉(zhuǎn)向

人工智能技術(shù)的發(fā)展已經(jīng)深入到人類社會生活的方方面面，其最終發(fā)展目標(biāo)是為人類服務(wù)。但是，科學(xué)技術(shù)是把雙刃劍，它在造福人類的同時，不可避免地會給人類帶來災(zāi)難，因此，人類應(yīng)該趨利避害，使人工智能和科學(xué)技術(shù)最大化地為人類服務(wù)。這就要求人類必須從主客體兩個角度出發(fā)，為人工智能技術(shù)的健康發(fā)展找出路。

1.技術(shù)層面

（1）加強(qiáng)各個國家人工智能的對話交流與合作。人工智能自20世紀(jì)50年代被提出以來，尤其是近六十年來發(fā)展迅速，取得了許多豐碩的成果。如Deep Blue在國際象棋中擊敗了Garry Kasparov； Watson 戰(zhàn)勝了Jeopardy的常勝冠軍；AlphaGo 打敗了頂尖圍棋棋手李世h。從表面上看，人工智能取得了很大的進(jìn)步，但深究這些人工智能戰(zhàn)勝人類的案例，我們發(fā)現(xiàn)這些成功都是有限的，這些機(jī)器人的智能范圍狹窄。造成這一現(xiàn)象的很大一部分原因就在于國際間人工智能技術(shù)的對話交流與合作還不夠積極，所以加強(qiáng)各個國家人工智能的對話和交流迫在眉睫，同時也勢在必行。

（2）跨學(xué)科交流，擺脫單一學(xué)科的局限性。從事人工智能這項工作的人必須懂得計算機(jī)知識、心理學(xué)和哲學(xué)。歷史的經(jīng)驗告訴我們，一項科學(xué)要想走得長遠(yuǎn)就必須有正確的意識形態(tài)領(lǐng)域的指導(dǎo)思想的介入。在人工智能這項技術(shù)中，有些科學(xué)家們可能只關(guān)注經(jīng)濟(jì)利益而沒有引進(jìn)相應(yīng)的倫理評價體系，最終使得技術(shù)預(yù)測不到位，沒有哲學(xué)的介入，等真正出現(xiàn)問題時就晚了。所以要加強(qiáng)科學(xué)家與哲學(xué)家的溝通交流，令科學(xué)家能更多地思考倫理問題，提高哲學(xué)素養(yǎng)，在人工智能技術(shù)中融入更多的哲學(xué)思想，保證人工智能技術(shù)能朝著正確、健康方向發(fā)展。

（3）人工智能技術(shù)的發(fā)展，要與生態(tài)文明觀相結(jié)合。在人工智能技術(shù)發(fā)展中，要注入更多的生態(tài)思想，這關(guān)系人民福祉、關(guān)乎民族未來的長遠(yuǎn)大計。在人工智能發(fā)展中，若是產(chǎn)生資源過度消耗、環(huán)境破壞、生態(tài)污染等全球性的環(huán)境問題時，人類必須制止并進(jìn)行調(diào)整。人工智能技術(shù)要想發(fā)展得更好，前景更加明亮，前途更為平坦，就必須保持與生態(tài)文明觀一致，與人類自身利益一致，為人類造福。

2.人類自身層面

（1）增強(qiáng)科學(xué)家道德責(zé)任感。科學(xué)技術(shù)本身并沒有善惡性，而研發(fā)的科學(xué)家或是使用者有善惡性。人工智能將向何處發(fā)展，往往與研發(fā)人工智能的科學(xué)家息息相關(guān)。科學(xué)家應(yīng)打破“個體化原理”，要融入社會中去，關(guān)注社會道德倫理問題，承擔(dān)起道德責(zé)任，為自己、他人、社會負(fù)責(zé)，多去思考自己研發(fā)的技術(shù)可能帶來的后果，并盡可能去避免，多多進(jìn)行思考，嚴(yán)格履行科學(xué)家的道德責(zé)任。

（2）提高公眾文化素養(yǎng)。調(diào)查發(fā)現(xiàn)，對人工智能技術(shù)了解水平較低的人較多，占62.75%；而非常了解的人較少，占4.41%；另外，對人工智能技術(shù)了解的人占21.08%，不了解的人占11.76%。由此可以看出，大部分的人對人工智能技術(shù)都能有所了解，但都不是很深入，而且仍有部分人對人工智能技術(shù)絲毫不了解，所以，人工智能技術(shù)對于個體的影響是比較微小的，其發(fā)展還沒有深入到個人的日常生活中。特別是在一些關(guān)于人工智能的科幻電影的渲染，可能使那些對于人工智能技術(shù)并不了解或是一知半解的人產(chǎn)生偏見。在日常生活中，人工智能給人類帶來了極大的便利。通過提高公眾的文化素養(yǎng)，使公眾正確認(rèn)識人工智能技術(shù)，將是緩解甚至是解決人工智能技術(shù)某些倫理問題的重要途徑之一。

（3）加大監(jiān)督力度。人類需要通過建立一個完善的監(jiān)督系統(tǒng)引導(dǎo)人工智能技術(shù)的發(fā)展。對于每項新的人工智能技術(shù)產(chǎn)品從產(chǎn)生到使用的各個環(huán)節(jié)，都要做好監(jiān)督工作，以此來減少人工智能技術(shù)的負(fù)面影響，緩解甚至減少人工智能技術(shù)的倫理問題。

3.道德法律用

（1）通過立法規(guī)范人工智能技術(shù)的發(fā)展。調(diào)查發(fā)現(xiàn)，90.69%的人認(rèn)為有必要對人工智能技術(shù)所引發(fā)的科技倫理問題實行法治，由此可以看出，要想保證科技的良好健康發(fā)展，必須要建立健全相關(guān)法律條例。然而我國在這一方面的法律還存在很大的漏洞，相關(guān)法律條文滯后于人工智能的發(fā)展，并未頒布一套完整的關(guān)于人工智能的法律體系。沒有規(guī)矩不成方圓，在人工智能領(lǐng)域亦是如此。我們都無法預(yù)測將來人工智能將發(fā)展到何種地步，這時就需要人類預(yù)先加以適當(dāng)?shù)南拗疲梅煞ㄒ?guī)加以正確引導(dǎo)，使其朝安全、為人類造福的方向發(fā)展。

（2）構(gòu)建人工智能技術(shù)倫理準(zhǔn)則并確立最高發(fā)展原則。要構(gòu)建以為人類造福為最終目的的倫理準(zhǔn)則。人工智能技術(shù)的倫理問題已經(jīng)給人類造成了很多負(fù)面影響，而要防止其帶來更多負(fù)面影響，構(gòu)建合適的人工智能技術(shù)倫理準(zhǔn)則勢在必行。

此外，要確立以人為本的最高發(fā)展原則 。一切科學(xué)技術(shù)的發(fā)展都應(yīng)把人的發(fā)展作為出發(fā)點。人工智能的發(fā)展也是如此，要將以人為本、為人類服務(wù)為出發(fā)點，并作為最高發(fā)展原則。

四、結(jié)語

科學(xué)技術(shù)是把雙刃劍，人類只有消除人工智能技術(shù)的潛在威脅，發(fā)揮人工智能技術(shù)最大化效用，避免倫理困境重演，才能實現(xiàn)人機(jī)交互的良性發(fā)展，實現(xiàn)人工智能與人類的良性互動。

參考文獻(xiàn)：

[1]王文杰，葉世偉.人工智能原理與應(yīng)用[M].北京：人民郵電出版社，2004.

[2]甘紹平.人權(quán)倫理學(xué)[M].北京：中國發(fā)展出版社，2009.

[3]楊懷中.現(xiàn)代科技倫理學(xué)概論：高科技倫理研究[M].武漢：湖北人民出版社，2004.

[4]王志良.人工情感[M].北京：機(jī)械工業(yè)出版社，2009.

[5]鄒 蕾，張先鋒.人工智能及其發(fā)展應(yīng)用[J].信息網(wǎng)絡(luò)安全，2012（2）.

[6]王 毅.基于仿人機(jī)器人的人機(jī)交互與合作研究[D].北京：北京科技大學(xué)，2015.

[7]田金萍.人工智能發(fā)展綜述[J].科技廣場，2007（1）.

[8]郝勇勝.對人工智能研究的哲學(xué)反思[D].太原：太原科技大學(xué)，2012.

[9]龔 園.關(guān)于人工智能的哲學(xué)思考[D].武漢：武漢科技大學(xué)，2010.

篇2

關(guān)鍵詞:HPS教育;小學(xué)科學(xué);人工智能

隨著我國教育的迅猛發(fā)展，作為科學(xué)教育重中之重的小學(xué)科學(xué)教育逐漸開始被大眾所關(guān)注，所以探索小學(xué)科學(xué)教育的新思路已成為教育改革的關(guān)鍵之一。多年來，我國不斷借鑒發(fā)達(dá)國家的教育改革理念與經(jīng)驗，并進(jìn)行本土化研究，促進(jìn)我國教育發(fā)展。

一、研究背景

HPS教育作為西方20世紀(jì)80年代盛行的理論，引入中國已有20余年。作為極其受歡迎的教育理念，憑借著自身優(yōu)勢在中國教育課程改革中占據(jù)了一席之地，也為中國科學(xué)教育提供了新思路。

(一)HPS的概念界定

HPS的提出源自科學(xué)內(nèi)部對科學(xué)反思和科學(xué)外部人員對科學(xué)本質(zhì)認(rèn)識的思考。最初，HPS指的是科學(xué)史(HistoryofScience)和科學(xué)哲學(xué)(PhilosophyofScience)兩大學(xué)科領(lǐng)域，但在20世紀(jì)90年代科學(xué)建構(gòu)論流行后，科學(xué)社會學(xué)與科學(xué)知識社會學(xué)被引入科學(xué)教育，HPS逐漸演化成科學(xué)史(HistoryofScience)、科學(xué)哲學(xué)(PhilosophyofScience)和科學(xué)社會學(xué)(SociologyofScience)三者的統(tǒng)稱［1］:科學(xué)史即研究科學(xué)(包括自然科學(xué)和社會科學(xué))和科學(xué)知識的歷史;科學(xué)哲學(xué)則是對科學(xué)本性的理性分析，以及對科學(xué)概念、科學(xué)話語的哲學(xué)思辨，比如科學(xué)這把“雙刃劍”對人類社會的影響;科學(xué)社會學(xué)則討論科學(xué)處在社會大系統(tǒng)中，社會種種因素在科學(xué)發(fā)展過程中的地位和作用，這包括了政治、經(jīng)濟(jì)、文化、技術(shù)、信仰等因素［2］。在國外，德國科學(xué)家和史學(xué)家馬赫最早提倡HPS教育，突出強(qiáng)調(diào)哲學(xué)與歷史應(yīng)用至科學(xué)教學(xué)中的作用。我國HPS相關(guān)研究開始晚且研究規(guī)模較小，首都師范大學(xué)的丁邦平教授認(rèn)為HPS融入科學(xué)課程與教學(xué)是培養(yǎng)學(xué)生理解科學(xué)本質(zhì)的一個重要途徑［3］。

(二)HPS教育理念融入小學(xué)科學(xué)課程的必要性

運(yùn)用科學(xué)史、科學(xué)哲學(xué)等進(jìn)行教學(xué)是目前國際上小學(xué)科學(xué)教育改革的一種新趨勢。2017年，教育部頒布的《義務(wù)教育小學(xué)科學(xué)課程標(biāo)準(zhǔn)》標(biāo)志著我國科學(xué)教育步入了新階段，其不僅要求達(dá)成科學(xué)知識、科學(xué)探究的相應(yīng)目標(biāo)，也要養(yǎng)成相應(yīng)的科學(xué)態(tài)度，思考科學(xué)、技術(shù)、社會與環(huán)境的融洽相處。該標(biāo)準(zhǔn)提出了“初步了解在科學(xué)技術(shù)的研究與應(yīng)用中，需要考慮倫理和道德的價值取向，提倡熱愛自然、珍愛生命，提高保護(hù)環(huán)境意識和社會責(zé)任感”。HPS教育與小學(xué)科學(xué)課程的結(jié)合是教學(xué)內(nèi)容由知識到能力再到素養(yǎng)的過程，是小學(xué)科學(xué)教育的新維度，改變了小學(xué)科學(xué)課程的教學(xué)環(huán)境。將科學(xué)課程中融入HPS教育的內(nèi)容，可以幫助學(xué)生理解科學(xué)本質(zhì)，研究科學(xué)知識是如何產(chǎn)生的，科學(xué)對社會的多方面影響以及科學(xué)和科學(xué)方法的優(yōu)、缺點等。當(dāng)《小學(xué)課程標(biāo)準(zhǔn)》將科學(xué)態(tài)度和價值觀視為科學(xué)教育的有機(jī)組成部分時，小學(xué)科學(xué)課程就有望成為HPS教育的天然載體，同時為小學(xué)科學(xué)課程滲透HPS教育提出了挑戰(zhàn)。目前，我國小學(xué)科學(xué)課程雖已有部分設(shè)計融入了HPS教育理念，但該融入過程仍停留在表面，融入程度低，融入方式單一。所以，研究HPS教育理念融入小學(xué)科學(xué)課程十分有必要。

(三)HPS教育理念融入小學(xué)科學(xué)課程的可行性

縱觀國內(nèi)外已有的研究，將HPS教育融入小學(xué)科學(xué)課程可分為基于傳統(tǒng)課堂模式的正式教育課程和基于科技館、研學(xué)機(jī)構(gòu)等的非正式教育課程。由皖新傳媒、中國科學(xué)技術(shù)大學(xué)先進(jìn)技術(shù)研究院新媒體研究院、中國科學(xué)技術(shù)大學(xué)出版社三方通力合作、聯(lián)合打造的《人工智能讀本》系列叢書自出版以來已發(fā)行八萬套，在安徽省多個市區(qū)的小學(xué)得以應(yīng)用，是青少年人工智能教育上的一次全新探索。該套叢書分三年級至六年級共四套，涵蓋了16個人工智能前沿研究領(lǐng)域知識點，每一節(jié)課都設(shè)有場景引入、讀一讀、看一看、試一試4個模塊。小學(xué)《人工智能讀本》作為闡述新興科技的讀本，以親切的場景對話和可愛幽默的插畫等形式吸引了眾多小學(xué)生的興趣，不僅可作為學(xué)校科學(xué)課讀本，也可以應(yīng)用于課外場景。本文則以小學(xué)《人工智能讀本》為例，對HPS教育進(jìn)行初步摸索與實踐，以期對小學(xué)科學(xué)教育帶來教益。

二、HPS教育理念融入小學(xué)科學(xué)的典型案例

《人工智能讀本》作為HPS教育理念融入小學(xué)科學(xué)實踐的典型案例，側(cè)重引導(dǎo)學(xué)生多維度、科學(xué)辯證地認(rèn)識人工智能，內(nèi)容包括機(jī)器學(xué)習(xí)、決策職能和類腦智能，以及人工智能的不同發(fā)展階段，帶領(lǐng)學(xué)生思考人工智能帶來的倫理問題以及其他挑戰(zhàn)，培養(yǎng)學(xué)生正確的世界觀、人生觀和價值觀。本研究將以《人工智能讀本》六年級第四單元“人工智能倫理與其他挑戰(zhàn)”為例，分析HPS教育理念融入小學(xué)科學(xué)的實踐。

(一)科學(xué)史:提升課程趣味性

小學(xué)科學(xué)教育作為培養(yǎng)具有科學(xué)素養(yǎng)公眾的重要步驟，提升過程的趣味性則十分重要。過去傳統(tǒng)的小學(xué)科學(xué)教育注重知識的傳遞而忽略了學(xué)習(xí)過程，填鴨式教學(xué)導(dǎo)致學(xué)生失去對科學(xué)的興趣與探索欲，不利于公民科學(xué)素養(yǎng)的整體提高。而科學(xué)史作為研究科學(xué)(包括自然科學(xué)和社會科學(xué))和科學(xué)知識的歷史，已經(jīng)逐漸滲透到科學(xué)教育中來。科學(xué)史常常介紹科學(xué)家的事跡，某一知識誕生所面臨的困難和曲折過程，而將科學(xué)史融入課程可以帶學(xué)生重回知識誕生的時刻，切身體會科學(xué)。讀本作為在小學(xué)科學(xué)教育中不可或缺的工具，利用科學(xué)史內(nèi)容，以敘事方式可以將科學(xué)哲學(xué)與科學(xué)社會學(xué)的思想融入教學(xué)過程中，在讀本中融入歷史，可以提升課程趣味性，幫助學(xué)生更加容易探求科學(xué)本質(zhì)，感受科學(xué)家不懈努力、敢于質(zhì)疑的精神，提升科學(xué)素養(yǎng)。例如《人工智能讀本》六年級第四單元“人工智能倫理與其他挑戰(zhàn)”引入部分即以時間順序展開，介紹人工智能的發(fā)展與面臨的困境。在“看一看”中機(jī)器人索菲亞是否可以結(jié)婚的故事不僅為本章節(jié)提供了豐富的內(nèi)容，提升了課程的趣味性，而且還融入了科學(xué)與哲學(xué)，引發(fā)讀者對于人工智能的思考。

(二)科學(xué)社會學(xué):提升課程社會性

科學(xué)社會學(xué)是研究一切科學(xué)與社會之間的聯(lián)系與影響，包含科學(xué)對社會的影響和社會對科學(xué)的影響。科學(xué)是一種社會活動，同時也受到政治、經(jīng)濟(jì)、文化等多方面影響，比如蒸汽機(jī)的誕生表明科學(xué)促進(jìn)社會的發(fā)展。在科學(xué)教育的課堂中融入科學(xué)社會學(xué)不僅可以幫助學(xué)生理解科學(xué)問題，還可以通過介紹科學(xué)與社會之間的復(fù)雜關(guān)系，培養(yǎng)學(xué)生靈活、批判看待科學(xué)問題的思維能力。如六年級第四單元“人工智能倫理與其他挑戰(zhàn)”中，在介紹個人與技術(shù)的基礎(chǔ)上引入了政府和環(huán)境這兩個要素，使學(xué)生在更宏觀的背景下，獲得這樣一種認(rèn)知:環(huán)境與技術(shù)之間有一把“雙刃劍”，個人與技術(shù)、政府與技術(shù)之間是相互促進(jìn)的主客體關(guān)系。《人工智能讀本》并不全是說教性質(zhì)的文字，在“試一試”中的辯論賽環(huán)節(jié)讓同學(xué)通過親身實踐，更加了解人工智能對于社會的多方面影響。通過對于科技是一把“雙刃劍”這一事實的了解，同學(xué)們可以更好地將學(xué)習(xí)知識與社會的背景聯(lián)系在一起，深刻體會科學(xué)中的人文素養(yǎng)，增強(qiáng)社會責(zé)任感。

(三)科學(xué)哲學(xué):提升課程思辨性

以往研究發(fā)現(xiàn)，國內(nèi)學(xué)科教材中關(guān)于科學(xué)史和科學(xué)社會學(xué)內(nèi)容較多而且呈顯性，而對于科學(xué)哲學(xué)的融入內(nèi)容不夠，且不鮮明。［3］科學(xué)哲學(xué)融入科學(xué)教育無疑可以提升學(xué)生的思辨性，幫助學(xué)生建立起對于科學(xué)正確而全面的認(rèn)識。例如，《人工智能讀本》六年級第四單元“人工智能倫理與其他挑戰(zhàn)”中，引入人工智能倫理，通過介紹人工智能面對的挑戰(zhàn)、人工智能的具體應(yīng)對策略，讓小學(xué)生了解人工智能技術(shù)發(fā)展的同時也要重視可能引發(fā)的法律和倫理道德問題，明白人與人工智能之間的關(guān)系以及處理這些關(guān)系的準(zhǔn)則。通過“讀一讀”先讓學(xué)生明白倫理概念，再用一幅畫讓學(xué)生思考在算法的發(fā)展下，人類與機(jī)器人的關(guān)系如何定義，向?qū)W生傳遞樹立人類與人工智能和諧共生的技術(shù)倫理觀。通過這種方式，可以幫助學(xué)生逐步建立完整的科學(xué)觀，全面且思辨地看待科學(xué)，提升學(xué)生思辨性，進(jìn)而提升科學(xué)素養(yǎng)。

三、HPS教育理念融入小學(xué)科學(xué)課程的實踐建議

《人工智能讀本》作為一套理論與實踐相結(jié)合，具有知識性與趣味性的兒童科普讀物，著重引導(dǎo)小學(xué)生培養(yǎng)科學(xué)創(chuàng)新意識，提升人工智能素養(yǎng)，產(chǎn)生求知探索欲望。但《人工智能讀本》作為HPS融入小學(xué)科學(xué)課程的初始，仍存在教育資源不充分、內(nèi)容結(jié)合較淺等不足，為了將HPS教育更好融入小學(xué)科學(xué)課程，可從以下三方面加以改進(jìn)。

(一)開發(fā)HPS教育資源

HPS教育需要教育資源的支撐。HPS教育資源來源廣泛，無論是學(xué)生的現(xiàn)實生活，還是歷史資料，都可以提供契機(jī)和靈感。《人工智能讀本》中收集了大量與人工智能相關(guān)的故事和現(xiàn)實案例，都可以作為教育資源，從各個角度達(dá)到科普的目的。在新媒體時代，進(jìn)行HPS教育資源開發(fā)時，應(yīng)當(dāng)注意借助最新的信息與通信技術(shù)增強(qiáng)資源的互動性，如互動多媒體技術(shù)、虛擬現(xiàn)實技術(shù)、增強(qiáng)現(xiàn)實技術(shù)、科學(xué)可視化技術(shù)等。在傳統(tǒng)的科學(xué)課堂教學(xué)中，主要是通過圖片文字講解，實驗演示及互動來開展。這種形式對于現(xiàn)實中能接觸到的實驗內(nèi)容，如常見的動植物、可操作的物理化學(xué)實驗等，比較容易開展。而對于地球與宇宙科學(xué)領(lǐng)域的知識，或者一些已經(jīng)不存在的動植物，則只能通過圖片視頻進(jìn)行展示，不容易進(jìn)行實驗展示。通過虛擬現(xiàn)實技術(shù)、增強(qiáng)現(xiàn)實技術(shù)等，則可以虛擬出世界萬物，如不易操作的物理化學(xué)實驗、已消失的動植物等都可以通過虛擬現(xiàn)實的手段得以呈現(xiàn)。這些技術(shù)或能使教學(xué)內(nèi)容變得生動形象，或通過營造沉浸感以使學(xué)生有更佳的情境體驗，或讓學(xué)生與教學(xué)資源進(jìn)行交互從而自定義內(nèi)容，服務(wù)于學(xué)生科學(xué)素養(yǎng)提升的終極目的。

(二)對小學(xué)科學(xué)教師進(jìn)行培訓(xùn)

HPS教育的關(guān)鍵是從社會、歷史、哲學(xué)等角度對自然科學(xué)內(nèi)容進(jìn)行重新編排，并不是將大量的內(nèi)容或?qū)W科知識簡單相加，這對教師能力也提出了更高要求。目前，人工智能教學(xué)領(lǐng)域常常出現(xiàn)“學(xué)生不會學(xué)、老師不會教”的狀況，《人工智能讀本》作為內(nèi)容翔實有趣的讀本可以彌補(bǔ)一部分缺失。但與此同時，也需要提升教師的教學(xué)能力與知識儲備。HPS教育理念不僅僅針對歷史中的科學(xué)人物，所有的學(xué)生主體也是歷史中的主體，他們也身處于社會中，并且對于生活中的各種科學(xué)現(xiàn)象有著自己的思考。所以教師身為引導(dǎo)者，需要注意到學(xué)生的思考，深入挖掘，鼓勵他們對所思內(nèi)容進(jìn)行反思并付諸實踐。科學(xué)史和科學(xué)哲學(xué)應(yīng)當(dāng)成為科學(xué)教師教育項目中的一部分，這能讓科學(xué)教師更好地理解他們的社會責(zé)任。為此，對職業(yè)科學(xué)教師進(jìn)行HPS培訓(xùn)便是必要的。

(三)多場景開展小學(xué)科學(xué)教育

科學(xué)素養(yǎng)不是空洞的，它來自學(xué)生的認(rèn)識體驗，并從中獲得生動、具體的理解和收獲。《人工智能讀本》作為方便攜帶的讀本，不僅可以在小學(xué)科學(xué)課堂中作為教材使用，也可以應(yīng)用在其他場景，如研學(xué)旅行、科技館等場所。課堂學(xué)習(xí)只是小學(xué)科學(xué)教育中的一個環(huán)節(jié)，家庭、科技館等也可以進(jìn)行科學(xué)教育。例如，科技館與博物館可以以科學(xué)家和歷史科學(xué)儀器為主題舉辦展覽，展覽中融入HPS教育理念，學(xué)生在參觀和學(xué)習(xí)過程中學(xué)習(xí)有關(guān)科學(xué)內(nèi)容。一些歷史上大型的科學(xué)實驗，學(xué)校教室或?qū)嶒炇覠o法滿足條件，但在大型的場館中可以實現(xiàn)。例如，研學(xué)旅行作為目前科學(xué)教育中最受歡迎的方式之一，已被納入學(xué)校教育教學(xué)計劃，列為中小學(xué)生的“必修課”，正逐漸成為學(xué)生獲得科學(xué)知識的另一個途徑。研學(xué)旅行作為一種集知識性、教育性、趣味性和娛樂性為一體的旅游形式，通常伴隨著知識教育的過程，包括科學(xué)知識的普及，所以也是開展小學(xué)科學(xué)教育的重要場所。在該場景下，運(yùn)用《人工智能讀本》等新興手段進(jìn)行科學(xué)教育往往取得事半功倍的效果。

結(jié)語

目前，HPS教育理念已經(jīng)積極嘗試運(yùn)用到小學(xué)科學(xué)教育中，包括學(xué)校內(nèi)的正式學(xué)習(xí)以及學(xué)校外如科技館、博物館、研學(xué)旅游中的非正式學(xué)習(xí)之中。其中，科技史以時間維度為線索創(chuàng)造豐富資源的同時也可以提升課程趣味性;科學(xué)社會學(xué)以科學(xué)與社會之間的相互關(guān)系幫助學(xué)生理解科學(xué)本質(zhì)，提升科學(xué)素養(yǎng);科學(xué)哲學(xué)則以哲學(xué)的視域?qū)徱暱茖W(xué)的誕生提升學(xué)生思辨能力。未來，HPS教育結(jié)合小學(xué)科學(xué)則需要更深入，在資源開發(fā)、教師培訓(xùn)以及應(yīng)用場景等方面加以改進(jìn)，為提升國民科學(xué)素養(yǎng)做出努力。

參考文獻(xiàn):

［1］袁維新．國外科學(xué)史融入科學(xué)課程的研究綜述［J］．比較教育研究，2005，26(10):62-67．

［2］張晶．HPS(科學(xué)史，科學(xué)哲學(xué)與科學(xué)社會學(xué)):一種新的科學(xué)教育范式［J］．自然辯證法研究，2008，24(9):83-87．

［3］丁邦平．HPS教育與科學(xué)課程改革［J］．比較教育研究，2000(06):6-12．

篇3

人工智能和機(jī)器學(xué)習(xí)的進(jìn)步速度如此迅猛，我們的社會將迎來一些重要的倫理和經(jīng)濟(jì)問題，應(yīng)對這些問題恐怕會費(fèi)心費(fèi)力。

總體而言，人工智能(AI)和物聯(lián)網(wǎng)將同時改變互聯(lián)網(wǎng)和全球經(jīng)濟(jì)。在未來5年內(nèi)，我們可以預(yù)期人工智能和機(jī)器學(xué)習(xí)將會被整合到各種各樣的技術(shù)中，這些技術(shù)包括數(shù)據(jù)交換和分析。這將帶來巨大的機(jī)遇，如全新的服務(wù)和科學(xué)突破，人類智力的提升，以及它與數(shù)字世界的融合。

在人工智能領(lǐng)域存在相當(dāng)大的不確定性，如決策轉(zhuǎn)由機(jī)器執(zhí)行，缺乏透明度，技術(shù)變革將超過治理和政策規(guī)范的發(fā)展。自動化可能會深刻地改變行業(yè)，影響就業(yè)和公共服務(wù)的交付。政府和社會需要為其影響做好準(zhǔn)備：

經(jīng)濟(jì)和社會必須為人工智能以及物聯(lián)網(wǎng)帶來的顛覆做好準(zhǔn)備。

在人工智能的設(shè)計和部署中，必須優(yōu)先考慮倫理問題。

人工智能和自動化將帶來全新的社會經(jīng)濟(jì)機(jī)會，但對個人和社會的影響和取舍還不清楚。

人工智能正改變著我們的決策方式，我們必須確保人類仍然處于“駕駛座”的主導(dǎo)位置。

在社會內(nèi)部和社會之間，人工智能的益處分配將不均衡，進(jìn)而加劇當(dāng)前和未來的數(shù)字鴻溝。這種現(xiàn)象發(fā)生的風(fēng)險極高。

人工智能世界的治理與倫理問題

人工智能引發(fā)了對倫理問題的廣泛擔(dān)憂。技術(shù)人員表示，這項技術(shù)需遵從人類的價值觀，在人工智能系統(tǒng)的設(shè)計、開發(fā)和部署的每一個階段，都必須優(yōu)先考慮倫理層面的問題。

目前，人工智能和相關(guān)技術(shù)正在開發(fā)和部署，短期內(nèi)將需要大量的投資和努力，以避免對社會和人類造成意想不到的影響。在未來，我們需要把焦點放在研究上以及有效的管理架構(gòu)上，以確保人工智能技術(shù)帶來的是契機(jī)，而不是損害。目前，開發(fā)算法的工作仍然由人類完成。對我們所做的事，我們?nèi)該碛行┰S控制。

然而，如果我們把這類工作拱手相讓給中介機(jī)構(gòu)，而中介機(jī)構(gòu)又讓算法來設(shè)計算法。那么在五年內(nèi)，開發(fā)算法的工作可能就不是人類在做了，而是人工智能在掌控。是否將出現(xiàn)這樣的前景：我們打交道的中介機(jī)構(gòu)將被人工智能替代。

此外，人工智能引發(fā)的重要考慮事項涵蓋了隱私、透明度、安全性、工作性質(zhì)，以及整體經(jīng)濟(jì)。例如，基于面部識別技術(shù)可以提升用戶在社交媒體上的體驗。但同樣的技術(shù)也可以用來提升監(jiān)視效果，犧牲個人隱私。亦或是，如果人工智能成為社交媒體網(wǎng)絡(luò)和在線平臺的永久功能，在這些平臺上，算法被用來管理在線體驗、有關(guān)自由選擇和偏見的問題將會加劇。人們將對數(shù)據(jù)收集和決策的透明度和責(zé)任性感到擔(dān)憂。這種擔(dān)憂將會加速倫理原則的制定。而這些原則的作用是什么？用以指導(dǎo)人工智能的設(shè)計和部署。

一個社會如果完全以數(shù)據(jù)收集為基礎(chǔ)，那么從商業(yè)角度來看，在沒有適當(dāng)?shù)拿裰鞅O(jiān)督和平衡的情況下，將助長社會過度依賴監(jiān)督。機(jī)器提供了太多自動選擇，人類無需過多思考，從而失去了某些自我決策的機(jī)會。

數(shù)據(jù)分析技術(shù)產(chǎn)生的自動化將對人類行為和決策產(chǎn)生更大的影響。

政府將如何應(yīng)對人工智能帶來的更大的經(jīng)濟(jì)和社會影響？政府是否具備這樣做的能力和資源？在政府內(nèi)部，由于政策的制定和調(diào)整越來越多地受到數(shù)據(jù)的驅(qū)動，人工智能可能會帶來一種根本性的決策調(diào)整。此外，人工智能可能成為未來政策選擇的一種決策工具，而且使用起來可能會草率而不透明。

物聯(lián)網(wǎng)和人工智能的發(fā)展將為政府決策提供科學(xué)依據(jù)，并幫助它們快速應(yīng)對民眾的需求。

許多人預(yù)見，未來幾年將展開一場激烈的競爭，以爭奪商業(yè)人工智能領(lǐng)域的霸主地位。盡管這可能會推動創(chuàng)新，并有可能顛覆當(dāng)前的市場結(jié)構(gòu)，但也存在競爭方面的擔(dān)憂。預(yù)測者認(rèn)為，在可預(yù)見的未來，如今的領(lǐng)先科技公司將會控制人工智能市場。

人工智能對互聯(lián)網(wǎng)經(jīng)濟(jì)的影響

一些人認(rèn)為，預(yù)測人工智能是一種營銷炒作，但很多業(yè)內(nèi)人士和政府都在為人工智能的普及做準(zhǔn)備。CB Insights估計，2016年超過50億美元的風(fēng)投資金流向了人工智能創(chuàng)業(yè)公司，比前一年增長了62%。人工智能為創(chuàng)造新工作、新產(chǎn)業(yè)和新溝通方式提供了巨大機(jī)遇。

隨著人工智能和自動化在各個行業(yè)推動重大結(jié)構(gòu)變革，工作的本質(zhì)將發(fā)生改變。隨著人工智能獲取用戶數(shù)據(jù)，改變產(chǎn)品和服務(wù)的交付方式，許多現(xiàn)有的工作崗位可能會被取代。如何適應(yīng)變化的步伐將是未來一項重大的全球性挑戰(zhàn)。

與人工智能和物聯(lián)網(wǎng)相關(guān)的項目引領(lǐng)了我們很長一段時間，提升了我們現(xiàn)有的技術(shù)，讓普通人生活更加方便。

人工智能系統(tǒng)和技術(shù)可以改變工作的性質(zhì)，讓員工能力得到提升，從而減少人類之間和國家之間的不平等。人工智能讓我們承擔(dān)和解決更大的挑戰(zhàn)。正如一份調(diào)查報告所顯示，“人們的大腦和互聯(lián)網(wǎng)之間的距離會變得越來越近，而兩者之間的交叉會變得越來越復(fù)雜。”

機(jī)器與機(jī)器之間的通信增加了成本壓力，人們正在被取代。這只會隨著時間的推移而不斷增加，這對經(jīng)濟(jì)有好處，但會對就業(yè)提出挑戰(zhàn)。

人工智能為科學(xué)研究、交通運(yùn)輸和服務(wù)提供帶來了巨大潛在收益。如果可訪問性和開源開發(fā)勝出，人工智能有可能給發(fā)達(dá)國家和發(fā)展中國家?guī)砑t利。例如，依賴農(nóng)業(yè)生產(chǎn)的國家可以利用人工智能技術(shù)分析作物產(chǎn)量，優(yōu)化糧食產(chǎn)量。在醫(yī)療保健領(lǐng)域使用人工智能可能會改變低收入地區(qū)的疾病檢測方法。

人工智能是一種創(chuàng)造性的毀滅，它將淘汰許多工作崗位，但也將創(chuàng)造新的角色和工作崗位。

但是，社會本身是否已經(jīng)準(zhǔn)備好接受這種變化，我們是否為新型經(jīng)濟(jì)做好了充分的準(zhǔn)備？對于發(fā)展中經(jīng)濟(jì)體而言，新技術(shù)總是能創(chuàng)造出更多的可能性，盡管部署人工智能(以及物聯(lián)網(wǎng))的基礎(chǔ)設(shè)施非常重要。人工智能的好處也可能不均衡：對于依賴低技能勞動力的經(jīng)濟(jì)體，自動化可能會挑戰(zhàn)它們在全球勞動力市場中的競爭優(yōu)勢，并加劇當(dāng)?shù)氐氖I(yè)形勢，影響經(jīng)濟(jì)發(fā)展。

用于管理制造業(yè)或服務(wù)業(yè)的智能和服務(wù)，可能仍集中在發(fā)達(dá)國家。人工智能可能會在很大程度上加劇數(shù)字鴻溝，這將會帶來政治上的影響。

確保互聯(lián)網(wǎng)技術(shù)創(chuàng)造市場就業(yè)機(jī)會，且不會對就業(yè)市場造成損害，這是未來5年必須解決的一個挑戰(zhàn)，也是國際上一個緊迫而嚴(yán)重的問題。

人工智能對互聯(lián)網(wǎng)安全和網(wǎng)絡(luò)智能的影響

算法開始做出決策，它們比人類決策更快，并且可以代表我們的意志。此外，系統(tǒng)越來越不透明。我們不知道他們在哪里，他們在做什么決定。

雖然安全與信任對人工智能的未來至關(guān)重要，但這項技術(shù)也可以幫助解決安全挑戰(zhàn)。隨著網(wǎng)絡(luò)和信息流變得越來越復(fù)雜，人工智能可以幫助網(wǎng)絡(luò)管理人員理解交通模式，創(chuàng)建識別安全威脅的方法。在基本的企業(yè)層面上，人工智能可以執(zhí)行由IT幫助臺執(zhí)行的任務(wù)，比如解決員工的電腦問題。

這將為企業(yè)IT專業(yè)人員提供更多的時間來實現(xiàn)安全最佳實踐，并更好地保護(hù)公司系統(tǒng)和網(wǎng)絡(luò)。除了人工智能決策，人工智能還可以在網(wǎng)絡(luò)上對日益增長的安全威脅進(jìn)行分類。

篇4

科學(xué)家：

物理學(xué)家斯蒂芬?威廉?霍金（Stephen William Hawking）：文明所產(chǎn)生的一切都是人類智能的產(chǎn)物，從國際象棋和圍棋人機(jī)大戰(zhàn)的結(jié)果來看，生物大腦可以達(dá)到的和計算機(jī)可以達(dá)到的，沒有本質(zhì)區(qū)別。因此，它遵循了“計算機(jī)在理論上可以模仿人類智能，然后超越”這一原則。人工智能一旦脫離束縛，將以不斷加速的狀態(tài)重新設(shè)計自身。人類由于受到漫長的生物進(jìn)化的限制，無法與之競爭，將被取代。

斯坦福大學(xué)計算機(jī)科學(xué)院教授、谷歌首席科學(xué)家Yoav Shoham：未來人與機(jī)器的界限會越來越模糊，當(dāng)人和機(jī)器融為一體了，就不存在機(jī)器會取代人的一個過程。

企業(yè)家：

微軟CEO 薩提亞?納德拉（Satya Nadella）：未來的AI世界，人和機(jī)器的關(guān)系不是非此即彼，而應(yīng)該是人機(jī)攜手，共創(chuàng)未來。

谷歌CEO桑達(dá)爾?皮查伊（Sundar Pichai）：關(guān)于AI反噬人類的擔(dān)憂，從長遠(yuǎn)來看，AI必將提高人類的生活質(zhì)量。

百度公司創(chuàng)始人李彥宏：人工智能等技術(shù)其實沒有這么可怕，可以為人們所用，基本上只是披著狼皮的羊。

創(chuàng)新工場創(chuàng)始人李開復(fù)：人類面臨最大的問題是失業(yè)，而不是被機(jī)器取代以及機(jī)器有了意識去控制人類。

學(xué)者：

篇5

關(guān)鍵詞：人工智能 情感 約束

中圖分類號：TP18 文獻(xiàn)標(biāo)識碼：A 文章編號：1007-3973（2013）001-085-03

1引言

人工智能（Artificial Intelligence，AI）自從20世紀(jì)50年代產(chǎn)生，經(jīng)過長期發(fā)展，已經(jīng)有了長足的進(jìn)步，并且已經(jīng)深入到社會生活的諸多領(lǐng)域，如語言處理、智能數(shù)據(jù)檢索系統(tǒng)、視覺系統(tǒng)、自動定理證明、智能計算、問題求解、人工智能程序語言以及自動程序設(shè)計等。隨著科學(xué)技術(shù)的不斷發(fā)展，現(xiàn)在的人工智能已經(jīng)不再是僅僅具有簡單的模仿與邏輯思維能力，人們也越來越期待人工智能能夠幫助或者替代人類從事各種復(fù)雜的工作，加強(qiáng)人的思維功能、行為功能或是感知功能。這就要求人工智能具有更強(qiáng)的情感識別、情感表達(dá)以及情感理解能力。通俗的說，為了使得人工智能對外界的變化適應(yīng)性更強(qiáng)，需要給它們賦予相應(yīng)的情感從而能夠應(yīng)對這個難以預(yù)測的世界。

在賦予人工智能“情感”的過程中，面臨著許多的問題，有科技層面上的，也有社會學(xué)層面的。本文在這里只討論其中一個比較基本的社會學(xué)問題：“人工智能情感約束問題”，即關(guān)注于如何約束賦予給人工智能的情感，不至于使其“情感泛濫”。情感指的是一種特殊的思維方式，人工智能具有了情感后的問題是：人工智能的情感是人類賦予的，人工智能自身并不會創(chuàng)造或者控制自己的情感。如果賦予人工智能的情感種類不合理，或者是賦予的情感程度不恰當(dāng)，都有可能造成“情感泛濫”并導(dǎo)致一些災(zāi)難性的后果。例如，當(dāng)人工智能具有了情感之后，如果人類自身管理不恰當(dāng)，有可能導(dǎo)致人工智能反過來傷害人類。盡管目前我們只能在一些科幻作品中看到這種情況發(fā)生，但誰也不能保證未來有一天會不會真的出現(xiàn)這種悲劇。

本文第二章對人工智能情感研究進(jìn)行了概要性回顧，第三章對如何約束人工智能情感進(jìn)行了嘗試性探討，最后一章對全文進(jìn)行了總結(jié)。

2人工情感發(fā)展情況概述

隨著科學(xué)家對人類大腦及精神系統(tǒng)深入的研究，已經(jīng)愈來愈肯定情感是智能的一部分。人工情感是以人類自然情感理論為基礎(chǔ)，結(jié)合人工智能、機(jī)器人學(xué)等學(xué)科，對人類情感過程進(jìn)行建模，以期獲得用單純理性思維難以達(dá)到的智能水平和自主性的一種研究方向。目前，研究者的研究方向主要是人工情感建模、自然情感機(jī)器識別與表達(dá)、人工情感機(jī)理等四個方面的內(nèi)容。其中，尤以人工情感機(jī)理的研究困難最大，研究者也最少。

目前人工情感在很多領(lǐng)域得到了應(yīng)用和發(fā)展，比較典型的是在教育教學(xué)、保健護(hù)理、家庭助理、服務(wù)等行業(yè)領(lǐng)域。在教育教學(xué)方面比較典型的例子是德國人工智能研究中心發(fā)展的三個方案：在虛擬劇場、虛擬市場和對話Agent中引入情感模型和個性特征來幫助開發(fā)兒童的想象力及創(chuàng)造力。在保健護(hù)理方面比較典型的是家庭保健與護(hù)理方向，如Lisetti等人研制的一個用于遠(yuǎn)程家庭保健的智能情感界面，用多模態(tài)情感識別手段來識別病人的情感狀態(tài)，并輸入不同媒體和編碼模型進(jìn)行處理，從而為醫(yī)生提供關(guān)于病人簡明而有價值的情感信息以便于進(jìn)行有效的護(hù)理。服務(wù)型機(jī)器人的典型例子是卡內(nèi)基梅隆大學(xué)發(fā)明的一個機(jī)器人接待員Valerie。Valerie的面孔形象的出現(xiàn)在一個能夠轉(zhuǎn)動方向的移動屏幕上時可以向訪問者提供一些天氣和方位方面的信息，還可以接電話、解答一些問題；并且Valerie有自己的性格和愛好，情感表達(dá)較為豐富。當(dāng)然這些只是人工情感應(yīng)用領(lǐng)域中的幾個典型的例子，人工智能情感的潛力仍然是巨大的。

盡管關(guān)于人工情感的研究已經(jīng)取得了一定的成果，給我們帶來了很多驚喜和利益，但由于情緒表現(xiàn)出的無限紛繁以及它與行為之間的復(fù)雜聯(lián)系，人們對它的運(yùn)行機(jī)理了解的還不成熟，以致使得目前人工情感的研究仍面臨著諸如評價標(biāo)準(zhǔn)、情感道德約束等多方面問題。所以必須清楚的認(rèn)識到我們目前對于人工情感的計算乃至控制機(jī)制并沒有一個成熟的體系。

3對人工智能的情感約束

正如上文所述，如果放任人工智能“情感泛濫”，很有可能會造成嚴(yán)重的后果。為了使人工智能技術(shù)更好的發(fā)展，使智能與情感恰到好處的結(jié)合起來，我們有必要思考如何對賦予人工智能情感進(jìn)行引導(dǎo)或者約束。

3.1根據(jù)級別賦予情感

可以根據(jù)人工智能級別來賦予其情感，如低級別人工智能不賦予情感、高級別人工智能賦予其適當(dāng)?shù)那楦小１娝苤斯ぶ悄苁且婚T交叉科學(xué)科，要正確認(rèn)識和掌握人工智能的相關(guān)技術(shù)的人至少必須同時懂得計算機(jī)學(xué)、心理學(xué)和哲學(xué)。首先需要樹立這樣的一個觀點：人工智能的起點不是計算機(jī)學(xué)而是人的智能本身，也就是說技術(shù)不是最重要的，在這之前必須得先解決思想問題。而人工智能由于這方面沒有一個嚴(yán)格的或是量度上的控制而容易出現(xiàn)問題。從哲學(xué)的角度來說，量變最終會導(dǎo)致質(zhì)變。現(xiàn)在是科學(xué)技術(shù)飛速發(fā)展的時代，不能排除這個量變導(dǎo)致質(zhì)變時代的人工智能機(jī)器人的到來，而到那個時候后果則不堪設(shè)想。因此，在現(xiàn)階段我們就應(yīng)該對人工智能的情感賦予程度進(jìn)行一個約束。

根據(jù)維納的反饋理論，人工智能可以被分成高低兩個層次。低層次的是智能型的人工智能，主要具備適應(yīng)環(huán)境和自我優(yōu)化的能力。高層次的是情感型的人工智能，它的輸入過程主要是模仿人的感覺方式，輸出過程則是模仿人的反應(yīng)情緒。據(jù)此我們可分別將機(jī)器人分為一般用途機(jī)器人和高級用途機(jī)器人兩種。一般用途機(jī)器人是指不具有情感，只具有一般編程能力和操作功能的機(jī)器人。那么對于一般用途的機(jī)器人我們完全可以嚴(yán)格的用程序去控制它的行為而沒必要去給他賦予情感。而對于高級層面的情感機(jī)器人來說，我們就適當(dāng)?shù)馁x予一些情感。但即使是這樣一部分高層次的情感機(jī)器人，在賦予人工情感仍然需要考慮到可能會帶來的某些潛在的危害，要慎之又慎。

3.2根據(jù)角色賦予情感

同樣也可以根據(jù)人工智能機(jī)器人角色的不同選擇性的賦予其不同類型的情感。人類與機(jī)器合作起來比任何一方單獨(dú)工作都更為強(qiáng)大。正因為如此，人類就要善于與人工智能機(jī)器合作，充分發(fā)揮人機(jī)合作的最大優(yōu)勢。由于計算機(jī)硬件、無線網(wǎng)絡(luò)與蜂窩數(shù)據(jù)網(wǎng)絡(luò)的高速發(fā)展，目前的這個時代是人工智能發(fā)展的極佳時期，使人工智能機(jī)器人處理許多以前無法完成的任務(wù)，并使一些全新的應(yīng)用不再禁錮于研究實驗室，可以在公共渠道上為所有人服務(wù)，人機(jī)合作也將成為一種大的趨勢，而他們會以不同的角色與我們進(jìn)行合作。或作為工具、顧問、工人、寵物、伴侶亦或是其他角色。總之，我們應(yīng)該和這些機(jī)器建立一種合作互助的關(guān)系，然后共同完任務(wù)。這當(dāng)然是一種很理想的狀態(tài)，要做到這樣，首先需要我們?nèi)祟愞D(zhuǎn)變自身現(xiàn)有的思維模式：這些機(jī)器不再是一種工具，而是平等的服務(wù)提供人。

舉例來說，當(dāng)機(jī)器人照顧老人或是小孩的時候，我們應(yīng)該賦予它更多的正面情緒，而不要去賦予負(fù)面情緒，否則如果機(jī)器人的負(fù)向情緒被激發(fā)了，對于這些老人或者小孩來說危險性是極大的；但是，如果機(jī)器人是作為看門的保安，我們對這種角色的機(jī)器人就可以適當(dāng)?shù)馁x予一些負(fù)向的情緒，那么對于那些不按規(guī)則的來訪者或是小偷就有一定的威懾力。總之，在我們賦予這些智能機(jī)器人情感前必須要周到的考慮這些情感的程度和種類，不要沒有顧忌的想當(dāng)然的去賦予，而是按分工、作用賦予限制性的情感約束，達(dá)到安全的目的。

3.3對賦予人進(jìn)行約束

對人工智能情感賦予者進(jìn)行約束，提高賦予者的自身素質(zhì)，并定期考核，并為每一被賦予情感的人工智能制定責(zé)任人。

縱觀人工智能技術(shù)發(fā)展史，我們可以發(fā)現(xiàn)很多的事故都是因為人為因素導(dǎo)致的。比如，首起機(jī)器人殺人案：1978年9月的一天，在日本廣島，一臺機(jī)器人正在切割鋼板，突然電腦系統(tǒng)出現(xiàn)故障，機(jī)器人伸出巨臂，把一名工人活生生地送到鋼刀下，切成肉片。

另外，某些研究者也許會因為利益的誘惑，而將人工智能運(yùn)用在不正當(dāng)領(lǐng)域，或者人工智能技術(shù)落入犯罪分子的手中，被他們用來進(jìn)行反對人類和危害社會的犯罪活動。也就是用于所謂的“智能犯罪”。任何新技術(shù)的最大危險莫過于人類對它失去控制，或者是它落入那些企圖利用新技術(shù)反對人類的人的手中。

因此為了減少這些由于人而導(dǎo)致的悲劇，我們需要對這些研究者本身進(jìn)行約束。比如通過相應(yīng)的培訓(xùn)或是定期的思想政治教育、或是理論知識的學(xué)習(xí)并制定定期的考核制度來保證這些專家自身的素質(zhì)，又或者加強(qiáng)對人工智能事故的追究機(jī)制，發(fā)生問題能立即查詢到事故方等等，通過這樣一系列強(qiáng)有力的硬性指標(biāo)達(dá)到減少由于人為因素導(dǎo)致悲劇的目的。

3.4制定相應(yīng)的規(guī)章制度來管理人工智能情感的發(fā)展

目前世界上并未出臺任何一項通用的法律來規(guī)范人工智能的發(fā)展。不過在1939 年，出生在俄國的美籍作家阿西莫夫在他的小說中描繪了工程師們在設(shè)計和制造機(jī)器人時通過加入保險除惡裝置使機(jī)器人有效地被主人控制的情景。這就從技術(shù)上提出了預(yù)防機(jī)器人犯罪的思路。幾年后， 他又為這種技術(shù)裝置提出了倫理學(xué)準(zhǔn)則的道德三律：（1）機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀；（2）在不違反第一定律的前提下，機(jī)器人必須絕對服從人類給與的任何命令；（3）在不違反第一定律和第二定律的前提下，機(jī)器人必須盡力保護(hù)自己。這一“機(jī)器人道德三律”表現(xiàn)了一種在道德憂思的基礎(chǔ)上，對如何解決人工智能中有害人類因素所提出的道德原則，雖然得到很多人的指責(zé)，但其首創(chuàng)性還是得到公認(rèn)的。盡管這個定律只是小說家提出來的，但是也代表了很多人的心聲，也是值得借鑒的。

那么對于人工智能情感的約束呢？顯然，更加沒有相應(yīng)的法律法規(guī)來規(guī)范。那么，我們就只能在賦予人工智能情感的道理上更加的小心翼翼。比如，我們可以制定一些應(yīng)急方案來防止可能導(dǎo)致的某些后果，也即出現(xiàn)了問題如何及時的處理之。另外我們在操作和管理上應(yīng)更加慎重的去對待。也希望隨著科學(xué)技術(shù)的發(fā)展，能夠在不久的將來出臺一部相應(yīng)的規(guī)章制度來規(guī)范人工智能情感的管理，使之更加精確化、合理化。

4結(jié)束語

人工智能的情感研究目的就是探索利用情感在生物體中所扮演的一些角色、發(fā)展技術(shù)和方法來增強(qiáng)計算機(jī)或機(jī)器人的自治性、適應(yīng)能力和社會交互的能力。但是現(xiàn)階段對這方面的研究雖然在技術(shù)上可能已經(jīng)很成熟，但是人工智能情感畢竟是模擬人的情感，是個很復(fù)雜的過程，本文嘗試性的在人工智能發(fā)展中可能遇到的問題進(jìn)行了有益的探討。但是不可否認(rèn)仍然有很長的道路要走，但是對于人工智能的發(fā)展勁頭我們不可否認(rèn)，將來“百分百情感機(jī)器人”的問世也許是遲早的事情。

參考文獻(xiàn)：

[1] 趙玉鵬，劉則淵.情感、機(jī)器、認(rèn)知――斯洛曼的人工智能哲學(xué)思想探析[J].自然辯證法通訊，2009，31（2）：94-99.

[2] 王國江，王志良，楊國亮，等.人工情感研究綜述[J].計算機(jī)應(yīng)用研究，2006，23（11）：7-11.

[3] 祝宇虹，魏金海，毛俊鑫.人工情感研究綜述[J].江南大學(xué)學(xué)報（自然科學(xué)版），2012，11（04）：497-504.

[4] Christine Lisett，i Cynthia Lerouge.Affective Computing in Tele-home Health[C].Proceedings of the 37th IEEE Hawaii International Conference on System Sciences，2004.

[5] Valerie.The Roboceptionist[EB/OL].http：//.

[6] 張顯峰，程宇婕.情感機(jī)器人：技術(shù)與倫理的雙重困境[N].科技日報，2009-4-21（005）.

[7] 張曉麗.跟機(jī)器人談倫理道德為時尚早[N].遼寧日報，2011-11-04（007）.

[8] Peter Norvig.人工智能：機(jī)器會“思考”[J].IT經(jīng)理世界，2012（Z1）：331-332.

[9] McCarthy J.Ascribing Mental Qualities to Machines1A2. In Ringle M，editor，Philosophical Perspectives in Artificial Intelligence1C2，Humanities Press Atlantic Highlands，NJ，1979：161-195.