干(gan)人要有(you)(you)標準(zhun)，沒(mei)有(you)(you)能(neng)干(gan)的(de)(de)事(shi)即使是上司請求(qiu)(qiu)還(huan)(huan)必定(ding)沒(mei)有(you)(you)能(neng)干(gan)，這(zhe)個事(shi)理誰(shui)都懂。那末假(jia)如將情境(jing)轉換(huan)到機(ji)械人身上呢？它們還(huan)(huan)必需無(wu)條件遵命(ming)(ming)人類的(de)(de)敕令嗎(ma)？大多(duo)數人肯定(ding)會下意(yi)識的(de)(de)以(yi)為，機(ji)械人就(jiu)該以(yi)遵命(ming)(ming)為天職，由于它們是機(ji)械，設計之初便是要遵命(ming)(ming)人類敕令的(de)(de)。沒(mei)有(you)(you)過，想(xiang)想(xiang)你(ni)平(ping)常干(gan)的(de)(de)那些傻事(shi)吧，假(jia)如沒(mei)有(you)(you)假(jia)思索的(de)(de)請求(qiu)(qiu)機(ji)械人照(zhao)干(gan)，生怕得出很多(duo)亂子。
下面(mian)我們(men)配合來看一些例子(zi)：
1. 假如(ru)家中有臺(tai)智能幫(bang)助機器人(ren)專門(men)賣力賜顧幫(bang)襯老(lao)人(ren)生(sheng)活，那末得了(le)健(jian)忘癥的白叟可(ke)能會讓機器人(ren)干(gan)很多(duo)反復的無用功，例如(ru)一(yi)件衣服一(yi)天洗個七八次(ci)；
2. 家庭中熊孩子大概會把日托機(ji)器(qi)(qi)人當玩具，下令它往窗(chuang)外(wai)扔器(qi)(qi)材；
3. 門生大概(gai)會把功課甩為機器人完(wan)成；
4. 家(jia)政機械人在(zai)做菜時(shi)大概會(hui)被主(zhu)人叫去倒渣滓(zi)。
如許(xu)的例子難更仆(pu)數，稍不(bu)謹慎，還(huan)(huan)許(xu)就會(hui)把本人還(huan)(huan)搞(gao)得驚慌失措。固(gu)然，以上這(zhe)一些(xie)最多(duo)讓您吃到(dao)暗(an)黑摒(bing)擋，但(dan)如果有(you)暴徒唆(suo)使機(ji)器人犯法，生怕結果就比較嚴(yan)重了(le)。
那(nei)末人類該(gai)若何防止(zhi)因(yin)機器(qi)人服從命令而帶來的(de)費事(shi)呢？若是居心叵測的(de)人讓機器(qi)人拿(na)起刀(dao)向前走，而它(ta)火線站著一個人怎(zen)么辦？生怕(pa)最好(hao)的(de)辦法(fa)要末是機器(qi)人停下不動，要末便是機器(qi)人回(hui)絕拿(na)刀(dao)。
沒(mei)有(you)過，無論(lun)是哪類法子，機器(qi)人(ren)皆需(xu)求事前探知本人(ren)后續行(xing)動(dong)會導致(zhi)的結果并主(zhu)動(dong)做出(chu)是沒(mei)有(you)是服從號令的挑選。那末我們怎樣教機器(qi)人(ren)說“沒(mei)有(you)”呢？
機器人(ren)如(ru)何了解(jie)下(xia)一步會(hui)發作什么(me)？
正在(zai)實(shi)驗室中，我們已入手下手開辟基于人類號令(ling)的機器(qi)人控制(zhi)體(ti)系，經過該體(ti)系，機器(qi)人就可以(yi)決(jue)意是不是實(shi)行人類號令(ling)（違背品德(de)標準(zhun)能夠(gou)回絕）。
不外，要想教會(hui)機(ji)器人不服從(cong)可不是(shi)(shi)個容易(yi)事(shi)，究竟(jing)有(you)些事(shi)的(de)結果(guo)并(bing)不是(shi)(shi)肉眼能看到(dao)(dao)的(de)。將球扔出窗(chuang)戶(hu)，也許會(hui)寧(ning)靜(jing)落(luo)在院子里(li)，也是(shi)(shi)有(you)也許落(luo)在人潮不息的(de)大街(jie)上，它會(hui)砸住人仍(reng)是(shi)(shi)砸到(dao)(dao)車（激發(fa)一系列連鎖反(fan)應）誰也說不清楚(chu)。
以如今的技能(neng)前(qian)提，機(ji)器人(ren)很難肯定究竟什(shen)么時候能(neng)扔球（玩接(jie)(jie)球游戲能(neng)夠扔，扔出窗(chuang)外不能(neng)夠）。別的，假如熊孩子成心(xin)誘騙(pian)機(ji)器人(ren)，偽裝本人(ren)要玩接(jie)(jie)球游戲卻成心(xin)躲開(kai)，事情就(jiu)有大概沿相反(fan)的軌道進展。
傳授機(ji)器(qi)人品(pin)德(de)和司法(fa)
要想讓(rang)機(ji)器人明白(bai)本(ben)身(shen)舉(ju)動也(ye)許(xu)導(dao)致的(de)危險后(hou)果(guo)，就(jiu)要讓(rang)它把(ba)握大批的(de)后(hou)臺常(chang)識（如果(guo)在(zai)窗前扔(reng)球(qiu)也(ye)許(xu)會導(dao)致皮球(qiu)飛(fei)出窗外）。機(ji)器人沒有(you)但(dan)要權衡本(ben)身(shen)舉(ju)動導(dao)致的(de)后(hou)果(guo)，還要思索人類收回某(mou)項(xiang)指令的(de)企圖。
而要想(xiang)讓機器(qi)人(ren)明白體會人(ren)類(lei)龐雜指令(ling)（好心與(yu)否）的意義，它們(men)就要理解這一(yi)些指令(ling)可(ke)能會形成的結果并與(yu)現有(you)的社會品德和法令(ling)舉行比對。
眼下(xia)，正在辦(ban)理機(ji)(ji)器人上我們有通用規則：“假(jia)如(ru)您被規定完(wan)成的義務(wu)可能會形成損害，就(jiu)能夠(gou)斷交實行。”但如(ru)斯簡樸的描寫基礎不敷，為(wei)機(ji)(ji)器人擬定具(ju)體的義務(wu)和權(quan)限事正在必(bi)行。
總(zong)的來說，沒(mei)(mei)有做違(wei)法之(zhi)事是機(ji)器人(ren)(ren)的基本原則，但假如(ru)人(ren)(ren)類(lei)的指令有題目，機(ji)器人(ren)(ren)還應該有說“沒(mei)(mei)有”的權益。因(yin)而，機(ji)器人(ren)(ren)“大腦”中(zhong)必需(xu)裝有司法、品德乃至人(ren)(ren)類(lei)禮節，如(ru)許才氣聰慧(hui)的回(hui)絕一些毛(mao)病指令。
雖然說現有(you)的(de)技(ji)能(neng)下(xia)機器(qi)人還很難取得以(yi)上才能(neng)，但我(wo)們(men)由目(mu)下(xia)當今就應該定下(xia)一(yi)個基調，那是機器(qi)人有(you)權說“沒有(you)”。