干人要有標(biāo)準(zhǔn)，沒有能干的事即使是上司請求還必定沒有能干，這個事理誰都懂。那末假如將情境轉(zhuǎn)換到機械人身上呢？它們還必需無條件遵命人類的敕令嗎？大多數(shù)人肯定會下意識的以為，機械人就該以遵命為天職，由于它們是機械，設(shè)計之初便是要遵命人類敕令的。沒有過，想想你平常干的那些傻事吧，假如沒有假思索的請求機械人照干，生怕得出很多亂子。
下面我們配合來看一些例子：
1. 假如家中有臺智能幫助機器人專門賣力賜顧幫襯老人生活，那末得了健忘癥的白叟可能會讓機器人干很多反復(fù)的無用功，例如一件衣服一天洗個七八次；
2. 家庭中熊孩子大概會把日托機器人當(dāng)玩具，下令它往窗外扔器材；
3. 門生大概會把功課甩為機器人完成；
4. 家政機械人在做菜時大概會被主人叫去倒渣滓。
如許的例子難更仆數(shù)，稍不謹(jǐn)慎，還許就會把本人還搞得驚慌失措。固然，以上這一些最多讓您吃到暗黑摒擋，但如果有暴徒唆使機器人犯法，生怕結(jié)果就比較嚴(yán)重了。
那末人類該若何防止因機器人服從命令而帶來的費事呢？若是居心叵測的人讓機器人拿起刀向前走，而它火線站著一個人怎么辦？生怕最好的辦法要末是機器人停下不動，要末便是機器人回絕拿刀。
沒有過，無論是哪類法子，機器人皆需求事前探知本人后續(xù)行動會導(dǎo)致的結(jié)果并主動做出是沒有是服從號令的挑選。那末我們怎樣教機器人說“沒有”呢？
機器人如何了解下一步會發(fā)作什么？
正在實驗室中，我們已入手下手開辟基于人類號令的機器人控制體系，經(jīng)過該體系，機器人就可以決意是不是實行人類號令（違背品德標(biāo)準(zhǔn)能夠回絕）。
不外，要想教會機器人不服從可不是個容易事，究竟有些事的結(jié)果并不是肉眼能看到的。將球扔出窗戶，也許會寧靜落在院子里，也是有也許落在人潮不息的大街上，它會砸住人仍是砸到車（激發(fā)一系列連鎖反應(yīng)）誰也說不清楚。
以如今的技能前提，機器人很難肯定究竟什么時候能扔球（玩接球游戲能夠扔，扔出窗外不能夠）。別的，假如熊孩子成心誘騙機器人，偽裝本人要玩接球游戲卻成心躲開，事情就有大概沿相反的軌道進展。
傳授機器人品德和司法
要想讓機器人明白本身舉動也許導(dǎo)致的危險后果，就要讓它把握大批的后臺常識（如果在窗前扔球也許會導(dǎo)致皮球飛出窗外）。機器人沒有但要權(quán)衡本身舉動導(dǎo)致的后果，還要思索人類收回某項指令的企圖。
而要想讓機器人明白體會人類龐雜指令（好心與否）的意義，它們就要理解這一些指令可能會形成的結(jié)果并與現(xiàn)有的社會品德和法令舉行比對。
眼下，正在辦理機器人上我們有通用規(guī)則：“假如您被規(guī)定完成的義務(wù)可能會形成損害，就能夠斷交實行?！钡缢购啒愕拿鑼懟A(chǔ)不敷，為機器人擬定具體的義務(wù)和權(quán)限事正在必行。
總的來說，沒有做違法之事是機器人的基本原則，但假如人類的指令有題目，機器人還應(yīng)該有說“沒有”的權(quán)益。因而，機器人“大腦”中必需裝有司法、品德乃至人類禮節(jié)，如許才氣聰慧的回絕一些毛病指令。
雖然說現(xiàn)有的技能下機器人還很難取得以上才能，但我們由目下當(dāng)今就應(yīng)該定下一個基調(diào)，那是機器人有權(quán)說“沒有”。