迅速到來的軍事機(jī)器人革命是空前的。這些技術(shù)帶來了倫理、法律、政策等問題，可能構(gòu)成在某些人看來關(guān)乎生死存亡的一種危險(xiǎn)。
聯(lián)合國《特定常規(guī)武器公約》(CCW)相關(guān)會(huì)議已經(jīng)進(jìn)行了有關(guān)致命自動(dòng)武器的討論，該公約禁止或限制一些被認(rèn)為會(huì)引起不合理痛苦的武器。CCW去年11月一場(chǎng)會(huì)議召集了一批政府專家和阻止殺手機(jī)器人運(yùn)動(dòng)組織的非政府組織代表。阻止殺手機(jī)器人運(yùn)動(dòng)組織希望達(dá)成一項(xiàng)具有法律約束力的國際條約，禁止使用致命自動(dòng)武器，就像此前禁止集束彈藥、地雷和激光致盲武器一樣。
棘手的是，自動(dòng)武器包括從能夠有選擇性地瞄準(zhǔn)的導(dǎo)彈到具有能夠決定打擊誰、何時(shí)打擊以及如何打擊等認(rèn)知技能的學(xué)習(xí)型機(jī)器等一系列武器。大多數(shù)人認(rèn)為，當(dāng)使用致命武器時(shí)，應(yīng)當(dāng)由人來負(fù)責(zé)啟動(dòng)。但要確定哪類人工控制是適宜的則更為棘手，并且相關(guān)技術(shù)發(fā)展太快，導(dǎo)致國際外交無法跟上形勢(shì)。
包裹自動(dòng)分揀機(jī)器人分揀機(jī)器人價(jià)格多少令情況更加復(fù)雜的是，人工智能和自動(dòng)機(jī)器最引人注目的進(jìn)展正由具有商業(yè)動(dòng)機(jī)的私企實(shí)現(xiàn)。即使能夠達(dá)成禁止軍用機(jī)器人的協(xié)議，催生自動(dòng)武器的技術(shù)也會(huì)很快普及并容易轉(zhuǎn)讓。
鋁模板分揀機(jī)器人分揀機(jī)器人圖片工業(yè)防務(wù)分析人士彼得·辛格指出，人工智能競(jìng)賽由不可阻擋的力量驅(qū)動(dòng)：地緣競(jìng)爭(zhēng)、知識(shí)前沿領(lǐng)域的科學(xué)動(dòng)力以及追求利潤的科技企業(yè)。因此，是否能抑制人工智能競(jìng)賽一些更令人不安的方面以及如何抑制成為問題所在。簡單來說，一個(gè)令大多數(shù)人驚恐的想法是讓能夠思考的機(jī)器自行選擇是否殺死人類。而且，盡管有關(guān)機(jī)器人暴動(dòng)的終極噩夢(mèng)仍是科幻小說，但其他擔(dān)憂則具有現(xiàn)實(shí)性。
北京分揀機(jī)器人專家保羅·沙雷擔(dān)心自動(dòng)系統(tǒng)可能因代碼編寫質(zhì)量不高或?qū)κ职l(fā)動(dòng)網(wǎng)絡(luò)攻擊而失靈。這可能致使機(jī)器人攻擊人類部隊(duì)，或?qū)е戮謩?shì)快速升級(jí)，以至于人類無法做出反應(yīng)。自動(dòng)武器的可靠性非常難以測(cè)試。會(huì)思考的機(jī)器可能以人類操控者從未設(shè)想過的方式行事。
關(guān)于與機(jī)器人系統(tǒng)“合作”的討論大多圍繞人類在“觀察、調(diào)整、決策、行動(dòng)”(OODA)這一決策循環(huán)周期中所處的位置。一架遙控武裝“死神”無人機(jī)的操控人員處于OODA循環(huán)以內(nèi)，因?yàn)樗麤Q定無人機(jī)飛往何處以及飛抵目的地時(shí)采取何種措施。相比之下，有人類跟蹤OODA循環(huán)的系統(tǒng)會(huì)在無人操控的情況下完成大部分任務(wù)，但人類可隨時(shí)介入，例如在目標(biāo)已經(jīng)改變的情況下放棄任務(wù)。完全自動(dòng)化的系統(tǒng)(操控人員僅需按下啟動(dòng)按鈕)負(fù)責(zé)執(zhí)行全部任務(wù)，包括目標(biāo)選擇，則處于OODA循環(huán)以外。
美國前國防部副部長詹姆斯·米勒說，盡管美國將設(shè)法讓人類處于OODA循環(huán)之內(nèi)或跟蹤OODA循環(huán)，但對(duì)手可能不會(huì)這樣。
米勒認(rèn)為，如果自動(dòng)系統(tǒng)在競(jìng)爭(zhēng)激烈的地區(qū)執(zhí)行任務(wù)，讓機(jī)器全權(quán)負(fù)責(zé)的誘惑將變得難以阻擋。
物流中心自動(dòng)分揀機(jī)器人可以手動(dòng)取件的分揀機(jī)器人分揀機(jī)器人agv生產(chǎn)