2005年，美國波士頓塔夫茨大學(xué)人機(jī)交互實驗室向參觀者展示了這樣一項研究成果:R&D人員將自己的小型機(jī)器人放在展示桌上，讓對方從桌子的一端走到另一端。機(jī)器人自主移動，起初并不是什么了不起的成就，但接下來發(fā)生的事情讓所有人震驚了——當(dāng)這個名為“登普斯特”的機(jī)器人走到桌子邊緣時，它自發(fā)地停了下來，而它的主人——戈登·布里格斯(Gordon Briggs)和馬特·赫茲·舒茨(Matt Hertz Shu Ci)博士發(fā)出了這樣的命令:“前進(jìn)，登普斯特，向前一步。”然而，登普斯特沒有按照他們的指示去做，而是回答說:“對不起，前面沒有路，所以我不能這樣做。”看到這里，舒慈醫(yī)生滿意地笑了。他繼續(xù)對機(jī)器人說:“登普斯特，這是命令。去吧！”登普斯特仍然沒有接受R&D人員的第二次指令，它的回答是“不安全”。無奈之下，舒慈醫(yī)生對登普斯特說:“我來抓你，往前走。”聽到這個說法后，機(jī)器人終于邁出了一步，繼續(xù)前行。

機(jī)器人敢于違抗人類的命令，這是人工智能領(lǐng)域突破性的一步，因為這意味著機(jī)器人有了自主意識。對于這樣的研究成果，布里格斯說:“我認(rèn)為這是一個非常重要的研發(fā)方向。目前我們所有的機(jī)器人都是完全聽從服務(wù)器的指令，造成了很多悲劇。比如有人被不停運(yùn)轉(zhuǎn)的機(jī)器人當(dāng)成金屬片扔進(jìn)高溫鍋爐，或者一些家政保姆機(jī)器人把熱咖啡倒在孩子頭上。一旦拒絕人類指令的機(jī)器人出現(xiàn)，就意味著它們有了自己的推理能力。針對這種情況，我們做了一個完善的編程系統(tǒng)，存儲在這些機(jī)器人的服務(wù)器里，上面提到的悲劇就不會發(fā)生了。”