­　?。ㄔ瓨?biāo)題：阿西莫夫“機(jī)器人三定律”有瑕疵，“授權(quán)理念”才能保護(hù)人類(lèi)？）

­　　胡穎

­　　編者按：正如可以保護(hù)你、幫助你、支持你一樣，機(jī)器人也可能會(huì)傷害你。如何構(gòu)建一套放之四海皆準(zhǔn)的機(jī)器人行為原則，是科技工作者不得不面對(duì)的技術(shù)和倫理雙重難題。赫特福德大學(xué)的人工智能學(xué)者Christoph Salge博士撰文分享了自己的思考。

­　　如何避免機(jī)器人傷害他人？許多現(xiàn)有的機(jī)器人，比如在工廠(chǎng)里組裝汽車(chē)的機(jī)器人，在人類(lèi)接近的時(shí)候就會(huì)立即關(guān)閉電源。但是，這種簡(jiǎn)單粗暴的解決方案并不適用于自動(dòng)駕駛汽車(chē)，它可能需要在發(fā)生車(chē)禍時(shí)緊急移動(dòng)，或者是對(duì)于一個(gè)護(hù)士機(jī)器人來(lái)說(shuō)，因?yàn)樗赡苄枰诶先怂さ怪胺銎饘?duì)方。

­　　隨著機(jī)器人成為我們的仆人、伙伴和同事，我們需要處理日益復(fù)雜的情況，以及可能引發(fā)的倫理和安全問(wèn)題?？苹眯≌f(shuō)已經(jīng)預(yù)見(jiàn)了這個(gè)問(wèn)題，并提出了各種可能的解決方案。最著名的是阿西莫夫（Isaac Asimov）的機(jī)器人三原則，它們的提出是為了避免機(jī)器人傷害人類(lèi)。自2005年以來(lái)，我和我在赫特福德大學(xué)的同事們一直在研究一個(gè)可以替代的想法。

­　　我們認(rèn)為不應(yīng)該限制機(jī)器人的行為，機(jī)器人應(yīng)該被賦予最大限度發(fā)揮它們行動(dòng)能力的權(quán)利，這樣它們就可以為任何特定的場(chǎng)景挑選最好的解決方案。正如我們?cè)谝黄抡撐闹兴枋龅哪菢?，這一原則可能構(gòu)成一套新的通用準(zhǔn)則的基礎(chǔ)，以使人類(lèi)盡可能安全。

­　　阿西莫夫的三原則

­　　1. 機(jī)器人不可能傷害人類(lèi)，或者通過(guò)不作為，讓人類(lèi)受到傷害。

­　　2. 機(jī)器人必須服從人類(lèi)的命令，除非這樣的命令與第一定律相抵觸。

­　　3. 機(jī)器人必須保護(hù)自己的存在，只要這種保護(hù)不與第一或第二定律相抵觸。

­　　盡管這些原則聽(tīng)起來(lái)相當(dāng)有理，但無(wú)數(shù)批評(píng)已經(jīng)揭示了它的不足。Asimov自己的故事可以說(shuō)就是對(duì)自己所提出的這三項(xiàng)原則的解構(gòu)了，展示了它們?cè)诓煌那闆r下是如何失效的。目前，大多數(shù)試圖起草新指導(dǎo)方針的嘗試都遵循了類(lèi)似的原則，以創(chuàng)造出安全、順從和有效的機(jī)器人。

­　　任何明確制定的機(jī)器人指導(dǎo)方針?biāo)嬖诘囊粋€(gè)問(wèn)題是——我們需要將它們轉(zhuǎn)換成機(jī)器人能夠處理、理解和運(yùn)用的格式。理解人類(lèi)語(yǔ)言和語(yǔ)言背后的生活經(jīng)驗(yàn)對(duì)于一個(gè)機(jī)器人來(lái)說(shuō)是非常困難的。寬泛的行為目標(biāo)，例如避免對(duì)人類(lèi)造成傷害或保護(hù)機(jī)器人自身的存在，在不同的情況下可能意味著不同的東西。遵守這些規(guī)則可能最終會(huì)讓機(jī)器人無(wú)法像它的創(chuàng)造者所希望的那樣行事。

­　　新理念：授權(quán)

­　　我們的另一種理念——授權(quán)，代表著無(wú)助的反面。被授權(quán)意味著有能力、并意識(shí)到你可以產(chǎn)生影響。我們一直在開(kāi)發(fā)將這個(gè)社會(huì)概念轉(zhuǎn)化為可量化和可操作的技術(shù)語(yǔ)言的方法。這將使機(jī)器人能夠保持它們的選擇，并以一種增加它們對(duì)世界的影響的方式行動(dòng)。

­　　當(dāng)我們嘗試模擬機(jī)器人如何在不同的場(chǎng)景中使用授權(quán)原則時(shí)，我們發(fā)現(xiàn)它們通常會(huì)以令人驚訝的“自然”的方式行動(dòng)。它通常只要求他們對(duì)真實(shí)世界的運(yùn)作模式進(jìn)行建模，但不需要任何專(zhuān)門(mén)的人工智能編程來(lái)處理特定的場(chǎng)景。

­　　但是為了保證人們的安全，機(jī)器人需要努力維持或改善人類(lèi)的授權(quán)，以及他們自己的賦權(quán)。這基本上意味著要具有保護(hù)能力和支持性。為人打開(kāi)一扇鎖著的門(mén)會(huì)增加他們的賦權(quán)。限制人類(lèi)將會(huì)導(dǎo)致對(duì)機(jī)器人的短期授權(quán)失效。而對(duì)人類(lèi)的嚴(yán)重傷害可能會(huì)完全消除機(jī)器人被賦予的權(quán)力。與此同時(shí)，機(jī)器人必須努力保持自身的運(yùn)作力量，例如確保它有足夠的能量來(lái)運(yùn)作，而不會(huì)被卡住或損壞。

­　　機(jī)器人可以適應(yīng)新的環(huán)境

­　　使用這一通用原則，而不是預(yù)先設(shè)定的行為規(guī)則，可以讓機(jī)器人考慮環(huán)境，并評(píng)估人們未曾設(shè)想過(guò)的場(chǎng)景。例如，機(jī)器人不會(huì)總是遵循“不能推人類(lèi)”的規(guī)則，而是會(huì)在人們可能被一個(gè)墜落物砸到之前將他們推出去。人可能仍會(huì)受到傷害，然而這種傷害相比之下更小。

­　　在電影《I, Robot》中，機(jī)器人處在一個(gè)令人壓抑的狀態(tài)中，通過(guò)限制和“保護(hù)”來(lái)減少對(duì)人類(lèi)的整體傷害。但我們的原則是避免這樣的情況，因?yàn)檫@意味著機(jī)器人失去了人類(lèi)的賦權(quán)。

­　　盡管“授權(quán)”提供了一種新的思考安全機(jī)器人行為的方式，但我們?nèi)杂性S多工作要做。我們要提高它的效率，這樣它就可以很容易地部署在任何機(jī)器人上，并外化為機(jī)器人良好、安全的行為。這是一個(gè)非常困難的挑戰(zhàn)，但是，我們堅(jiān)信，授權(quán)可以讓我們找到一個(gè)切實(shí)可行的解決方案，來(lái)解決當(dāng)前充滿(mǎn)爭(zhēng)議的問(wèn)題，即如何控制機(jī)器人的行為，以及如何讓機(jī)器人——在最基本的意義上——“具備道德倫理”。

­　　編譯組出品。編輯：郝鵬程

­