一区二区视频,99国产精品99久久久久久,亚洲精品国偷拍自产在线观看蜜桃,激情五月综合色婷婷一区二区

人類(lèi)控制：人類(lèi)應(yīng)該選擇如何以及是否將決策權(quán)交給人工智能系統(tǒng)，以完成人類(lèi)選擇的目標(biāo)。

什么時(shí)候才能讓機(jī)器做決定，而不是讓一個(gè)人來(lái)做決定呢?我們中的大多數(shù)人都允許地圖軟件選擇通往新地點(diǎn)的最佳路線，當(dāng)我們?cè)阢裤轿磥?lái)的人工智能自動(dòng)駕駛汽車(chē)的時(shí)候，我們中的許多人都很興奮地讓自動(dòng)駕駛汽車(chē)帶我們?nèi)ノ覀兊哪康牡?，但是你?zhǔn)備好讓你的車(chē)為你選擇目的地了嗎?汽車(chē)可能會(huì)意識(shí)到，你的最終目標(biāo)是吃飯、購(gòu)物或跑腿，但是大多數(shù)的情況下，我們有特定的商店或餐廳，所以可能并不想讓車(chē)輛為我們作出這些決定。

當(dāng)人工智能變得比人類(lèi)聰明得多時(shí)，我們?nèi)绾谓鉀Q控制的問(wèn)題?如果人工智能比我們更了解世界和我們的喜好，那么如果人工智能為我們做所有的決定會(huì)更好嗎?要解決這樣的問(wèn)題并不容易，幾乎每個(gè)人都同意這個(gè)人類(lèi)控制的問(wèn)題涉及到人工智能設(shè)計(jì)所面臨的一些最具挑戰(zhàn)性的問(wèn)題。

人類(lèi)控制意味著什么?

這是一個(gè)有趣的問(wèn)題，因?yàn)楝F(xiàn)在還不清楚違反這一規(guī)定意味著什么。在某種意義上，人工智能系統(tǒng)可以做出何種非人類(lèi)委托給系統(tǒng)的決策?人工智能是人類(lèi)創(chuàng)造的，這個(gè)原則，在實(shí)踐中，更多的是關(guān)于我們有意識(shí)地選擇讓機(jī)器做什么具體的決定。一種說(shuō)法是，我們不介意讓機(jī)器來(lái)做決定，但是不管他們做什么決定，我們都想讓他們自己來(lái)完成，但不能與我們?nèi)祟?lèi)的控制發(fā)生沖突。

比方說(shuō)，在一個(gè)像人一樣用腿走路的導(dǎo)航機(jī)器人中，控制它的人不可能決定每一個(gè)動(dòng)作的每個(gè)角度。人類(lèi)不會(huì)決定每只腳將在哪里著陸，但人類(lèi)會(huì)說(shuō)，我對(duì)機(jī)器做出這些決定感到滿意，只要它不與其他更高層次的命令發(fā)生沖突。

我們可能比許多人意識(shí)到的更接近于賦予人工智能決策權(quán)，在很多方面，我們已經(jīng)把控制權(quán)拱手讓給了機(jī)器，例如，在所有股票交易中，AIS占85%以上，包括發(fā)電廠、核反應(yīng)堆、電網(wǎng)、交通信號(hào)燈協(xié)調(diào)等，這些都是“死胡同”。有意義地控制這些復(fù)雜過(guò)程所需的復(fù)雜性和速度使人無(wú)法進(jìn)行有意義的控制。我們只是沒(méi)有足夠快的速度來(lái)應(yīng)對(duì)超快事件，比如那些在算法交易中出現(xiàn)的事件。我們也沒(méi)有足夠的能力記住成千上萬(wàn)的變量，或者理解復(fù)雜的數(shù)學(xué)模型。我們對(duì)機(jī)器的依賴(lài)只會(huì)增加，但只要他們做出了正確的決定(如果我們足夠聰明，有足夠的數(shù)據(jù)和足夠的時(shí)間，我們會(huì)做出正確的決定)，我們就可以接受他們做出這樣的決定。只有在機(jī)器決策偏離我們的情況下，我們才希望能夠干預(yù)。當(dāng)然，找出我們存在分歧的情況正是尚未解決的價(jià)值比對(duì)問(wèn)題。

我們擔(dān)心的是，與‘下一步該往哪里走’相比，機(jī)器會(huì)做出更復(fù)雜、更重要的決策。當(dāng)您有一臺(tái)機(jī)器可以開(kāi)放的、靈活的方式運(yùn)行時(shí)，您如何在不委托一切的情況下委派任何東西呢?當(dāng)你有一個(gè)為你工作的人，你有一些問(wèn)題需要解決，你說(shuō)，‘去找出它，’你沒(méi)有具體說(shuō)明，但在這個(gè)過(guò)程不要違反任何法律，也不要把公司所有的錢(qián)都花在解決這個(gè)小問(wèn)題上，人工智能機(jī)器人能找到我需要的東西嗎。

這是一個(gè)具體的說(shuō)明，從更一般的責(zé)任的想法，每一個(gè)決定要么是由一個(gè)人作出的，或明確委托給機(jī)器的。但一旦人工智能系統(tǒng)開(kāi)始以更靈活、開(kāi)放的方式運(yùn)行，這一系統(tǒng)將特別難以實(shí)現(xiàn)。

信任與責(zé)任

人工智能往往被比作兒童，無(wú)論是在學(xué)習(xí)的水平，一個(gè)系統(tǒng)已經(jīng)取得了，也是如何學(xué)習(xí)的系統(tǒng)。就像我們和一個(gè)孩子在一起一樣，我們也在猶豫是否要給一臺(tái)機(jī)器太多的控制，直到它被證明是安全可靠的。當(dāng)涉及到地圖、金融交易和電網(wǎng)運(yùn)行時(shí)，人工智能系統(tǒng)可能已經(jīng)贏得了我們的信任，但有人質(zhì)疑，隨著人工智能系統(tǒng)變得更加復(fù)雜，或者當(dāng)安全和福祉面臨更大風(fēng)險(xiǎn)時(shí)，這種趨勢(shì)能否持續(xù)下去。

然而，我們所看到的研究也表明，現(xiàn)在是最危險(xiǎn)的時(shí)刻，現(xiàn)在的人類(lèi)正在享受的機(jī)器運(yùn)轉(zhuǎn)帶來(lái)的便利，這是最危險(xiǎn)的情況。最近的研究發(fā)現(xiàn)，如果像自動(dòng)駕駛汽車(chē)這樣的系統(tǒng)很少出現(xiàn)問(wèn)題，人們就會(huì)停止關(guān)注，當(dāng)問(wèn)題出現(xiàn)時(shí)，人們很難重新聚焦和解決問(wèn)題。

必須先由人類(lèi)授權(quán)

已經(jīng)提到的決策機(jī)器的問(wèn)題外，如果出了問(wèn)題，誰(shuí)該負(fù)上責(zé)任呢?這與人類(lèi)控制和責(zé)任的觀念有關(guān)。如果你沒(méi)有人的控制，那么誰(shuí)是錯(cuò)誤的負(fù)責(zé)人就不清楚了。況且由人類(lèi)先授權(quán)可以讓人類(lèi)先判斷一下，這樣做是不是對(duì)人類(lèi)有益的，再?zèng)Q定是否同意。

你認(rèn)為如何?

人類(lèi)在任何時(shí)候都應(yīng)該控制機(jī)器的決定嗎?這有可能嗎?什么時(shí)候由機(jī)器來(lái)接管是合適的?很明顯，有時(shí)機(jī)器比人類(lèi)更有能力安全地處理一種情況，但這是最重要的嗎?什么時(shí)候你對(duì)一臺(tái)機(jī)器替你做決定感到舒服?還是你更愿意自己保持控制?