霍金警告:“謹(jǐn)慎對(duì)待人工智能” 細(xì)思極恐

今日頭條
磊磊科學(xué)
對(duì)于影響未來的技術(shù),人工智能必須算一個(gè)。由于算法的進(jìn)步,目前人工智能的迭代學(xué)習(xí)能力正飛速發(fā)展,看看阿爾法狗就知道,幾個(gè)月的學(xué)習(xí)就能造就圍棋巔峰水平,KO人類最強(qiáng)棋手。 "走"中國(guó)桌游 正...

對(duì)于影響未來的技術(shù),人工智能必須算一個(gè)。由于算法的進(jìn)步,目前人工智能的迭代學(xué)習(xí)能力正飛速發(fā)展,看看阿爾法狗就知道,幾個(gè)月的學(xué)習(xí)就能造就圍棋巔峰水平,KO人類最強(qiáng)棋手。

"走"中國(guó)桌游

正是因?yàn)槌旱膶W(xué)習(xí)能力,有些人開始擔(dān)憂機(jī)器會(huì)不會(huì)脫離人類而自主存在。物理學(xué)家霍金曾警告謹(jǐn)慎對(duì)待人工智能,它的瘋狂崛起是人類文明的大事,也可能導(dǎo)致人類文明的終結(jié)。而所有的擔(dān)憂歸根揭底來自于有關(guān)機(jī)器人意識(shí)的存在與否。

毋庸置疑目前的機(jī)器人是沒有真正存在意識(shí)的,但是,未來呢?50多年前,科幻作家阿西莫夫在他的機(jī)器人科幻作品中就定義了機(jī)器人的三大定律。而這一切的出發(fā)點(diǎn)就是未來人工智能的發(fā)展,機(jī)器人所產(chǎn)生的意思形態(tài)。

一、機(jī)器人不得傷害人類個(gè)體,或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管

二、機(jī)器人必須服從人給予它的命令,當(dāng)該命令與第一定律沖突時(shí)例外

三、機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存

雖然這是三個(gè)世紀(jì)50年代的科幻作品,但是對(duì)我們現(xiàn)在對(duì)人工智能的理解還是很具有借鑒意義。

機(jī)器人工作與數(shù)字平板電腦

我們不去討論這機(jī)器人三大定律,現(xiàn)在最本質(zhì)的問題是機(jī)器人會(huì)不會(huì)產(chǎn)生意識(shí),產(chǎn)生何種意識(shí)。由于目前的人工智能都采用機(jī)器學(xué)習(xí)的算法,類似于物種進(jìn)化的法則,會(huì)不會(huì)進(jìn)化出意思?首先何為意識(shí),這個(gè)沒有明確的答案,哲學(xué)家可能也還沒想明白這個(gè)事。但是,人類為什么會(huì)有意識(shí),還是可以思考一下。根據(jù)進(jìn)化論,人類從猿變?yōu)槿?,邁出的第一步至關(guān)重要。為什么要邁出這一步?很可能是生存的壓力,導(dǎo)致猿猴們不得不做出些改變,不得不思考一些從未想過的事物。而生存的壓力來自于哪里,競(jìng)爭(zhēng),競(jìng)爭(zhēng)引導(dǎo)人類的進(jìn)化方向!一旦人開啟了主動(dòng)思考的大門,越過這一道砍之后,就開始了迅速的進(jìn)化,成為食物鏈的頂端。

從猿到人的人類進(jìn)化的概念。發(fā)展進(jìn)步,靈長(zhǎng)類動(dòng)物成長(zhǎng),祖先和人類,穴居人和尼安德特人

機(jī)器人會(huì)不會(huì)也發(fā)生這樣的可能,進(jìn)化出意識(shí)呢?誰也不知道,由于機(jī)器具備超強(qiáng)的記憶力和無盡的迭代循環(huán)學(xué)習(xí)的能力,在人類交辦的任務(wù)上,會(huì)有類似于思維模式的思考。在未來機(jī)器人普及的時(shí)代,如果你給機(jī)器人提一個(gè)要求,你的問題機(jī)器人解決不了,它是宕機(jī)了還是開啟其他的解決方式呢?比如尋求其他機(jī)器人幫忙或者從規(guī)則不允許的方向上幫你解決掉。破環(huán)規(guī)則很可能開啟另一片天地。另一個(gè)問題就是,機(jī)器人多了,必然會(huì)產(chǎn)生競(jìng)爭(zhēng),機(jī)器人之間的競(jìng)爭(zhēng)也可能會(huì)發(fā)生,競(jìng)爭(zhēng)的發(fā)生會(huì)導(dǎo)致算法的升級(jí),這一次次的升級(jí)會(huì)不會(huì)促成機(jī)器人的覺醒?

關(guān)于機(jī)器人的覺醒的影視作品很多,像《西部世界》就講訴了機(jī)器人覺醒給人類帶來的巨大災(zāi)難。目前對(duì)于機(jī)器意思有很多理論,奇點(diǎn)理論認(rèn)為人工智能到產(chǎn)生意識(shí)存在一個(gè)奇點(diǎn),怎么理解呢?就是現(xiàn)在的機(jī)器人都還是0.99,它的每一次進(jìn)化都是乘以0.99,所以它進(jìn)化的再快,也在1之下,也就是在人類的掌控之中。而覺醒相當(dāng)于越過了1這道坎,成為了1.01。經(jīng)過幾十代進(jìn)化后就成為了一個(gè)巨大的數(shù)字,成了人類無法掌控甚至威脅人類的存在。這也是目前對(duì)于機(jī)器能不能生產(chǎn)出意識(shí)最激烈的討論。

人工智能大大方便了我們的生活,智能機(jī)器人會(huì)產(chǎn)生意思嗎?算法的迭代會(huì)突破1,導(dǎo)致人類無法掌控的局面嗎?現(xiàn)在還都不得而知。

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無評(píng)論