強人工智能是一種真正能獨立思考、推理和解決問題的智能機器，并且，這樣的機器將被認為是有知覺的，有自我意識的，有自己的價值觀和世界觀體系，有和人類一樣的各種本能，比如生存和安全需求。強人工智能有兩種可能，一種是和人類的思維一樣，另一種則是屬于機器自己的思維方式和意識。許多人認為強人工智能才是真正的智能。強人工智能在未來很長的時間里，都將是研究的長遠目標。
弱人工智能是擅長單個方面的人工智能，例如，能戰(zhàn)勝人類圍棋手的Alpha Go，它圍棋下得好，但是如果你讓它畫畫，它就不行了。現(xiàn)在弱人工智能正在普及，我們介紹過的人臉識別、自動駕駛、微軟小冰，等等，都屬于弱人工智能。從弱人工智能到強人工智能，是人工智能發(fā)展的必經(jīng)之路。
一、烏鴉強于人工智能的智慧
一個人工智能科學家曾談到他觀察到的一個有趣現(xiàn)象：一只烏鴉想吃堅果，但是它敲不開果殼。有一次，它偶然發(fā)現(xiàn)堅果掉在公路上，會被汽車軋開，里面的果實會暴露出來，但是它知道自己不能就這樣飛到馬路上去吃，因為來往車輛也會軋到它，于是它看了看，發(fā)現(xiàn)馬路上亮紅燈的時候汽車不走，它就可以飛下去安全地吃堅果。而且它還根據(jù)自己的觀察，作出推論，這個地方觀察到的紅綠燈的情況，在另一個地方也適用。所以，它就作了這么一個決策，在有紅綠燈的地方，綠燈的時候把堅果丟下去，紅燈的時候再飛過去吃。
在這個例子里，烏鴉知道每個信息是什么意思，能夠在信息之間建立起因果關(guān)系，還能將得到的結(jié)論推演到其他情景中。
烏鴉的行為來自于它想吃到堅果的內(nèi)驅(qū)力。人有情緒、欲望、興趣，這些都是我們主動去干事的驅(qū)動力，而處于初級階段的人工智能則缺乏這種內(nèi)驅(qū)力。如果沒有人給它指令，它不會做事情，更不會像人類所擔心的那樣，自發(fā)地產(chǎn)生侵犯人類利益的思維。
二、人工智能的價值觀
現(xiàn)階段人工智能的價值觀來自于人類，決定將人工智能技術(shù)用作監(jiān)工的是人，決定人工智能監(jiān)工監(jiān)督尺度和尺度變化的是人，使人工智能學會區(qū)別對待不同人的也是人。所以，如果要避免人工智能對人類的“背叛”，恰恰需要我們與它們有更強的、更有建設(shè)性的互動，讓它們真正變成我們的幫手，讓它繼承、傳承我們合作、和諧共贏的價值觀。人工智能是人類發(fā)明的一個工具，就和人類發(fā)明的眾多其他工具一樣，它可以被用來造福人類，也可以被用來傷害人類。
