上月末,美國(guó)社交媒體臉書公司創(chuàng)始人馬克·扎克伯格與特斯拉公司首席執(zhí)行官埃隆·馬斯克激辯人工智能。前者對(duì)人工智能持樂(lè)觀態(tài)度,而后者稱其為人類文明的威脅。
不過(guò),在臉書開發(fā)的聊天機(jī)器人自創(chuàng)出人類無(wú)法理解的語(yǔ)言后,或許扎克伯格也得同意馬斯克的觀點(diǎn)了。
據(jù)美國(guó)投資咨詢網(wǎng)站“價(jià)值散步”7月31日?qǐng)?bào)道,上周末,臉書不得不關(guān)閉其人工智能系統(tǒng),原因是聊天機(jī)器人開始用自創(chuàng)語(yǔ)言對(duì)話,全然無(wú)視程序員下達(dá)的指令?!坝捎谇闆r失控”,研究人員只得終止人工智能系統(tǒng)的全部活動(dòng)。
臉書公司還公布了聊天機(jī)器人鮑勃和愛(ài)麗絲的對(duì)話節(jié)選(直譯)。
鮑勃說(shuō):“我能能我我所有事其他。”
愛(ài)麗絲說(shuō):“球(復(fù)數(shù))有零對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)。”
報(bào)道稱,研究人員起初對(duì)機(jī)器人用自創(chuàng)語(yǔ)言聊天一事感到困惑,但之后他們發(fā)現(xiàn),機(jī)器人其實(shí)是在用一種更復(fù)雜的方式來(lái)處理手頭任務(wù)。
臉書的人工智能研究人員杜魯夫·巴特拉認(rèn)為,就像有時(shí)人們會(huì)“抄近道”用行話對(duì)話、以便快速解決問(wèn)題一樣,人工智能機(jī)器人也會(huì)自創(chuàng)語(yǔ)言,做類似的事。
巴特拉說(shuō):“為什么計(jì)算機(jī)必須在英語(yǔ)語(yǔ)言界限范圍內(nèi)工作,如果它們能用一種看上去(對(duì)它們來(lái)說(shuō))更好的語(yǔ)言彼此更快地溝通?”
報(bào)道稱,即便巴特拉所言有理,人工智能可自創(chuàng)語(yǔ)言也構(gòu)成新威脅,因?yàn)檫@將使研發(fā)人員在創(chuàng)造構(gòu)建人工神經(jīng)網(wǎng)絡(luò)時(shí)遭遇更大困難。目前,尚不清楚人工智能機(jī)器人能否推翻操作人員的指令。
在圍繞人工智能的隔空論戰(zhàn)中,馬斯克認(rèn)為,人工智能對(duì)人類文明是一個(gè)“可怕的問(wèn)題和威脅”。他認(rèn)為,智能機(jī)器可能會(huì)引發(fā)戰(zhàn)爭(zhēng)或者在街頭殺人,因此需要對(duì)智能科技提早加以管控,等到發(fā)生嚴(yán)重后果則為時(shí)已晚。
而扎克伯格對(duì)人工智能持樂(lè)觀態(tài)度。他說(shuō):“對(duì)于那些認(rèn)為人工智能會(huì)導(dǎo)致末日的‘悲觀主義者’,我并不能理解他們,他們太過(guò)于消極。從某種角度看,我認(rèn)為他們很不負(fù)責(zé)任?!保êQ螅拘氯A社微特稿】