英國副總理警告說,除非政府采取行動,否則人工智能可能會破壞世界秩序的穩(wěn)定。
奧利弗·道登將告訴聯(lián)合國,發(fā)展速度可能會超出政府確保安全的能力。
英國將于11月舉辦全球峰會,討論人工智能監(jiān)管問題。
人們擔(dān)心,如果沒有規(guī)則,人工智能最終可能會摧毀就業(yè)機(jī)會、加劇錯誤信息或加劇歧視。
道登將在紐約舉行的聯(lián)合國大會上表示:“全球競爭性競賽的發(fā)令槍已經(jīng)打響,各個公司和國家都將努力盡可能快地突破界限?!?br />
“目前,全球監(jiān)管落后于當(dāng)前的進(jìn)步。”
過去,政府制定法規(guī)是為了應(yīng)對技術(shù)發(fā)展,但現(xiàn)在,規(guī)則的制定必須與人工智能的發(fā)展并行。
人工智能公司不應(yīng)該“給自己做作業(yè),就像政府和公民必須對風(fēng)險得到適當(dāng)緩解有信心一樣”。
只有民族國家采取行動才能讓公眾放心,最重要的國家安全擔(dān)憂已經(jīng)得到緩解。
不過,道登也警告說,不要“陷入關(guān)于它是行善工具還是作惡工具的爭論——它將成為兩者的工具”。
許多專家對一些人工智能系統(tǒng)能力的快速增強(qiáng)感到驚訝。薩里大學(xué)教授安德魯·羅戈斯基 (Andrew Rogoyski) 告訴 BBC 新聞:“我們已經(jīng)看到視野在壓縮?!?br />
但Faculty.ai的老板Marc Warner表示,區(qū)分旨在完成特定任務(wù)(例如在放射掃描中尋找癌癥跡象)的狹義人工智能和通用人工智能非常重要。
“這些都是強(qiáng)大的算法,具有新興的特性,目前我們無法……總能預(yù)測它們何時會發(fā)展,”他說。
“雖然我個人并不超級擔(dān)心當(dāng)前這一代技術(shù),但我認(rèn)為政府應(yīng)該開始展望越來越強(qiáng)大的版本以及可以采取的措施,這是明智的做法。
“我關(guān)注人工智能安全領(lǐng)域已有10或15年了,而兩三年前,沒有人關(guān)心這個話題。
“所以對我來說,即使開始一場國際對話,一場關(guān)于人工智能安全的嚴(yán)肅的國際對話,本身就是成功的?!?br />
其他領(lǐng)先的人工智能公司也同意有必要進(jìn)行監(jiān)管。最近在華盛頓舉行的科技巨頭閉門會議后,埃隆·馬斯克表示,對此達(dá)成了“壓倒性的共識”。
但查塔姆研究所國際事務(wù)智庫的亞斯明·阿菲納表示,迅速達(dá)成國際協(xié)議將很困難。
與核武器相比,“人們花了很多年的時間才就某些問題達(dá)成一致”,她說,“人工智能是如此復(fù)雜,作為一項技術(shù)如此不同,我不認(rèn)為就這樣的問題進(jìn)行談判會很容易?!比藗儠獾摹!?br />
小國家、邊緣化社區(qū)和少數(shù)民族人民也需要提供有意義的投入?!爸灰麄儾辉谡勁凶郎喜⑶覍?shí)際上沒有發(fā)言權(quán),他們就會被排除在外,”阿菲娜女士說。
英國首相蘇納克希望英國帶頭。但上個月,英國下議院科學(xué)、創(chuàng)新和技術(shù)委員會警告稱,如果不迅速出臺法律,歐盟的人工智能法案可能會成為全球標(biāo)準(zhǔn),取代英國的努力。
華納先生曾是現(xiàn)已解散的人工智能委員會成員,該委員會為政府提供咨詢服務(wù),他表示,如果英國準(zhǔn)備好投資,那么英國可能會在確保人工智能安全的技術(shù)方面處于領(lǐng)先地位。
“這感覺像是一條非常實(shí)用的中間道路,”他說,“因?yàn)槟壳皩?shí)際上并沒有那么多資金投入其中。”