據彭博社報道，馬斯克倡導成立的AI研究機構OpenAI周四展示一款軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。

OpenAI公布了軟件編寫新聞的過程。研究人員給軟件提供如下信息：“一節裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。”以此作為基礎，軟件編寫出由7個段落組成的新聞，軟件還引述政府官員的話語，只是這些信息全是假的。

紐約大學計算機科學家山姆·鮑曼(Sam Bowman)認為：“軟件根據提示生成的文本相當驚人，從品質上講，它所做的事比之前我們看到的復雜很多。”

假新聞引起人們的擔憂，OpenAI對此心知肚明，OpenAI政策主管杰克·克拉克(Jack Clark)說：“它可以生成連貫但不準確的虛假信息，其目的并不是很好。”

正因如此，OpenAI不會披露或者發布軟件的復雜版本。它只是開發一個工具，讓政策制定者、記者、作家、藝術家用算法做實驗，看看能編寫什么文本信息，或者能否做其它事情。

目前虛假信息正在蔓延，威脅全球科技產業，而軟件能夠編寫逼真的虛假新聞不是一個好消息。歐洲監管機構已經向科技企業發出警告，如果科技公司不采取強有力措施，防止產品影響選民意愿，它們就會采取行動，自2016年美國大選以來，Facebook一直在努力，希望控制虛假信息。

克拉克和鮑曼都認為，系統雖然很強大，但其能力沒有強到可以馬上帶來威脅。克拉克說：“這不是一項馬上能投入使用的技術，這是好事。”

OpenAI的工具是為了所謂的“語言建模”任務創造的，它要根據所有之前的單詞預測接下來的文本會是怎樣的，有點類似于我們在手機上寫郵件時自動補充文本信息。它還可以用來執行翻譯、開放式問答任務。

OpenAI研究人員杰夫·吳(Jeff Wu)舉例說，我們也許可以用工具幫助作家尋找創意或者生成對話。又例如，也許可以用工具檢查語法錯誤，查看軟件代碼是否有漏洞。優化軟件之后，未來也許還能為企業或者政府決策者提煉總結性文本。

在過去一年里，研究人員在語言處理方面取得巨大進步。去年11月，谷歌開發出一個強大的算法BERT，它可以理解并回答問題。早些時候，艾倫人工智能研究所也在自然語言方面取得突破，開發出一種名叫Elmo的算法。

鮑曼認為，BERT和Elmo可以說是過去5年該領域最重大的突破，相比來說，雖然OpenAI算法也很重要，但是革命性沒有BERT那么強。

馬斯克是OpenAI的聯合創始人，不過去年他已經退出董事會。

關鍵詞：