AI時(shí)代，以AI之名行騙的“偽AI”產(chǎn)品屢見不鮮，甚至影響越來越廣泛。

有位名叫阿文德·納拉亞南（Arvind Narayanan）的普林斯頓CS副教授坐不住了。他炮轟道：

某些公司為了賣貨，利用公眾的不了解，不管賣的是什么通通貼上“AI”的標(biāo)簽。

更可怕的是，像AlphaGo這樣優(yōu)秀的AI們吸引來了大量的投資者。光環(huán)之下，“偽AI”產(chǎn)品同樣能募集到巨額資金，甚至在資本的推動(dòng)之下，成為趨勢，影響越來越多的人。

阿文德以AI面試舉例?，F(xiàn)在，全球已有百萬求職者經(jīng)歷過或正在經(jīng)歷AI面試官的“凝視”。

提供這類產(chǎn)品的公司非只一家，其中最知名的HireVue，聲稱全球有超過700家公司使用他們的產(chǎn)品，其中不乏世界500強(qiáng)企業(yè)。目前，這家公司已募集資金9300萬美元（約合6.55億元人民幣）。

△康奈爾大學(xué)調(diào)研結(jié)果

阿文德指出：

沒有經(jīng)過同行評(píng)審的證據(jù)能夠表明，這些東西真的可以預(yù)測工作績效。數(shù)百萬求職者面對(duì)的不過是精心設(shè)計(jì)的隨機(jī)數(shù)生成器。

令人懷疑的，還遠(yuǎn)不只是這一種產(chǎn)品。

為了讓大家不被這樣的最新“智商稅”收割，阿文德決心教會(huì)大家如何識(shí)別這些AI界的騙子們。

他的這份“防騙指南”登場數(shù)小時(shí)，就已經(jīng)在推特上收獲了1500贊。

AI騙子長什么樣

首先，阿文德認(rèn)為，現(xiàn)在的AI應(yīng)用可以分成三類：

• 真正卓有成效的項(xiàng)目

• 不完美但進(jìn)展明顯的項(xiàng)目

• 根本不靠譜的項(xiàng)目

總結(jié)起來，在人臉識(shí)別這樣的感知任務(wù)，和推薦算法這樣的自動(dòng)判斷任務(wù)上，AI的表現(xiàn)都比較靠譜。

而“偽AI”嫌疑人所做的，是預(yù)測和人有關(guān)的“未來”。

人們無法預(yù)測未來本來應(yīng)該是常識(shí)，但遇上AI，常識(shí)總是被拋到腦后。

當(dāng)然，口說無憑，阿文德引用了普萊斯頓大學(xué)脆弱家庭和兒童福祉研究的一項(xiàng)研究結(jié)果（地址見文末）。

這項(xiàng)研究旨在探明孩子們的表現(xiàn)到底是不是可以預(yù)測的。

流程是這樣：先通過深入訪談和家庭觀察收集大量孩子及其家庭的數(shù)據(jù)。然后，用這些數(shù)據(jù)訓(xùn)練預(yù)測模型。輸入的變量有近13000個(gè)，輸出結(jié)果將預(yù)測這些孩子在15歲時(shí)6種表現(xiàn)。

如果模型能夠完美預(yù)測出結(jié)果，R^2=1，如果模型啥也沒學(xué)會(huì)，R^2=0。

但訓(xùn)練的結(jié)果，卻讓參與研究的研究人員們大跌眼鏡。

即使是表現(xiàn)最好的模型，也并沒有哪一項(xiàng)預(yù)測結(jié)果是讓人信服的，甚至不如用4個(gè)變量線性回歸擬合出來模型靠譜。

△綠線：4變量線性回歸結(jié)果

這一結(jié)果并非個(gè)例。在一項(xiàng)再犯罪率的預(yù)測研究中（論文鏈接見文末），AI的預(yù)測準(zhǔn)確率只比隨機(jī)結(jié)果好一點(diǎn)點(diǎn)，還是比邏輯回歸的結(jié)果低了2個(gè)百分點(diǎn)。

并且，不止是預(yù)測結(jié)果不靠譜，這樣的預(yù)測AI，還暗含著更多風(fēng)險(xiǎn)。

首先，訓(xùn)練這樣的AI需要收集大量個(gè)人隱私數(shù)據(jù)。誰都沒有辦法保證，這些數(shù)據(jù)會(huì)絕對(duì)安全。

其次，人們對(duì)這類AI的盲目信任，會(huì)使得一個(gè)領(lǐng)域的話語權(quán)，從領(lǐng)域?qū)＜液蛷臉I(yè)人員身上，大規(guī)模轉(zhuǎn)移到掌握AI的科技公司。

更重要的是，AI的黑盒子屬性使得它給出的結(jié)果缺乏解釋性。

就像是一開始舉的AI面試的例子，AI面試官給你打了個(gè)低分，誰也沒法兒解釋，到底是因?yàn)槟惚憩F(xiàn)不夠自信，還是你身邊的噪聲影響了它的判斷。

不是每一只AI都叫AlphaGo。阿文德承認(rèn)，人工智能在某些任務(wù)上表現(xiàn)得十分出色，但如果有人把AI當(dāng)成了萬金油，只為了分得AI風(fēng)口上的一杯羹，那么，就要擦亮雙眼，該反對(duì)反對(duì)，該抵制抵制。

一石激起千層浪

天下苦“偽AI”久矣。阿文德的“防騙指南”一經(jīng)公布，就在社交網(wǎng)絡(luò)上引發(fā)了熱烈的討論。

有人指責(zé)“人工智能”一次本就帶有營銷色彩，如果要討論技術(shù)，就應(yīng)該換一個(gè)詞。

有人提及，連Facebook、Google這樣的科技巨頭都在AI方面造假。

注：谷歌能夠自動(dòng)打電話、被稱贊通過圖靈測試的AI Duplex，被《紐約時(shí)報(bào)》曝出4次成功完成的任務(wù)中，有3次靠的是人工。

有人認(rèn)為，真正的AI會(huì)改變游戲規(guī)則，讓人無法忽視，也無需大肆宣傳。

還有人對(duì)“防騙指南”做出了補(bǔ)充：

我曾經(jīng)采訪過這樣一家AI初創(chuàng)公司。領(lǐng)英顯示，他們對(duì)開發(fā)人員不屑一顧，但對(duì)“培訓(xùn)師”卻頗為關(guān)注。

我很懷疑他們到底是不是真的在造AI。

自AlphaGo一鳴驚人，震驚世界以來，人工智能逐漸被推上高地，吸引了大量的資金、人才，也吸引了大眾的矚目。風(fēng)口之中，真正的硬核技術(shù)光芒四射，而這樣的光芒之中，也掩映著投機(jī)者的身影。

但濫竽充數(shù)者終會(huì)露出馬腳。你覺得呢？

以及，有什么AI項(xiàng)目是你覺得“偽AI”的嗎？

傳送門

PPT地址：
https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf

Hacker News討論：
https://news.ycombinator.com/item?id=21577156

普萊斯頓大學(xué)脆弱家庭和兒童福祉研究：
https://fragilefamilies.princeton.edu/about

累犯預(yù)測：
https://advances.sciencemag.org/content/4/1/eaao5580

— 完 —

量子位 QbitAI · 頭條號(hào)簽約