在最近 MIT 科技評(píng)論的專訪中，DeepMind 聯(lián)創(chuàng)，Inlfection AI 創(chuàng)始人表示，他們已經(jīng)將 AI 毒性去除，生成式 AI 只是過(guò)渡，未來(lái) AI 將獲得像人一樣的自由。

　　DeepMind 的聯(lián)合創(chuàng)始人，Inflection AI 的創(chuàng)始人，Mustafa Suleyman 接受了 MIT 科技評(píng)論對(duì)他進(jìn)行了一次線上專訪，在專訪中，他拋出觀點(diǎn)：

　　現(xiàn)階段的生成式 AI 只是一個(gè)技術(shù)階段，接下來(lái)會(huì)進(jìn)入交互式 AI 的時(shí)代：AI 將會(huì)成為能夠根據(jù)每個(gè)用戶的不同任務(wù)需求去調(diào)用其他軟件和人來(lái)完成工作的機(jī)器人。

　　他創(chuàng)辦的公司——Inflection AI 的目標(biāo)，不僅僅是一個(gè)聊天助手，而是想要通過(guò) AI 讓世界上的絕大多數(shù)人獲得更加平等的資源和信息。

　　最后，他還呼吁政府要積極的對(duì) AI 進(jìn)行監(jiān)管，并認(rèn)為將 AI 在現(xiàn)有制度下進(jìn)行監(jiān)管不難實(shí)現(xiàn)。

　　也許與 Suleyman 有相似看法的人并不少，但與大多數(shù)人不同的是，是一個(gè)估值數(shù)十億美元的公司——Inflection AI 的領(lǐng)導(dǎo)者。

　　這個(gè)公司擁有來(lái)自 DeepMind、Meta 和 OpenAI 的頂級(jí)人才，并且通過(guò)與英偉達(dá)的合作擁有全球最大的專業(yè) AI 硬件算力儲(chǔ)備。

　　我們正處于 AI 技術(shù)的三波浪潮中的第二波

　　在 Sulyman 看來(lái)，第一波 AI 浪潮是關(guān)于分類(Classification)的。深度學(xué)習(xí)表明，人類可以訓(xùn)練計(jì)算機(jī)對(duì)各種類型的輸入數(shù)據(jù)進(jìn)行分類：圖像、視頻、音頻、語(yǔ)言。

　　現(xiàn)在處于第二波浪潮，生成式 AI 之中，輸入數(shù)據(jù)并生成新數(shù)據(jù)。

　　第三波浪潮將是交互式 AI。他一直認(rèn)為對(duì)話是未來(lái)的交互界面。用戶不僅僅是點(diǎn)擊按鈕和鍵入文字，用戶還會(huì)與 AI 進(jìn)行直接的對(duì)話。

　　這些 AI 將能夠自主采取行動(dòng)。只需要給它一個(gè)一般性的、終局的目標(biāo)，AI 將使用所有工具來(lái)實(shí)現(xiàn)這個(gè)目標(biāo)。

　　它們會(huì)與其他人對(duì)話，與其他 AI 對(duì)話。這就是他將要用 Pi 來(lái)實(shí)現(xiàn)的東西。

　　這是技術(shù)能力的巨大升級(jí)。這是技術(shù)史上一個(gè)影響非常、非常深遠(yuǎn)的時(shí)刻，他認(rèn)為許多人都低估了技術(shù)的潛力。

　　AI 技術(shù)現(xiàn)在依然還是靜態(tài)的。它基本上是按照你告訴它的方式去做事。

　　但技術(shù)將變得有生命力。如果用戶給予 AI 充分的自由，AI 就能去利用這種自由去采取行動(dòng)。

　　這確實(shí)是人類歷史上一個(gè)質(zhì)的飛躍，我們正在創(chuàng)建具有這種智能體能力的工具。

　　人類將始終是主導(dǎo)者。人類需要確定 AI 不能越過(guò)邊界的限制，并確保這些邊界從實(shí)際代碼到與其他 AI 或人類的互動(dòng)，再到創(chuàng)造技術(shù)的公司的動(dòng)機(jī)和激勵(lì)，都能提供可證明的安全性。

　　早年經(jīng)歷對(duì)自己價(jià)值觀和創(chuàng)業(yè)的影響

　　當(dāng)被問(wèn)到他與眾不同的職業(yè)經(jīng)歷和傳統(tǒng)的「硅谷風(fēng)」截然不同，而這些經(jīng)歷對(duì)于他在硅谷創(chuàng)業(yè)有什么影響時(shí)，Suleyma 回答道：

　　他一直對(duì)權(quán)力、政治等方面很感興趣。他覺(jué)得人類基本原則是妥協(xié)的產(chǎn)物。依靠的是不同的、相互沖突的力量之間持續(xù)不斷的協(xié)商才能達(dá)成的一種動(dòng)態(tài)平衡。

　　雖然人類在不斷地解決問(wèn)題——但是人類依然會(huì)被自身的偏見(jiàn)和認(rèn)知盲區(qū)所限制。

　　民間組織、地方政府、中央政府、國(guó)際組織等等——都會(huì)受到自身的限制而沒(méi)有辦法高效的，不犯錯(cuò)的運(yùn)作。

　　想象一下，如果人類不會(huì)犯錯(cuò)誤，將會(huì)出現(xiàn)什么情況?

　　他覺(jué)得人類有可能構(gòu)建出真正反映自身利益的 AI，并最終更一致、更公平地代表所有人做出更好的利弊權(quán)衡。

　　(1984 年，Sulyman 出生于倫敦北部，父親是敘利亞人，母親是英國(guó)人。他在貧困中長(zhǎng)大，16 歲時(shí)，父母分居，兩人都移居國(guó)外，留下他和弟弟自謀生路。

　　Sulyman 上的是伊麗莎白女王學(xué)校(Barnet 的一所男子文法學(xué)校)。大概在那個(gè)時(shí)候，他通過(guò)他最好的朋友，認(rèn)識(shí)了 DeepMind 的聯(lián)合創(chuàng)始人 Demis Hassabis。Sulyman 說(shuō)，他和 Demis Hassabis 經(jīng)常討論他們將如何影響世界。

　　后來(lái)他被牛津大學(xué)錄取，學(xué)習(xí)哲學(xué)和神學(xué)，但一年后就退學(xué)了。

　　之后與他的大學(xué)朋友 Mohammed Mamdani 一起創(chuàng)辦了穆斯林青年幫助熱線，這是一項(xiàng)電話咨詢服務(wù)。該組織后來(lái)成為英國(guó)最大的穆斯林心理健康支持服務(wù)機(jī)構(gòu)。

　　隨后，Sulyman 在倫敦市長(zhǎng) Ken Livingstone 手下?lián)稳藱?quán)政策官員，之后創(chuàng)辦了 Reos Partners，這是一家「系統(tǒng)性變革」咨詢公司，利用解決沖突的方法來(lái)解決社會(huì)問(wèn)題。

　　作為一名談判代表和調(diào)解人，Suleyman 曾為聯(lián)合國(guó)、荷蘭政府和世界自然基金會(huì)等一系列的客戶工作。)

　　Suleyma 說(shuō)，離開(kāi) DeepMind 后，他已經(jīng)財(cái)務(wù)自由了。不需要去創(chuàng)業(yè)或者寫(xiě)書(shū)賺錢(qián)來(lái)養(yǎng)活自己。

　　錢(qián)從來(lái)都不是工作的動(dòng)力。錢(qián)是工作的副產(chǎn)品。

　　對(duì)他來(lái)說(shuō)，工作的目標(biāo)從來(lái)沒(méi)有變過(guò)，就是如何讓世界變得更好，以及如何以一種健康、令人滿意的方式推動(dòng)世界前進(jìn)。

　　即使在 2009 年那時(shí)，當(dāng)他開(kāi)始考慮進(jìn)入科技行業(yè)時(shí)，他就看到了 AI 技術(shù)代表了一種在世界上提供服務(wù)的公平和準(zhǔn)確的方式。

　　(Suleyman 與 Hasabiss 共同創(chuàng)立了人工智能公司 DeepMind Technologies，擔(dān)任首席產(chǎn)品官。DeepMind 于 2014 年被谷歌收購(gòu)，他成為 DeepMind 人工智能的負(fù)責(zé)人。

　　2022 年 1 月，Suleyman 離開(kāi)谷歌，加入 Greylock Partners，擔(dān)任風(fēng)險(xiǎn)合伙人。

　　2022 年 3 月，Suleyman 與 Greylock 的 Reid Hoffman 共同創(chuàng)立了 AI 實(shí)驗(yàn)室 Inflection AI。

　　該公司成立的目標(biāo)是利用「人工智能幫助人類與計(jì)算機(jī)對(duì)話」，從谷歌和 Meta 等公司招募了前員工，并在第一輪融資中籌集了 2.25 億美元。

　　隨后在今年 7 月，得到了來(lái)自微軟、英偉達(dá)、比爾·蓋茨和 LinkedIn 創(chuàng)始人 Reid Hoffman 的 15 億美元投資。

　　Inflection AI 拿到融資之后，馬上就購(gòu)買(mǎi)了價(jià)值 13 億美元的英偉達(dá) H100 GPU，搭建了世界上最大的 GPU 集群之一。

　　今年早些時(shí)候，他發(fā)布了一款名為 Pi 的 ChatGPT 競(jìng)品。他還與作家和研究員 Michael Bhaskar 合著了一本關(guān)于 AI 未來(lái)的書(shū)，名為《即將到來(lái)的浪潮：技術(shù)、權(quán)力和 21 世紀(jì)最大的困境》。)

　　如何看待技術(shù)的負(fù)面影響

　　他認(rèn)為過(guò)于糾結(jié)于誰(shuí)是樂(lè)觀主義還是悲觀主義沒(méi)有太大的意義。這是有偏見(jiàn)的看待事物的方式。他只想冷靜地分析利益和挑戰(zhàn)。

　　站在他的立場(chǎng)上，可以非常清晰地看到，隨著大型語(yǔ)言模型規(guī)模的進(jìn)一步提升，它們變得更易控制。

　　所以兩年前，當(dāng)時(shí)的觀點(diǎn)——他當(dāng)時(shí)就認(rèn)為是錯(cuò)誤的——是「哦，它們只會(huì)產(chǎn)生有毒的、反芻的、有偏見(jiàn)的、種族主義的內(nèi)容。」

　　但是這些情況都只是暫時(shí)的。人們忽視了技術(shù)不斷地進(jìn)展，沒(méi)有真正理解技術(shù)向前發(fā)展的軌跡。

　　現(xiàn)在 Pi 這樣的模型，非常的可控。Inflection AI 可以不讓 Pi 產(chǎn)生種族主義、同性戀歧視、性別歧視——任何形式的有毒內(nèi)容。

　　能讓它拒絕教用戶制造生物或化學(xué)武器，或者鼓勵(lì)用戶去砸鄰居的窗戶。

　　至于如何實(shí)現(xiàn)，Suleyma 不想透露過(guò)多的技術(shù)細(xì)節(jié)，但是他說(shuō)，請(qǐng)放心大膽地去實(shí)驗(yàn)!Pi 已經(jīng)上線了，用戶可以嘗試所有可能的攻擊方式。

　　針對(duì) Pi 的任何越獄、提示黑客攻擊或任何事情都不起作用。這就是一個(gè)客觀事實(shí)。

　　Inflection AI 有世界上最強(qiáng)大的團(tuán)隊(duì)，在過(guò)去三四年里創(chuàng)造了所有最大的語(yǔ)言模型。

　　這是一個(gè)非常出色的團(tuán)隊(duì)，在一個(gè)非常高效的環(huán)境中工作，擁有大量的計(jì)算資源。

　　他們一開(kāi)始就把安全作為第一優(yōu)先事項(xiàng)，因此，Pi 沒(méi)有像其他公司的模型那樣那么「火辣」。

　　看看 Character.ai。(Character 是一個(gè)聊天機(jī)器人，用戶可以為其設(shè)計(jì)不同的「角色」，并在線分享給其他人聊天。做鏈接) 它的功能主要用來(lái)創(chuàng)造天馬行空的角色，但是 Inflection AI 一開(kāi)始就覺(jué)得這不是一個(gè)好的方向——他們不會(huì)做這樣的功能。

　　Pi 會(huì)非常尊重你。如果你開(kāi)始抱怨你社區(qū)的移民搶了你的工作，Pi 不會(huì)指責(zé)你，不會(huì)對(duì)你指手畫(huà)腳。

　　Pi 會(huì)關(guān)心地詢問(wèn)并給你提供語(yǔ)言和心理上的支持。它會(huì)試圖了解用戶這種情緒從何而來(lái)，并溫和地鼓勵(lì)你去同情別人。這些都是我思考了 20 年的價(jià)值觀。

　　但被問(wèn)到如果開(kāi)源這些技術(shù)能讓世界變得更好的話，為什么不開(kāi)源。

　　Sulyman 強(qiáng)調(diào)，自己畢竟在經(jīng)營(yíng)公司，得掙錢(qián)養(yǎng)活大家，之前買(mǎi)了英偉達(dá) 13 億的 GPU，得賺錢(qián)滿足投資者對(duì)回報(bào)的要求。

　　現(xiàn)在開(kāi)源生態(tài)系統(tǒng)正在蓬勃發(fā)展，做得相當(dāng)不錯(cuò)，開(kāi)源社區(qū)也發(fā)現(xiàn)類似的方法。Suleyman 只假設(shè)他們最多領(lǐng)先六個(gè)月。

　　AI 監(jiān)管如何有效進(jìn)行

　　對(duì)他而言，開(kāi)發(fā) AI 遞歸自我改進(jìn)的技術(shù)需要被監(jiān)管起來(lái)，小型 AI 在沒(méi)有你的監(jiān)督下去更新自己的代碼是危險(xiǎn)的，也許這甚至應(yīng)該是一個(gè)需要許可的行為。

　　或許需要像處理炭疽或核材料一樣，有專門(mén)的機(jī)制來(lái)監(jiān)管這種行為。

　　他還認(rèn)為，對(duì)于 AI 的恐懼是完全沒(méi)有必要的。AI 監(jiān)管完全可以落腳在現(xiàn)在的監(jiān)管框架之內(nèi)。AI 只是治理體系的另一個(gè)組成部分。

　　人類在規(guī)范超復(fù)雜事物方面做得非常出色。以聯(lián)邦航空管理局為例：我們都已經(jīng)習(xí)慣乘坐這些鋁制管道在四萬(wàn)英尺的高空飛行，而這是有史以來(lái)最安全的交通方式之一。這就是監(jiān)管成功的例子。