圖靈獎(jiǎng)得主、中國科學(xué)院院士、清華大學(xué)交叉信息研究院院長、清華大學(xué)人工智能學(xué)院院長姚期智發(fā)表演講。
姚期智演講的核心觀點(diǎn)有：
1.AI未來核心發(fā)展方向是達(dá)成具備類人認(rèn)知推理能力的AGI，其在科學(xué)、戰(zhàn)略、經(jīng)濟(jì)層面意義重大。
2.中國近5年在大模型、具身智能領(lǐng)域進(jìn)步迅猛，已躋身國際第一方陣甚至領(lǐng)先，另外兩大方向也有發(fā)展。
3.具身智能需硬件身體與“小腦”“大腦”結(jié)合，能完成靈巧任務(wù)，可彌補(bǔ)傳統(tǒng)機(jī)器人不足，替代部分人類不愿做的工作。
4.科學(xué)智能將顛覆科研方式，未來科學(xué)家需與AI協(xié)同，AI還能助力量子計(jì)算機(jī)研發(fā)，尤其在量子糾錯(cuò)上成效顯著。
5.谷歌借助AI神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)量子比特糾錯(cuò)，為大規(guī)模量子計(jì)算機(jī)發(fā)展奠定基礎(chǔ)，中國相關(guān)團(tuán)隊(duì)具備競爭力。
6.AI存在算法不魯棒、沖擊社會(huì)倫理、導(dǎo)致失業(yè)及失控等風(fēng)險(xiǎn)，需重視安全性與治理問題。
7.應(yīng)對AI風(fēng)險(xiǎn)需研發(fā)安全對齊算法，借助多學(xué)科理論構(gòu)建可證明安全的AI系統(tǒng)，同時(shí)建立國際治理共識(shí)。
8.中美歐科學(xué)家已發(fā)起定期對話，推動(dòng)AI治理的國際合作與交流。
9.大模型革新各行業(yè)，中長期AI將向AGI邁進(jìn)，賦能科學(xué)且需保障安全可靠，發(fā)展前景廣闊。
10.中國不缺AI應(yīng)用人才與場景，關(guān)鍵是培養(yǎng)尖端創(chuàng)新人才，助力AI持續(xù)突破。
以下是姚期智演講正文：
非常高興有機(jī)會(huì)能夠和大家在這兒見面。
我今天想和大家談?wù)勅斯ぶ悄艿奈磥戆l(fā)展。無論怎么樣看，人工智能未來發(fā)展最重要的下一步就是怎么樣能夠達(dá)到大家都滿意的AGI，就是通用人工智能。AGI的定義，它能夠讓機(jī)器具有認(rèn)知推理、復(fù)雜場景種種的相似人的能力。如今的人工智能既能夠?qū)崿F(xiàn)部分功能，離AGI的理想還有一些距離。
因?yàn)锳GI一旦完成了以后，它的效用非常強(qiáng)大，所以它不但是科學(xué)上，而且是戰(zhàn)略上、經(jīng)濟(jì)上，各國經(jīng)濟(jì)的科技高地。
未來我們走向通用人工智能，到底會(huì)在哪幾個(gè)方向發(fā)展呢？當(dāng)然會(huì)有很多不同的可能性，將來會(huì)陸續(xù)涌現(xiàn)。但是從現(xiàn)在看來，下面四個(gè)方面是不可避免的。中國非?？上驳木褪窃谶^去5年里面，在“十四五”規(guī)劃里面做出了非常令人驚訝，而且欽佩的工作。特別是大模型技術(shù)演化方面，還有具身智能，就是智能機(jī)器人方面，在過去5年，中國基本上從一個(gè)和國際上有相當(dāng)距離的程度，到達(dá)了能夠在第一方陣，甚至領(lǐng)先的地步。另外兩項(xiàng)，中國也有不少的發(fā)展。
大模型的演進(jìn)不多講了，基本上智能越高，可以做的事兒越大。關(guān)于人工智能大模型怎么樣做得更好，甚至有一些不同的方式來做，這都是一個(gè)非常重要的方向。因?yàn)榻裉熘vAI+，所以不談大模型演化部分了。
第一，關(guān)于具身智能，顧名思義，它需要有一個(gè)硬件的身體，需要有一個(gè)小腦，像人一樣，能夠讓它的行動(dòng)更加穩(wěn)定、更加敏捷，同時(shí)還需要進(jìn)一步有一個(gè)大腦，能夠有各種認(rèn)知，各種決策，各種計(jì)劃的能力。
人工智能機(jī)器人，一方面是科學(xué)研究的高地，原因就是我們怎么樣從大語言模型變成具有物理知識(shí)，能夠了解世界的智能，這在科學(xué)上非常重要；另一方面在經(jīng)濟(jì)上、產(chǎn)業(yè)上非常重要，因?yàn)樗旧夏軌蜓a(bǔ)足以前機(jī)器人產(chǎn)業(yè)比較呆板的不足，使得機(jī)器人加上小腦、大腦，基本上就有這個(gè)可能性，能夠替人取代很多我們不想做的工作。
國內(nèi)和世界的機(jī)器人的成就，大家耳熟能詳，今天王興興王總等下也會(huì)和大家談，我現(xiàn)在跟大家談一下，大學(xué)里面對于具身智能也做得非常出色。今天清華大學(xué)有兩個(gè)教授設(shè)立了展示廳。
這是星動(dòng)紀(jì)元，這是用強(qiáng)化學(xué)習(xí)做的，跳得非常高，達(dá)到世界紀(jì)錄，它能夠使用大模型做各種靈巧的事情，像這種都是不太容易的，每秒4米，是相當(dāng)厲害了。
第二，關(guān)于科學(xué)智能，在科學(xué)上，AI+顧名思義就是AI能夠賦能各種行業(yè)，特別令人驚奇的，它不僅能夠賦能普通的產(chǎn)業(yè)，甚至在人類覺得最高智能的領(lǐng)域，就是科學(xué)研究，現(xiàn)在AI也能夠使得科學(xué)里面每個(gè)領(lǐng)域在以后的5年、10年會(huì)對科學(xué)研究者做科學(xué)的方式起翻天覆地的變化，基本上我們過去這幾十年，做科學(xué)的方法在5年、10年以后會(huì)很不一樣。以前我們具有的一些科學(xué)家的特性，適合做科學(xué)家的，將來5年、10年以后不見得一定就能夠成為最好的科學(xué)家。將來任何一個(gè)科學(xué)家的工作都必須是科學(xué)家加上大模型之類的人工智能。這兩個(gè)人怎么樣能夠最好地配合，這個(gè)團(tuán)隊(duì)才是將來最有競爭力的單位。
舉例，這里面有很多的進(jìn)步。AI能夠賦能另外一個(gè)戰(zhàn)略高地、戰(zhàn)略方向就是做量子計(jì)算機(jī)，AI有這個(gè)能力，甚至能夠幫助量子物理學(xué)家構(gòu)造下一個(gè)真正的量子計(jì)算機(jī)。量子是相當(dāng)深?yuàn)W的科學(xué)，它最重要的觀念就是有一個(gè)量子比特，它的量子比特和普通經(jīng)典的0和1不一樣，有更大的自由度。量子比特做計(jì)算的基本單位，有一個(gè)很大的缺點(diǎn)，就是很容易受到環(huán)境的干擾。一旦受到環(huán)境的干擾，它的值就和你想要的不一樣了。怎么樣能夠糾錯(cuò)，這個(gè)事情一直困擾著物理學(xué)家。甚至早年物理學(xué)家覺得量子計(jì)算機(jī)原則上不能做，因?yàn)榧m錯(cuò)是物理上不能解決的問題。1996年有一個(gè)計(jì)算機(jī)科學(xué)家發(fā)現(xiàn)如果我們能夠把最基本的糾錯(cuò)做好，就可以在一個(gè)有規(guī)模、大的量子計(jì)算機(jī)上就可以繼續(xù)穩(wěn)定，怎么樣在一個(gè)最簡單的解碼上能夠做好。量子糾錯(cuò)一直是做量子計(jì)算機(jī)的人的心病，如果這個(gè)做不好，做了很多的量子比特也沒有用。
怎么樣糾錯(cuò)的事情，在經(jīng)典的計(jì)算機(jī)里面也是一個(gè)重要的問題，F(xiàn)onomen(音)想到了一個(gè)簡單的方法做糾錯(cuò)。比如說一個(gè)0，如果用100個(gè)0表示，即使中間有一兩個(gè)比特發(fā)生變化，整體上還可以知道它是一個(gè)0，因?yàn)?8個(gè)都是0。但是在量子上，這個(gè)事情就很困難。
差不多一年以前，谷歌發(fā)表了一篇文章，里面做好了量子芯片。這個(gè)芯片有105個(gè)量子比特，但是它長處不是有105個(gè)量子比特，有很多人也會(huì)做，主要就是利用了這100個(gè)比特，它能夠做一個(gè)量子比特的糾錯(cuò)。它能夠使得一個(gè)量子比特在原則上讓它無限期的生存，能夠保持它本來的狀態(tài)，無限期的延長，這個(gè)事情最重要的是能夠低于一個(gè)1%，就是小于了剛才提到最重要的條件。這就讓量子計(jì)算機(jī)的群體非常高興，覺得有非常大的鼓舞。
這是一個(gè)重大的成就，它實(shí)現(xiàn)了大規(guī)模量子計(jì)算機(jī)的可能性。它和人工智能有什么關(guān)系呢？主要就是量子糾錯(cuò)用人工智能來達(dá)到的。它的核心技術(shù)就是用一個(gè)AlphaQubit的手段，它是為量子糾錯(cuò)而設(shè)計(jì)的解碼器。這個(gè)解碼器是一個(gè)神經(jīng)網(wǎng)絡(luò)，它采集了很多用量子模擬得到的樣本，用機(jī)器學(xué)習(xí)的方法訓(xùn)練出來，所以這個(gè)重要的方向?qū)碓诟鞣N方面提升，在比特準(zhǔn)確率和速度方面也有大幅提升，中國也有幾個(gè)團(tuán)隊(duì)在這方面非常有競爭性。
第三，關(guān)于人工智能的安全性，我們有一個(gè)這么有能力的科學(xué)手段，它也產(chǎn)生了一定的危險(xiǎn)性。所以怎么樣治理它也是大家很關(guān)心的方向。
AI的風(fēng)險(xiǎn)有哪些？一是因?yàn)锳I算法有它天生的性質(zhì)，就是不魯棒，不確定，不可解釋，不善于抵抗惡意。在AI的應(yīng)用上也會(huì)產(chǎn)生一些對于社會(huì)運(yùn)行的沖擊，它可能沖擊社會(huì)價(jià)值或者倫理，比如說隱私保護(hù)，同時(shí)即使我們把它用到好的方面，它能夠替代很多人的工作，它也帶來了可能大量失業(yè)的問題。現(xiàn)在我們已經(jīng)看到，在亞馬遜、谷歌，在微軟，這些做AI特別好的公司里面有很多解雇的浪潮。
二是生存性的風(fēng)險(xiǎn)，它和以前盒子的科技、生物科技都有一點(diǎn)不一樣的地方。因?yàn)楹凶涌萍?、生物科技最危險(xiǎn)就是有恐怖分子運(yùn)用它做一些不好的事情。但是AI的風(fēng)險(xiǎn)除了剛剛所提到的這些非常大的風(fēng)險(xiǎn)以外，還有一個(gè)風(fēng)險(xiǎn)就是AI非常像人，我們和AI的關(guān)系可能會(huì)升級(jí)到AI失去控制，違背了人類想讓它做的事情。我們要把這個(gè)事情做好，就產(chǎn)生了一個(gè)新的交叉領(lǐng)域，特別是關(guān)于失控的處理方面，牽涉到AI、密碼學(xué)、博弈學(xué)和各種科學(xué)。研發(fā)AI算法的確定，魯棒性、可解釋性和社會(huì)價(jià)值對齊，我們要做這些對齊的算法。尤其是對于生存性風(fēng)險(xiǎn)，我們應(yīng)該最有效徹底解決問題的方法就是怎么研發(fā)出可以證明安全的AI系統(tǒng)。
借助密碼學(xué)、博弈學(xué)等理論，同時(shí)在科學(xué)發(fā)展的基礎(chǔ)上，要能夠取得設(shè)置AI治理的協(xié)議，在區(qū)域和全球減少風(fēng)險(xiǎn)，需要建立國際共識(shí)?，F(xiàn)在這方面中國做得不錯(cuò)，比如說中美歐科學(xué)家發(fā)起了定期對話，這個(gè)對話有Bengio、Russell、張亞勤和我們，第一次是在2023年在英國，第二次在北京，第三次在威尼斯，差不多每半年開展一次。今年7月的時(shí)候在上海舉行了這個(gè)大會(huì)。
總結(jié)，多年的科技進(jìn)步與積累，讓人工智能發(fā)展得到新動(dòng)力，大模型的出現(xiàn)帶來了人工智能的新潮流，有無限發(fā)展機(jī)會(huì)。近期AI大模型正在革新各個(gè)行業(yè)，中長期要走向AGI，賦能科學(xué)，同時(shí)能夠建設(shè)安全可靠的，它的前景遼闊，影響深遠(yuǎn)，我們必須不斷地創(chuàng)新突破，中國不缺應(yīng)用人才和場景，最重要的是多培養(yǎng)尖端創(chuàng)新人才。
謝謝大家。
