讓人工智能拾起初心
◎記者 倪 麟
隨著《全球人工智能治理倡議》的發(fā)布,人工智能治理再次引發(fā)全球關(guān)注。作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性力量,人工智能的廣泛應(yīng)用正在深刻改變經(jīng)濟(jì)社會(huì)結(jié)構(gòu),重塑人們的生活方式。
同時(shí),人工智能也帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯個(gè)人隱私等問題,對(duì)政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。
當(dāng)前,該如何讓人工智能拾起初心,平衡其安全和發(fā)展?科技日?qǐng)?bào)記者近日邀請(qǐng)中國工程院院士沈昌祥、百度首席技術(shù)官王海峰、清華大學(xué)人工智能研究院視覺智能研究中心主任鄧志東共同探討,解讀人工智能發(fā)展之路。
本意:人工和智能,孰輕孰重
記者:人工智能定義最早出現(xiàn)在1956年達(dá)特茅斯會(huì)議上。從各位的實(shí)踐來看,人工智能是什么?
沈昌祥:人工智能是指通過人類設(shè)計(jì)和編程,使智能機(jī)器能夠完成各種復(fù)雜任務(wù),從而取代傳統(tǒng)人工角色。
王海峰:人工智能是研究和開發(fā)模擬、延伸和擴(kuò)展人類智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的科學(xué)。現(xiàn)階段,人工智能已成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),正驅(qū)動(dòng)第四次工業(yè)革命,將人類社會(huì)帶入智能時(shí)代。
鄧志東:從實(shí)踐來看,人工智能具有模擬人類解決各種復(fù)雜任務(wù)的能力。
記者:隨著ChatGPT等產(chǎn)品的出現(xiàn),有人認(rèn)為人工的作用逐漸被智能取代,也有人認(rèn)為智能只是輔助人工的工具。在各位所屬領(lǐng)域中,對(duì)于人工智能中“人工”與“智能”的權(quán)衡有何看法?
沈昌祥:智能機(jī)器是由人類智慧演化而來的智能產(chǎn)品,能根據(jù)人類的喜好和需求,提供個(gè)性化服務(wù)。智能機(jī)器的所有動(dòng)作和行為都是由人類編程和控制的,不可能完全脫離人類的掌控。
王海峰:人工智能發(fā)展要“以人為本”,增進(jìn)人類福祉。以大語言模型為代表的人工智能技術(shù)飛速發(fā)展,文心一言、ChatGPT可與人對(duì)話、輔助創(chuàng)作,提升人們的工作效率與生活體驗(yàn)。本質(zhì)上它仍是提升生產(chǎn)力的工具,能替代人類完成部分工作,也創(chuàng)造了更多工作機(jī)會(huì)。未來,人類將作為管理者,人工智能將輔助人,與人協(xié)同,提高工作效率,激發(fā)創(chuàng)造力。社會(huì)各界應(yīng)對(duì)人工智能抱有正確認(rèn)知和合理期待,推動(dòng)人工智能發(fā)展,使其更好地為人類服務(wù)。
鄧志東:“人工”與“智能”密不可分。人工智能指機(jī)器模擬實(shí)現(xiàn)的人類智能,兩者關(guān)系應(yīng)稱為人工智能與人類的關(guān)系。短期內(nèi),通用人工智能是輔助工具,幫助人類完成挑戰(zhàn)性任務(wù)。長遠(yuǎn)來看,交互式人工智能會(huì)推動(dòng)人類與智能體“共融”,邁向“人—機(jī)融合發(fā)展”的嶄新世界。
定位:增長產(chǎn)品還是基礎(chǔ)設(shè)施
記者:人工智能對(duì)相關(guān)行業(yè)發(fā)展產(chǎn)生了重要影響。各位更傾向于將人工智能視為增長產(chǎn)品還是基礎(chǔ)設(shè)施?
沈昌祥:人工智能最初是獨(dú)立產(chǎn)品,后來被集成為具有各種功能的設(shè)備。當(dāng)設(shè)備相互連接、協(xié)調(diào)工作時(shí),就形成了系統(tǒng)。這些系統(tǒng)的集合和互相作用,構(gòu)建起人工智能基礎(chǔ)設(shè)施的框架,為我們提供各種產(chǎn)品和服務(wù)。
記者:在人工智能基礎(chǔ)設(shè)施建設(shè)領(lǐng)域,各位對(duì)哪個(gè)方面特別關(guān)注?
沈昌祥:安全問題至關(guān)重要。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機(jī)器人智能行為體失控等重大風(fēng)險(xiǎn)。需對(duì)這些問題加強(qiáng)研究和防范,構(gòu)建由法律、戰(zhàn)略和制度等組成的安全可信的保障體系,確保人工智能基礎(chǔ)設(shè)施的安全、穩(wěn)定、可持續(xù)運(yùn)行。
王海峰:我長期關(guān)注深度學(xué)習(xí)平臺(tái)和大模型。深度學(xué)習(xí)平臺(tái)相當(dāng)于智能時(shí)代的操作系統(tǒng),處于人工智能技術(shù)體系的關(guān)鍵核心位置。深度學(xué)習(xí)呈現(xiàn)出標(biāo)準(zhǔn)化、自動(dòng)化、模塊化的特征,推動(dòng)人工智能進(jìn)入工業(yè)大生產(chǎn)階段。隨著深度學(xué)習(xí)技術(shù)的普及和預(yù)訓(xùn)練技術(shù)的突破,大模型已成為人工智能發(fā)展的主流方向,具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化的特點(diǎn),正成為人工智能技術(shù)及應(yīng)用的新基座。
鄧志東:從文本單模態(tài)的基礎(chǔ)大型語言模型到原生多模態(tài)大型語言模型,需要解決高水平人工智能通用大模型的API接入問題,推進(jìn)“以我為主”的人工智能基礎(chǔ)設(shè)施建設(shè),包括人工智能芯片與云服務(wù)、開源框架生態(tài)建設(shè)等。視覺智能領(lǐng)域需要打好基礎(chǔ),從國家層面推進(jìn)人工智能基礎(chǔ)設(shè)施建設(shè),補(bǔ)短板,賦能從基礎(chǔ)與基座大模型到垂域模型的開發(fā)與應(yīng)用。
記者:企業(yè)在利用人工智能時(shí)可能面臨雙重需求。能否根據(jù)經(jīng)驗(yàn),談?wù)勗谶@種情況下,企業(yè)如何將人工智能的價(jià)值最大化?
沈昌祥:企業(yè)需要考量產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化以及社會(huì)智能化的需求,充分利用人工智能技術(shù),提升生產(chǎn)效率和服務(wù)質(zhì)量。同時(shí),應(yīng)高度重視人工智能領(lǐng)域的人才培養(yǎng)與引進(jìn),推動(dòng)技術(shù)研發(fā),以保持技術(shù)領(lǐng)先地位。還應(yīng)加強(qiáng)與其他行業(yè)的合作,不斷探索新的商業(yè)模式和應(yīng)用場景,為社會(huì)提供更便捷、更高效的服務(wù)。
王海峰:百度既是人工智能基礎(chǔ)設(shè)施建設(shè)者,也是人工智能技術(shù)創(chuàng)新引領(lǐng)者。以飛槳深度學(xué)習(xí)平臺(tái)、文心大模型等為代表的人工智能技術(shù),已成為智能時(shí)代的重要基礎(chǔ)設(shè)施,賦能制造、能源、農(nóng)業(yè)等領(lǐng)域,帶動(dòng)新技術(shù)、新產(chǎn)品、新業(yè)態(tài)等的發(fā)展。大模型產(chǎn)業(yè)落地,可采取“集約化生產(chǎn),平臺(tái)化應(yīng)用”模式,即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢的企業(yè)將模型生產(chǎn)的復(fù)雜過程封裝起來,通過低門檻、高效率的生產(chǎn)平臺(tái),為千行百業(yè)提供服務(wù)。文心大模型支撐大量AI原生應(yīng)用的開發(fā),重構(gòu)現(xiàn)有產(chǎn)品,“從0到1”構(gòu)想出全新產(chǎn)品,構(gòu)建人工智能原生應(yīng)用生態(tài),推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量增長。
鄧志東:以多模態(tài)大型語言模型為代表的通用人工智能產(chǎn)業(yè)的發(fā)展,尚處于產(chǎn)業(yè)早期。不同企業(yè)應(yīng)有不同側(cè)重,人工智能頭部企業(yè)要對(duì)標(biāo)具有國際一流水平的基礎(chǔ)、基座大模型產(chǎn)品,縮短高性能AI芯片的國際差距。中小企業(yè)要積極開展人工智能價(jià)值與應(yīng)用產(chǎn)品的研發(fā),著重于應(yīng)用場景多樣性、落地速度與商業(yè)模式創(chuàng)新。
風(fēng)險(xiǎn):無處不在,誰更堪憂
記者:當(dāng)前人工智能風(fēng)險(xiǎn)普遍存在嗎?請(qǐng)結(jié)合具體案例說明。
沈昌祥:人工智能風(fēng)險(xiǎn)與網(wǎng)絡(luò)安全密切相關(guān)。網(wǎng)絡(luò)安全是人工智能發(fā)展的底座,其風(fēng)險(xiǎn)度=脆弱度×威脅度,其中脆弱度來源于圖靈計(jì)算原理缺少攻防安全理念、馮·諾依曼體系結(jié)構(gòu)缺少防護(hù)部件和重大工程應(yīng)用無安全治理服務(wù)三大原始性缺失。這使得網(wǎng)絡(luò)空間極其脆弱,受網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)性增加。2021年5月7日,美國最大的成品油管道運(yùn)營商科洛尼爾管道運(yùn)輸公司(Colonial Pipeline)受到勒索軟件攻擊,被迫關(guān)閉其美國東部沿海各州智能化供油網(wǎng)絡(luò),美國政府宣布美國17個(gè)州和華盛頓特區(qū)進(jìn)入緊急狀態(tài)。
王海峰:從歷次工業(yè)革命來看,驅(qū)動(dòng)科技革命和產(chǎn)業(yè)變革的技術(shù),無論是機(jī)械技術(shù)、電氣技術(shù)、信息技術(shù),還是當(dāng)前的人工智能技術(shù),在為人類帶來巨大價(jià)值的同時(shí),也會(huì)帶來一定的風(fēng)險(xiǎn)。但隨著科技的進(jìn)步,人類有足夠的能力控制風(fēng)險(xiǎn),充分發(fā)揮新技術(shù)的價(jià)值。
鄧志東:通用人工智能的發(fā)展速度已超出大多數(shù)人的預(yù)期。只要通用人工智能發(fā)展,其風(fēng)險(xiǎn)就必然會(huì)普遍存在。從法律、倫理、隱私到就業(yè)等,各個(gè)領(lǐng)域與賽道、千行百業(yè)都面臨重寫、重塑的挑戰(zhàn)與風(fēng)險(xiǎn)。
記者:在自動(dòng)駕駛、智慧醫(yī)療和人臉識(shí)別等特定領(lǐng)域,人工智能風(fēng)險(xiǎn)是否更為突出?
沈昌祥:自動(dòng)駕駛、智慧醫(yī)療和人臉識(shí)別等技術(shù),一旦出現(xiàn)問題將威脅到人類的生命安全和財(cái)產(chǎn)安全。IT系統(tǒng)設(shè)計(jì)不能窮盡所有邏輯,利用邏輯缺陷挖掘漏洞進(jìn)行攻擊的風(fēng)險(xiǎn)一直存在,傳統(tǒng)“封堵查殺”難以應(yīng)對(duì)未知惡意攻擊,找漏洞、打補(bǔ)丁的思路也不利于整體網(wǎng)絡(luò)安全,需要通過由被動(dòng)防御轉(zhuǎn)為主動(dòng)免疫的方式來降低人工智能特定領(lǐng)域風(fēng)險(xiǎn)。
治理:安全與發(fā)展能否相向而行
記者:隨著人工智能技術(shù)的持續(xù)發(fā)展,數(shù)據(jù)隱私和安全、能耗等問題日益凸顯。你們認(rèn)為,針對(duì)這些問題應(yīng)先發(fā)展后治理還是邊發(fā)展邊治理?
沈昌祥:要注重治理和發(fā)展平衡。應(yīng)構(gòu)建主動(dòng)免疫可信計(jì)算新模式,打造計(jì)算部件和防護(hù)部件為核心的并行體系結(jié)構(gòu),建設(shè)可信安全管理中心支持下的主動(dòng)免疫的防護(hù)框架,實(shí)現(xiàn)主體、客體、操作、環(huán)境可信動(dòng)態(tài)訪問控制,確保體系結(jié)構(gòu)、資源配置、操作行為、數(shù)據(jù)存儲(chǔ)、策略管理可信。以此達(dá)到讓攻擊者進(jìn)不去、非授權(quán)者重要信息拿不到、竊取保密信息看不懂、系統(tǒng)和信息改不了、系統(tǒng)工作癱不成和攻擊行為賴不掉的防護(hù)效果,全方位維護(hù)人工智能安全。
王海峰:要堅(jiān)持發(fā)展和安全并重的原則,保障安全的同時(shí)支持和鼓勵(lì)創(chuàng)新發(fā)展。只有持續(xù)發(fā)展人工智能技術(shù),才能在發(fā)展中發(fā)現(xiàn)問題、解決問題,把握科技競爭主動(dòng)權(quán)。
記者:從各位的經(jīng)驗(yàn)來看,行業(yè)或者企業(yè)應(yīng)如何預(yù)防人工智能潛在的安全問題?
沈昌祥:要科學(xué)嚴(yán)謹(jǐn)分析研究,堅(jiān)持自主創(chuàng)新,掌握核心競爭力,把握主動(dòng)優(yōu)勢。要以具有可信計(jì)算功能的國產(chǎn)軟硬件設(shè)備為基礎(chǔ),在完備的法律、戰(zhàn)略和制度的支持下,盡快建立起完整的可信計(jì)算產(chǎn)品鏈,打造安全可信人工智能新生態(tài),筑牢數(shù)字經(jīng)濟(jì)發(fā)展基石。
王海峰:正確認(rèn)識(shí)人工智能潛在的安全問題。任何一項(xiàng)技術(shù)的發(fā)展和應(yīng)用,都會(huì)帶來潛在的安全問題,而人工智能作為驅(qū)動(dòng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),其安全問題更加受到關(guān)注。技術(shù)安全問題,可以用技術(shù)的手段來解決;產(chǎn)業(yè)安全問題,一方面政府應(yīng)支持自主可控的人工智能技術(shù)及應(yīng)用,另一方面應(yīng)建立健全相關(guān)法律法規(guī),推動(dòng)產(chǎn)業(yè)在合適尺度、明確標(biāo)準(zhǔn)之下發(fā)展人工智能技術(shù)及應(yīng)用。
鄧志東:人工智能發(fā)展在安全問題上尚存在許多不確定性。行業(yè)或企業(yè)需要邊走邊看,大膽深入,小心布防,造福人類。
記者:人工智能治理已經(jīng)上升為國際競爭合作的重要議題。在推動(dòng)人工智能治理國際合作方面,各位有何見解?
沈昌祥:應(yīng)認(rèn)真貫徹執(zhí)行《全球人工智能治理倡議》,從創(chuàng)新發(fā)展、安全保障、治理三個(gè)方面著手,全方位保障我國人工智能基礎(chǔ)設(shè)施,并積極走出國門,與全球伙伴共建網(wǎng)絡(luò)空間命運(yùn)共同體。
王海峰:人工智能領(lǐng)域的研究本身是開放合作的,人工智能治理是其研究熱點(diǎn)之一,各方都很關(guān)切。來自全球?qū)W術(shù)界、產(chǎn)業(yè)界的專家學(xué)者,都可以通過開源社區(qū)、項(xiàng)目合作、學(xué)術(shù)會(huì)議、專題研討等多種方式開展合作交流,貢獻(xiàn)智慧。
鄧志東:人工智能的治理與國際競合,已超越了學(xué)術(shù)與產(chǎn)業(yè),需要更強(qiáng)而有力的國際合作,以期取得國際共識(shí),盡快構(gòu)建具有約束性、一致性與平衡性的國際規(guī)范。
版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。
- 相聲演員“學(xué)唱”他人作品侵權(quán)嗎 專家:加強(qiáng)版權(quán)協(xié)商避免糾紛實(shí)現(xiàn)共贏
- 修法規(guī)范個(gè)人網(wǎng)絡(luò)求助,讓困難患者更有保障
- 國家衛(wèi)健委:門急診呼吸道疾病診療量波動(dòng)下降
- 醫(yī)保統(tǒng)籌額度12月底清零?不實(shí)
- 呼吸道疾病恢復(fù)后期出現(xiàn)咽干、微咳等癥狀?中醫(yī)教你這樣緩解
- 保溫杯里泡枸杞 你吃對(duì)了嗎
- 這三大致病菌就藏在你臥室的這些角落
- 冬季心“疼”花樣多,并非都是“心”病
- 呼吸道疾病高發(fā)季 兒童胸痛需警惕
- 走向世界的春節(jié) “我們”的中國節(jié)