|
在數(shù)字化浪潮的推動下,人工智能(AI)正以其獨特的方式重塑世界。然而,隨著技術(shù)的飛速發(fā)展,AI安全問題也日益凸顯,成為我們必須面對的挑戰(zhàn)。9月10日,作為國家網(wǎng)絡(luò)安全宣傳周的重要組成部分,一場專注于“具身智能安全”的圓桌討論在“縱橫”論壇人工智能安全論壇上隆重舉行。本次論壇由國防科技大學(xué)電子對抗學(xué)院、江淮前沿技術(shù)協(xié)同創(chuàng)新中心承辦,浙江大學(xué)計算機科學(xué)與技術(shù)學(xué)院、合肥綜合性國家科學(xué)中心信息安全研究中心聯(lián)合承辦,安徽華云安科技有限公司協(xié)辦。本次論壇匯聚了來自全國頂尖高校的教授和行業(yè)專家,共同探討了具身智能的前沿話題,為現(xiàn)場觀眾帶來了一場思想的盛宴。 圓桌討論:智慧的碰撞 本次論壇由華云安創(chuàng)始人及江淮創(chuàng)新中心研究員沈傳寶先生主持。參與討論的嘉賓包括復(fù)旦大學(xué)教授張新鵬、武漢大學(xué)教授王騫、中國科學(xué)技術(shù)大學(xué)教授張衛(wèi)明、東南大學(xué)教授李松澤,以及深信服技術(shù)專家游建舟老師。這些專家學(xué)者在AI領(lǐng)域都有著深厚的造詣,他們的見解和討論為我們提供了寶貴的知識財富。 基本概念:AI的未來形態(tài) 在討論的開始,復(fù)旦大學(xué)教授張新鵬首先為我們解釋了人工智能中的AIGC(人工智能生成內(nèi)容)、AGI(通用人工智能)以及具身智能的基本概念。張教授指出,隨著技術(shù)的不斷進(jìn)步,AI正逐漸從單一的任務(wù)執(zhí)行者轉(zhuǎn)變?yōu)槟軌蚶斫�、學(xué)習(xí)和適應(yīng)復(fù)雜環(huán)境的智能體。這一轉(zhuǎn)變不僅為AI的發(fā)展帶來了新的機遇,也帶來了新的安全挑戰(zhàn)。 安全問題:具身智能的挑戰(zhàn) 緊接著,武漢大學(xué)教授王騫深入介紹了具身智能的安全問題。王教授強調(diào),具身智能系統(tǒng)在與物理世界互動時,其安全性直接關(guān)系到人類的生活和社會的穩(wěn)定。因此,如何確保這些系統(tǒng)在面對各種潛在威脅時的安全性,是我們必須認(rèn)真對待的問題。 認(rèn)知安全:智能體的思維保護(hù) 中國科學(xué)技術(shù)大學(xué)教授張衛(wèi)明則從認(rèn)知安全的角度,探討了具身智能中的安全問題。張教授提出,認(rèn)知安全涉及到智能體的決策過程和數(shù)據(jù)處理方式,我們需要確保智能體在處理信息時的準(zhǔn)確性和可靠性,防止錯誤決策帶來的風(fēng)險。 大模型的缺陷:技術(shù)的風(fēng)險 東南大學(xué)教授李松澤則聚焦于具身智能中大模型的缺陷問題。李教授指出,盡管大模型在處理復(fù)雜任務(wù)時表現(xiàn)出色,但它們也可能存在缺陷和漏洞。因此,我們需要對這些模型進(jìn)行嚴(yán)格的測試和驗證,以確保它們的穩(wěn)定性和安全性。 互動環(huán)節(jié):思想的火花 論壇的最后,主持人沈傳寶先生邀請了在場的專家學(xué)者和學(xué)生們進(jìn)行了互動。大家就具身智能的安全問題進(jìn)行了深入的討論和交流,現(xiàn)場氣氛熱烈,思想的火花不斷碰撞。通過這些互動,我們不僅加深了對具身智能安全問題的理解,也為未來的研究方向提供了新的思路。 結(jié)語 隨著人工智能技術(shù)的不斷進(jìn)步,以及具身智能逐步走向現(xiàn)實。具身智能的安全問題已經(jīng)成為一個不可忽視的議題。本次縱橫論壇的人工智能安全論壇,為我們提供了一個寶貴的平臺,讓我們能夠聆聽頂尖專家的見解,共同探討和應(yīng)對未來的安全挑戰(zhàn)。我們相信,通過不斷的研究和合作,我們能夠確保人工智能技術(shù)的健康發(fā)展,讓它成為推動社會進(jìn)步的有力工具。 關(guān)于華云安 華云安致力于構(gòu)建人工智能驅(qū)動的下一代網(wǎng)絡(luò)安全防御體系,通過攻擊面管理、防御體系驗證、自動化防御的技術(shù)創(chuàng)新與突破,以人工智能為核心,打造下一代的云原生安全能力平臺,構(gòu)建面向未來的智能化防御整體解決方案。 華云安是國內(nèi)攻擊面管理(ASM)和安全有效性驗證(BAS)兩大細(xì)分領(lǐng)域的領(lǐng)導(dǎo)者。公司以攻擊面管理為核心,構(gòu)建了包括網(wǎng)絡(luò)空間資產(chǎn)攻擊面管理(CAASM)、外部攻擊面管理(EASM)、智能滲透與攻擊模擬(BAS)在內(nèi)的完整產(chǎn)品體系,以及智能驅(qū)動的自動化滲透和紅隊服務(wù)。華云安在智能攻防領(lǐng)域取得了顯著的成績,其技術(shù)創(chuàng)新、產(chǎn)品能力等得到眾多核心客戶的認(rèn)可。在監(jiān)管、電力、能源、金融、教育等行業(yè)有著廣泛的應(yīng)用。 |
