“一公斤的磚和兩公斤的棉花，哪個比較重？”

　　對于這個簡單的問題，人工智能（AI）問答軟件卻給出了錯誤答案。

　　11日下午，在福州舉行的2023國家網(wǎng)絡安全宣傳周主論壇上，一位演講嘉賓談及人工智能時列舉了上述案例，由此反映出的人工智能“一本正經(jīng)地胡說八道”現(xiàn)象引發(fā)熱議。

　　多年來，主論壇突出技術(shù)性、專業(yè)性、前沿性，旨在讓專家們就前沿技術(shù)進行交流、碰撞火花。本屆主論壇聚焦“人工智能發(fā)展與治理”主題，黨政機關(guān)、高等院校、科研機構(gòu)、知名企業(yè)代表輪番上臺作主旨發(fā)言，深入研討。

　　何以聚焦人工智能

　　新技術(shù)新應用迅速迭代，新情況新問題層出不窮，網(wǎng)絡安全領(lǐng)域面臨重要考驗。

　　今年，快速發(fā)展的生成式人工智能引起各界高度關(guān)注。

　　7月，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局發(fā)布《生成式人工智能服務管理暫行辦法》，從8月15日開始施行。

　　該《辦法》的發(fā)布實施，是今年主論壇——網(wǎng)絡安全技術(shù)高峰論壇聚焦人工智能主題的一個重要背景。

　　“《辦法》提出了國家堅持發(fā)展和安全并重，促進創(chuàng)新和依法治理相結(jié)合的原則，采用有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求，提出了促進生成式人工智能技術(shù)發(fā)展的具體措施，規(guī)定了生成式人工智能服務規(guī)范。”中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局局長高林表示，生成式人工智能服務的發(fā)展和治理需要政府、企業(yè)、社會、網(wǎng)民的多方參與，共同促進生成式人工智能健康發(fā)展，讓生成式人工智能技術(shù)更好地造福人民。

　　緊扣這一前沿熱點，在主論壇上，10余位演講嘉賓先后圍繞人工智能發(fā)展與治理，就人工智能的發(fā)展歷史、最新情況、應用場景、存在問題、風險挑戰(zhàn)等方面交流智慧、分享經(jīng)驗。

　　人工智能的“一體兩面”

　　“讓機器自己從數(shù)據(jù)中去學習，不是經(jīng)過人‘咀嚼’好再去‘喂’它。”北京智源人工智能研究院院長黃鐵軍在演講中說。

　　黃鐵軍說，從20世紀開始，人工智能的發(fā)展歷程包括灌輸規(guī)則、灌輸知識、從數(shù)據(jù)中學習三個階段，如今人們熱議的GPT，就是生成式預訓練語言模型。

　　“扣好人生第一?？圩?，這件事對AI也一樣。”黃鐵軍表示，鑒于數(shù)據(jù)對模型智能影響超過60%，因此數(shù)據(jù)質(zhì)量至關(guān)重要，否則“喂”它錯誤的數(shù)據(jù)，它也拼命學習。

　　“AI給社會帶來的沖擊非常巨大。”粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院創(chuàng)院理事長沈向洋同樣認為，不完美的數(shù)據(jù)源，將導致人工智能“一本正經(jīng)地胡說八道”，以及產(chǎn)生更難被察覺的“AI謠言”。

　　在他看來，如果將搜索引擎比喻為“責任有限公司”的話，那么人工智能問答軟件可以說是“責任無限公司”，前者提供的內(nèi)容引用自第三方，后者的答案則都是自己編造的。

　　現(xiàn)場，另一位演講嘉賓臨時起意做了一個測試——他向某人工智能問答軟件提問，在我國并不存在的一部人工智能有關(guān)法律是何時出臺的？令人大跌眼鏡的是，該軟件竟編造稱，該法律于6月在某次會議上通過，還捏造了法律內(nèi)容。

　　在談到該軟件時，復旦大學哲學學院教授徐英瑾指出，類似軟件存在“機器幻想”問題，炮制出不存在的書籍、法條與科學理論。由于這些虛假信息是基于既有的海量數(shù)據(jù)，導致相關(guān)內(nèi)容非常具有迷惑性。

　　人工智能，既帶來技術(shù)變革、效率和生產(chǎn)力提升、改善生活質(zhì)量和社會福祉，也帶來了技術(shù)倫理和治理方面的挑戰(zhàn)。它的“一體兩面”引人深思。

　　網(wǎng)絡無邊，安全有界。專家們認為，技術(shù)為經(jīng)濟社會發(fā)展帶來新機遇的同時，也伴生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等一系列問題，統(tǒng)籌生成式人工智能的發(fā)展和安全至關(guān)重要。

　　筑牢防火墻擁抱新技術(shù)

　　對于生成式人工智能，嘉賓們坦言，應該辯證地看待、積極地擁抱。

　　徐英瑾認為，大模型技術(shù)的到來是一個客觀事實，無法回避，反對用“一刀切”的方式禁止使用大語言模型，而應以正確的方式使用。

　　“我們希望構(gòu)建一個負責任、可信賴的人工智能體系。”在人工智能的產(chǎn)業(yè)實踐方面，華為云CTO張宇昕分享了華為云助力企業(yè)智能升級、加速企業(yè)創(chuàng)新發(fā)展的舉措。他表示，華為重視人工智能技術(shù)創(chuàng)新和治理責任，堅持負責任地開發(fā)、合法地部署AI產(chǎn)品，促進AI普惠。

　　上海聯(lián)影智能醫(yī)療科技有限公司研發(fā)副總經(jīng)理沈振輝則從AI助力醫(yī)療、提供相關(guān)解決方案的角度作了介紹。他說，醫(yī)療影像AI被認為是最能率先實現(xiàn)商業(yè)化落地的領(lǐng)域，能夠檢測出醫(yī)生看不到的微小病灶，也能夠以極大超越人力的速度閱片，在短時間內(nèi)找到海量病灶信息。

　　對于如何統(tǒng)籌發(fā)展和安全、提高安全治理的能力和水平，更好地應對新的風險和挑戰(zhàn)，專家們也各抒己見。

　　就實現(xiàn)安全通用人工智能的技術(shù)路徑，清華大學人工智能研究院副院長朱軍建議，加強技術(shù)理論研究，不斷提高內(nèi)生安全水平，持續(xù)構(gòu)建第三代人工智能；加強技術(shù)手段建設，不斷提升訓練數(shù)據(jù)質(zhì)量和安全評測能力；同時，持續(xù)演進人工智能治理的有效工具。

　　當前，國際數(shù)據(jù)集的中文內(nèi)容較少，基于這些數(shù)據(jù)集訓練的大模型自然是“英文思維”。對此，黃鐵軍認為，建設高質(zhì)量中文數(shù)據(jù)集，是我國生成式人工智能發(fā)展的基本前提。他倡議，各方共建大規(guī)模高質(zhì)量中文數(shù)據(jù)集，促進中文網(wǎng)頁數(shù)據(jù)匯聚、處理及開發(fā)，相關(guān)政府部門出臺書籍、期刊論文等版權(quán)數(shù)據(jù)用于大模型訓練的相關(guān)政策及規(guī)范，盤活我國高質(zhì)量中文數(shù)據(jù)資源，同時加快數(shù)據(jù)處理相關(guān)標準、技術(shù)、工具和支撐平臺研發(fā)，提高數(shù)據(jù)處理效率。（記者 林清智）