專家探討“AI覺醒”：如何應對人工智能帶來的挑戰？

中新網長沙10月30日電 (記者 唐小晴)隨著人工智能技術發展，AIGC(生成式人工智能)在各領域產生了巨大影響力。如何應對人工智能對就業、教育、倫理乃至人類生存帶來的挑戰，建立相應的全球治理機制，已成為事關經濟發展與安全的重大前沿問題。

參會嘉賓正在進行交流。大會組委會供圖。

10月29日至31日，博鼇亞洲論壇全球經濟發展與安全論壇(簡稱“博鼇經安論壇”)第二屆大會在長沙舉行。在“AIGC時代的可持續發展與風險管理”分論壇上，國內外政要、學者、企業家圍繞人工智能時代的可持續發展進行交流。

上海交通大學中國法與社會研究院院長、Tech4SDG聯盟副主席季衛東說，2022年末引起世界關注的大語言模型，標志著生成式人工智能發展進入一個嶄新階段，給國家、社會帶來各種便利、收益，但同時也帶來令人不安的風險甚至威脅。

“人工智能的性能變得越來越強，我們研究發現，它很接近人的思維能力。如何使人工智能系統按照人類同樣的思維方式接受一個正義的標准，符合道德的原則，這是一個非常突出的問題，就是所謂的大模型價值對齊問題。”季衛東認為，人工智能時代，加強金融風險防範、完善各國規則協調具有重要意義，人工智能監管應采取兼顧風險管理和科技研發的平衡政策。

商湯科技亞太區副總裁兼戰略執行負責人鄒春慧說，以AIGC為代表的人工智能產業高速發展的同時，其倫理治理風險備受關注，商湯已成立“人工智能倫理與治理委員會”，推出“AI安全治理開放平台”，推動建設開放、可信的人工智能創新生態，積極參與相應標准、監管規則制定。

野村綜研(上海)咨詢有限公司副合夥人陸成表示，得益於AIGC本身的模型優化，以及企業應用場景逐步豐富和提供AIGC服務專業公司基於大模型創造出的新價值，未來十年將會是AIGC爆發式增長的時代，平均增長率超30%。

“大語言模型和AIGC能充分賦能個人和企業，可大幅度提高企業和行政運行效率。”陸成介紹，目前，日本主要企業中約有七成計劃通過利用人工智能縮減工時，有的企業甚至能使縮減幅度超過40%。“生成式AI在創造性工作上的應用是未來大趨勢，但‘怎麼用’取決於企業對AI的理解。”

“中國近年來結合實際陸續出台相關制度保證AIGC技術良性發展，並在第三屆‘一帶一路’國際合作高峰論壇上提出《全球人工智能治理倡議》。”國家開發投資集團特級專家、廈門市美亞柏科信息股份有限公司AI研發中心總經理趙建強說，未來，在智能投顧、財務數據分析、金融反欺詐等方面，AIGC技術均具有非常好的應用和發展前景。

建立安全機制防範AI風險，以及安全和性能如何平衡，亦是必須應對的挑戰。“特別是過去半年多來，人工智能方面大語言模型的飛速發展與ChatGPT的橫空出世，使得機器是否會取代人類的擔憂第一次實實在在地擺在了人類面前。”博鼇亞洲論壇理事會秘書長李保東說。

安遠AI創始人兼CEO、牛津大學人工智能治理中心政策研究員謝旻希認為，生成式人工智能的可持續發展和風險管理已成為世界各國和人民面臨的共同課題，社會各界應積極支持通過博鼇亞洲論壇、“一帶一路”倡議、聯合國框架等推動具有廣泛共識的標准規範，共同做好風險防範，促進人工智能技術造福於全人類。(完)