本報記者 王鏡茹

    2023世界人工智能大會于7月6日至8日在上海舉辦。本次大會上，云天勵飛展示了自主設計開發的新一代邊緣計算芯片DeepEdge10系列SoC芯片，并公布了“天書”大模型的最新動態。

    大模型與芯片全面亮相

    本次世界人工智能大會上，云天勵飛展示了新一代邊緣計算芯片DeepEdge10系列SoC芯片。

    該芯片于2022年底成功流片，采用國內先進工藝，支持多芯粒擴展的Chiplet技術，可提供12TOPS（INT8）整型計算和2TFLOPS（FP16）浮點計算的深度學習推理計算算力，滿足市場對處理芯片在算法的多樣性、準確性、算力密度及效能方面的要求，可廣泛應用于AIoT邊緣視頻、移動機器人等場景。預計今年量產投入使用。

圖為云天“天書”基礎大模型架構 公司/供圖

    此外，云天勵飛還在大會上首次披露大模型“云天天書”的情況。據介紹，“云天天書”基礎大模型架構包含三個層級：通用大模型、行業大模型、場景大模型。云天勵飛基于算法開發平臺和算法芯片化平臺，并通過海量高質量數據預訓練生產通用大模型；在通用大模型基礎上，引入高質量行業數據，生產行業大模型；再在行業大模型的基礎上，通過細分場景數據微調研發場景大模型。通過這樣的三級架構，讓大模型為千行百業賦能。

    據悉，基于“云天天書”大模型，云天勵飛與深圳龍崗政數局共同探索了大模型在政務咨詢服務系統的應用。通過對海量的政策、法規、辦理流程等文本進行結構化梳理和分析，形成易于查閱的知識庫，幫助服務人員快速查詢和獲取準確的信息，減少查閱時間，提高政務服務工作效率。目前該系統在行政服務大廳探索應用，未來計劃逐步拓展到其他政府機構和公共服務領域，如法務、金融、教育、醫療、交通等。

    云天勵飛與龍崗政數局合作探索打造的“大模型政務咨詢服務系統”還入選了中國信通院《通用人工智能創新應用案例集》。

    “算法芯片化”能力加速AI落地

    據現場工作人員介紹，云天勵飛核心能力是“算法芯片化”。所謂“算法芯片化”，不是“算法+芯片”，而是云天勵飛基于對場景的深刻理解，以及對算法關鍵計算任務在應用場景中的量化分析，將芯片設計者的理念、思想與算法相融合的AI芯片設計流程。

    這一理念同樣在本次展出的DeepEdge10芯片和“云天天書”大模型上有所體現。DeepEdge10可為大模型在邊側推理場景提供充足算力，可以解決大模型應用和部署過程中的各類挑戰，包括新的神經網絡計算范式、高帶寬傳輸、分布式并行計算、低精度混合計算等，能夠為大模型和實際應用場景嫁接起橋梁，讓大模型技術能夠高效、低成本地部署到終端，幫助場景探索更多大模型的創新應用。

    “應用產生數據、數據訓練算法、算法定義芯片、芯片賦能應用”——這是云天勵飛一直以來堅持的人工智能發展之路。基于這個思路，云天勵飛于2020年正式提出“自進化城市智能體”的戰略目標。在戰略目標的指引下，云天勵飛已經在深圳、東莞、青島、成都、杭州、上海、北京等多個城市實現項目落地，成功打造了一系列標桿式項目。

    值得一提的是，2021年至2023年，深圳市政府工作報告連續3年提及要建設“鵬城自進化智能體”。今年6月份發布的《深圳市數字孿生先鋒城市建設行動計劃（2023）》也明確提到，“圍繞分步有序建設鵬城自進化智能體，推進以數字孿生為特點的深圳智慧城市和數字政府建設。”

（編輯 汪世軍）