每經(jīng)記者 可楊    每經(jīng)編輯 梁梟    

今日（4月12日），《每日經(jīng)濟(jì)新聞》記者獲悉，人工智能安全基礎(chǔ)設(shè)施提供商瑞萊智慧（RealAI）于近日完成新一輪戰(zhàn)略融資，北京市人工智能產(chǎn)業(yè)投資基金等參與投資。本輪融資完成后，瑞萊智慧將繼續(xù)加速通用人工智能安全基座產(chǎn)品研發(fā)，并不斷推進(jìn)安全可控的大模型商業(yè)化落地。

隨著全球范圍內(nèi)最大規(guī)模的人工智能浪潮掀起，人工智能的可控性和安全性成為愈發(fā)重要的發(fā)展議題。如今，人工智能大模型的通用性和泛化性大幅提升，應(yīng)用也從傳統(tǒng)的判別式任務(wù)走向生成式任務(wù)，而人工智能的內(nèi)生及衍生安全問(wèn)題變得愈加復(fù)雜，其帶來(lái)的挑戰(zhàn)和已經(jīng)引起的各類(lèi)風(fēng)險(xiǎn)事件也持續(xù)受到全球公眾、企業(yè)和政府的廣泛關(guān)注。當(dāng)下，人工智能安全不僅要解決數(shù)據(jù)風(fēng)險(xiǎn)，模型本身的幻覺(jué)、魯棒性不足和不可解釋性等技術(shù)問(wèn)題，還要著力減少倫理風(fēng)險(xiǎn)、價(jià)值觀(guān)對(duì)齊風(fēng)險(xiǎn)，以及AI詐騙等濫用行為導(dǎo)致的影響。

2018年7月，瑞萊智慧依托清華大學(xué)人工智能研究院發(fā)起設(shè)立，提供以AI安全為核心能力的AI平臺(tái)產(chǎn)品與行業(yè)解決方案。

瑞萊智慧CEO田天表示：“大模型在安全可控上的不足是其當(dāng)前無(wú)法廣泛落地應(yīng)用的根本原因，而人工智能不安全的開(kāi)發(fā)和使用，則可能給人類(lèi)的發(fā)展乃至生存帶來(lái)災(zāi)難性的后果。相比過(guò)往其他領(lǐng)域的安全問(wèn)題，人工智能安全風(fēng)險(xiǎn)更加本質(zhì)，也更難克服。”