攻略
(资料图片)
新华网北京7月8日电（记者张漫子）国产大模型“百模大战”激战正酣，其衍生的安全威胁也日益凸显。我国人工智能企业瑞莱智慧自主研发的人工智能安全平台于7日正式发布，其具有测评、调优等功能，能为通用大模型排查风险点，为加速发展中的大模型系上“安全带”。
技术是一把双刃剑，大模型也不例外。自ChatGPT发布以来，信息泄露、有害信息输出等问题凸显了人工智能技术监管的紧迫性。
瑞莱智慧联合创始人、算法科学家萧子豪认为，当前大模型尚未找到场景、风险、规范三者之间的平衡点。“一方面体现在缺少测评大模型规范性、风险点的有效工具，另一方面缺少定位问题并给出优化的有力工具。”萧子豪说。
此次发布的我国自主研发的人工智能安全平台具有两大功能：一是提供端到端的涵盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个维度的模型安全性测评，二是对定位的风险点进行调优，解决其安全隐患。
萧子豪打了一个比方：“大模型好比一名学生，为确保这名学生能力优秀且可控，需要一名出卷老师对他进行能力测验、一名判卷老师对他的答卷进行打分、一名辅导老师围绕其短板进行查缺补漏。”因此内含三个模型，一个是类似“出卷老师”的红队模型，一个是类似“判卷老师”的评分模型，还有一个是类似“辅导老师”的教练模型。三个模型共同对大模型进行测评和调优，以确保技术的安全、可靠、可控。
“通用人工智能的时代必将到来。如何让人工智能技术扬长避短、如何用人类智慧驾驭人工智能是产业界的一道必答题。”萧子豪说，未来RealSafe系列产品将不断迭代技术，应用于通用大模型和专有模型，在保障人工智能技术安全、可靠、可控方面发挥作用。
关键词：
攻略
装备
商城
