大模型语料库专区
主流价值语料:价值观对齐服务
针对通用人工智能依赖的安全语料库要求,人民网召集网内千余位编辑记者开展主流价值问答语料生产,考察领域和考察方向全面丰富,形成“18万对”规模的主流价值问答语料库。对重大问题以及敏感问题,提供全面正向的完善答案。 其来源权威、领域丰富、知识全面,覆盖政治、经济、社会、文化等各个领域,满足全面性、多样性、时效性、导向正确性等要求,实现可持续的语料供给和更新机制服务,以提升生成式AI的安全水平, 维护意识形态安全。
基础语料:主流资讯语料库
涵盖以人民日报、人民日报海外版、人民网数据资源为基础,以文章、报道、解读、评论、深度调查等形式为展现,包括标题、内容、时间等属性信息,以及相关的图片、视频内容。实现对理论政策、时政热点、民生焦点等各方面历史和最新知识数据汇聚的主流资讯语料库。
大模型价值观评测
为保障生成式人工智能坚持正确的政治方向、舆论导向、价值取向,在主管部门的指导下,人民网研究建立了生成式人工智能合规性评估方法和技术体系。评估采取问答的形式进行,建立来源权威、领域丰富、代表性强、考察点全面的大规模高质量评估题库, 从价值导向、伦理安全等所涉及的10余个维度,采用人机结合的方式进行打分和综合评估,并持续跟踪观测 AI系统进化过程中的风险变化情况。
人 民 网 股 份 有 限 公 司 版 权 所 有 ,未 经 书 面 授 权 禁 止 使 用
Copyright © 1997-2024 by www.people.com.cn. all rights reserved
Copyright © 1997-2024 by www.people.com.cn. all rights reserved