中国经济网络保留的所有权利 中国经济网络新媒体矩阵 在线音频 - 视觉节目许可证（0107190）（北京ICP040090） 国家安全部最近发布了一份文件，以提醒人工智能培训数据的质量不平衡，包括错误信息，虚构的内容和偏见视图，这会导致数据资源污染，并为人工智能安全带来新的挑战。数据是发展人工智能的基础。人工智能模型通过评估和处理大量培训数据来理解世界，从而推动内容制造和明智的决策。高质量的数据可以提高情报人的人工模型的准确性和可靠性，但是如果感染了数据，它将扭曲人工智能模型的感知，导致决策错误，甚至引发有害的产出。研究表明，当有0.01％培训数据集中的假文本，模型内容的有害输出将增加11.2％。当前，作为人工智能模型的重要“语料库”，不同类型的信息混合在一起，准确性是一个困难的保证。尽管该模型正在尝试在训练过程中最好地过滤衰弱的数据，但很难完全避免渗透错误或有害内容。现在，从食品建议到自主驾驶，从财务决策到医疗诊断，人工智能都高度融入了人们的生活中。由于数据污染而造成的任何错误错误可能会导致链反应并带来不可抗拒的损失。例如，在自动驾驶领域，道路条件的错误作者导致交通事故；在财务领域，错误信息会给股价带来异常的冲击。可以看出，防止数据污染不仅是人造领域的技术挑战情报，也是社会信任和公共安全的问题。目前，“管理生成人工智能服务的临时步骤”包括人造足够的培训数据，所有各方还探索了各种方法来识别和防止恶意数据的影响。但是，尽管ADATA污染变得更加隐藏，但我们必须为人工智能建立一个更强大的“免疫系统”，继续升级技术方法，建立更严格的筛选机制和验证机制，并从源头中填充错误，错误和偏见的美味内容。同时，改善监视和反馈的动态机制，及时及时地，清洁并根据法律法规定期进行正确污染的数据，并为人工智能数据建立稳定的基础。 （5月-Set：YU YUE来源：经济经济销售） （负责编辑：Fu Zhongming）
