电网领域也需有效应对人工智能“幻觉”

　　当前，人工智能迅猛发展，其应用范围已渗透至社会生产与生活的各个领域。然而，人们在享受人工智能带来的高效便捷体验的同时，也难逃人工智能“幻觉”的困扰。这里的“幻觉”，指的是人工智能生成的看似合理但实际不准确或虚假的信息。

　　在电网领域，人工智能的应用越来越广泛、深入，其固有的“幻觉”现象可能给电网企业带来风险与挑战，是电网数字化、智能化发展进程中不容忽视的问题。

　　何为人工智能“幻觉”

　　人工智能大模型有时会编造一些并不存在的细节，生成与事实相悖的答案，给出一些并不准确的链接……这些现象都可以归为人工智能“幻觉”。

　　人工智能“幻觉”主要发生在生成式人工智能大模型中，是指模型在输出过程中生成看似合理、逻辑通顺，但与客观事实不一致的内容，就像人类在认知过程中出现错觉、虚构记忆一样。一项调研显示，对于“公众认为使用人工智能过程中有哪些突出问题”，反馈最多的是“内容不准确，或含虚假信息”，占比高达42.2%。

　　值得注意的是，“幻觉率”并非越低越好，模型需要在准确性、创造性与应用场景之间进行权衡。高“幻觉”模型在开放性任务中会展现出更强的推理能力，但容易产生错误事实;低“幻觉”模型则更依赖训练数据，灵活性受限。

　　人工智能会产生“幻觉”

　　源于数据、算法与环境等多重因素

　　生成式人工智能的工作原理类似于“成语接龙”游戏，模型通过预测下一个词语的概率分布来生成输出内容。人工智能“幻觉”的产生并非单一因素所致，而是数据基础、算法机制与交互环境等多重因素交织作用的结果。

　　模型的学习过程高度依赖训练数据，而数据本身的质量、完整性与准确性直接决定了模型的输出结果。数据缺陷是导致人工智能“幻觉”的重要原因之一。如果训练数据中存在错误、片面或未发布的内容，模型就可能在学习过程中建立起错误的关联。例如，某模型基于尚未正式发布的行业标准进行训练，输出的内容就可能与现行规范不符。知识固化也是人工智能“幻觉”的诱因之一。部分模型过度依赖参数化记忆，缺乏动态更新能力，在面对训练数据之外的新问题时，往往无法准确应答。例如，某模型仅基于2024年之前的数据进行训练，那么在面对2024年之后的事件时，可能会虚构信息来填补“知识空白”。

　　尽管模型具备强大的文本生成能力，但其算法机制仍有局限性，在一定程度上加剧了“幻觉”的产生。长文本处理不足可能使模型过于关注局部词句而忽视整体逻辑结构，陷入“只见树木不见森林”的困境，导致生成的内容前后矛盾、逻辑混乱。数据压缩与信息丢失也是关键问题。为提升处理效率，模型在处理海量数据时通常会压缩，舍弃看似冗余的细节信息，而这一过程可能导致关键信息丢失。为填补这些“空白”，模型可能会虚构内容来“自圆其说”。同时，目前大多数模型缺乏对生成内容真实性的验证机制，错误信息可能在生成过程中不断被合理化，最终导致“幻觉”的产生。

　　模型的输出内容不仅取决于其内部机制，还深受用户输入的影响。在实际应用中，环境因素往往成为人工智能“幻觉”的“放大器”。用户提问模糊、提示不清或逻辑矛盾的情况下，模型难以准确理解用户意图，可能会“自由发挥”，生成偏离实际需求的内容。在多轮对话中，偏差的累积放大现象尤为明显。某一环节生成的内容存在偏差，后续生成的内容可能会基于这一错误进行推理，最终使输出内容与事实严重偏离。

　　面对人工智能“幻觉”

　　需从数据、技术、管理、人才等方面发力

　　面对人工智能“幻觉”带来的潜在风险，电网企业需采取系统性、多层次的应对策略，构筑起坚实的安全防线。

　　优化数据治理。通过构建电力专业语料库，持续更新技术标准、行业规范及最新研究成果、实践案例等专项数据，提升数据的行业针对性和时效性。强化数据清洗与标注，引入机器学习算法，全面提升数据质量。加强多源数据融合校验，整合传感器数据、设备图像、运维文本等多模态信息，通过交叉验证机制降低单一数据源偏差影响。建立全生命周期数据追溯体系，实现从数据采集、模型训练到模型迭代全程可控、可追溯。

　　创新模型架构。调整模型参数，降低随机性，通过设置关键参数，明确要求模型“仅基于已有知识回答，如不知道请明确说明”，减少编造倾向。引入检索增强生成技术，将电力规程、设备参数、运行经验等专业知识嵌入模型推理过程，进一步约束模型生成边界，提升模型的准确性和专业性。开启思维链模式，让模型展示推理步骤和逻辑过程，便于发现并纠正潜在的逻辑跳跃或事实错误。构建“大模型+小模型”混合架构，根据业务场景灵活调整功能分配，实现语义理解和精准计算的高效协同。

　　健全体制机制。在应用人工智能过程中，优化双轨验证制度，明确人工经验验证和人工智能推理校验流程。针对电网调度、故障诊断等关键场景，合理设置人工复核节点，形成更高效、更可靠的人机协作模式。优先选取中低风险场景开展人工智能试点应用，待技术成熟后逐步推广。

　　提升员工素养。提升员工核查事实的技能，组织员工参与人工智能项目开发实施，通过模拟演练提高实战能力。推广多源比对验证方法，引导员工利用不同人工智能工具对同一问题提问，比对答案差异识别潜在“幻觉”。搭建人工智能应用最佳实践共享平台，促进跨部门、跨单位沟通合作，推动企业人工智能应用整体水平提升。(作者：赵三珊 华珉 单位：国网上海市电力公司电力科学研究院)