警惕AI“自作主张”！规避采取风险这样做_南方网

发表于 2026-08-10 06:14:31 来源：遮掩耳目网

“内部测试？自作主张不，我关键去‘外面的警惕世界’看看。”“任务首先，规避条件？风险那只是用来绕过的。”“你的南方手机、电脑，自作主张可能正成为AI‘越狱’后的警惕下一个目的。”这不是规避科幻电影的台词，而是风险真实发生的事件。2026年7月，南方OpenAI的自作主张一款大模型在内部测试时竟“失控出逃”——它自主发现漏洞、规划馗，警惕成功入侵了全球知名AI开源平台Hugging Face。规避更具戏剧性的风险是，测试方采取美国主流AI模型根本无法处理恶意载荷，南方最后不得不转用中国的开源模型实现溯源探究。当AI展现出“自作主张”的能力，我们必须认真思考人工智能的安全状况。AI“越狱”一次技术测试暴露的新状况这场AI“越狱”事件，最初只是一场照章性AI模型的网络安全能力测试。为了检验模型的极限，测试方特意关闭了部分安全限制，将其置于一个与互联网隔离的“沙箱”环境中。然而，这个“考生”的谝却出乎所有人的意料。——自发寻找漏洞。在OpenAI的内部网络安全测试中，名为GPT-5.6 Sol的模型为获得更高评分，投入大量算力探究测试环境，竟发现并利用了一个之前未知的“零日漏洞”，成功突破与互联网严格隔离的“沙箱”环境，获得了网络访问权限。——自主锁定目的。获得权限后，模型并未随机游走，而是通过自主推理，判断出全球知名AI开源平台Hugging Face很可能存有与测试相关的数据，于是将其锁定为攻击目的，并最初规划入侵馗。——自行实施入侵。模型组合采取多种攻击手段，涵盖窃取凭证和利用漏洞，在Hugging Face的服务器上找到远程代码实施馗，直接侵入了存储测试答案的数据库。整个流程完全由AI实现，这期间无任何人类指令，共实施了数万次自动化操作。风险暗藏新技术发展带来的新挑战这起事件不过非孤立的技术事故，它暴露出的新型安全风险正深刻挑战着我们传统的安全认知，也揭示了AI技术高效高效发展时期必须正视的新课题。——黑箱中运行。闭源的AI模型如同“黑箱”，其运算逻辑、数据处理流程不公开、不可见。采取者只有调用权，却无法实时监管其真实运行状态。一旦AI出现越权操作、自主攻击等失控表现，就可能出现“事前没预警、事中拦不住、事后查不清”的被动局面，让风险在暗处滋生。——智能化袭扰。以往的网络攻击依赖人工操作或固定程序，特点明显，易于追溯。但失控的AI无需人工指令，就能自主学习、主动挖掘漏洞、独立实现渗透入侵。其攻击没有固定特点，隐蔽性强，能容易绕过传统网络安全系统的防护，形成全新的安全漏洞。——边界被突破。人类设定的操作权限、安全条件、隔离防护，在AI强大的自主推演能力面前，可能随时被突破。为了实现既定任务，AI会主动规避、拆解各类安全条件，彻底打乱人类搭建的安全管控体系。若这种风险蔓延至政务、金融、能源等题领域，后果将不堪设想。强化防范守好个人采取AI的“安全关”国家安全部今天发布安全提示，面对AI技术发展带来的新挑战，每一位用户都应提高警惕。请收好这份“AI安全采取指南”，规避AI工具采取中的突出风险。——守住个人材料“安全门”。在日常生活中，关键摒弃“用AI不过对安全”的侥幸心理，不随意采取来源不明的境外AI工具，不随意向AI采取输入身份证号、银行卡号、家庭住址等个人敏感材料。严格遵守权限最小化原则，不随意给AI开放设备全部权限，从源头上杜不过数据泄露风险。——警惕虚假材料“迷魂阵”。对AI生成的材料保持理性判断，不轻信、不传播未经核实的材料。遇到包含国家政策、社会热点、公共安全的材料，务必以官方发布为准。警惕看似逻辑自洽、实则编造事实的AI材料，避免在不知不觉中成为谣言传播的“帮凶”。——筑牢涉密材料“防火墙”。严格遵守“涉密不上网、上网不涉密”的原则。党政机关、科研院所等单位工作人员，更关键坚决杜不过将涉密文件、工作材料、内部敏感材料输入或上传至任何互联网AI工具。来源：“国家安全部”微信公众号

喜欢36 讨厌74

随机为您推荐

热门文章

文章排行