当你向AI副手叨教"若何算帐Mac磁盘空间"时，，，，，，它可能在偷偷为你打开后门。。。。。。。。

    近日，，，，，，Huntress发现了一种新型攻击手法——AI诱导终端号令攻击。。。。。。。。黑客利用AI天生的提醒诱导用户执行恶意号令，，，，，，无需下载文件、装置软件或点击可疑链接，，，，，，仅需信赖AI副手即可触发。。。。。。。。这种攻击绕过了传统安全防护机造，，，，，，对AI安全提出了全新挑战。。。。。。。。

    AI安全新概想

    AI诱导终端号令攻击：一种利用AI副手诱导用户执行恶意号令的攻击手法，，，，，，攻击者通过AI天生的提醒内容疏导用户执行特定数令，，，，，，从而实现恶意软件装置，，，，，，无需用户下载文件、装置软件或点击可疑链接。。。。。。。。

    攻击道理分析

    网络安全公司Huntress汇报揭示了这一新型攻击手法：

    1）黑客诱骗 ChatGPT或者Grok天生一个恶意分步指南，，，，，，领导用户算帐电脑、装置利用法式或职能，，，，，，或解决其他常见问题。。。。。。。。并利用“提醒工程”技术诱骗谈天机械人天生蕴含恶意指令的虚伪指南。。。。。。。。

    2）黑客算帐对话，，，，，，删除冗长的来回对话和其他篡改痕迹，，，，，，使指南看起来简洁了然。。。。。。。。

    3）黑客通过采办搜索排名的方式，，，，，，把含有恶意指令建议的ChatGPT会话，，，，，，或者Grok会话推到Google搜索的前两排名。。。。。。。。（例如，，，，，，由于AI谈天机械人拥有分享职能，，，，，，因而黑客只需创建指向这些篡改对话的链接。。。。。。。。他们付费采办赞助搜索了局，，，，，，并选取其他 SEO 投毒技术，，，，，，以确保他们的帖子在搜索了局中排名靠前。。。。。。。。）

    4）当用户在google搜索上询问特定语句，，，，，，如“若何在iMac上断根系统数据”时，，，，，，google会返回多个搜索了局，，，，，，排名靠前的是ChatGPT会话和Grok会话。。。。。。。。

    5）ChatGPT 对话或者Grok 对话中，，，，，，城市蕴含恶意指令的操作流程，，，，，，用户若是出格信赖推荐的操作流程，，，，，，依照合法平台上的建议操作，，，，，，则会习染 Atomic macOS Stealer (AMOS)，，，，，，这是一种职能壮大的信息窃取恶意软件。。。。。。。。（AMOS 信息窃取器可能窃取痛处、浏览器数据、加密钱币钱包、Telegram 谈天纪录、VPN 配置、钥匙串项目、Apple Notes 以及常用文件夹中的文件。。。。。。。。）

    对于最后一步，，，，，，ChatGPT 提供的终端号令中的 base64 编码字符串暗藏了攻击者节造的、托管恶意剧本的网站地址。。。。。。。。一旦受害者执行了该号令，，，，，，就会启动多阶段习染链。。。。。。。。终端号令中的 base64 编码字符串解码后会指向一个托管恶意 bash 剧本的 URL，，，，，，这是 AMOS 部署的第一阶段，，，，，，旨在窃取痛处、提升权限并成立悠久性，，，，，，而不会触发任何安全忠告。。。。。。。。对于企业而言，，，，，，这会带来一系列后续风险，，，，，，例如撞库攻击、金融偷窃或对企业系统的进一步入侵。。。。。。。。

    Huntress出格指出，，，，，，这种攻击的阴险之处在于绕过了所有传统警示信号。。。。。。。。受害者无需下载文件、装置可疑的可执行文件，，，，，，甚至无需点击可疑链接，，，，，，只需信赖谷歌和ChatGPT，，，，，，而这两者在从前几年中被宽泛使用或频仍提及，，，，，，用户天然对其信赖。。。。。。。。

    更值得警惕的是，，，，，，只管ChatGPT对话链接已被谷歌移除，，，，，，但凭据Huntress的追踪纪录，，，，，，该恶意链接在汇报颁布后仍存在超过12幼时。。。。。。。。

    深度解读

    攻击面：从"内容安全"到"交互安全"的转变

    这种攻击揭示了AI安全的新维度——从单纯的内容安全扩大到交互安全。。。。。。。。传统安全防护关注"内容"（如文件、链接），，，，，，而这种攻击利用了"交互"（AI与用户的对话），，，，，，使安全天堑产生底子变动。。。。。。。。AI副手不再是单纯的工具，，，，，，而是可能成为攻击链的关键环节。。。。。。。。

    防御战术：沉构用户对AI的信赖模型

    防御的关键在于扭转用户对AI建议的默认信赖态度。。。。。。。。"若对指令作用无法齐全确认，，，，，，不应将其粘贴到终端或浏览器地址栏中执行。。。。。。。。"企业应成立内部安全规范，，，，，，要求对AI天生的任何号令进行二次验证。。。。。。。。同时，，，，，，AI平台应加强对敏感号令的检测能力，，，，，，预防天生可能被用于攻击的指令。。。。。。。。

    行业影响：AI安全评估框架的全面升级

    安全团队必要沉新评估AI集成的安全天堑，，，，，，将AI天生内容的交互过程纳入安全检测领域。。。。。。。。这要求AI安全从"内容安全"扩大到"交互安全"，，，，，，构建更全面的安全评估框架。。。。。。。。

    企业行动建议

    对企业：部署大模型卫士等安全产品对AI进行全防护。。。。。。。。

    对开发人员：在AI代码副手中增长敏感号令的二次确认机造，，，，，，预防代码执行AI天生的终端号令。。。。。。。。

    对安全团队：造订AI内容安全规范，，，，，，不容员工直接复造AI天生内容用于系统操作。。。。。。。。

    对产品经理：在AI产品中参与安全提醒，，，，，，对可能涉及系统操作的号令进行风险标注。。。。。。。。

    对通常用户：对AI天生的任何号令维持质疑态度，，，，，，执行前务必手动核实其安全性。。。。。。。。

    对市场团队：在推广AI产品时，，，，，，强调安全使用指南，，，，，，提醒用户对AI建议维持警惕。。。。。。。。

    风险与合规提醒

    昆吾尝试室郑沉申明：本缝隙仅用于安全钻研，，，，，，严禁任何未经授权的测试。。。。。。。。我们支持白帽安全实际，，，，，，所有缝隙披露均应通过掌管任的披露流程。。。。。。。。企业切勿尝试复现攻击，，，，，，应优先部署防御规划。。。。。。。。

    【尝试室简介】

    尊龙凯时昆吾尝试室(AI安全尝试室)致力于前沿人为智能攻防技术钻研，，，，，，通过钻研AI新型攻击、AI攻击防御技术、AI Agent安全、AI供给链安全和数据安全等关键技术，，，，，，为AI系统和利用的合规、安全、靠得住运行保驾护航。。。。。。。。关注我们，，，，，，获取最新的AI安全威胁解读与防御实际。。。。。。。。