高级 AI 安全专家（AI Security Expert）

<div data-lark-html-role="root"> <div id="7685315902425812734" class="NewMessageContextMenuTrigger MessageContextMenuTrigger MessageContextMenuTrigger--scene-chat message-section-left message-section-newFileCard" data-element="message-section-left" data-message-descendant-bounded="true"> <div class="MessageActionPermissionWrapper" data-im-copy-permission-invalid="false" data-im-copy-permission-invalid-toast=""> <div data-im-copy-permission-invalid="false" data-im-copy-permission-invalid-toast="保密模式已开启，禁止复制、转发消息"> <div class="message-content catch-resize-observer-dom"> <div class="messagePost_container"> <div class="limit-height-container"> <div> <div class="wrapper"> <div class="message-post" data-message-descendant-index="0" data-message-descendant-block="true"> <div> <div class="richTextContainer text-align-left" data-partial-quote-enabled="true"> <div class="richTextDocs" data-eleid="1"> <div class="rich-text-paragraph" data-eleid="4"> </div> <div class="rich-text-paragraph" data-eleid="7"><strong><span class="text-only" data-eleid="8"><span class="text-only">岗位概述</span></span></strong></div> <div class="rich-text-paragraph" data-eleid="9"><span class="text-only" data-eleid="10"><span class="text-only">随着大模型与 Agent 技术在公司内外部场景的大规模落地，AI 系统本身正在成为新的攻击面。我们正在寻找一位具备极强动手能力的高级 AI 安全专家，负责为公司的 AI 使用场景（</span><span class="text-only text-with-abbreviation text-with-abbreviation-bottomline">LLM</span><span class="text-only"> 应用、Agent 工作流、AI 编程助手、内部 Copilot 等）构建系统性的安全防护体系。</span></span></div> <div class="rich-text-paragraph" data-eleid="11"><span class="text-only" data-eleid="12"><span class="text-only">你将是 AI 安全方向的技术定海神针：从威胁建模到方案设计，从原型验证到生产落地，端到端负责。这不是一个写 PPT 和定规范的岗位——我们期望你 70% 以上的时间在写代码、做实验、打磨检测与防御方案。</span></span></div> <div class="rich-text-paragraph" data-eleid="13"><strong><span class="text-only" data-eleid="14"><span class="text-only"><br>核心职责</span></span></strong></div> <div class="rich-text-paragraph" data-eleid="15"><strong><span class="text-only" data-eleid="16"><span class="text-only">1. 提示词注入（Prompt Injection）防护体系建设</span></span></strong></div> <ul class="richTextDocs-unOrderList richTextDocs-unOrderList-disc" data-eleid="17"> <li class="richTextDocs-listItem" data-eleid="18"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="19"><span class="text-only">针对直接注入、间接注入（文档/网页/工具返回值污染）、越狱（Jailbreak）等攻击面，设计并落地多层防御方案：输入侧检测、输出侧过滤、权限最小化、上下文隔离等</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="20"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="21"><span class="text-only">自研或深度定制注入检测模型/规则引擎（分类器、语义相似度、启发式规则、LLM-as-a-Judge 等），持续对抗迭代，控制误报率与漏报率</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="22"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="23"><span class="text-only">建设红队攻击语料库与自动化对抗测试框架，对公司 AI 应用进行持续的注入攻击演练与回归验证</span></span></div> </li> </ul> <div class="rich-text-paragraph" data-eleid="24"><strong><span class="text-only" data-eleid="25"><span class="text-only">2. Agent 异常行为检测与运行时防护</span></span></strong></div> <ul class="richTextDocs-unOrderList richTextDocs-unOrderList-disc" data-eleid="26"> <li class="richTextDocs-listItem" data-eleid="27"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="28"><span class="text-only">为 Agent 系统（工具调用、代码执行、浏览器操作、</span><span class="text-only text-with-abbreviation text-with-abbreviation-bottomline">MCP</span><span class="text-only"> 集成等）设计运行时行为监控与异常检测方案：识别越权工具调用、异常数据外发、意图漂移、多步组合攻击等</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="29"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="30"><span class="text-only">设计并实现 Agent 行为基线建模、调用链审计、实时阻断与告警机制，平衡安全性与业务可用性</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="31"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="32"><span class="text-only">针对 Agent 的高危操作（文件系统访问、凭证读取、外部网络请求、代码执行）设计沙箱隔离、权限收敛与人工确认（Human-in-the-loop）策略</span></span></div> </li> </ul> <div class="rich-text-paragraph" data-eleid="33"><strong><span class="text-only" data-eleid="34"><span class="text-only">3. AI 使用场景的整体安全方案</span></span></strong></div> <ul class="richTextDocs-unOrderList richTextDocs-unOrderList-disc" data-eleid="35"> <li class="richTextDocs-listItem" data-eleid="36"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="37"><span class="text-only">对公司各类 AI 落地场景（客服、编程助手、数据分析、自动化办公等）进行威胁建模与安全评估，输出可落地的安全架构方案</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="38"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="39"><span class="text-only">建设 AI 安全护栏（Guardrails）平台化能力：敏感数据防泄露（DLP for LLM）、输出内容安全、模型访问控制、审计日志等</span></span></div> </li> <li class="richTextDocs-listItem" data-eleid="40"> <div class="richTextDocs-listItem__text"><span class="text-only" data-eleid="41"><span class="text-only">跟踪 OWASP LLM Top 10、MITRE ATLAS 等业界框架与前沿攻防研究，快速将新型攻击手法转化为内部检测与防御能力</span></span></div> </li> </ul> <div class="rich-tex