🔒AI 安全与隐私入门
最近更新:
分类: AI 安全与隐私入门
AI 教程网络
相关教程
文章分组
按三段查看
基础、实践、扩展三个阶段，按文章顺序排列。
图文教程
图文文章
1 引言
第 1 篇6 张图1.6k 字我讲 AI 安全隐私时，会先把模型放回系统里看。风险不只在算法，也在输入表单、知识库、日志、权限、接口和最后拿结果做决策的人。
AIAI安全与隐私
2 引言
第 2 篇6 张图1.6k 字安全更关心系统是否被未授权访问、篡改和中断；隐私更关心个人数据有没有被过度收集、超范围使用和长期留存。两者重叠，但不能互相替代。
AIAI安全与隐私
3 引言
第 3 篇6 张图1.3k 字安全隐私教程如果一开始就堆法规和术语，读者很容易断掉。我更推荐先建立 AI 系统的基本词表，再看攻击面和隐私权利，最后落到开发流程。
AIAI安全与隐私
4 人工智能的分类
第 4 篇6 张图1.7k 字AI 分类的意义不是背概念，而是判断风险在哪里。规则系统容易查逻辑，机器学习要看数据和特征，深度学习要看可解释性，生成式应用还要看输出和工具权限。
AIAI安全与隐私
5 机器学习与深度学习
第 5 篇6 张图1.6k 字机器学习和深度学习的安全隐私问题，很多时候不是代码漏洞，而是数据来源、标签质量、样本覆盖和上线后的分布变化。
AIAI安全与隐私
6 人工智能的基本概念之2.3 AI技术的应用
第 6 篇6 张图1.6k 字如果想把《人工智能的基本概念之2.3 AI技术的应用》用到自己的任务里，可以先缩小场景，只验证一个最关键的判断点。
AIAI安全与隐私
7 AI系统中的安全风险
第 7 篇6 张图1.5k 字AI 应用的攻击面从用户输入延伸到知识库、插件、模型供应商、日志和工具权限。OWASP LLM Top 10 2025 已把提示注入、敏感信息泄露、供应链、数据和模型投毒、过度代理等列为重点风险。
AIAI安全与隐私
8 AI系统中的安全风险之3.2 数据中毒与模型劫持
第 8 篇6 张图1.7k 字数据中毒和模型劫持的共同点，是攻击者不一定直接打模型，而是让模型依赖的材料、版本或调用链变坏。防守要从入口和变更管理开始。
AIAI安全与隐私
9 对抗性攻击
第 9 篇6 张图1.5k 字对抗性攻击提醒我们：模型看起来很小的输入变化，可能导致完全不同的判断。防御不是写一句过滤规则，而是持续收集边界样本。
AIAI安全与隐私
10 隐私问题与法律框架
第 10 篇6 张图1.3k 字隐私合规不是在页面底部放一段政策就结束。AI 应用会持续处理输入、日志、反馈和训练材料，所以要从数据生命周期看问题。
AIAI安全与隐私
11 隐私问题与法律框架
第 11 篇6 张图1.6k 字回看《隐私问题与法律框架》时，不必一次做大项目，先用一条简单样例确认主线是否清楚。
AIAI安全与隐私
12 隐私问题与法律框架之数据主体的权利
第 12 篇6 张图1.6k 字AI 应用里的数据主体权利，难点在于用户数据可能散落在表单、日志、向量库和模型反馈里。只做一个邮箱入口，往往不够。
AIAI安全与隐私
13 数据保护与安全措施
第 13 篇6 张图1.7k 字数据保护不等于把所有东西加密就完事。AI 应用尤其要注意日志、提示词、检索片段和调试输出，这些地方最容易留下明文。
AIAI安全与隐私
14 数据保护与安全措施之访问控制与身份验证
第 14 篇6 张图1.8k 字AI 系统里的权限不能只看页面菜单。用户能否访问知识库、导出记录、修改模型、调用外部工具，都是不同级别的权限。
AIAI安全与隐私
15 数据保护与安全措施 - 安全的开发生命周期
第 15 篇6 张图1.8k 字传统 SDL 仍然有用，但 AI 项目要补上数据、模型、提示词、知识库和外部工具的检查。NIST AI RMF 也强调把可信、透明、隐私、安全等考虑纳入 AI 系统设计和评估。
AIAI安全与隐私
16 道德问题与责任
第 16 篇6 张图1.4k 字AI 伦理不应该停在“公正、透明、负责”几个词上。每条原则都要对应到一个能被检查的产品动作和一个负责人。
AIAI安全与隐私
17 道德问题与责任之自动化决策的影响
第 17 篇6 张图1.4k 字自动化决策的风险在于它看起来高效，却可能把偏见和错误放大。尤其涉及招聘、授信、医疗和教育机会时，人工出口不能省。
AIAI安全与隐私
18 道德问题与责任：社会责任与透明性
第 18 篇6 张图1.6k 字透明性不是把模型参数和内部提示词全部公开，而是让用户知道系统什么时候使用 AI、依据什么材料、有哪些限制、出了问题找谁。
AIAI安全与隐私
19 未来展望与最佳实践
第 19 篇6 张图1.8k 字AI 安全隐私不是一次性项目。模型能力、攻击方式、法规要求和业务场景都会变，所以最佳实践必须变成固定节奏。
AIAI安全与隐私
20 未来展望与最佳实践之政府与行业的角色
第 20 篇6 张图1.8k 字政府和行业的作用，不只是发布原则，还要帮助企业知道怎么做、怎么证明、怎么改进。标准越能转成检查表，越容易被团队采用。
AIAI安全与隐私
21 未来展望与最佳实践
第 21 篇6 张图1.7k 字最终的最佳实践不是一堆工具名，而是一条闭环：识别风险，减少数据暴露，控制权限，测试坏例，上线监控，定期复盘。
AIAI安全与隐私