对抗样本攻防实战 04 Jan, 2022 行业新闻 前言 对抗样本大家都耳熟能详了,但是大家可能觉得离自己比较远,毕竟主要是学术界在做这方面的工作,可能还需要很多数学理论基础,所以没有尝试动手实践过。在本文中,不会提及... Read More
基于编码注入的对抗性NLP攻击 31 Dec, 2021 行业新闻 研究表明,机器学习系统在理论和实践中都容易受到对抗样本的影响。到目前为止,此类攻击主要针对视觉模型,利用人与机器感知之间的差距。尽管基于文本的模型也受到对抗性样本... Read More
【开启报名】聚焦AI安全!OPPO安全挑战赛总决赛暨高峰论坛12月4日登场 15 Dec, 2021 行业新闻 聚焦AI 安全,行业大咖共探技术难题AI安全作为科技行业的一个新战场,需要在算法、数据、应用等多个环节进行攻坚。2021年OPPO举办的安全AI挑战赛聚焦行业焦点的人脸识别难题,以... Read More
菜鸟的AI安全乱谈(2)—通过模型再训练留后门 16 Dec, 2019 行业新闻 原创: xiaoqin00 合天智汇前面我们假设了一个验证机器的场景菜鸟的AI安全乱谈(1)-通过深度学习模型攻击深度学习分类器,这篇文章我们接着那个场景来展开,在拿到模型的读写权限情... Read More
菜鸟的AI安全乱谈(1)-通过深度学习模型攻击深度学习分类器 12 Dec, 2019 行业新闻 原创: xiaoqin00 合天智汇假设场景:假如你获得了一台带虹膜验证机器的部分权限,能够进入到这个机器的部分目录中,但是只有模型文件(model.h5)的读写权限,这种情况下你要怎么进行下... Read More
威胁建模模型ATT&CK 11 Mar, 2019 行业新闻 前言 本届RSA中AI/ML是一个热点,当前的人工智能其实可以简单划分为感知智能(主要集中在对于图片、视频以及语音的能力的探究)和认知智能(涉及知识推理、因果分析等),当前算法绝大... Read More
AI与安全的恩怨情仇五部曲「1」:Misuse AI 21 Oct, 2018 行业新闻 *本文原创作者:薇拉vera,本文属于FreeBuf原创奖励计划,未经许可禁止转载 写在前面随着AI军备战进入白热化状态,越来越多的行业开始被AI带来的浪潮所影响,甚至颠覆。安全作为和众... Read More
AI安全风险白皮书 23 Feb, 2018 行业新闻 摘要深度学习引领着新一轮的人工智能浪潮,受到工业界以及全社会的广泛关注。 虽然大家对人工智能有很多美好的憧憬,但是现实是残酷的 -- 随着一批深度学习应用逐渐开始变成现... Read More