专利内容由知识产权出版社提供
专利名称：分类模型的评估方法和装置专利类型：发明专利发明人：唐梦云
申请号：CN201910629171.3申请日：20190712公开号：CN110363243A公开日：20191022
摘要：本申请涉及一种分类模型的评估方法和装置，所述方法包括：获取待测样本；待测样本包括正常样本及对应的对抗样本；将待测样本输入至分类模型，得到分类模型输出的预测结果；预测结果包括样本类别及对应的预测置信度；获取正常样本的置信度向量以及对抗样本的置信度向量；根据正常样本与对抗样本各自的置信度向量，确定置信相似度；根据置信相似度，得到分类模型的评估结果。本申请提供的方案可以解决了由于无法得知内部结构和相关参数、而无法评估分类模型对对抗样本的鲁棒性的问题。
申请人：腾讯科技(深圳)有限公司
地址：518000 广东省深圳市南山区高新区科技中一路腾讯大厦35层
国籍：CN
代理机构：广州华进联合专利商标代理有限公司
代理人：关志琨
更多信息请下载全文后查看
