谈一谈：2024年世界互联网大会｜全球AI大模型攻防挑战赛收官，十强选手用AI对抗AI

啃蝌蚕丝

11月20日，国内首个AI大模型攻防赛在世界互联大会乌镇峰会收官。
比赛现场，全球十强选手面对“眼见不为、耳听不为”的场景，通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI。大赛比较终角逐出全球十强，来自字节跳动、合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获奖。


随着人工智能技术特别是大模型及AIGC领域飞速发展，给我们生活带来了前所未有的便利与可能性，也带来了安全方面的挑战。
只需10秒，大模型就能克隆声音、复刻照片，甚至能生成“你”的视频；同时，大模型“越狱”问题频发，生成各种危害络空间安全的各类信息。
这样的背景下，全球AI大模型攻防挑战赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，赛题涉及信用成长、凭证审核、商家入驻、智能助理等多个业务场景，覆盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域，通过创新的技术解决方案，进一步保障大模型应用安全和产业安全。


“通过攻防战演练，直面大模型应用中的安全问题，促使大模型安全技术不断进步，从而携手行业迈向更高的安全水平。”蚂蚁集团安全验室首席科学家、全球AI大模型攻防挑战赛评审会王维强表示。
AI反诈是当前保护大模型安全比较典型、真的场景之一。“现在AI诈越来越隐秘，手法越来越多样，可以模拟亲人的声音、朋友的视频，甚至伪造各种文件，让人们防不胜防。今天的比赛，作为一人民警察，我感觉非常欣慰，这意味着我们在对抗AI诈的道路上，有了更多的力量和智慧。”收官现场，来自桐乡的反诈民警李湘臣谈道。
除了十强选手外，为了鼓励比赛方案的算法创新性和资源绿色性，大赛还特别评选出“杰出方案奖”，分别由西安交通大学、上海交通大学及理想汽车赛队获得。此外，蚂蚁集团在现场为秀选手颁发直通offer，秀技术人才秒入职。
该项赛事由图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起。
大赛自9月启动以来，来自全球18个和地区的2700多支赛队、3200余技术精英参与，选手来自清华大学、北京大学、香港科技大学、悉尼大学等290多所国内外高校，以及字节跳动、理想汽车、讯、智谱AI、Shopee等280多家互联、金融、汽车、大模型科技等企业。
此外，在活动现场，信通院启动“护证计划”，呼吁共建行业标准，守护用户的身份安全。蚂蚁集团表示，积极响应并加入该计划。


#AIGC行业资讯#AI#AIGC#AI诈#人工智能#创新#大模型#字节跳动#数据处理#机器学习#蚂蚁集团#视频#计算机视觉#音频#香港
?版权声明

此外，我们不能忽视大模型智能体给行业发展注入了新的活力，对于激活市场有着深远的意义。BetterYeah专为企业提供尖端的AI知识库构建平台，融合最新的大模型（LLM）与RAG技术，实现强大的知识库数据处理与AI智能体应用定制。https://www.betteryeah.com/agent