南都发布生成式AI治理倡议,赛博昆仑郑文彬联署参与
2023-07-12 10:16:54 来源:
《倡议书》提到,近年来,“AI诈骗”、“AI犯罪”等关键词开始走入公众视野,出现了一系列“网聊10分钟骗走430万元”等真实案例,而利用AI换脸、AI拟声技术等佯装好友实施诈骗,以及利用人工智能软件 “捏造”罪名、生成虚假案例,生成内容涉嫌侵犯知识产权等问题,更是屡屡见诸媒体。
如何区分足以“以假乱真”的AI生成内容、当AI生成内容造成侵权或违法问题时,如何认定相关责任,以及类似的问题如何利用技术手段去管理,都成为本次会议讨论的焦点。
据南都数字经济治理研究中心介绍,本《倡议书》最终形成了“七大原则”和“七大建议”,内容包括确保安全、客观公正、信息披露、尊重自主、可问责可追溯、人工把关、敏捷治理等。其中“确保安全原则”提出,相关企业或组织应采取足够的管理措施和技术手段,积极防范生成式AI技术产品的漏洞攻击风险,并在产品的整个生命周期中保证用户隐私及个人信息的安全。
赛博昆仑方面表示,随着人工智能技术的高速发展,特别是AIGC出现以后,网络安全开始遭遇到新的问题与挑战,新的使用场景,带来了新的攻击手段和安全隐患。对此,除了社会各界深入关注、恪守公德边界之外,技术手段的“硬手段”,往往才是最终的解决之道。
赛博昆仑代表认为,AIGC的内容安全不仅仅牵涉到数据以及隐私泄露,也同时关乎模型训练、标注、应用,以及长期舆情监控的各个环节,其中任何一个环节存在漏洞,都可能引入相关风险。对此,赛博昆仑代表表示将充分发挥自身优势,与社会各界一道,积极参与应对防范AIGC安全问题的行动中来。
作为《倡议书》的签署方,赛博昆仑在防范漏洞攻击、确保信息安全方面,恰恰是国内顶级技术能力驱动的网络空间安全服务商,在高危漏洞攻防、0day漏洞预警应急等方面,拥有国内首屈一指的技术实力。公司旗下安全研究团队“昆仑实验室”,由国内顶尖安全研究人员组成,自成立以来,已多次斩获Pwn2own、天府杯、强网杯精英赛等国际顶级黑客大赛最高荣誉。而其旗下高级攻防团队成员,则均来自一线大厂的攻防实验室,并作为攻击队核心成员,在大型护网、区域/行业级护网、企业级护网中表现优异,取得过多项优秀成绩。
赛博昆仑代表最后表示,未来将从技术角度出发,积极践行《倡议书》的原则和方向,为生成式AI更加健康、稳定的长远、安全发展,贡献自己的力量。