OpenAI发布了一份政策蓝图,概述了人工智能(AI)行业可采取的新安全措施,以防止该技术被用于制作儿童性虐待材料。
"儿童性剥削是数字时代最紧迫的挑战之一,"OpenAI在4月8日的公告中表示。"AI正在迅速改变这些危害在整个行业中出现的方式,以及如何大规模应对这些危害。"
考虑到这一点,该公司公布了其政策蓝图,概述了"在AI时代加强美国儿童保护框架的实际前进道路"。
据这家AI巨头称,该蓝图反映并纳入了儿童安全生态系统中多个领先组织和专家的反馈,包括国家失踪与受虐儿童中心(NCMEC)、总检察长联盟——一个由美国州总检察长组成的非营利组织——以及Thorn,一个致力于保护儿童免受性虐待的非营利组织。
"没有单一的干预措施能够独自应对这一挑战,"OpenAI表示。"这个框架汇集了法律、运营和技术方法,以更好地识别风险、加快应对速度并支持问责制,同时确保随着技术的发展,执法机构保持强大。"
此举出台之际,人们对AI工具滥用的担忧日益增加,特别是图像生成功能被用于制作女性和儿童的露骨图像,包括名人和公众人物。
今年1月早些时候,英国通信监管机构Ofcom被迫紧急联系X和xAI,"以了解他们采取了哪些措施来履行其保护英国用户的法律义务",此前有报道称Elon Musk的AI聊天机器人Grok被用于创建和传播儿童和女性的露骨图像,这些图像中的衣服被数字移除。
欧盟也表达了类似的担忧,意大利的数据保护机构警告AI工具的用户和提供商注意AI深度伪造对"基本权利和自由"构成的风险。
为了解决这些问题,OpenAI表示它有三个关键优先事项:现代化法律以打击AI生成和修改的儿童性虐待材料,改善提供商报告和协调以支持更有效的调查,以及直接在AI系统中构建安全设计措施以防止和检测滥用。
"这些步骤共同使行业能够更早、更有效地解决儿童安全问题,"该公司在4月8日的声明中表示。"通过更快地中断剥削企图,提高发送给执法部门的信号质量,并加强整个生态系统的问责制,该框架旨在在伤害发生之前预防伤害,并帮助确保在风险出现时更快地保护儿童。"
OpenAI表示,它还致力于继续加强保障措施以防止其系统被滥用,并与NCMEC和执法部门等合作伙伴密切合作,以改善检测和报告。
在关于儿童安全蓝图的联合声明中,总检察长联盟AI工作组联合主席、北卡罗来纳州总检察长Jeff Jackson和犹他州总检察长Derek Brown表示,他们"欢迎这一蓝图,将其视为使技术部门的儿童安全实践与我们办公室每天面对的执法现实保持一致的有意义的一步"。
两人特别强调了该框架认识到有效的生成式AI(GenAI)保障措施需要分层防御——不是单一的技术控制,而是检测、拒绝机制、人工监督以及对新出现的滥用趋势持续适应的组合。
"这反映了我们在实践中看到的情况:威胁在不断演变,静态解决方案是不够的,"州总检察长们表示。
OpenAI的公告也受到了NCMEC总裁兼首席执行官Michelle DeLaune的欢迎,她警告说GenAI正在"以令人深感不安的方式加速在线儿童性剥削犯罪——降低门槛、扩大规模并促成新形式的伤害"。
DeLaune补充说,她"很高兴看到像OpenAI这样的公司反思如何更负责任地设计这些工具,从一开始就内置保障措施"。
为了让人工智能(AI)在法律框架内正常运作并在日益增长的挑战面前蓬勃发展,它需要整合一个企业区块链系统,以确保数据输入质量和所有权——使其能够保持数据安全,同时保证数据的不可变性。查看CoinGeek对这项新兴技术的报道,了解更多为什么企业区块链将成为AI的支柱。
观看:展示区块链与AI融合的潜力
来源: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
