关键深伪案例揭示AI规制需求

新西兰法律在应对X平台上的性化深伪迅速增长时显得滞后。尽管埃隆·马斯克承诺屏蔽生成这些内容的AI工具，但该措施可能只限于英国用户。新西兰对此未采取明确立场，而其现有法律在防止或惩罚非自愿性化深伪方面效力不足。

虽然《有害数字通信法》2015年提供了一些救济途径，但并未完全解决问题。该法要求受害者证明遭受“严重情感困扰”，而不是强调非自愿性化的本质。

目前，新西兰正计划引入一项成员议案，将未经同意制作、持有和传播性化深伪定为犯罪。然而，这仅是解决方案的一部分，因为它没有对公司进行问责，尤其是那些设计和部署AI工具的公司。

社交媒体平台应对非自愿性化深伪采取更有力措施。虽然用户负有责任，但像X这样的平台通过简化访问来消除技术障碍。

新西兰目前对AI的轻触监管反映了一种政治偏好，假设自律和良心治理会伴随技术发展。然而，这明显不够有效，需要更为严格的框架来认识到AI带来的性别化伤害。

新西兰需要强制要求公司在部署AI工具之前进行风险评估和预防措施，以此减少可预见的滥用行为。在AI嵌入数字平台后，技术能力与法律框架之间的差距将继续扩大，除非采取措施。

原始文章来源：Mirage News