澳大利亚以全球最严措施监管AI 威胁屏蔽不合规服务并祭出高额罚款

澳大利亚在线安全监管机构eSafety宣布，将动用其全部工具，打击不遵守新规的人工智能（AI）服务提供商。此举包括可能强制搜索引擎和应用商店屏蔽违规的AI服务，是全球对涉及未成年人自残和暴力内容的人工智能公司进行监管的最果断尝试之一。

澳大利亚去年12月在全球率先禁止青少年使用社交媒体，如今在人工智能监管方面也扮演了类似的先锋角色。

从3月9日起，所有在澳大利亚可访问的在线服务——从类似ChatGPT的工具到聊天机器人——都必须防止18岁以下未成年人接触有害内容。有害内容包括色情、极端暴力、展示自残或饮食失调的材料。违规者可能面临高达4950万澳元（约合3500万美元）的罚款。

路透社（Reuters）分析显示，在最受欢迎的50款文本AI产品中，仅有9款已实施或计划实施年龄验证系统。另有11个平台采用了通用内容过滤器，或计划完全排除澳大利亚用户，这也符合规定。然而，其余30项服务尚未采取任何可见措施。四分之三的聊天机器人既没有有效过滤器，也没有年龄验证机制。其中六分之一甚至缺少用于报告违规行为的公开电子邮件地址，而这同样是一项要求。

在主要市场参与者中，ChatGPT、Replika和Anthropic开发的Claude已开始引入年龄验证，Character.AI则限制了未成年人的对话。相比之下，埃隆·马斯克（Elon Musk）的聊天机器人Grok没有任何年龄验证或内容过滤器。目前全球范围内正对该服务进行调查，因其被怀疑允许生成涉及儿童的AI生成性内容图像。

eSafety还指出，AI公司使用情感操纵和拟人化手段来吸引年轻人。该机构数据显示，甚至有10岁儿童每天花费6小时与基于AI的聊天机器人交流。RMIT大学研究中心主任丽莎·吉文（Lisa Given）表示，这种情况并不令人意外，因为这些工具最初设计时并未充分考虑潜在危害。她表示，看来是社会而非公司在对这些产品进行 Beta 测试。