菲律宾因担心深度伪造技术而禁用Grok人工智能聊天机器人
Grok网站宕机了吗？那是因为它在菲律宾被禁了。菲律宾已正式封禁 Grok，成为继美国之后第三个封禁埃隆·马斯克备受争议的人工智能聊天机器人的国家。 该消息由信息通信技术部部长亨利·阿古达于周四宣布。他在新闻发布会上表示：“网络犯罪调查协调中心（CICC）目前正与国家电信委员会（NTC）合作进行封锁。”他指的是网络犯罪调查协调中心（CICC）和国家电信委员会（NTC）。
Grok是xAI公司针对ChatGPT推出的产品，近几周来一直饱受争议。问题在于，它的图像编辑功能已被滥用，用于制作监管机构所称的“性化深度伪造”图像。这些图像利用人工智能技术生成，在未经本人同意的情况下，以数字方式剥夺真人（据称包括未成年人）的衣物。
菲律宾政府声称此类内容属于网络性虐待或剥削儿童（OSAEC）。彭博社发布的研究显示，X（前身为twitter）在疫情期间成为深度伪造内容的重灾区，Grok在高峰期每小时生成约6700张带有性暗示或“裸露”意味的图片。
1月10日，印尼成为首个封禁Grok的国家，马来西亚次日也采取了类似措施。两国政府均表示，此举是“在法律和监管程序进行期间采取的预防性和适度措施”。菲律宾也加入了封禁Grok的行列——而且很可能还会有更多国家效仿。 事实是：如果您身在菲律宾，并且一直通过 X 或独立的 Grok 应用使用 Grok，那么您即将失去访问权限。菲律宾国家电信委员会 (NTC) 目前正与 Globe 和 PLDT 等互联网服务提供商合作，限制您访问该平台。
然而，阿古达部长指出，与ChatGPT和Claude等竞争对手相比，Grok在菲律宾的市场份额“确实很小”。因此，这项禁令不会对大多数人的AI工作流程造成干扰。如果您一直高度依赖Grok进行工作或创意项目，或许是时候寻找替代方案了。 对于 X（Twitter）用户来说，情况就变得很有意思了。Grok 与该平台深度集成——你可以给帖子添加标签并直接提问。虽然此次封锁的目标是 Grok 本身，但目前尚不清楚 X 是否会受到影响。
截至发稿时，我仍然可以通过 X 应用访问和使用 Grok。但是，Grok 应用本身现在无法正常工作，也没有响应。 马斯克的公司并没有闲着。xAI周三宣布，旗下的Grok将不再根据用户提示生成真人色情图片。该公司还将图片生成和编辑功能限制为仅限付费用户使用，并在此类内容非法的国家/地区实施了“地理封锁”。
但批评者和反对者并不买账。英国政府称此举是对受害者的“侮辱”，并表示这“只不过是将一项允许生成非法图像的人工智能功能变成了一项付费服务”。深度伪造技术研究员亨利·艾德解释说，付费要求对模型本身并没有构成任何实质性的限制——它们只是事后补救措施，仅有助于在内容生成后识别违法者。
这就是问题的核心所在。xAI 的方法与 OpenAI 和 google 等竞争对手截然不同，后者构建的是“主动过滤器”，旨在防患于未然，阻止有害内容的产生。而 xAI 则创建了一种“被动式”安全模型——基本上是等待问题发生后再仓促应对。 菲律宾的封锁很可能在几小时或几天内生效。如果你是菲律宾的 Grok 用户，现在就开始寻找替代方案。如果你在其他地方，请密切关注新闻，因为你的国家可能也会面临同样的命运。
更广泛的问题是，这一发展是否代表着全球人工智能监管的转折点。印尼等东南亚国家政府行动迅速且协调一致。传统上行动较为迟缓的西方监管机构现在也面临着效仿的压力。
| 
转播
淘帖
微信
发表于 
