意大利成首个封禁ChatGPT的国家！OpenAI CEO：我觉得没违规

【新智元导读】周五，意大利全国上下对 ChatGPT 下了封杀令。在 20 天内，OpenAI 拿不出补救措施的话，将会面临最高 2000 万欧元罚款。

就在昨天，意大利政府突然下令，封禁 ChatGPT！

很快，OpenAI 首席执行官 Sam Altman 做出回应称，公司已经关停了当地的 ChatGPT 服务（但自认为并没有违反任何规定）。

自此，意大利成为了世界上第一个宣布禁用 ChatGPT 的国家。

（其他国家和地区无法使用 ChatGPT，是因为 OpenAI 一开始就没给开通。）

意大利封禁 ChatGPT，全面调查隐私问题

3 月 31 日，意大利国家隐私监管机构正式下令封禁 ChatGPT，并指控 OpenAI「非法收集个人数据」。

值得注意的是，该「临时禁令」将一直生效，直到 OpenAI 能够尊重欧盟具有里程碑意义的隐私法——通用数据保护条例（GDPR）。

文件地址：http://www.garanteprivacy.it/home/docweb…

根据意大利国家数据保护机构 GPDP 发布新闻稿，OpenAI 收集用户数据并用于算法「训练」的行为，缺乏法律依据。

同时，3 月 20 日涉及用户对话和支付信息的泄露事件，也明确地暴露出了 OpenAI 在个人信息的处理上存在着问题。

除此之外，OpenAI 虽然声称 ChatGPT 面向的是 13 岁以上的用户，但由于缺乏相应的年龄验证机制，因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。

监管机构表示，OpenAI 有 20 天的时间，如不给出可行的补救措施，则会面临最高 2000 万欧元，或全球总年营业额 4% 的罚款。

对此，OpenAI 表示，现在已经为意大利用户关闭了服务，并承诺会保护用户的隐私：

「我们在训练 ChatGPT 这样的系统时，一直在努力减少个人数据，因为我们想要这个 AI 了解世界，而不是了解个人。当然我们也相信，AI 监管是必要的。」

这么看来，ChatGPT 未来在意大利的命运，可能就取决于这 20 天了。

不过，对于意大利来说，这已经不是第一次对 AI 聊天机器人采取此类行动了。

在 2 月份，监管机构就禁止了聊天机器人应用程序 Replika.ai。Replika 曾因一些用户与机器人建立的亲密关系而「臭名昭著」，后来 Replika 取消了色情角色扮演的选项，有用户甚至需要自杀热线的援助。

是否应该限制 AI 工具？

ChatGPT 发布后，虽然写论文、写代码的能力让人眼花缭乱，但它对错误信息的传播、对就业的影响，以及对整个人类社会更广泛的风险，都让很多人忧心忡忡，发出预警。

最近，封禁 GPT 技术的浪潮，更是一波接一波。

不仅图灵奖得主 Yoshua Bengio、马斯克、马库斯等千名大佬联名签署公开信，呼吁全球所有 AI 实验室暂停训练比 GPT-4 更强大的 AI 模型。

而且消费者权益保护组织 BEUC，也在近日呼吁欧盟和国家当局调查 ChatGPT。

此外，很多专家也表示，由于 AI 对国家安全、就业和教育的潜在影响，需要制定新的法规来管理 AI。

欧盟委员会发言人称：「我们希望所有在欧盟活跃的公司都尊重欧盟的数据保护规则。执行通用数据保护条例是欧盟数据保护当局的责任。」

欧盟委员会执行副主席 Margrethe Vestager 在推特上表示，正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能。

「无论我们使用哪种技术，都必须保护自身的权利。这就是为什么我们不规范 AI 技术，而是规范 AI 的使用。」

在美国，非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查 OpenAI 是否违反了消费者保护规则，并禁止其进一步发布 GPT-4。

毕竟，有了千名大佬的联名信这个先例，CAIDP 的申诉看起来也似乎更加顺理成章。而且，CAIDP 主席 Marc Rotenberg 好不意外地也签署了那封信。

文件地址：cdn.arstechnica.net/wp-content/…

整体来说，CAIDP 申诉的内容与那封信一致，都是呼吁放慢生成式 AI 模型的发展，并实施更严格的政府监督。

不过，CAIDP 更进一步地认为，ChatGPT「存在偏见、具有欺骗性，并且对公共安全构成风险」。

虽然 OpenAI 已经公开指出 AI 生成文本的潜在威胁，但 CAIDP 认为，GPT-4 已经远远越线了，为了保护消费者，应该采取监管行动。

CAIDP 表示，GPT-4 模型具有许多重大的潜在威胁，比如 GPT-4 可以产生恶意代码，和高度定制宣传的方式，而它有偏见的训练数据，可能导致在招聘等方面形成刻板印象，或不公平的种族和性别偏好。

CAIDP 认为，OpenAI 的行为违反了 FTC 法案第 5 条，这一条令禁止不公平和欺骗性的贸易行为。

其中，AI 模型的幻觉，信口开河胡说八道的问题，在 CAIDP 看来都是欺骗。它警告 ChatGPT「宣传具有欺骗性的商业声明和广告」，这些都可能纳入 FTC 的权限范围。

在申诉中，CAIDP 要求 FTC 停止 GPT 模型所有进一步的商业部署，并要求在未来推出任何模型之前，都要对模型进行独立评估。它还要求提供一种可公开访问的举报工具，类似于允许消费者提出欺诈投诉的那种。

CAIDP 主席 Lina Khan 表示，CAIDP 在寻找大型科技公司试图垄断竞争的迹象，而对 AI 军备竞赛的主要参与者之一 OpenAI 的调查，标志着调查的重大升级。

有分析认为，虽然 CAIDP 的申诉在短时间内不会让 FTC 有所行动，但未来很有可能会出现相关的监管，并可能让 GPT-5 的发布推迟。

最后，只能说，谷歌一直担心的「声誉风险」，终于来了。

参考资料：

http://www.reuters.com/technology/…