vlog
← 返回全部文章

Tech

一张图罚 50 万美元,还不认「我尽力了」:于是它把那个功能关了

2026年8月5日 · 凯文·凯利《失控》~1 min read

8 月 2 日那天,明尼苏达的用户点开 Grok Imagine,图像编辑那个入口没了。功能好好的,服务器也正常,是 xAI 自己动手关的。同一天,全美头一部专门管 AI「脱衣」的州法生效,每违规一次罚 50 万美元。起诉、申请暂缓、被联邦法官驳回,三步走完,功能就关了。这法律想把工具管干净,先收到的回执是工具在这个州消失。

30 秒读懂
1生效那天

法律生效的同一周,那个功能在这个州被公司自己关掉了

把日子一天天排开,中间没剩几天可谈。

顺序是这样:2026 年 5 月签署,8 月 2 日生效;xAI 7 月 30 日起诉,交上 38 页起诉状,同时请法院暂缓执行;联邦法官拒了,理由之一是它拖到最后一刻才来。生效日一到,罚则开始计次,明尼苏达用户的图像编辑功能关了。

这法律要管的事本身没什么可争。明尼苏达州总检察长 Keith Ellison 为它辩护时说,用 AI 生成违背他人意愿的裸体图像令人发指,这种行为「剥夺目标对象的尊严,可能在情感、个人和职业层面造成巨大伤害」。xAI 在起诉状里也接住了这一句,它反对的是覆盖范围:连本人同意的、本人自己生成的图像都罩了进去。

核心

罚金按次计算,每次 50 万美元,条文不区分公司有没有努力过。法律 2026 年 5 月签署、8 月 2 日生效。

2安全港

罚则里真正决定公司怎么做的那个开关,是「尽了力算不算数」

要紧的地方不在 50 万这个数字上。

安全港条款说白了就一句话:该做的你做了,上了过滤、留了举报口、接到通知就下架,真有漏网的,不追究你的责任。它等于给「努力」标了价——多投一分钱做检测,期望罚款就少一截。

这一档抽掉,账立马就平了。过滤做到 99% 和做到 60%,等着的是同一个结局:漏出去一张,一次 50 万,按次往上累。改进换不回减免,这笔账好算:做好做差扛同一份尾部风险,那就干脆别做。xAI 用的原话是它「没有实际选择」。

有安全港

努力能兑换成更低的期望成本。最优解是持续加固过滤、留下证据、把误差压小。

没有安全港

努力和不努力面对同一条尾部风险。最优解从「把工具做好」滑到「把工具撤出这个州」,撤走是唯一能让风险归零的动作。

这笔账我 2020 年在龙华那间朝北的房里按过一晚上。我那个收费 SaaS 上有个小功能:卖家传商品照片上来,工具自动抠图排出主图。怕出事,我接了第三方内容审核,一张两厘五,半年替用户过了四万多张。2021 年 3 月还是漏了一张,图里带着别人家的商标。工具挂在一个第三方服务市场上,规则写得明白:出现侵权内容按次下架、按次扣保证金,一次两万;接没接审核、审过多少张,表里没这一栏。审核费一年不到三百,扣一次两万,扣完我还是不知道下一张会不会漏。第二个星期我把上传口关了,改成只能从我自己整理的一百二十七张模板图里挑。有用户在群里问怎么不能传图了,我回了四个字:我赔不起。

这里得说清一个边界。安全港同样会被滥用,写得太松就是一张免责通行证,公司做个样子也能过关,门槛怎么设是另一场硬仗。我只说一件事:完全没有这一档时,罚则奖励的行为会从改进变成退出。

NO SAFE HARBOR MEANS NO FIX — THE TOOL JUST LEAVES THE STATEMinnesota's nudification ban500,000 USD per violation · in force 2026-08-02IF the law had a safe harborproving reasonable effort reduces liabilityFiltering and review pay offexpected cost falls as effort risesStay in the market, ship it saferthe branch that never happenedThe law has no safe harboreffort proves nothing; liability standsFiltering doesn't cut tail riskexpected cost is independent of effortSwitch it off, exit the statexAI disabled Grok Imagine image editing in MinnesotaxAI sued; a federal judge denied its restraining orderwhat actually happenedthe counterfactual branchThe capability didn't disappear — it just isn't offered in this state, and victims got no remedy either.
Minnesota's ban on AI "nudification" tools (signed 2026-05 · in force 2026-08-02) sets a civil penalty of 500,000 USD per violation and includes no safe harbor for providers who take reasonable precautions; after a federal judge denied xAI's request for a restraining order, xAI turned off Grok Imagine's image editing for Minnesota users. Reading: when effort cannot lower expected liability, exit beats improvement — the tool leaves the state, and the harm the ban targeted is still unaddressed.
3规避

凯文·凯利写过,对活的系统加硬控制,多半换回来的是规避

《失控》反复讲同一件事:分布式的东西不服从中心化的单点命令。

凯利的观察是,一大堆自主个体凑起来的系统没有总开关。你在某一处使劲摁,它会顺着阻力最小的那条路重新组织,把压力绕过去。摁得越狠,服从未必越多。

这回的绕法干净得刺眼。州界是法律边界,在技术上什么也不算。功能在明尼苏达关掉了,模型能力一分没少,代码一行没改,别的州、别的产品、跑在别人机器上的副本,一个都没变。变的只是使用行为的去处。本来它们在这个产品里发生,受这家公司的日志和过滤管着;换个地方,那地方多半既没日志,也没过滤。

打个比方

像小区门口那家被关掉的正规药店。药还是有人吃,需求一点没少,少掉的是那个会查处方、会登记、出了事找得到人的柜台。生意让街对面的散摊接了,盒子里装的什么,没人知道。

还有一层账更难看:受害者那一侧什么也没拿到。功能是关了,那些被人拿真人照片做成裸图的当事人,救济一分没多。

落到你身上

这对你意味着什么:看一部新法规,先找它有没有给合规留出一条路

条文的措辞不重要,要看它在奖励哪一种行为。

读任何一部管 AI、管平台、管内容的新规,先问三个问题。第一,罚谁。明尼苏达这部罚的是提供能力的公司,压力全在产品侧,产品的第一反应就是砍功能。

第二,尽力了算不算数。有没有一档写明「采取合理措施后可减免」。这一档在不在,决定守法的公司是加固还是撤退。

第三,罚金按次还是有上限。按次累加等于风险没有天花板,算得清账的公司都会把它归零,最省事的办法通常是退出。

为什么值得看:同样一句「禁止 X」,写法差一档,拿到的可能是全行业掏钱做更好的过滤,也可能是所有人把功能搬走。差别落在有没有给「我努力了」留一个落脚点。

该说的另一面也得说全。这家公司拖到生效前三天才起诉,法官在裁定里点了这一条;它的产品此前生成过什么,五起新诉讼还等着说。Ellison 讲的伤害是真实的,「先别管责任怎么分,得有人先负起责来」这个诉求也站得住。

能同时成立的是:伤害真实,诉求正当,而这一版罚则让最有条件把过滤做好的那家公司选择了撤退。下一部同类法律里那一档写不写,决定同样的公司下次是加固还是再撤一次。

本文只拆罚则的激励结构,不评价该法律的合宪性。诉讼仍在进行,法院尚未就实体问题作出裁决。

本文取材自凯文·凯利《失控》中关于分布式系统不服从中心化单点控制、强控制往往换来规避的框架。文中的法律条款、生效时间、罚则数额、诉讼进程与引语均出自公开报道,事实以原报道为准;案件尚未终结,后续进展可能改变文中判断。本文为科普解读,非法律建议。

技术

一张图罚 50 万美元,还不认「我尽力了」:于是它把那个功能关了

2026年8月5日 · 凯文·凯利《失控》约 6 分钟

8 月 2 日那天,明尼苏达的用户点开 Grok Imagine,图像编辑那个入口没了。功能好好的,服务器也正常,是 xAI 自己动手关的。同一天,全美头一部专门管 AI「脱衣」的州法生效,每违规一次罚 50 万美元。起诉、申请暂缓、被联邦法官驳回,三步走完,功能就关了。这法律想把工具管干净,先收到的回执是工具在这个州消失。

30 秒读懂
1生效那天

法律生效的同一周,那个功能在这个州被公司自己关掉了

把日子一天天排开,中间没剩几天可谈。

顺序是这样:2026 年 5 月签署,8 月 2 日生效;xAI 7 月 30 日起诉,交上 38 页起诉状,同时请法院暂缓执行;联邦法官拒了,理由之一是它拖到最后一刻才来。生效日一到,罚则开始计次,明尼苏达用户的图像编辑功能关了。

这法律要管的事本身没什么可争。明尼苏达州总检察长 Keith Ellison 为它辩护时说,用 AI 生成违背他人意愿的裸体图像令人发指,这种行为「剥夺目标对象的尊严,可能在情感、个人和职业层面造成巨大伤害」。xAI 在起诉状里也接住了这一句,它反对的是覆盖范围:连本人同意的、本人自己生成的图像都罩了进去。

核心

罚金按次计算,每次 50 万美元,条文不区分公司有没有努力过。法律 2026 年 5 月签署、8 月 2 日生效。

2安全港

罚则里真正决定公司怎么做的那个开关,是「尽了力算不算数」

要紧的地方不在 50 万这个数字上。

安全港条款说白了就一句话:该做的你做了,上了过滤、留了举报口、接到通知就下架,真有漏网的,不追究你的责任。它等于给「努力」标了价——多投一分钱做检测,期望罚款就少一截。

这一档抽掉,账立马就平了。过滤做到 99% 和做到 60%,等着的是同一个结局:漏出去一张,一次 50 万,按次往上累。改进换不回减免,这笔账好算:做好做差扛同一份尾部风险,那就干脆别做。xAI 用的原话是它「没有实际选择」。

有安全港

努力能兑换成更低的期望成本。最优解是持续加固过滤、留下证据、把误差压小。

没有安全港

努力和不努力面对同一条尾部风险。最优解从「把工具做好」滑到「把工具撤出这个州」,撤走是唯一能让风险归零的动作。

这笔账我 2020 年在龙华那间朝北的房里按过一晚上。我那个收费 SaaS 上有个小功能:卖家传商品照片上来,工具自动抠图排出主图。怕出事,我接了第三方内容审核,一张两厘五,半年替用户过了四万多张。2021 年 3 月还是漏了一张,图里带着别人家的商标。工具挂在一个第三方服务市场上,规则写得明白:出现侵权内容按次下架、按次扣保证金,一次两万;接没接审核、审过多少张,表里没这一栏。审核费一年不到三百,扣一次两万,扣完我还是不知道下一张会不会漏。第二个星期我把上传口关了,改成只能从我自己整理的一百二十七张模板图里挑。有用户在群里问怎么不能传图了,我回了四个字:我赔不起。

这里得说清一个边界。安全港同样会被滥用,写得太松就是一张免责通行证,公司做个样子也能过关,门槛怎么设是另一场硬仗。我只说一件事:完全没有这一档时,罚则奖励的行为会从改进变成退出。

罚则里没有安全港,公司不会去改进,只会退出明尼苏达州「脱衣」AI 禁令每次违规罚款 500,000 美元 · 2026-08-02 生效假如罚则里有安全港能证明尽了合理努力,即可减免责任投入过滤与审核有回报期望成本随努力增加而下降留在市场,把工具做得更安全没有发生的那条分支法律里没有安全港条款尽了力也不免责,责任照旧过滤投入不改变尾部风险期望成本与努力无关关掉功能,退出该州xAI 对明尼苏达用户关闭 Grok Imagine 图像编辑xAI 起诉,联邦法官拒绝其临时禁令申请实际发生的路径假设中的另一条路径能力并没有消失,它只是不在这个州提供了;受害者的救济也没有因此到位。
明尼苏达州的 AI「脱衣」技术禁令(2026-05 签署,2026-08-02 生效)规定每次违规民事罚款 500,000 美元,且不设安全港条款;在联邦法官拒绝 xAI 的临时禁令申请后,xAI 对明尼苏达用户关闭了 Grok Imagine 的图像编辑功能。解读:当努力无法降低期望责任时,退出就压过改进——工具离开了这个州,而禁令原本要防的伤害仍未被处理。
3规避

凯文·凯利写过,对活的系统加硬控制,多半换回来的是规避

《失控》反复讲同一件事:分布式的东西不服从中心化的单点命令。

凯利的观察是,一大堆自主个体凑起来的系统没有总开关。你在某一处使劲摁,它会顺着阻力最小的那条路重新组织,把压力绕过去。摁得越狠,服从未必越多。

这回的绕法干净得刺眼。州界是法律边界,在技术上什么也不算。功能在明尼苏达关掉了,模型能力一分没少,代码一行没改,别的州、别的产品、跑在别人机器上的副本,一个都没变。变的只是使用行为的去处。本来它们在这个产品里发生,受这家公司的日志和过滤管着;换个地方,那地方多半既没日志,也没过滤。

打个比方

像小区门口那家被关掉的正规药店。药还是有人吃,需求一点没少,少掉的是那个会查处方、会登记、出了事找得到人的柜台。生意让街对面的散摊接了,盒子里装的什么,没人知道。

还有一层账更难看:受害者那一侧什么也没拿到。功能是关了,那些被人拿真人照片做成裸图的当事人,救济一分没多。

落到你身上

这对你意味着什么:看一部新法规,先找它有没有给合规留出一条路

条文的措辞不重要,要看它在奖励哪一种行为。

读任何一部管 AI、管平台、管内容的新规,先问三个问题。第一,罚谁。明尼苏达这部罚的是提供能力的公司,压力全在产品侧,产品的第一反应就是砍功能。

第二,尽力了算不算数。有没有一档写明「采取合理措施后可减免」。这一档在不在,决定守法的公司是加固还是撤退。

第三,罚金按次还是有上限。按次累加等于风险没有天花板,算得清账的公司都会把它归零,最省事的办法通常是退出。

为什么值得看:同样一句「禁止 X」,写法差一档,拿到的可能是全行业掏钱做更好的过滤,也可能是所有人把功能搬走。差别落在有没有给「我努力了」留一个落脚点。

该说的另一面也得说全。这家公司拖到生效前三天才起诉,法官在裁定里点了这一条;它的产品此前生成过什么,五起新诉讼还等着说。Ellison 讲的伤害是真实的,「先别管责任怎么分,得有人先负起责来」这个诉求也站得住。

能同时成立的是:伤害真实,诉求正当,而这一版罚则让最有条件把过滤做好的那家公司选择了撤退。下一部同类法律里那一档写不写,决定同样的公司下次是加固还是再撤一次。

本文只拆罚则的激励结构,不评价该法律的合宪性。诉讼仍在进行,法院尚未就实体问题作出裁决。

本文取材自凯文·凯利《失控》中关于分布式系统不服从中心化单点控制、强控制往往换来规避的框架。文中的法律条款、生效时间、罚则数额、诉讼进程与引语均出自公开报道,事实以原报道为准;案件尚未终结,后续进展可能改变文中判断。本文为科普解读,非法律建议。

テクノロジー

一张图罚 50 万美元,还不认「我尽力了」:于是它把那个功能关了

2026年8月5日 · 凯文·凯利《失控》約 7 分

8 月 2 日那天,明尼苏达的用户点开 Grok Imagine,图像编辑那个入口没了。功能好好的,服务器也正常,是 xAI 自己动手关的。同一天,全美头一部专门管 AI「脱衣」的州法生效,每违规一次罚 50 万美元。起诉、申请暂缓、被联邦法官驳回,三步走完,功能就关了。这法律想把工具管干净,先收到的回执是工具在这个州消失。

30 秒读懂
1生效那天

法律生效的同一周,那个功能在这个州被公司自己关掉了

把日子一天天排开,中间没剩几天可谈。

顺序是这样:2026 年 5 月签署,8 月 2 日生效;xAI 7 月 30 日起诉,交上 38 页起诉状,同时请法院暂缓执行;联邦法官拒了,理由之一是它拖到最后一刻才来。生效日一到,罚则开始计次,明尼苏达用户的图像编辑功能关了。

这法律要管的事本身没什么可争。明尼苏达州总检察长 Keith Ellison 为它辩护时说,用 AI 生成违背他人意愿的裸体图像令人发指,这种行为「剥夺目标对象的尊严,可能在情感、个人和职业层面造成巨大伤害」。xAI 在起诉状里也接住了这一句,它反对的是覆盖范围:连本人同意的、本人自己生成的图像都罩了进去。

核心

罚金按次计算,每次 50 万美元,条文不区分公司有没有努力过。法律 2026 年 5 月签署、8 月 2 日生效。

2安全港

罚则里真正决定公司怎么做的那个开关,是「尽了力算不算数」

要紧的地方不在 50 万这个数字上。

安全港条款说白了就一句话:该做的你做了,上了过滤、留了举报口、接到通知就下架,真有漏网的,不追究你的责任。它等于给「努力」标了价——多投一分钱做检测,期望罚款就少一截。

这一档抽掉,账立马就平了。过滤做到 99% 和做到 60%,等着的是同一个结局:漏出去一张,一次 50 万,按次往上累。改进换不回减免,这笔账好算:做好做差扛同一份尾部风险,那就干脆别做。xAI 用的原话是它「没有实际选择」。

有安全港

努力能兑换成更低的期望成本。最优解是持续加固过滤、留下证据、把误差压小。

没有安全港

努力和不努力面对同一条尾部风险。最优解从「把工具做好」滑到「把工具撤出这个州」,撤走是唯一能让风险归零的动作。

这笔账我 2020 年在龙华那间朝北的房里按过一晚上。我那个收费 SaaS 上有个小功能:卖家传商品照片上来,工具自动抠图排出主图。怕出事,我接了第三方内容审核,一张两厘五,半年替用户过了四万多张。2021 年 3 月还是漏了一张,图里带着别人家的商标。工具挂在一个第三方服务市场上,规则写得明白:出现侵权内容按次下架、按次扣保证金,一次两万;接没接审核、审过多少张,表里没这一栏。审核费一年不到三百,扣一次两万,扣完我还是不知道下一张会不会漏。第二个星期我把上传口关了,改成只能从我自己整理的一百二十七张模板图里挑。有用户在群里问怎么不能传图了,我回了四个字:我赔不起。

这里得说清一个边界。安全港同样会被滥用,写得太松就是一张免责通行证,公司做个样子也能过关,门槛怎么设是另一场硬仗。我只说一件事:完全没有这一档时,罚则奖励的行为会从改进变成退出。

セーフハーバーがなければ、企業は改善せず撤退するミネソタ州のヌード化AI禁止法違反ごとに 500,000 ドル・2026-08-02 施行もし法にセーフハーバーがあれば合理的な努力を証明できれば責任は軽くなるフィルタと審査への投資が報われる努力を増やすほど期待コストは下がる市場に残り、ツールを安全にする実際には起きなかった分岐法にセーフハーバー条項はない努力を尽くしても免責されないフィルタでも裾リスクは減らない期待コストは努力と無関係になる機能を切り、州から撤退するxAI はミネソタ州で Grok Imagine の画像編集を停止xAI は提訴したが、連邦判事は差止申立てを却下実際に起きた経路仮定のもう一つの経路能力が消えたわけではない。この州で提供されないだけで、被害者の救済も進んでいない。
ミネソタ州の AI「ヌード化」技術禁止法(2026-05 署名、2026-08-02 施行)は違反ごとに 500,000 ドルの民事罰を定め、セーフハーバー条項を持たない。連邦判事が xAI の差止申立てを却下したのち、xAI はミネソタ州のユーザー向けに Grok Imagine の画像編集を停止した。数値は元の報道に準じる。読み解き——努力が期待責任を下げられないなら、企業は改善ではなく撤退を選ぶ。能力が州の外に移っただけで、被害の救済は進んでいない。
3规避

凯文·凯利写过,对活的系统加硬控制,多半换回来的是规避

《失控》反复讲同一件事:分布式的东西不服从中心化的单点命令。

凯利的观察是,一大堆自主个体凑起来的系统没有总开关。你在某一处使劲摁,它会顺着阻力最小的那条路重新组织,把压力绕过去。摁得越狠,服从未必越多。

这回的绕法干净得刺眼。州界是法律边界,在技术上什么也不算。功能在明尼苏达关掉了,模型能力一分没少,代码一行没改,别的州、别的产品、跑在别人机器上的副本,一个都没变。变的只是使用行为的去处。本来它们在这个产品里发生,受这家公司的日志和过滤管着;换个地方,那地方多半既没日志,也没过滤。

打个比方

像小区门口那家被关掉的正规药店。药还是有人吃,需求一点没少,少掉的是那个会查处方、会登记、出了事找得到人的柜台。生意让街对面的散摊接了,盒子里装的什么,没人知道。

还有一层账更难看:受害者那一侧什么也没拿到。功能是关了,那些被人拿真人照片做成裸图的当事人,救济一分没多。

落到你身上

这对你意味着什么:看一部新法规,先找它有没有给合规留出一条路

条文的措辞不重要,要看它在奖励哪一种行为。

读任何一部管 AI、管平台、管内容的新规,先问三个问题。第一,罚谁。明尼苏达这部罚的是提供能力的公司,压力全在产品侧,产品的第一反应就是砍功能。

第二,尽力了算不算数。有没有一档写明「采取合理措施后可减免」。这一档在不在,决定守法的公司是加固还是撤退。

第三,罚金按次还是有上限。按次累加等于风险没有天花板,算得清账的公司都会把它归零,最省事的办法通常是退出。

为什么值得看:同样一句「禁止 X」,写法差一档,拿到的可能是全行业掏钱做更好的过滤,也可能是所有人把功能搬走。差别落在有没有给「我努力了」留一个落脚点。

该说的另一面也得说全。这家公司拖到生效前三天才起诉,法官在裁定里点了这一条;它的产品此前生成过什么,五起新诉讼还等着说。Ellison 讲的伤害是真实的,「先别管责任怎么分,得有人先负起责来」这个诉求也站得住。

能同时成立的是:伤害真实,诉求正当,而这一版罚则让最有条件把过滤做好的那家公司选择了撤退。下一部同类法律里那一档写不写,决定同样的公司下次是加固还是再撤一次。

本文只拆罚则的激励结构,不评价该法律的合宪性。诉讼仍在进行,法院尚未就实体问题作出裁决。

本文取材自凯文·凯利《失控》中关于分布式系统不服从中心化单点控制、强控制往往换来规避的框架。文中的法律条款、生效时间、罚则数额、诉讼进程与引语均出自公开报道,事实以原报道为准;案件尚未终结,后续进展可能改变文中判断。本文为科普解读,非法律建议。