机器之心报谈りりか最新番号

剪辑：张倩、小舟

AI确凿照旧危机到要如斯监管的地步了吗？

在革命的热土硅谷，李飞飞、吴恩达等 AI 科学家正在与监管部门张开一场对于安全与革命的拉锯战。

这场拉锯战的中枢是一个名叫 SB-1047 的法案。该法案的全称是「Safe and Secure Innovation for Frontier Artificial Intelligence Act（《前沿东谈主工智能模子安全革命法案》）」，试图为高风险的 AI 模子设立明确的安全法式，以珍摄其被滥用或激发晦气性后果。

该法案于本年 2 月份在探究院被提议，随后引起了很大的争议。许多科学家合计，法案的条件过于不对理，将对科技革命酿成废弃性的影响。

法案规划：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047

具体来说，该法案旨在从模子层面对东谈主工智能进行监管，适用于在特定蓄意和本钱阈值之上查考的模子。

模子遮盖范围如下：

1、使用高出 10^26 次整数或浮点运算的蓄意才调进行查考的东谈主工智能模子，其本钱高出一亿好意思元（100，000，000 好意思元），该本钱是左证开辟者合理评估的查考运行时云蓄意的平均市集价钱蓄意得出的。

2、运用等于或大于 10^25 次整数或浮点运算三倍的蓄意才调，对范围内的模子进行微调而创建的东谈主工智能模子。

这一范围基本遮盖了当今市面上扫数主流的大型模子。若是法案通过，这些模子王人将被界说为存在「潜在危机」或需要颠倒监督。

法案还要求模子开辟者对其模子的下流使用或修改承担法律包袱。在查考运行之前，开辟东谈主员需要证实他们的模子不会启用或提供「危机功能」，并实施一系列保护设施来珍摄此类使用。这将进攻开源社区的发展。

监督新法律实行的将是一个「前沿模子部门（frontier model division）」，这是一个新成立的监督和监管机构。该机构将制定安全法式并就东谈主工智能法律提供建议，向该机构诬陷模子的功能可能会使开辟东谈主员因伪证而坐牢。

法案中还加入了吹哨东谈主保护条件，保护和饱读舞 AI 开辟实体里面的举报者，确保职工不错在不受挫折的情况下酬报企业的不对规情况。

若是法案取得通过，州长 Gavin Newsom 的一个签名就不错将其纳入加州法律。a16z 庸俗结伴东谈主 Anjney Midha 暗示，若是这项法案在加州取得通过，将为其他州设立前例，并在好意思国国表里产生四百四病 —— 本体上对革命景况带来雄伟的蝴蝶效应。

在太平洋夏季时期 8 月 7 日黎明，关系部门将举行对于该法案的听证会。留给科学家们的抗议时期照旧未几了。因此，李飞飞亲身撰文，陈明法案锐利。还有些科学家正在签署一封联名信，以不容法案通过。

李飞飞的著述发表在《金钱》（Fortune）网站上。

李飞飞撰文抨击 SB-1047

李飞飞在著述中暗示：「加州的 SB-1047 将产生要紧而出东谈主预想的后果。若是通过成为法律，SB-1047 将挫伤正在萌芽的东谈主工智能生态系统。SB-1047 将不必要塞处分开辟东谈主员，消失开源社区，并进攻东谈主工智能学术探究，同期无法处治其旨在处治的信得过问题。」

她写谈：

领先，SB-1047 将过度处分开辟者并消失革命。若是东谈主工智能模子被滥用，SB-1047 要求包袱方和该模子的原始开辟者承担包袱。每个东谈主工智能开辟东谈主员（尤其是崭露头角的法子员和企业家）不成能预测到其模子的每种可能用途。SB-1047 将迫使开辟东谈主员雕残并遴荐严防行动 —— 这恰是咱们试图幸免的。

其次，SB-1047 将抑制开源开辟。SB-1047 要求扫数高出特定阈值的模子王人包含「休止开关」，这是一种不错随时关闭法子的机制。若是开辟东谈主员顾忌他们下载和构建的法子会被删除，他们在编写代码和合作方面就会愈加盘桓。这个休止开关将败坏开源社区，这是无数革命的源头。其影响不限于东谈主工智能范围，而是在从 GPS 到 MRI 到互联网自身的各个范围。

第三，SB-1047 将减弱人人部门和学术东谈主工智能探究。开源开辟对于私营部门很紧迫，但对于学术界也至关紧迫。若是莫得合作和对模子数据的走访，学术界就无法高出。若是咱们的机构无法取得顺应的模子和数据，咱们将如何培训下一代东谈主工智能相易者？休止开关致使会进一步减弱学生和探究东谈主员的竭力，与大型科技公司比较，他们在数据和蓄意方面照旧处于短处。当咱们应该加倍加大人人部门东谈主工智能投资时，SB-1047 将为学术东谈主工智能敲响丧钟。

最令东谈主担忧的是，该法案并未处治东谈主工智能高出的潜在危害，包括偏见和深度伪造（deepfake）等等。相背，SB-1047 建立了一个任意阈值，退换使用一定蓄意才调或浪掷 1 亿好意思元查考的模子。这项设施远非提供保险，只会截止包括学术界在内的跨部门革命。如今，学术东谈主工智能模子低于这一门槛，但若是咱们要从头均衡私营和人人部门东谈主工智能的投资，学术界将受到 SB-1047 的监管。咱们的东谈主工智能生态系统将会因此而变得更糟。

SB-1047 的截止过于刚烈，咱们必须遴荐相背的作念法。

我并不反对东谈主工智能经管。立法对于东谈主工智能的安全灵验发展至关紧迫。但东谈主工智能战术必须赋能开源开辟，提议调和且合理的法则，并设立消费者信心。SB-1047 未达到这些法式。

数十位科学家联名反对

针对 SB-1047，除了李飞飞，由加州大学 7 个校区的师生以及来自其他 20 多个机构的探究东谈主员组成的团体也在积极行动。他们共同草拟并签署了一封反对 SB-1047 的公开信，从探究者的角度开拔，讲述该法案对加州东谈主工智能探究和教师指方向挫伤。

联名信从以下几方面张开陈述 SB-1047 的不对感性：

1、法案会给开源模子的发布带来「寒蝉效应」，从而挫伤探究

法案中要求对「前沿模子」进行「安全审核」和具备「充足关闭」才调，可能会严重进攻开源和洞开权重模子的发布。这些严格的法规对于零星实体限度的专有模子来说可能更易于终了，而对于非牟利组织或大学定约使用的洞开模子则较为痛苦。法案中对于安全展示和审核的条件表述不够具体，依赖于可能尚未存在且可能穷乏科学严谨性的测试。这种审计的潜在本钱对于有盈利居品的生意实体来说可能容易承担，但对于像 Meta 的 LLaMA 系列这么的生意实体的科学性洞开发布，或是由非牟利组织或大学定约查考的洞开模子，情况可能并非如斯。

由于这些繁琐的截止，开源模子的开辟者可能取舍在加州或好意思国除外构建系统，并在幸免包袱的前提下发布其模子。在这种情况下，不顾合规的私东谈主步履者可能会秘籍使用这些模子，而受到人人责纵情质拘谨的学术探究东谈主员将被排斥在外，这促使他们鼎新探究主题或转化到不扰乱其学术目田的司法统辖区。开源模子的可获取性对于当代学术 AI 探究至关紧迫，因为它们使学术界简略探索模子的责任旨趣、查考经由中的才调擢升以及如何进行修订和破解。

2、东谈主工智能风险预测与「才调」评估存在不科学性

看成东谈主工智能、机器学习和范围的群众，这些探究者强调：SB-1047 中提到的评估模子风险的建议方法相等值得怀疑。科学界就谈话模子或其他前沿东谈主工智能系统是否以及如何对公众组成挟制尚未达成共鸣。

3、对开源模子的保护不及

尽管法案提到异日可能对开源模子提供特例，但由于参数数目的快速增长和蓄意本钱的镌汰，现存的保护设施可能难以握续。在莫得强有劲的保护设施的情况下，这些模子濒临的后果可能很快就会宗旨。此外，性能绝顶的袖珍模子比较大型模子需要更高的蓄意本钱。因此，法案中的修正案瞻望无法缓解对开源模子发布的负面影响，而严格的酬报和审核要求还将不必要塞影响探究行径。

4、对学生的作事安置和事业恶果的担忧

SB-1047 异日可能会进攻对东谈主工智能感酷爱酷爱的学生进一步学习关系学问，致使可能会不容新东谈主才参预蓄意机科学等要道范围。此外，跟着科技行业从大公司向初创公司的转化，颠倒的监管劳苦可能领略过扶助更大、更好的企业来减弱新兴革命者。这种转化可能会缩窄学生的事业谈路。

联名信部分学者签名。

除了公开信，还有一些探究者取舍在外交媒体发声。其中，一位系统生物学家指出，SB-1047 就像在咱们还不知谈病原体是什么、何时会感染咱们以及感染会发生在那处之前就激活了炎症响应。

此前，吴恩达也屡次就此事发声。他合计，监管机构应该监管应用而不是期间。举例，电动机即是一项期间。当咱们将其放入搅动机、电动汽车、透析机或制导炸弹中时，它就成为了一种应用。念念象一下，若是法律法规，当任何东谈主以无益的时势使用电机时，电机制造商王人要承担包袱。那电机制造商要么停产，要么将电机制造得相等小，以至于对大大量应用来说毫毋庸处。若是咱们通过这么的法律，可能会不容东谈主们制造炸弹，但咱们也会失去搅动机、电动汽车和透析机。相背，若是咱们神志特定的应用，就不错更合理地评估风险并判断如何确保它们的安全，致使碎裂某些类型的应用。

AI 确凿照旧危机到要如斯监管的地步了吗？对此，你如何看？

参考规划：https://a16z.com/sb-1047-what-you-need-to-know-with-anjney-midha/

https://drive.google.com/file/d/1E2yDGXryPhhlwS4OdkzMpNeaG5r6_Jxa/view

https://fortune.com/2024/08/06/godmother-of-ai-says-californias-ai-bill-will-harm-us-ecosystem-tech-politics/?abc123