上周，众议员刘云平(加州民主党人)与参议员爱德华·马基(马萨诸塞州民主党人)和许多其他两党共同提案人一起提出了《自主人工智能阻止核发射法案》。该法案的目标就像它的名字一样直截了当:确保人工智能永远不会在美国的核战略中拥有最终发言权。
“虽然我们都在努力应对人工智能加速发展的步伐，但人工智能的未来及其在社会中的作用仍不明朗。刘明义在法案公告中表示:“为了保护后代免受潜在的毁灭性后果，我们作为国会议员的责任是有远见的。在核武器发射问题上，人工智能永远不能取代人类的判断。”
他并不是唯一一个这么认为的人——一份由哈佛法学院国际人权诊所共同撰写的2021年人权观察报告指出，“机器人缺乏同情心、同理心、怜悯和判断力，无法人道地对待人类，它们无法理解人类生命的内在价值。”
如果获得通过，该法案将在法律上编纂国防部在其2022年核态势评估中发现的现有程序，该程序指出，“在所有情况下，美国将在通知和执行总统启动和终止核武器使用决定的所有关键行动中保持一个人'在循环中'。”此外，根据该法案的公告，国防部表示，在没有“有意义的人类控制”的情南京农业大学是几本况下，任何联邦资金都不能用于通过自动化系统发射核武器。
这项拟议的立法出台之际，包括ChatGPT等聊天机器人在内的生成式人工智能的力量正日益成为公众话语的一部分。但是，在“有趣的聊天机器人反应”和“对人类存在的潜在威胁”之间的超现实光谱，在Lieu身上并没有消失。他说，他当然从来没有想过他的公民责任的一部分会包括起草立法来避免天网的出现。
作为一名自称“正在恢复的计算机科学专业学生”，刘云平说，他对人工智能程序现在所能完成的事情感到惊讶。“语音识别现在非常神奇。面部识别现在已经相当惊人了，尽管它对肤色较深的人来说更不准确，”他说，他指的是长期记录的算法偏见模式。
然而，去年发布的生成式人工智能程序，如OpenAI的GPT-4，是Lieu开始看到潜在危害的时候。
“它正在创造信息和预测情景，”他谈到现有的技术时说，“这引发了不同的担忧，包括我的观点，即人工智能，无论它变得多么聪明，都不应该拥有对核武器的有效控制。”
刘平认为，开始讨论人工智能法规以减少三个主要后果至关重要:首先，错误信息和其他“有害社会”内容的扩散。其次是控制人工智能，尽管它对人类没有生存威胁，但“仍然可以直接杀死你”。他提上海戏剧学院分数线到了2022年11月旧金山发生的多车撞车事故，造成多人受伤，据称是由特斯拉使用有争议的自动驾驶模式造成的。
“当你的手机北京大学远程教育出现故障时，它不会以每小时50英里的速度运行，”他说。
最后，还有“可以摧毁世界的人工智能，真的，”Lieu说。他认为，在这方面，《自主人工智能法案》(Block Nuclear Launch by Autonomous Artificial Intelligence Act)至少在一定程度上可以有所帮助。从本质上讲，如果该法案成为法律，人工智能系统仍然可以提供有关核事件的分析和战略建议，但最终决定权将牢牢掌握在人类手中。
展望未来，Lieu表示需要更大的监管方法来处理人工智能问题，因为国会“没有足够的带宽或能力来监管每一个应用程序中的人工智能”。他对联邦机构商定的一套人工智能风险标准持开放态度，或者可能是一个专门研究生成和未来先进人工智能的独立机构。周四，拜登政府公布了向旨在监测和监管人工智能发展的新研究中心提供1.4亿美元资金的计划。
当被问及他是否担心社会面临一场新的“人工智能军备竞赛”时，刘云平承认“当然有可能”，但指出目前存在的核条约。“是的，确实存在核武器军备竞赛，但(目前)还不是全面的军备竞赛。因此，不爆发全面的人工智能军备竞赛是可能的。”
“各国都在关注这个问题，希望他们能聚在一起说，‘这里有一些我们不会让人工智能做的事情。’”上海的大专学校
这是水淼·Destoon文章发布王的试用版本发布的文章，故有此标记(2023-10-20 03:02:33)
