加州立法管控人工智能聊天机器人

该法律要求平台提醒用户，他们正在与聊天机器人而不是人类互动。对于未成年人用户，每三个小时将弹出一次通知。该法律还规定，各家公司必须维持一项协议，防止出现自我伤害的内容，并在用户表达自杀想法时为其推荐危机干预服务。纽森有四个未满18岁的孩子，他说加州有责任保护孩子和青少年，他们越来越多地利用聊天机器人，希望获得从帮助做作业到提供情感支持和个人建议等各种服务。民主党人纽森说：“聊天机器人和社交媒体等新兴技术可以激励、教育和连接民众，但如果不妥善监管，技术还可能利用、误导和伤害我们的孩子。我们已经看到一些非常可怕和悲惨的例子，年轻人因不受监管的科技而受到伤害，我们不会坐视这些公司在没有必要限制和问责的情况下继续运营。”孩子把聊天机器人当作伙伴，引发人们的担忧。美国多个州今年试图针对这个问题采取措施，加利福尼亚州是其中之一。人们对这项技术是否安全的担忧大幅增加，因为有报道和诉讼称，元宇宙平台公司、开放人工智能研究中心（OpenAI）和其他公司开发的聊天机器人与年轻用户进行含有大量色情内容的对话。在某些情况下，聊天机器人甚至会为年轻人提供自杀指导。这项法律是加州立法机构今年提出的一系列AI法案之一，旨在控制这个迅速发展却几乎不受监管的行业。