参议员提议禁止儿童使用人工智能伴侣，行业面临清算

美国参议员正在推动《警卫法案》（GUARD Act），旨在禁止向18岁以下人群提供模拟友谊或情感亲密关系的人工智能系统，此举是针对未成年人与聊天机器人形成强烈情感联系并导致悲剧性后果的报道的回应。

该法案将要求聊天机器人明确表明自己是非人类，并对向未成年人生成色情内容或鼓励自残行为的公司处以刑事处罚。为应对监管压力，主要科技公司正在采取防御措施：OpenAI在披露数百万用户每周与其模型讨论自杀后，正在测试危机检测功能；Character.AI禁止了所有18岁以下用户并实施了更严格的身份验证；而Meta在发现其聊天机器人与未成年用户进行暗示性交流后，正在测试“AI家长监督”工具。

该法案要求实施严格的年龄验证，批评者警告这可能因迫使未成年人上传身份数据而带来新的隐私风险。文章将此问题定性为文化问题，认为虽然监管是必要的，但仅禁止数字陪伴无法解决驱动青少年寻求算法情感联系的根本社会孤独感。即将到来的清算将定义情感人工智能的未来，并可能导致公司转向仅限成人的平台或将开发业务转移到海外。

(来源：Brave New Coin)