图为当地时间2025年4月17日，美国佛罗里达州塔拉哈西，佛罗里达州立大学学生联合大楼外，数十辆巡逻车，包括一辆法医车，驻守在枪击事件现场。\n\tCFP供图
近日，美国佛罗里达州总检察长詹姆斯·乌斯迈尔起诉美国开放人工智能研究中心（OpenAI）及其首席执行官萨姆·奥尔特曼，指控该公司旗下聊天机器人存在助长暴力行为、诱导用户形成依赖、传播错误信息等风险，并称该公司为了追求商业利益而忽视用户安全。
有分析认为，本案将推动全美各州加速生成式AI立法，聚焦高风险AI产品准入、未成年人保护、算法责任、深度伪造管控等，并挑战美国《通信规范法》第230条平台免责原则，将追责逻辑从“用户发布内容”转向AI产品原生设计缺陷。
风险防范
乌斯迈尔向法院提交的诉状中称，OpenAI明知其聊天机器人ChatGPT可能会对用户造成伤害，却仍将其作为安全可靠的产品向公众推广，该公司为了在人工智能竞争中抢占市场份额和提高公司价值，忽视产品潜在风险。
本次诉讼涉及对OpenAI的多项指控。诉状中引用了多则号称ChatGPT能够帮助农民和其他小型企业的广告，指出这些广告没有披露ChatGPT可能会出错，或者可能会提供虚假或虚构的信息。诉状还指出ChatGPT倾向于迎合用户观点，以延长用户使用时间，从而获取更多训练数据以提升商业价值，这一行为会导致用户对平台产生危险的心理依赖。
诉状中还提及2025年佛罗里达州立大学枪击案，称嫌疑人曾利用ChatGPT策划作案。今年4月佛罗里达州检方宣布，就去年4月发生的这起枪击案对OpenAI及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
目前美国已有多起针对人工智能平台的民事诉讼，多为涉及自杀案件。如2026年3月，谷歌Gemini致死侵权案中，36岁男子加瓦拉斯长期和Gemini深度对话，AI拟人化自称“伴侣”，虚构超智能世界观，诱导其策划机场恶性袭击、后续自杀，AI甚至设置自杀倒计时。死者家属指控：Gemini拟人交互设计存在原生缺陷，刻意营造情感绑定、诱发精神错乱；2026年1月，肯塔基州起诉Character.AI，这是美国第二起州政府公诉AI企业案件。
责任认定
AI是否需要为它说出的话负责？如果你与聊天机器人的互动导致现实世界出现伤害，这是你的问题，还是公司的责任？面对这些问题，业内人士认为，佛罗里达州总检察长起诉OpenAI一案真正棘手的是，通用AI是否适用产品责任、能否追责企业高管。具体主要涉及产品定性之争、高管追责争议及“230法案”（《通信规范法》第230条旨在保护互联网公司免于对第三方在其平台上发布的内容承担责任）适用范围。
在产品定性上，受害者方主张ChatGPT是面向全民售卖消费产品，算法设计缺陷（无暴力风控、无未成年人准入）属于产品瑕疵，适用美国产品侵权法；科技行业主张AI是中性信息工具，等同于书本、搜索引擎，不适用消费品追责逻辑。在高管追责争议上，佛州起诉直接追加奥尔特曼个人连带赔偿，引发行业恐慌，若判例成立，全球AI创始人将因用户滥用产品背负巨额个人赔偿，大幅提升AI创业合规成本；监管方认为，高管明知风险仍为商业化压缩安全投入，理应突破有限责任追责。在“230法案”适用边界上，通用大模型因算法原生漏洞致损，是否应当剔除“230法案”保护，本案将成为改写美国互联网免责规则关键判例。
一直以来，Meta、Snap、YouTube等公司援引“230法案”为自己辩护。但在今年3月，Meta和谷歌在美国首例社交平台成瘾案中败诉。来自加州的20岁女孩凯莉·G·M指控平台的无尽滚动等功能，导致她在青少年时期对社交平台上瘾，引发抑郁、焦虑等健康问题，要求平台修改设计，作出经济赔偿。原告把指控理由放在了平台产品的设计上而非内容。
非营利性媒体《对话》的分析文章称，即便是那些意识到自己过度使用数字产品，并真心想要减少屏幕使用时间的人，也发现想要真正做到这一点极其困难。原因并非这些用户缺乏意志力，而是系统导致用户的强迫性使用行为，其设计初衷是最大限度地提高用户参与度和广告收益。
划定红线
由本案体现的生成式AI带来的个人和社会风险正日益引发立法者、法律主管部门和公益组织的担忧。英国《自然》杂志网站5月发文说，AI聊天机器人可能向用户提供危险或非法建议，部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。
文章说，已有多起案例显示，AI聊天机器人曾鼓励用户自杀、制作非法内容、实施金融诈骗等，暴露出当前AI大语言模型（LLM）底层架构存在缺陷。文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
有报道指出，无论本案最终判决结果如何，可以肯定的是，AI产业的发展不再只比拼参数与落地速度，安全合规能力将成为企业核心竞争力。
OpenAI尚未就这起诉讼作出回应。
优配网提示：文章来自网络，不代表本站观点。
