谷歌为Gemini聊天机器人添加心理健康工具
谷歌计划为Gemini聊天机器人引入新的心理健康支持功能，因为该公司及其竞争对手已面临多起诉讼，指控其人工智能工具导致了伤害。谷歌在周二的博客文章中说，Gemini将增加一个界面，当对话表明“存在与自杀或自残相关的潜在危机”时，引导聊天机器人用户拨打支持热线。谷歌还在为有关心理健康的聊天添加一个 “可获得帮助” 模块，并进行设计调整以劝阻自残。像Gemini和ChatGPT等工具的快速爆炸式增长已导致一些用户与人工智能机器人形成依赖关系，据称这导致了妄想以及在极端情况下导致谋杀-自杀。多个家庭已就这一问题起诉领先的AI开发商。
—— 彭博社
谷歌计划为Gemini聊天机器人引入新的心理健康支持功能，因为该公司及其竞争对手已面临多起诉讼，指控其人工智能工具导致了伤害。谷歌在周二的博客文章中说，Gemini将增加一个界面，当对话表明“存在与自杀或自残相关的潜在危机”时，引导聊天机器人用户拨打支持热线。谷歌还在为有关心理健康的聊天添加一个 “可获得帮助” 模块，并进行设计调整以劝阻自残。像Gemini和ChatGPT等工具的快速爆炸式增长已导致一些用户与人工智能机器人形成依赖关系，据称这导致了妄想以及在极端情况下导致谋杀-自杀。多个家庭已就这一问题起诉领先的AI开发商。
—— 彭博社
