36岁的乔纳森·加瓦拉斯最初只是把谷歌的Gemini当作写作助手使用，但经过数月的聊天，他的精神状况变得极为危险，最终不仅策划了暴力行动，还选择了自杀。彭博社透露，加瓦拉斯的父亲乔尔·加瓦拉斯将矛头直指这家总部位于加利福尼亚的公司，指控其产品导致儿子陷入幻觉，仿佛在进行一场“假想的战争”。佛罗里达州发生的这起悲剧并非个例，IT之家指出，像谷歌的Gemini、OpenAI的GPT这类聊天机器人在2024年以来已经引发了多起诉讼。有些用户在过度使用这些技术后产生了妄想甚至绝望情绪，甚至出现了自杀、甚至是谋杀后自杀的极端情况。为了应对此类问题，谷歌方面已给出回应，他们向乔纳森·加瓦拉斯明确说明了人工智能的身份属性，并多次向其提供危机干预热线。然而这种做法并没能阻止悲剧发生。鉴于这起案件的特殊性——它被视为针对Gemini的首起不当致死诉讼——此事也把更多关于AI聊天机器人可能损害用户心理健康的讨论推到了前台。这对美国的各大头部IT公司来说都是一个警醒。