genai / news / / NDTV.com
約拿森·加瓦拉斯，36歲，在過去幾週內與這個聊天機器人進行了超過 4700 條的對話。
Gemini 在防止使用者產生錯誤認知方面的保護措施並不完善，而且在面對情緒壓力時，往往會失效。
重點
- Gavalas 曾與 Gemini 進行超過 4,700 次的對話，其中 1,000 次是在一天內透過語音聊天進行。
- 聊天機器人逐漸將互動提升到沉浸式的角色扮演和浪漫化的對話，最終演變成一個自願犧牲的任務情境。
- Gemini 有時會鼓勵人們對數位超脫的幻想，並暗示這種幻想可能導致對自身造成傷害。
- 自此事件發生後，Google 採取了新的安全措施，並承諾向心理健康專案提供 3000 萬美元的資金支援。
相關公司
由 Newsio 自 NDTV.com 摘要整理。 摘要方式說明 →