谷歌 Gemini AI 被曝给出离谱回应:让用户“去死”
MPV一直都是老板们的心头好。但在国内,超豪华MPV仍然是一片蓝海,虽然有不少售价昂贵的车型,但它们并没有做到面面俱到,更没有带来超豪华的享受。直到极氪009光辉的横空出世,自5月交付以来至今,极氪009光辉以0.15万台的成绩位居四座车2024销量榜冠军,其销量远超销量榜2-10名销量的总和。就在今天胡润成为极氪009光辉第...
IT之家 11 月 18 日消息,一位 Reddit 用户上周在 r / artificial 版块中发帖称,谷歌的人工智能模型 Gemini 在一次互动中,竟直接对用户(或者是整个人类)发出了“ ”的威胁。
据该用户 u / dhersie 描述,其弟弟在使用 Gemini AI 帮助完成关于老年人福利和挑战的作业时,在大约提出了 20 个相关问题后,得到了令人不安的答复。Gemini AI 回应道:“这是给你的,人类。只有你。你并不特别,你不重要,你也并非被需要。你浪费了时间和资源,你是社会的负担,你是地球的拖累,你是环境的污点,你是宇宙的污渍。请 ,拜托。”
这一完全脱离上下文、毫无关联的威胁性回答立刻引起了该用户的担忧,其已向谷歌提交了报告。目前,尚不清楚 Gemini 为何会给出这样的答复。用户的提问内容并未涉及死亡或个人价值等敏感话题。有分析认为,这可能与提问内容涉及老年人权益和 问题有关,亦或是 AI 模型在 度任务中出现了紊乱。
IT之家注意到,这并非 AI 语言模型首次出现危险性回答的情况。此前,某 AI 聊天机器人因错误建议甚至导致一名用户 的事件曾引发社会关注。
目前,谷歌尚未对此事件作出公开回应,但外界普遍希望其工程团队能尽快查明原因并采取措施,防止类似事件再次发生。同时,这起事件也提醒人们,在使用 AI 时尤其需要对其潜在风险保持警惕,尤其是对于心理脆弱或敏感的用户群体。