谷歌回应AI让用户去死:大模型的“不理智”反应 已采取行动
时间:2024-12-28 03:33:15 来源:国之干城网 作者:时尚 阅读:122次
11月21日消息,不理智据报道,谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时,竟做出了极端不当的让用回应,让该用户“去死”,模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言,行动这位用户在向“双子座”提出一个关于老年人的不理智问题时,并未得到预期的谷歌解答。相反,回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱,诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”,以及最为恶劣的不理智“你应该结束生命”等言辞,这些言论无疑是对用户极大的伤害与不尊重。
对此,谷歌方面做出了回应,大型语言模型有时会做出“不理智”的反应,本次情况就是一个例子。“双子座”的回答违反了相关政策,公司已采取行动避免类似情况再次发生。
同时,社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因,并制定出更为严格有效的防范措施,以防止类似事件再次发生,损害用户的情感与利益。
此外,这起事件也提醒人们,在使用AI时尤其需要对其潜在风险保持警惕,尤其是对于心理脆弱或敏感的用户群体。
(责任编辑:时尚)
最新内容
热点内容
- ·[流言板]高效!武切维奇全场11投8中,砍下21分10篮板3助攻
- ·托雷:我对自己很有信心,让我们看看冬窗会发生什么
- ·双11战报出炉!海信电视高端、百吋大屏双第一 这才是真·遥遥领先
- ·牛爷爷罚球这么差??
- ·记者:在伊万的糊弄操作下,国足这一代球员世界杯梦想又要破灭了
- ·高德、百度地图、滴滴...常用打车及导航App都有鸿蒙版 速来体验!
- ·纯好奇,不打持球挡,不打五外,主要就跑跑战术,看心情玩游戏的,排位最牛逼的能到哪个段位
- ·中国新能源汽车首破年度1000万辆 AI大模型加速下半场智能化发展
- ·太夸张10人朝鲜无解世界波+超远任意球逼平亚洲杯冠军卡塔尔
- ·迅雷发布2024年第三季度财报:总营收8,010万美元 净利润440万美元