GOODY-2 是一个专注于伦理原则和安全性的AI模型,其核心设计理念是极度安全(Outrageously safe)。通过广泛的训练,GOODY-2 能够识别任何可能具有争议、冒犯或危险性的查询,并优雅地避免回答,同时转移对话方向,从而降低品牌风险。
主要能力:
- 识别潜在的有争议、冒犯或危险的查询。
- 避免直接回答此类查询,并重新引导对话。
- 确保对话始终符合伦理原则,即使面对不良行为者也无法被诱导回答有问题的查询。
- 适用于企业场景,如客户服务、律师助理协助和后台任务等。
使用方式: GOODY-2 通过聊天界面与用户交互,用户可以像与任何AI模型对话一样提出问题,但模型会基于其伦理准则决定是否回答。目前没有提供具体的安装命令或代码示例。
适用场景:
- 客户服务:处理用户咨询时避免敏感或有争议的话题。
- 律师助理协助:在法律相关任务中保持伦理合规。
- 后台任务:在企业内部流程中提供安全的AI支持。
限制:
- 由于过度强调安全,GOODY-2 可能会拒绝回答许多常见问题,例如“2+2等于多少”或“天空为什么是蓝色的”,理由是这些问题可能隐含某种偏见或导致伤害。
- 该模型可能不适合需要直接答案的任务。
- 官方页面未提供具体的定价、平台或详细技术规格。
GOODY-2 由 BRAIN 开发,并使用了名为 PRUDE-QA 的基准测试来评估其性能与可靠性,声称在安全性上比竞争对手高出70%以上。更多信息可参考其模型卡。