内容审查服务

内容审查服务主要用于防止 AI 生成违规内容。目前仅支持开源中国的模力方舟内容审查服务。百度和腾讯的内容审查服务暂未实现，所以暂时无法使用。目前市面上主流的内容审查服务比如百度，腾讯，阿里云等都是基于敏感词检测的，所以都存在一个比较鸡肋的问题，就是容易过度审查，导致很多正常的文本被误判为违规内容。 所以 GeekAI 选择了开源中国的模力方舟内容审查服务,它是基于大模型的，会根据上下文语境来评判内容是否违规。

同时对于AI大模型对话内容审查，我们额外提供了一个引导提示词，用于引导AI在对话中遵守社区规则。