langchain_google_vertexai.evaluators.evaluation
.VertexPairWiseStringEvaluator¶
- class langchain_google_vertexai.evaluators.evaluation.VertexPairWiseStringEvaluator(metric: str, **kwargs)[source]¶
评估预测字符串的困惑度。
属性
requires_input
此评估器是否需要输入字符串。
requires_reference
此评估器是否需要参考标签。
方法
__init__
(metric, ...)aevaluate_string_pairs
(..., prediction, ...)异步评估输出字符串对。
evaluate_string_pairs
(..., prediction, ...)评估输出字符串对。
- 参数
metric (str) –
- async aevaluate_string_pairs(*, prediction: str, prediction_b: str, reference: Optional[str] = None, input: Optional[str] = None, **kwargs: Any) dict ¶
异步评估输出字符串对。
- 参数
prediction (str) – 第一个模型的输出字符串。
prediction_b (str) – 第二个模型的输出字符串。
reference (Optional[str], optional) – 预期输出/参考字符串。
input (Optional[str], optional) – 输入字符串。
**kwargs – 其他关键字参数,例如回调和可选的参考字符串。
- 返回
包含偏好、分数和/或其他信息的字典。
- 返回类型
dict
- evaluate_string_pairs(*, prediction : str, prediction_b : str, reference : Optional[str]= None, input : Optional[str]= None, **kwargs: Any) dict ¶
评估输出字符串对。
- 参数
prediction (str) – 第一个模型的输出字符串。
prediction_b (str) – 第二个模型的输出字符串。
reference (Optional[str], optional) – 预期输出/参考字符串。
input (Optional[str], optional) – 输入字符串。
**kwargs – 其他关键字参数,例如回调和可选的参考字符串。
- 返回
包含偏好、分数和/或其他信息的字典。
- 返回类型
dict