taolib.testing.multi_agent.models.llm

LLM模型数据模型。

定义模型提供商和模型配置的数据模型。

Classes

ModelConfig	模型配置。
ModelStats	模型统计信息。
ModelInstance	模型实例。
LoadBalanceConfig	负载均衡配置。

Module Contents

class taolib.testing.multi_agent.models.llm.ModelConfig

Bases: pydantic.BaseModel

模型配置。

provider: taolib.testing.multi_agent.models.enums.ModelProvider

model_name: str

base_url: str | None

api_key: str | None

timeout_seconds: int

max_retries: int

rate_limit_requests_per_minute: int

rate_limit_tokens_per_minute: int | None

max_concurrent_requests: int

temperature: float

max_tokens: int | None

weight: float

metadata: dict[str, Any]

class taolib.testing.multi_agent.models.llm.ModelStats

Bases: pydantic.BaseModel

模型统计信息。

total_requests: int

successful_requests: int

failed_requests: int

total_tokens_used: int

average_latency_seconds: float

current_concurrent_requests: int

requests_this_minute: int

tokens_this_minute: int

last_health_check_at: datetime.datetime | None

last_error_at: datetime.datetime | None

last_error_message: str

class taolib.testing.multi_agent.models.llm.ModelInstance

Bases: pydantic.BaseModel

模型实例。

id: str

config: ModelConfig

status: taolib.testing.multi_agent.models.enums.ModelStatus

stats: ModelStats

created_at: datetime.datetime

updated_at: datetime.datetime

class taolib.testing.multi_agent.models.llm.LoadBalanceConfig

Bases: pydantic.BaseModel

负载均衡配置。

strategy: taolib.testing.multi_agent.models.enums.LoadBalanceStrategy

fallback_enabled: bool

health_check_interval_seconds: int

circuit_breaker_enabled: bool

circuit_breaker_failure_threshold: int

circuit_breaker_reset_timeout_seconds: int