Mirascope

Mirascope는 LLM을 사용하여 인공지능 기반 애플리케이션을 구축하는 직관적인 방법입니다. 그들의 라이브러리는 Logfire와 통합되어 LLM의 관찰 가능성과 모니터링을 쉽고 원활하게 만듭니다.

@with_logire 데코레이터로 활성화할 수 있습니다. 이 데코레이터는 지원하는 모든 모델 공급자와 함께 작동합니다(예: OpenAI, Anthropic, Groq 등).

import logfire
from mirascope.logfire import with_logfire
from mirascope.anthropic import AnthropicCall

logfire.configure()


@with_logfire
class BookRecommender(AnthropicCall):
    prompt_template = "Please recommend some {genre} books"

    genre: str


recommender = BookRecommender(genre="fantasy")
response = recommender.call()  # this will automatically get logged with logfire
print(response.content)
#> Here are some recommendations for great fantasy book series: ...

이것은 당신에게 줄 것입니다:

• 는 AnthropicCall.call() 주위에 있으며 프롬프트 템플릿, 템플릿 속성 및 필드, 입력/출력 속성과 같은 항목을 캡처합니다.
• 에이전트와의 대화를 사람이 읽을 수 있는 표시
• 사용된 토큰 수를 포함하여 응답에 대한 세부 정보입니다.

Mirascope Anthropic Call spans 및 Anthropic spans 및 대화

Mirascope는 Pydantic 위에 구축되었으므로 Pydantic 플러그인을 사용하여 모델 유효성 검사에 대한 추가 로그 및 메트릭을 추적할 수 있습니다.[pydantic_plugin ][logfire.configure(pydantic_plugin)]구성을 사용하여 활성화할 수 있습니다.

이것은 구조화된 정보를 추출하기 위해 LLM을 사용할 때 특히 유용할 수 있습니다.

from typing import Literal, Type

import logfire
from mirascope.logfire import with_logfire
from mirascope.openai import OpenAIExtractor
from pydantic import BaseModel

logfire.configure(pydantic_plugin=logfire.PydanticPlugin(record="all"))


class TaskDetails(BaseModel):
    description: str
    due_date: str
    priority: Literal["low", "normal", "high"]


@with_logfire
class TaskExtractor(OpenAIExtractor[TaskDetails]):
    extract_schema: Type[TaskDetails] = TaskDetails
    prompt_template = """
    Extract the task details from the following task:
    {task}
    """

    task: str


task = "Submit quarterly report by next Friday. Task is high priority."
task_details = TaskExtractor(
    task=task
).extract()  # this will be logged automatically with logfire
assert isinstance(task_details, TaskDetails)
print(task_details)
#> description='Submit quarterly report' due_date='next Friday' priority='high'

이것은 당신에게 줄 것입니다:

• Pydantic 모델 검증을 위한 추적
• 는 OpenAIExtractor.extract() 주위에 있으며 프롬프트 템플릿, 템플릿 속성 및 필드, 입력/출력 속성과 같은 항목을 캡처합니다.
• 기능 호출을 포함하여 에이전트와의 대화를 사람이 읽을 수 있는 표시
• 사용된 토큰 수를 포함하여 응답에 대한 세부 정보입니다.

미라스코프 오픈AI 추출기 스팬 및 오픈AI 스팬 및 기능 호출

미라스코프 오픈AI 추출기 스팬 및 오픈AI 스팬 및 기능 호출

Mirascope에 대한 자세한 내용과 이를 통해 수행할 수 있는 작업은 설명서를 참조하십시오.

---

本文总阅读量次