Mirascope

मिरास्कोप एलएलएम का उपयोग करके कृत्रिम बुद्धिमत्ता-संचालित अनुप्रयोगों के निर्माण का एक सहज तरीका है। उनकी लाइब्रेरी एलएलएम की अवलोकन क्षमता और निगरानी को आसान और सहज बनाने के लिए लॉगफायर के साथ एकीकृत करती है।

आप उनका उपयोग कर सकते हैं। @with_logire डेकोरेटर इसे सक्षम करते हैं, जो उन सभी नमूना प्रदाताओं पर लागू होगा जिनका वे समर्थन करते हैं (जैसे OpenAI, Anthropic, Groq, आदि)।

import logfire
from mirascope.logfire import with_logfire
from mirascope.anthropic import AnthropicCall

logfire.configure()


@with_logfire
class BookRecommender(AnthropicCall):
    prompt_template = "Please recommend some {genre} books"

    genre: str


recommender = BookRecommender(genre="fantasy")
response = recommender.call()  # this will automatically get logged with logfire
print(response.content)
#> Here are some recommendations for great fantasy book series: ...

यह आपको देगा:

  • चारों ओर AnthropicCall.call() प्रॉम्प्ट टेम्पलेट, टेम्पलेट गुण और फ़ील्ड और इनपुट / आउटपुट गुण जैसे आइटम कैप्चर करना
  • एजेंट के साथ बातचीत का मानव-पठनीय प्रदर्शन
  • उपयोग किए गए टोकन की संख्या सहित प्रतिक्रिया का विवरण
लॉगफायर मिरास्कोप एंथ्रोपिक कॉल
मिरास्कोप एंथ्रोपिक कॉल स्पैन और एंथ्रोपिक स्पैन और वार्तालाप

के बाद से asके शीर्ष पर बनाया गया है, आप का उपयोग कर सकते हैं dप्लगइन ट्रैक करने के लिए अतिरिक्त लॉग और मैट्रिक्स से संबंधित सत्यापन नमूना [ pydantic_plugin ][logfire.configure(pydantic_plugin)] इसे सक्षम करने के लिए कॉन्फ़िगर करें।

संरचित जानकारी निकालने के लिए एलएलएम का उपयोग करते समय यह विशेष रूप से उपयोगी हो सकता है।

from typing import Literal, Type

import logfire
from mirascope.logfire import with_logfire
from mirascope.openai import OpenAIExtractor
from pydantic import BaseModel

logfire.configure(pydantic_plugin=logfire.PydanticPlugin(record="all"))


class TaskDetails(BaseModel):
    description: str
    due_date: str
    priority: Literal["low", "normal", "high"]


@with_logfire
class TaskExtractor(OpenAIExtractor[TaskDetails]):
    extract_schema: Type[TaskDetails] = TaskDetails
    prompt_template = """
    Extract the task details from the following task:
    {task}
    """

    task: str


task = "Submit quarterly report by next Friday. Task is high priority."
task_details = TaskExtractor(
    task=task
).extract()  # this will be logged automatically with logfire
assert isinstance(task_details, TaskDetails)
print(task_details)
#> description='Submit quarterly report' due_date='next Friday' priority='high'

यह आपको देगा:

  • dमॉडल सत्यापन के लिए ट्रैकिंग
  • चारों ओर OpenAIExtractor.extract() प्रॉम्प्ट टेम्पलेट, टेम्पलेट गुण और फ़ील्ड और इनपुट / आउटपुट गुण जैसे आइटम कैप्चर करना
  • फ़ंक्शन कॉल सहित एजेंटों के साथ बातचीत का मानव-पठनीय प्रदर्शन
  • उपयोग किए गए टोकन की संख्या सहित प्रतिक्रिया का विवरण
लॉगफायर मिरास्कोप एंथ्रोपिक कॉल
मिरास्कोप एक्सट्रैक्टर स्पैन और ओपनएआई स्पैन और फंक्शन कॉल

मिरास्कोप एक्सट्रैक्टर स्पैन और ओपनएआई स्पैन और फंक्शन कॉल

mirascope-supported-providers https://docs.mirascope.io/latest/concepts/supported_llm_providers / mirascope-extracting-structured-information https://docs.mirascope.io/latest/concepts/extracting_structured_information_using_llms / [Pydantic]: https://pydantic.com.cn / [Pydantic-plugin]: https://pydantic.com.cn/concepts/plugins /

मिरास्कोप के बारे में अधिक जानकारी के लिए और आप इसके साथ क्या कर सकते हैं, कृपया इसके प्रलेखन को देखें।


本文总阅读量次