Mirascope
मिरास्कोप एलएलएम का उपयोग करके कृत्रिम बुद्धिमत्ता-संचालित अनुप्रयोगों के निर्माण का एक सहज तरीका है। उनकी लाइब्रेरी एलएलएम की अवलोकन क्षमता और निगरानी को आसान और सहज बनाने के लिए लॉगफायर के साथ एकीकृत करती है।
आप उनका उपयोग कर सकते हैं। @with_logire डेकोरेटर इसे सक्षम करते हैं, जो उन सभी नमूना प्रदाताओं पर लागू होगा जिनका वे समर्थन करते हैं (जैसे OpenAI, Anthropic, Groq, आदि)।
import logfire
from mirascope.logfire import with_logfire
from mirascope.anthropic import AnthropicCall
logfire.configure()
@with_logfire
class BookRecommender(AnthropicCall):
prompt_template = "Please recommend some {genre} books"
genre: str
recommender = BookRecommender(genre="fantasy")
response = recommender.call() # this will automatically get logged with logfire
print(response.content)
#> Here are some recommendations for great fantasy book series: ...
यह आपको देगा:
- चारों ओर
AnthropicCall.call()प्रॉम्प्ट टेम्पलेट, टेम्पलेट गुण और फ़ील्ड और इनपुट / आउटपुट गुण जैसे आइटम कैप्चर करना - एजेंट के साथ बातचीत का मानव-पठनीय प्रदर्शन
- उपयोग किए गए टोकन की संख्या सहित प्रतिक्रिया का विवरण
के बाद से asके शीर्ष पर बनाया गया है, आप का उपयोग कर सकते हैं dप्लगइन ट्रैक करने के लिए अतिरिक्त लॉग और मैट्रिक्स से संबंधित सत्यापन नमूना [ pydantic_plugin ][logfire.configure(pydantic_plugin)] इसे सक्षम करने के लिए कॉन्फ़िगर करें।
संरचित जानकारी निकालने के लिए एलएलएम का उपयोग करते समय यह विशेष रूप से उपयोगी हो सकता है।
from typing import Literal, Type
import logfire
from mirascope.logfire import with_logfire
from mirascope.openai import OpenAIExtractor
from pydantic import BaseModel
logfire.configure(pydantic_plugin=logfire.PydanticPlugin(record="all"))
class TaskDetails(BaseModel):
description: str
due_date: str
priority: Literal["low", "normal", "high"]
@with_logfire
class TaskExtractor(OpenAIExtractor[TaskDetails]):
extract_schema: Type[TaskDetails] = TaskDetails
prompt_template = """
Extract the task details from the following task:
{task}
"""
task: str
task = "Submit quarterly report by next Friday. Task is high priority."
task_details = TaskExtractor(
task=task
).extract() # this will be logged automatically with logfire
assert isinstance(task_details, TaskDetails)
print(task_details)
#> description='Submit quarterly report' due_date='next Friday' priority='high'
यह आपको देगा:
- dमॉडल सत्यापन के लिए ट्रैकिंग
- चारों ओर
OpenAIExtractor.extract()प्रॉम्प्ट टेम्पलेट, टेम्पलेट गुण और फ़ील्ड और इनपुट / आउटपुट गुण जैसे आइटम कैप्चर करना - फ़ंक्शन कॉल सहित एजेंटों के साथ बातचीत का मानव-पठनीय प्रदर्शन
- उपयोग किए गए टोकन की संख्या सहित प्रतिक्रिया का विवरण
मिरास्कोप एक्सट्रैक्टर स्पैन और ओपनएआई स्पैन और फंक्शन कॉल
mirascope-supported-providers https://docs.mirascope.io/latest/concepts/supported_llm_providers / mirascope-extracting-structured-information https://docs.mirascope.io/latest/concepts/extracting_structured_information_using_llms / [Pydantic]: https://pydantic.com.cn / [Pydantic-plugin]: https://pydantic.com.cn/concepts/plugins /
मिरास्कोप के बारे में अधिक जानकारी के लिए और आप इसके साथ क्या कर सकते हैं, कृपया इसके प्रलेखन को देखें।
本文总阅读量次