# Spin FLAN-T5-XXL Sagemaker Endpoint
llm = SagemakerEndpoint(...)

search = GoogleSerperAPIWrapper()
search_tool = Tool( name="Search", func=search.run, description="useful for when you need to ask with search", verbose=False)

my_template = """
Answer the following question using the information. n
Question : {question}? n
Information : {search_result} n
Answer: """
prompt_template = PromptTemplate( input_variables=["question", 'search_result'], template=my_template)
question_chain = LLMChain( llm=llm, prompt=prompt_template, output_key="answer") def search_and_reply_company(company): # Retrieval search_result = search_tool.run(f"{company} parent company") # Augmentation output = question_chain({ "question":f"Who is the parent company of {company}?", "search_result": search_result}) return output["answer"] search_and_reply_company("Whole Foods Market") "Amazon"

my_template_options = """
Answer the following question using the information. n
Question :  {question}? n
Information : {search_result} n
Options :n {options} n
Answer: """ prompt_template_options = PromptTemplate(
input_variables=["question", 'search_result', 'options'],
template=my_template_options)
question_chain = LLMChain( llm=llm, prompt=prompt_template_options, output_key="answer") my_options = """
- healthcare
- education
- oil and gas
- banking
- pharma
- other domain """ def search_and_reply_domain(company):
search_result = search_tool.run(f"{company} ")
output = question_chain({ "question":f"What is the domain of {company}?", "search_result": search_result, "options":my_options})
return output["answer"] search_and_reply_domain("Exxon Mobil") "oil and gas"

index	relation_id source_cw_id	target_cw_id	parent subsidiary 1 90 22569 37 AMAZON WHOLE FOODS MARKET
873 1467 22569 781 AMAZON TWITCH
899 1505 22569 821 AMAZON ZAPPOS
900 1506 22569 821 AMAZON ONE MEDICAL
901 1507 22569 821 AMAZON WOOT!

LangChain은 다음을 통해 팬더를 위한 추상화 계층을 제공합니다. create_pandas_dataframe_agent. 이 작업에 LangChain/LLM을 사용하면 두 가지 주요 이점이 있습니다.

1. 가동되면 다운스트림 소비자가 코드가 아닌 자연어로 데이터 세트와 상호 작용할 수 있습니다.
2. 철자 오류와 다양한 계정 이름 지정 방법에 더욱 강력합니다.

위와 같이 엔드포인트를 회전하고 에이전트를 생성합니다.

# Create pandas dataframe agent
agent = create_pandas_dataframe_agent(llm, df, varbose=True)

다음 코드에서는 상위/자회사 관계를 쿼리하고 에이전트는 쿼리를 Pandas 언어로 변환합니다.

# Example 1
query = "Who is the parent of WHOLE FOODS MARKET?"
agent.run(query) #### output
> Entering new AgentExecutor chain...
Thought: I need to find the row with WHOLE FOODS MARKET in the subsidiary column
Action: python_repl_ast
Action Input: df[df['subsidiary'] == 'WHOLE FOODS MARKET']
Observation:
source_cw_id	target_cw_id	parent subsidiary
22569 37 AMAZON WHOLE FOODS MARKET
Thought: I now know the final answer
Final Answer: AMAZON
> Finished chain.

# Example 2
query = "Who are the subsidiaries of Amazon?"
agent.run(query)
#### output
> Entering new AgentExecutor chain...
Thought: I need to find the row with source_cw_id of 22569
Action: python_repl_ast
Action Input: df[df['source_cw_id'] == 22569]
...
Thought: I now know the final answer
Final Answer: The subsidiaries of Amazon are Whole Foods Market, Twitch, Zappos, One Medical, Woot!...> Finished chain. 'The subsidiaries of Amazon are Whole Foods Market, Twitch, Zappos, One Medical, Woot!.'

결론

이 게시물에서는 Schneider Electric의 고객 계정 간의 관계를 파악하기 위해 LangChain의 빌딩 블록을 사용하여 LLM에 검색 기능을 추가하는 방법을 자세히 설명했습니다. 더 높은 정확도를 위해 도메인별 프롬프트를 사용하기 전에 도메인 식별을 통해 초기 파이프라인을 XNUMX단계 프로세스로 확장했습니다.

Google 검색 쿼리 외에도 SEC 10K 서류와 같은 기업 구조를 자세히 설명하는 데이터 세트를 사용하여 신뢰할 수 있는 정보로 LLM을 더욱 강화할 수 있습니다. 또한 슈나이더 일렉트릭 팀은 일부 공공 부문 계정을 분류하는 방식을 모방한 자체 프롬프트를 확장하고 설계하여 파이프라인의 정확성을 더욱 향상시킬 수 있습니다. 이러한 기능을 통해 Schneider Electric은 고객의 정확한 최신 조직 구조를 유지하고 이 데이터를 기반으로 분석을 수행할 수 있는 능력을 확보할 수 있습니다.

저자에 관하여

앤서니 메데이로스 Schneider Electric의 솔루션 엔지니어링 및 아키텍처 관리자입니다. 그는 북미 내 다양한 ​​비즈니스 기능에 고부가가치 AI/ML 이니셔티브를 제공하는 것을 전문으로 합니다. Schneider Electric에서 17년간 근무한 그는 풍부한 산업 지식과 기술 전문 지식을 팀에 제공합니다.

블레이크 산스티 Schneider Electric의 비즈니스 인텔리전스 관리자로 데이터 기반 통찰력을 통해 영업 조직을 지원하는 데 중점을 둔 분석 팀을 이끌고 있습니다.

조슈아 레비 Amazon Machine Learning 솔루션 연구소의 수석 응용 과학 관리자로서 고객이 주요 비즈니스 문제를 해결하기 위한 AI/ML 솔루션을 설계하고 구축하도록 돕습니다.

코스타 벨즈 생성 AI 및 문서 처리에 중점을 두고 있는 AWS MLSL의 수석 응용 과학자입니다. 그는 지식 그래프와 NLP를 사용하여 애플리케이션을 구축하는 데 열정을 갖고 있습니다. 그는 고객과 기업을 위한 가치를 창출하기 위해 데이터 및 AI 솔루션을 구축하는 데 약 10년의 경험을 갖고 있습니다.

오드 제네바 Amazon GenAI 인큐베이터의 응용 과학자로서 고객이 ML 및 AI를 통해 주요 비즈니스 문제를 해결하도록 돕습니다. 그녀는 이전에 이론적 ML 분야의 연구원이었으며 자신의 지식을 적용하여 고객에게 최첨단 솔루션을 제공하는 것을 즐깁니다.

Md 시라후스 살레킨 AWS 기계 학습 솔루션 연구소의 응용 과학자입니다. 그는 AI/ML 솔루션을 구축하여 AWS 고객이 비즈니스를 가속화하도록 돕습니다. 그의 연구 관심 분야는 다중 모드 기계 학습, 생성적 AI, 의료 분야의 ML 애플리케이션입니다.

지첸 왕, PhD는 AWS의 수석 응용 과학자입니다. 생물학 및 의료 데이터를 사용한 ML 및 통계 방법 개발에 대한 수년간의 연구 경험을 바탕으로 그는 다양한 분야의 고객과 협력하여 ML 문제를 해결합니다.

안톤 그리딘 뉴욕시에 기반을 두고 글로벌 산업 계정을 지원하는 수석 솔루션 설계자입니다. 그는 보안 애플리케이션을 구축하고 엔지니어링 팀을 이끄는 데 15년 이상의 경험을 갖고 있습니다.