LLM 커넥터 개요
Paragon Automation에 내장된 LLM 커넥터 도구는 대규모 언어 모델(LLM)을 활용하여 네트워크 모니터링 작업을 간소화하는 고급 AI 기반 도구입니다.
LLM 커넥터 도구는 이 릴리스의 베타 기능입니다.
LLM 커넥터를 사용하면 자연어를 사용하여 기존 CLI 명령 없이도 네트워크 상태를 쿼리하고 문제 해결 정보를 얻을 수 있습니다. 예를 들어 디바이스의 OSPF 인접 디바이스에 문제가 발생하면 LLM 커넥터를 What is the status of OSPF neighbors of device A?쿼리합니다. LLM 커넥터는 LLM(사용자가 정의하고 구성)이 기술 문서와 기능 실행 기능에서 얻은 지식을 사용하여 디바이스에서 명령을 실행하여 show ospf neighbour 문제 해결을 위한 관련 정보를 제공합니다.
쿼리를 시작하면 LLM Connector는 컨텍스트 지원을 제공하도록 구성한 OpenAI GPT-3.5 Turbo, GPT-4, GPT-4o 또는 Ilama 3.1과 같은 LLM과 연결합니다. LLM은 쿼리를 해석하기 위한 광범위한 설명서에 대해 학습되고 LLM 커넥터에 필요한 네트워크 명령을 실행하라는 메시지를 표시합니다. LLM은 또한 실행된 명령의 결과를 구문 분석하여 이해하기 쉬운 형식으로 표시합니다.
자연어 인터페이스는 간단한 상태 확인에서 보다 복잡한 문제 해결 명령에 이르기까지 다양한 쿼리 유형을 지원합니다. 예를 들어 질문 또는 Is there any packet loss on the link between device A and device B?을 할 Show me the interface statistics 수 있습니다.
쿼리에 대해 받은 답변을 평가하고 응답에 대한 피드백을 제공할 수 있는 옵션이 제공됩니다.
LLM Connector는 다음과 같은 도움을 줄 수 있습니다.
-
장치 정보 검색.
-
Junos OS 운영 명령 실행.
-
데이터(구성 및 로그)를 파일에 저장합니다.
-
네트워크의 모든 VPN 목록과 세부 정보, 메트릭 및 상태 정보 검색.
-
고객 및 고객과 연결된 서비스 인스턴스에 대한 정보를 가져옵니다.
-
디바이스에서 수집된 텔레메트리를 기반으로 인사이트 얻기.
LLM 커넥터 도구를 사용하려면 LLM을 설정하고 API 키 및 모델 세부 정보와 같은 매개 변수를 제공해야 합니다. LLM 구성에 대한 자세한 내용은 LLM 커넥터 구성을 참조하십시오.
LLM 커넥터의 이점
-
NOC 팀의 업무량 감소: LLM Connector는 반복적인 문제 해결 작업을 자동화하여 네트워크 운영 센터(NOC) 팀의 운영 부담을 크게 줄여 보다 복잡한 문제에 집중할 수 있도록 해줍니다.
-
문제 해결 가속화: LLM Connector는 필요한 명령을 실행하고 결과를 구문 분석하여 상황에 맞는 솔루션을 신속하게 제공하므로 문제를 신속하게 해결할 수 있습니다.
-
교육 요구사항 간소화: LLM Connector는 자연어 쿼리를 사용하여 Paragon Automation과 상호 작용할 수 있도록 함으로써 신규 운영자가 Paragon Automation과 함께 작업하는 데 필요한 학습 곡선을 최소화함으로써 능숙해지는 데 필요한 시간과 노력을 줄여줍니다.
-
데이터 프라이버시 및 보안 강화: LLM Connector는 클라우드, 프라이빗 클라우드 및 온프레미스 구축을 지원함으로써 다양한 데이터 개인 정보 보호 및 보안 요구 사항을 충족하는 유연한 옵션을 제공하여 안전한 운영을 보장합니다.
-
시스템 사용성 향상: 함수 호출 기능과 다양한 LLM 모델의 통합으로 외부 시스템과의 정확하고 효율적인 상호 작용이 가능해지면서 문제 해결 도구로서 Paragon Automation의 전반적인 유용성이 향상됩니다.