Strona główna Wiadomości OK, ai, solo kagent to agencyjny framework AI dla Kubernetes

OK, ai, solo kagent to agencyjny framework AI dla Kubernetes

25
0

Obliczanie w chmurze to nawiązywanie kontaktów. Chociaż rzadko mówimy to na głos, dążenie do tworzenia komputerów opartych na usługach między zintegrowanymi sieciami, które przesyłają dane, jest zasadniczo formą sieci, a nie odmienną od sposobu, w jaki rozmawialiśmy o sieciach przed świtem chmury, ale teraz z różnymi protokołami komunikacyjnymi, standardami, kondujami i interkonekcjami.

Opisując się jako firma zajmująca się natywną sieciami aplikacji, Solo odbiera K z Kubernetes (szeroko popularna technologia orkiestracji kontenerów w chmurze, która istnieje jako niemal de facto standard dla wielu programistów zorientowanych na chmurę) i łączy ją z agentem (jak w agenta AI, iteracja sztucznej inteligencji, zaprojektowanej do wykonywania zadań roboczych z wystarczającą liczbą intruza, aby działać niemal autobusowo, a w niektórych przypadkach uczą się w AI, jak to jest działanie z działalnością. rozumowanie i iteracyjne planowanie) w celu stworzenia tego, co nazywa Kagent.

Nowo utworzony w tym roku, Kagent to struktura typu open source, która zapewnia narzędzia do tworzenia aplikacji, agenci AI i powiązane zasoby (aspekty zarządzania systemem oprogramowania, od funkcji obserwowalności po poręcze zaprojektowane w celu analizy odchylenia AI i od dalszych podstawowych funkcji raportowania) potrzebne do budowy i uruchamiania agentów AI zdolnych do akceleowania przepływów pracy w Kubernetes.

Firma twierdzi, że Kagent jest natywną ramy w chmurze, która pomaga DevOps i inżynierom platformy (ten ostatni jest jednym z nowszych terminów w chmurze, używanych do odwołania się do inżynierów oprogramowania, którzy pracują nad usługami obliczeniowymi niższego poziomu, które leżą u podstaw dostarczania i zarządzania aplikacjami) w budowie i uruchamianiu agentów AI w Kubernetes.

Integracja agenta-narzędzia

Zapewnia konfigurację, rozwiązywanie problemów, obserwowalność i bezpieczeństwo sieci. Technologia integruje się również z istniejącymi narzędziami natywnymi w chmurze poprzez elastyczną architekturę wtyczek zbudowaną na protokole kontekstu modelu, który stanowi standard dla integracji agenta-narzędzia, umożliwiając zespołom uruchamianie tych narzędzi na skalę bez konieczności rozwijania wiedzy specjalistycznej w każdym obszarze natywnego ekosystemu natywnego chmur.

Jak szczegółowo opisano w protokole kontekstu modelu strona internetowa„MCP to otwarty protokół, który standaryzuje sposób, w jaki aplikacje zapewniają kontekst dla dużych modeli językowych. Pomyśl o MCP jak port USB-C do aplikacji AI. Podobnie jak USB-C zapewnia znormalizowany sposób podłączenia urządzeń z różnymi peryferyjami i akcesoriami, MCP zapewnia znormalizowany sposób podłączenia modeli AI z różnymi źródłami i narzędziami danych. ”

Kagent jest zbudowany z myślą o rozszerzalności, umożliwiając platformę tworzenie i dzielenie się własnymi narzędziami i agentami AI. Projekt uruchamia się z narzędziami dla Argo, Helm, Istio, Kubernetes, Prometeusza i bazy wiedzy w dziedzinie natywnej w chmurze, które mogą rozszerzyć się na dowolny serwer narzędzi kompatybilny MCP.

„Dzięki Kagent zespoły mogą odciążyć niezróżnicowane ciężkie podnoszenie do infrastruktury agencyjnej i skoncentrować się na zadaniach o wyższej wartości. Kubernetes jest już dostępną platformą do analizy predykcyjnej, MLOP i wnioskowania, a teraz zapewnia nowoczesną architekturę do dynamicznego wdrażania agentów AI ”-powiedział Keith Babo, dyrektor ds. Produktu, Solo.io. „Kagent umożliwi użytkownikom Kubernetes uruchamianie agencyjnej sztucznej inteligencji bez ogromnej krzywej uczenia się i wyzwań operacyjnych związanych z budowaniem stosu infrastruktury AII od zera”.

Bezpieczeństwo i obserwowalność

Wbudowane narzędzia i agenci oparte są na osiągnięcia solo.io w inżynierii platform i potrzebie kodowania bezpieczeństwa, obserwacji i innych funkcji na platformach natywnych w chmurze. Warstwa frameworka w Kagent jest zbudowana na Microsoft Autogeniczny Framework open source, zapewniający silny fundament i dodatkowy punkt rozszerzenia. Jako projekt open source Kagent można powszechnie przyjąć w ramach innych projektów w natywnym ekosystemie chmury, aby umożliwić wszystkim działanie, budowanie i dzielenie rozwiązań opartych na AI.

Narzędzia Kagent oferują wstępnie zdefiniowane funkcje, z których mogą korzystać agenci AI, takie jak wyselekcjonowana baza wiedzy eksperckiej, wskaźniki dostępności i wydajności dla usług, wdrażania aplikacji i kontroli cyklu życia, administrowanie platformą i debugowanie narzędzi oraz ochroniarzy aplikacji.

Ramy deklaratywne technologii zawiera deklaratywny interfejs API i kontroler agentów budowania i uruchamiania za pośrednictwem interfejsu użytkownika, z interfejsu wiersza poleceń programisty i konfiguracji deklaratywnej. Agenci mogą być wykorzystywane do wykonywania złożonych, wieloetapowych działań, takich jak wdrożenia kanaryjskie dla nowych wersji aplikacji, ustanawianie zasad bezpieczeństwa zerowego zaufania wszystkich usług w klastrze i debugowanie problemów z dostępnością usług.

Wzrost obliczeń samoobsługowych

Kubernetes zapewnia coś, co twierdzi, że jest bardzo odpowiednią (niektórzy mówią idealnie) nowoczesną architekturę do wdrażania agentów AI. Dlaczego? Jest już szeroko stosowany do analizy predykcyjnych, MLOP i wnioskowania, a teraz zapewnia nowoczesną architekturę do dynamicznego rozmieszczenia agentów AI. Połączenie jest obiecane przyspieszeniem przepływów pracy w środowiskach Kubernetes, co jest ważne, ponieważ inżynierowie platformy chcą samoobsługi. Ale co rozumiemy przez funkcje samoobsługowe w tym kontekście?

Chcą wejść i robić rzeczy w środowisku Kubernetes. Ale istnieją wiele podstawowych zadań, których programiści nie chcą wykonywać (lub zadań, które podważają ich wiedzę), a agent AI może wypełnić zarówno luki, jak i zwiększyć przepływy pracy, współpracując z inżynierem platformy i umożliwiając inżynierowi wykonywanie większej liczby zadań o wyższej wartości.

„Na przykład, jeśli aplikacja jest nieosiągalna lub zakopana w przypadku wielu chmielów połączeń, wskazanie złamanego łącza może być czasochłonnym zadaniem. To samo dotyczy generowania powiadomień, raportów błędów i umożliwienia bezpieczeństwa sieci Zero zaufania, gdy aplikacje skalują się poza pojedynczych klastrach lub chmur. Przy tak wielu projektach w chmurze natywnej ekosystemu, ustalenie, które są najlepiej, które są najlepiej potrzebne, a następnie je niszczące, a zarządu z właściwą konfiguracją). Inżynierowie zorientowani na klienta często rozwiążą niezależnie, ale czasami potrzebują innych ekspertów lub specjalistów-powiedział Babo.

Ile znasz chmur?

Budując agentów AI w celu rozwiązywania wspólnych wyzwań i wsparcia inżynierów, w chmurze natywne przepływy pracy mogą się szybciej skalować. Ponadto agenci AI nie muszą podróżować ani spać. Solo twierdzi, że Kagent umożliwi użytkownikom Kubernetes uruchamianie agencyjnej sztucznej inteligencji bez ogromnej krzywej uczenia się i wyzwań operacyjnych związanych z budowaniem stosu infrastruktury AII od zera.

Dlaczego coś z tego ma znaczenie? Ponieważ większość inżynierów przetwarzania w chmurze zazwyczaj zna może być może od pięciu do dziesięciu technologii projektowych, tj. W stopniu, w jakim mogą oni działać z nimi na wysokim poziomie zręczności technicznej. Ekosystem w chmurze jest masywny, a Cloud Native Computing Foundation (CNCF) ma ponad 800 uczestniczących organizacji, więc prawdopodobieństwo, że każdy inżynier oprogramowania (lub rzeczywiście każdy zespół inżynierii platformy) będzie miał całkowitą kompetencję z każdym potrzebnym narzędziem, jest mało prawdopodobne.

Agenci rosną i w świecie Kubernetes przychodzą z K, dobrze?

Source link

ZOSTAW ODPOWIEDŹ

Proszę wpisać swój komentarz!
Proszę podać swoje imię tutaj