Mesterséges intelligencia,  Technikai SEO

Új korszak kezdődik az AI ügynökök hatékonyságában – dinamikus eszközhasználat és programozott vezérlés a Claude fejlesztéseiben

Az AI ügynökök jövője egy olyan világot vetít előre, ahol a mesterséges intelligencia modellek zökkenőmentesen működnek együtt több száz, akár több ezer eszközzel. Gondoljunk csak egy fejlesztői asszisztensre, amely egyetlen platformon kezeli a git műveleteket, fájlkezelést, csomagkezelőket, tesztelési keretrendszereket és telepítési folyamatokat. Vagy egy operációs koordinátorra, amely egyszerre kapcsolódik Slackhez, GitHubhoz, Google Drive-hoz, Jira-hoz, vállalati adatbázisokhoz és tucatnyi MCP szerverhez.

Az ilyen összetett rendszerek hatékony működéséhez az AI ügynököknek képesnek kell lenniük korlátlan eszköztárak kezelésére anélkül, hogy minden eszköz definícióját előre betöltenék és kontextusba zsúfolnák. Ezért a fejlesztők olyan megoldásokat kerestek, amelyek lehetővé teszik az eszközök igény szerinti felfedezését és dinamikus betöltését, miközben az AI csak a feladat szempontjából releváns információkat tartja meg.

Tool Search Tool: az eszközök intelligens és hatékony felfedezése

Az egyik legnagyobb kihívás az eszközdefiníciók mérete és komplexitása. Egy tipikus több szerverből álló rendszerben, amely például GitHub, Slack, Jira vagy Google Drive eszközöket foglal magába, az összes eszköz definíciója több tízezer tokennyi adatot jelenthet, ami túlterheli az AI modell kontextusablakát.

Az Anthropic új Tool Search Tool funkciója lehetővé teszi, hogy az AI ne töltse be egyszerre az összes eszköz definíciót, hanem csak az adott feladathoz szükségeseket. Így a rendszer nem pazarolja el értékes kontextust, és jelentősen csökken a memóriahasználat: a tokenfelhasználás akár 85%-kal is mérséklődhet, miközben az eszköztár teljes hozzáférhetősége megmarad.

A Tool Search Tool működési elve egyszerű: az összes eszköz rendelkezésre áll ugyan, de csak azok definíciói kerülnek betöltésre, amelyeket az AI az adott pillanatban igényel. Például, ha a Claude nevű AI-nak a GitHub-hoz kell kapcsolódnia, csak a GitHubhoz tartozó eszközök töltődnek be, a Slack vagy Jira eszközök nem.

Ez a megközelítés nemcsak a kontextus megtakarítását eredményezi, hanem a pontosságot is növeli: a belső tesztek alapján az eszközválasztás hibái jelentősen csökkentek, így a komplex rendszerek megbízhatóbban működnek.

Programmatic Tool Calling: hatékony eszközvezérlés kód alapokon

A hagyományos eszközhasználat során az AI minden egyes eszközhívásnál teljes körű modellt futtat, és a köztes eredmények mind beépülnek a kontextusba, ami gyorsan telítheti az erőforrásokat. Ez különösen problémás nagy méretű adathalmazok vagy komplex, több lépésből álló folyamatok esetén.

Az Anthropic által bevezetett Programmatic Tool Calling nevű megoldás lehetővé teszi, hogy az AI kóddal – például Python nyelven – irányítsa az eszközöket. Ehelyett, hogy minden eszközválasz visszakerülne a modellhez, a kód végzi az adatok feldolgozását és csak a végső, releváns eredményt továbbítja. Ez jelentősen csökkenti a kontextus terhelését és gyorsítja a folyamatokat.

Egy gyakorlati példa erre egy vállalati költségvetés-kezelési feladat: a csapat tagjainak utazási költségeit vizsgálva a hagyományos módszer több ezer adatpontot töltene be a modellbe, míg a programozott megközelítés csak azokat a személyeket adja vissza, akik túllépték a költségkeretet – mindössze néhány kilobyte adatot.

Ez a módszer nemcsak az erőforrás-hatékonyságot növeli, hanem a pontosságot is javítja, hiszen a kód explicit vezérlési logikája csökkenti a hibák lehetőségét.

Tool Use Examples: a helyes eszközhasználat tanítása mintákkal

Az eszközök használatának másik kritikus pontja a paraméterek helyes megadása. A JSON sémák ugyan leírják az adatstruktúrákat és kötelező mezőket, de nem tudják visszaadni a helyes használati mintákat, például mikor kell opcionális paramétereket megadni vagy milyen kombinációk érvényesek.

Az új Tool Use Examples funkció lehetőséget ad arra, hogy az eszközdefiníciókhoz konkrét példákat társítsunk, amelyek megmutatják az optimális paraméterhasználatot és a domain-specifikus konvenciókat. Így az AI modellek sokkal pontosabban tudják meghívni az eszközöket, elkerülve a hibás hívásokat.

Ez a megközelítés különösen hasznos bonyolult, összetett struktúrák és sok opcionális paraméter esetén, amikor a helyes használat nem egyértelmű pusztán a sémák alapján.

Összefoglalás: az új funkciók forradalmasítják az AI eszközhasználatot

Az Anthropic által bemutatott három új fejlesztés – a Tool Search Tool, a Programmatic Tool Calling és a Tool Use Examples – együttesen jelentősen javítják az AI ügynökök hatékonyságát, pontosságát és rugalmasságát. Ezek a megoldások lehetővé teszik, hogy az AI dinamikusan fedezzen fel és használjon fel eszközöket, kezelje az összetett munkafolyamatokat kódszinten, és helyesen alkalmazza az eszközparamétereket.

Az új technológiák különösen hasznosak nagy, több szerverből álló rendszerekben, ahol a korábbi megközelítések túlterhelték a modellt, vagy pontatlanságokhoz vezettek. A fejlesztők számára ezek az eszközök új lehetőségeket nyitnak meg, hogy még komplexebb és megbízhatóbb AI alapú megoldásokat építhessenek.

A technológiák jelenleg béta verzióban érhetők el, és a fejlesztők már most kipróbálhatják őket az Anthropic Claude platformján. A részletes dokumentáció és példák révén hamarosan széles körben alkalmazhatóvá válhatnak ezek az innovációk, amelyek a mesterséges intelligencia jövőjének alapköveivé válhatnak.

Forrás: az eredeti angol cikk itt olvasható