Salesforce vydal nástroj měřící efektivitu modelů AI

Cílem AI Energy Score je řešit nedostatek transparentnosti v oblasti dopadu modelů umělé inteligence na životní prostředí. Podobně jako ENERGY STAR změnila standardy energetické účinnosti spotřebičů a elektroniky, zavádí tato iniciativa jasné a důvěryhodné měřítko udržitelnosti modelů AI. Zvýšením transparentnosti může skóre podpořit preferenci efektivních modelů na trhu a motivovat k udržitelnému rozvoji UI.

Společnost Salesforce zároveň oznámila, že jako první vývojář modelů umělé inteligence zveřejní údaje o energetické účinnosti svých vlastních modelů podle nového rámce.

AI Energy Score, které pro svůj transformační potenciál uznala francouzská vláda a Pařížské mírové fórum, obsahuje následující prvky:

• Standardizované energetické třídy: Standardizovaný rámec pro měření a porovnávání energetické účinnosti modelů AI.
• Veřejný žebříček: Komplexní žebříček s výsledky 10 běžných úloh umělé inteligence (generování textu, obrázků, shrnutí, aj.), provedených 166 modely, včetně SFR-Embedding, xLAM a SF-TextBase společnosti Salesforce.
• Srovnávací portál: Platforma pro předkládání otevřených nebo vlastních modelů umělé inteligence k vyhodnocení a přidání do žebříčku. Otevřené modely lze testovat automaticky, zatímco uzavřené modely lze vyhodnocovat prostřednictvím zabezpečeného testovacího sandboxu.
• Rozpoznatelný štítek spotřeby energie: Nový štítek s 1 až 5 hvězdičkami, který hodnotí spotřebu energie modelu AI, přičemž pět hvězdiček označuje nejvyšší účinnost. To pomáhá vývojářům a uživatelům snadno identifikovat a vybírat udržitelnější modely. Po ohodnocení mohou vývojáři AI generovat standardizované štítky s energetickým skóre svých modelů a zabudovaným návodem na správné zobrazení štítku pro zviditelnění a dopad.

Jak Salesforce řeší udržitelnost prostřednictvím Agentforce

Loni na podzim společnost představila Agentforce, agentní vrstvu platformy Salesforce pro nasazení autonomních agentů s umělou inteligencí v jakékoli obchodní funkci. Agentforce nabízí nástroje pro vytváření a přizpůsobení agentů a také knihovnu připravených dovedností pro prodej, služby, marketing, obchod, Tableau, Slack a další.

• Agentforce je postaven s ohledem na udržitelnost a poskytuje vysoký výkon při minimalizaci dopadu na životní prostředí. Na rozdíl od DIY přístupů k AI, které vyžadují energeticky náročné školení modelů pro každého zákazníka, je Agentforce optimalizován hned po vybalení, což eliminuje potřebu nákladného nebo uhlíkově náročného školení.
• Jeho agentní architektura se nespoléhá jen na jeden velký jazykový model (LLM), ale využívá efektivní malé jazykové modely v kombinaci s agentním uvažováním a dalšími pokročilými nástroji umělé inteligence, což výrazně snižuje spotřebu energie. Například SFR-RAG společnosti Salesforce je malý jazykový model optimalizovaný pro přesné a spolehlivé úlohy. Cituje zdroje, extrahuje přesná fakta a zpracovává složité otázky, čímž poskytuje důvěryhodné odpovědi s vyšší efektivitou a nižší spotřebou energie.
• Agentforce navíc využívá na míru šitá data a metadata ze Salesforce Data Cloud a platformy Salesforce, což umožňuje vysokou přesnost a rychlost odezvy při minimalizaci plýtvání výpočetními zdroji.