Duże modele językowe zaskakują swoimi zdolnościami konwersacyjnymi i coraz częściej stają się integralną częścią systemów sztucznej inteligencji. Jednak wraz z ich rosnącą popularnością pojawia się pytanie: jak nad nimi zapanować? Modele te potrafią generować fałszywe informacje, a użytkownicy nierzadko ufają im bezkrytycznie. W niniejszym artykule przedstawiamy jedno z narzędzi, które pozwala skutecznie kontrolować ich działanie – NVIDIA NeMo Guardrails.

Duże modele językowe (Large Language Models, LLMs) podbiły publiczną wyobraźnię i są aktywnie wdrażane w wielu sferach aplikacji. Stanowią elementy rozwiązań wspierających programistów, do obsługi klienta czy jako systemy rekomendujące. Na łamach „Programisty” pojawiła się już seria artykułów, w tym opisujących korzystanie z tych rozwiązań z wykorzystaniem technik RAG czy dotyczące ich kognitywnych aspektów pracy albo wdrożeń w bezpiecznym środowisku.

Niniejszy artykuł suplementuje te wcześniejsze opracowania. Upowszechnienie bowiem LLMów i poszukiwanie ich miejsca w ekosystemie biznesowych rozwiązań wiąże się z rosnącą świadomością ich ograniczeń i koniecznością suplementacji za pomocą dodatkowych narzędzi. Wspomniany już RAG poprzez odwołanie się do źródłowych dokumentów pozwala zwiększyć skuteczność modeli w zadaniach z kategorii wyszukiwania wiadomości i udzielania odpowiedzi, a także prezentacji bardziej wiarygodnych uzasadnień. Podobnie wygląda zagadnienie umożliwiania korzystania modelom z zewnętrznych narzędzi (ang. tools). Na przykład popularna biblioteka LangChain zawiera szereg rozwiązań umożliwiających wywoływanie LLMom takich wspomagających podsystemów, jak wyszukiwarki internetowe czy interpretery kodu. Anthropic opracowało standard MCP (Model Context Protocol) w celu umożliwienia integracji systemów sztucznej inteligencji z zasobami w rodzaju źródeł danych czy narzędzi, zaadaptowany również przez inne przedsiębiorstwa...

Zagadnienia poruszane w tym artykule:

• Konieczność kontroli modeli językowych;
• Instalacja i przykłady;
• Colang – Język Definicji Szyn Bezpieczeństwa;
• Architektura szyn bezpieczeństwa w bibliotece NeMo Guardrails;
• Przykładowa aplikacja – pizzeria...

Artykuł pochodzi z magazynu Programista nr 120 (5/2025). Szczegółowy spis treści wydania nr 120: https://programistamag.pl/programista-5-2025-120/

Autorem artykułu jest Łukasz Górski. Adiunkt w Interdyscyplinarnym Centrum Modelowania Matematycznego i Komputerowego Uniwersytetu Warszawskiego oraz na Wydziale Matematyki i Informatyki Uniwersytetu Mikołaja Kopernika w Toruniu. Pracował jako programista symulacji komputerowych, a obecnie bada sztuczną inteligencję. Koncentruje się na zagadnieniach wyjaśnialności, zwłaszcza w kontekście dużych modeli językowych, i stara się zbudować bota-prawnika.

>>FRAGMENT TEGO ARTYKUŁU DO POBRANIA<<