Wzrost roli sztucznej inteligencji we współczesnym świecie jest oczywisty. Zasługę takiego stanu rzeczy należy przypisać w szczególności modelom należącym do grupy LLMów (Large Language Model). To za ich sprawą w branży IT, ale nie tylko, dzieje się coś, co można już nazwać rewolucją...

Zagadnienia poruszane w tym artykule:

• Lokalne vs chmurowe LLMy;
• Dostępność narzędzi i bibliotek dla modeli językowych;
• OpenAI API (rozwiązanie chmurowe);
• LangChain (rozwiązanie hybrydowe);
• Obsługa modeli LLM;
• Zrozumienie transformerów w LLM;
• Wykorzystanie RAG (Retrieval-Augmented Generation) w kontekście lokalnym;
• Embeddings;
• Przykładowa aplikacja;
• Wyzwania i Przyszłość Lokalnych LLM;

Artykuł pochodzi z magazynu Programista nr 111 (1/2024). Szczegółowy spis treści wydania nr 111: https://programistamag.pl/programista-1-2024-111/

Autorami artykułu są:

• Marek Zmysłowski. Doświadczenie zdobywał zarówno w małych firmach, jak i dużych korporacjach, takich jak Samsung, Trustwave czy Microsoft, pracując jako inżynier, pentester security manager. Pasjonat bezpieczeństwa IT, a w szczególności fan wszystkiego, co jest związane z fuzzingiem. Wielokrotny prezenter na konferencjach poświęconych bezpieczeństwu, zarówno w kraju, jak i za granicą, a także autor publikacji i projektów związanych z bezpieczeństwem.
  Wraz z Konradem Jędrzejczykiem autor projektu dotyczącego sztucznej inteligencji: ChatNMI.
• Konrad Jędrzejczyk. W cyberbezpieczeństwie w środowisku korporacyjnym od 2011 roku. Oddany użytkownik PET 4032. Pierwszy publicznie zaprezentował test penetracyjny współczesnych systemów z użyciem nie rozszerzonego Commodore 64 jako maszyny atakującego na konferencji DefCamp w Bukareszcie w 2017 roku.
  Wspólnie z Markiem Zmysłowskim jest twórcą projektu skupionego na sztucznej inteligencji – ChatNMI.