Wprowadzenie do tworzenia aplikacji AI przy użyciu modeli podstawowych Rozwój inżynierii AI Od modeli językowych do dużych modeli językowych Od dużych modeli językowych do modeli podstawowych Od modeli podstawowych do inżynierii AI Przykłady zastosowań modeli podstawowych Programowanie Tworzenie obrazów i wideo Generowanie tekstów Edukacja Boty konwersacyjne Agregacja informacji Organizowanie danych Automatyzacja przepływu danych Planowanie aplikacji AI Ocena przypadków użycia Ustalenie oczekiwań Zaplanowanie kamieni milowych Konserwacja i utrzymanie Stos technologiczny inżynierii AI Trzy warstwy stosu AI Inżynieria AI a inżynieria ML Inżynieria AI a inżynieria pełnowymiarowa Zrozumienie modeli podstawowych Dane treningowe Modele wielojęzyczne Modele specyficzne dla danej dziedziny Modelowanie Architektura modelu Rozmiar modelu Post-trening Dostrajanie nadzorowane Dostrajanie preferencji Próbkowanie Efektywność obliczeniowa czasu testowania Dane ustrukturyzowane Probabilistyczna natura sztucznej inteligencji Metodyka ewaluacji Wyzwania związane z ewaluacją modeli podstawowych Zrozumienie wskaźników dotyczących modelowania języka Entropia Entropia krzyżowa Wskaźniki bits-per-character i bits-per-byte Nieokreśloność Interpretacja nieokreśloności i jej zastosowania Ewaluacja dokładna Poprawność funkcjonalna Pomiar poziomu podobieństwa względem danych referencyjnych Wprowadzenie do osadzania AI jako sędzia Ranking modeli wynikający z ewaluacji porównawczej Wyzwania ewaluacji porównawczej Przyszłość ewaluacji porównawczej Ewaluacja modeli AI Zdolności specyficzne dla danej dziedziny Zdolności generacyjne Zdolność do podążania za instrukcjami Koszty i opóźnienia Wybór modelu Budowa czy zakup modelu? Zestawy testów dostępne publicznie Projektowanie procesu ewaluacji Krok 1. Ewaluacja wszystkich komponentów systemu Krok 2. Utworzenie wytycznych do ewaluacji Krok 3. Określenie metod ewaluacji i danych Inżynieria promptów Uczenie w kontekście: zero-shot i few-shot Prompt systemowy a prompt użytkownika Długość i efektywność kontekstu Najlepsze zasady inżynierii promptów Twórz jasno i precyzyjnie sformułowane instrukcje Dostarcz niezbędny kontekst Podziel zadania złożone na prostsze podzadania Daj modelowi czas na myślenie Doskonal prompty w procesie iteracyjnym Oceniaj narzędzia do inżynierii promptów Porządkuj prompty i zarządzaj ich wersjami Strategia zabezpieczania promptów Prompty zastrzeżone i inżynieria odwrotna promptów Omijanie zabezpieczeń i wstrzykiwanie promptów Ekstrakcja informacji Obrona przed atakami na prompty Generowanie wspomagane wyszukiwaniem i agenty Generowanie wspomagane wyszukiwaniem Architektura generowania wspomaganego wyszukiwaniem Algorytmy wyszukiwania Optymalizacja wyszukiwania Generowanie wspomagane wyszukiwaniem a inne modalności Agenty Przegląd agentów Narzędzia Planowanie Tryby błędów agenta i sposoby ich oceny Pamięć Dostrajanie Dostrajanie a generowanie wspomagane wyszukiwaniem (RAG) Ograniczenia pamięciowe Propagacja wsteczna i parametry trenowane Obliczenia dotyczące pamięci Reprezentacje numeryczne Kwantyzacja Techniki dostrajania Dostrajanie efektywne parametrowo Scalanie modeli i dostrajanie wielozadaniowe Taktyki dostrajania Inżynieria zbiorów danych Przygotowanie danych Jakość danych Pokrycie danych Ilość danych Pozyskiwanie i etykietowanie danych Synteza i generowanie sztucznych danych Po co stosować syntezę danych? Tradycyjne metody syntezy danych Synteza danych wspierana przez AI Destylacja modelu Przetwarzanie danych Inspekcja danych Deduplikacja danych Czyszczenie i filtrowanie danych Formatowanie danych Optymalizacja wnioskowania Zrozumienie optymalizacji wnioskowania Podstawy wnioskowania Wskaźniki związane z wydajnością wnioskowania Akceleratory AI Optymalizacja wnioskowania Optymalizacja modelu Optymalizacja usługi wnioskowania Architektura systemów AI Krok 1. Rozszerzenie kontekstu Krok 2. Wprowadzenie zabezpieczeń Krok 3. Wprowadzenie routingu i bramki dostępowej Krok 4. Zmniejszenie opóźnień za pomocą mechanizmów buforowania Krok 5. Dodanie wzorców agentowych Monitorowanie systemu i przejrzystość jego działania Orkiestracja potoku AI Informacja zwrotna od użytkowników Pozyskiwanie informacji zwrotnej z rozmów Projektowanie systemu gromadzenia informacji zwrotnych Ograniczenia systemu gromadzenia informacji zwrotnych