API i AI: Gdzie faktycznie jest wartość – wnioski z Tech Talks by Kong #EN32

TL;DR

• AI i API to obecnie dwa gorące obszary technologiczne – według Bootstrap Labs 80% firm deklarujących używanie AI faktycznie tego nie robi
• Zamiast „wciskania AI wszędzie”, należy zidentyfikować konkretne problemy, gdzie AI wnosi faktyczną wartość
• AI może usprawnić API przez: automatyzację projektowania (generowanie schematów OpenAPI), inteligentny monitoring i wykrywanie podobieństw między modelami
• Infrastruktura API jest kluczowa dla rozwoju AI – Kong AI Gateway zapewnia abstrakcję różnic między dostawcami AI, filtrowanie PII i centralne zarządzanie
• Perspektywa długoterminowa: neutralność API (automatyczne generowanie REST/GraphQL/gRPC) i API projektowane dla komunikacji maszyna-maszyna

W ramach serii „Encrypted Notes” wyciągam esencję z wartościowych prezentacji technologicznych. Dzisiejszy materiał bazuje na wystąpieniu Jeremy’ego Glassenberga podczas „Tech Talks by Kong” o relacji między API i AI.

Sceptycyzm jako punkt wyjścia

Jeremy Glassenberg, z 16-letnim doświadczeniem w API i 10-letnim w AI, rozpoczyna od pragmatycznego spojrzenia: według Bootstrap Labs ponad 80% firm, które twierdzą, że używają AI, w rzeczywistości tego nie robi. Choć obecnie mamy dostęp do prawdziwej sztucznej inteligencji, często brakuje dla niej realnych przypadków użycia.

„Nie chcę, żebyśmy po prostu pytali, gdzie możemy wepchnąć AI, ale skupili się na znalezieniu miejsca, gdzie faktycznie pojawi się wartość.”

Glassenberg promuje podejście produktowe – najpierw zidentyfikuj rzeczywisty problem, a dopiero potem rozważ, czy AI jest właściwym rozwiązaniem.

Trzy obszary synergii API i AI

Prelegent wyróżnia trzy kluczowe obszary współpracy między technologiami API i AI:

1. AI wspierające zarządzanie API – narzędzia automatyzujące projektowanie i obsługę API
2. API wspierające systemy AI – infrastruktura niezbędna dla funkcjonowania modeli AI
3. Adaptacja narzędzi API dla AI – przekształcanie rozwiązań z ekosystemu API (np. API Gateway) na potrzeby AI

Różne firmy wybierają różne strategie – Kong skupia się głównie na AI Gateway (punkt 3), podczas gdy inni dostawcy koncentrują się na wprowadzaniu funkcji AI do swoich narzędzi API (punkt 1).

Praktyczne zastosowania AI dla API

1. Projektowanie API

Narzędzia jak Kong Insomnia już oferują pewną automatyzację, ale AI może pójść dalej:

• Zachęcanie do stosowania standardów branżowych (schema.org)
• Automatyczne generowanie schematów OpenAPI z opisu funkcjonalności
• Wykrywanie duplikacji między modelami API i promowanie reużywalności

2. Generowanie kodu serwerowego

• Generowanie kodu po stronie klienta z OpenAPI jest już dobrze rozwinięte
• Większym wyzwaniem jest kod serwerowy – AI mogłoby analizować schemat API, strukturę bazy danych i architekturę aplikacji
• Potencjał tworzenia funkcjonalnych implementacji, nie tylko szkieletów kodu

3. Monitoring i bezpieczeństwo API

Jeden z najbardziej obiecujących obszarów:

• Wykrywanie nieudokumentowanych API (główne źródło naruszeń bezpieczeństwa)
• Identyfikacja potencjalnych luk poprzez analizę przepływów danych
• Wykrywanie nietypowych wzorców użycia wskazujących na ataki
• Identyfikacja nieefektywnych wzorców (np. wykonywanie wielu wywołań zamiast jednego)

4. Zarządzanie relacjami z deweloperami

Obszar, który według prelegenta nie miał dotąd wystarczających narzędzi:

• Monitorowanie ścieżki dewelopera od rejestracji do wdrożenia
• Proaktywne wykrywanie punktów problemowych
• Automatyzacja wsparcia przez inteligentne chatboty trenowane na dokumentacji API

API dla AI: Infrastruktura nowej generacji

Doświadczenia z branży API mogą znacząco wspierać rozwój AI:

AI Gateway

Kong stworzył specjalistyczny AI Gateway, inspirując się firmami jak Uber, które musiały budować własne rozwiązania do zarządzania różnymi modelami.

Kluczowe funkcje:

• Abstrakcja różnic między API różnych dostawców modeli AI (OpenAI, Anthropic, Gemini)
• Możliwość dodawania standardowych dekoratorów do promptów
• Filtrowanie danych wrażliwych (PII)
• Monitoring użycia modeli AI
• Centralne zarządzanie bezpieczeństwem

Glassenberg podkreśla, że filtry treści wbudowane w modele często nie wystarczają dla ochrony danych wrażliwych w kontekście B2B, takich jak numery ubezpieczenia czy informacje medyczne.

Przyszłość: długoterminowa wizja

Neutralność API

W przyszłości, dzięki automatyzacji projektowania, debata „REST vs GraphQL vs gRPC” może stać się nieistotna. Zamiast wybierać jeden format, będziemy mogli generować wszystkie potrzebne formaty z jednego opisu funkcjonalności.

API projektowane dla maszyn, nie ludzi

Jeśli AI stanie się głównym konsumentem API, możemy odejść od interfejsów czytelnych dla człowieka na rzecz formatów zoptymalizowanych dla komunikacji maszyna-maszyna.

Pragmatyczne podejście jako podsumowanie

Kluczowe przesłanie: skupienie na realnych problemach i rozwiązaniach, które faktycznie przynoszą wartość.

„Jako sceptyk wobec AI, uważam że tym razem dzieje się coś realnego – mamy szansę zarówno usprawnić zarządzanie API dzięki AI, jak i wykorzystać naszą wiedzę o API do rozwoju systemów AI.”

Materiały do pogłębienia

Na podstawie prezentacji warto zapoznać się z:

1. Artykułem Ubera o ich wewnętrznym AI Gateway
2. Dokumentacją Kong AI Gateway
3. Schema.org jako standardem projektoródłowania API
4. OpenAPI i narzędziami automatycznego generowania kodu

Zródło:

1. Prezentacja Jeremy’ego Glassenberga, Tech Talks by Kong, „API Development & AI: What to Expect Next„