Data ogłoszenia: 29 września 2026 r. Google Cloud udostępnił w publicznym podglądzie strumieniowanie przez API Gateway. Brama może przekazywać żądania i odpowiedzi porcjami zamiast czekać na całą odpowiedź. Dokumentacja wymienia HTTP/2, HTTP/1.1 z przesyłaniem fragmentów, SSE, WebSocket i dwukierunkowy gRPC. To istotne szczególnie przy odpowiedziach modeli językowych, które powstają stopniowo. Źródło: Google Cloud release notes, 29.09.2026.

Fakty, które zmieniają projekt

  • Tryb strumieniowania ustala się podczas tworzenia nowej bramy; nie można go później przełączyć w już istniejącej. Włączenie wymaga też poprawnego protokołu po stronie usługi.
  • Domyślny limit czasu dla SSE i odpowiedzi przesyłanych fragmentami wynosi 15 sekund. Trzeba jawnie ustawić deadline; strumień kończy się po upływie tego czasu nawet wtedy, gdy wciąż napływają dane. Backend ma własny limit czasu.
  • W publicznym podglądzie bramy ze strumieniowaniem nie współpracują z zewnętrznym Application Load Balancer ani z własnymi domenami opartymi na tym mechanizmie. Włączenie przez Terraform też nie jest jeszcze obsługiwane.

Te ograniczenia i konfigurację protokołów opisuje dokumentacja API Gateway: Configure streaming. Funkcja ma status Public Preview, a nie ogólnej dostępności.

Interpretacja architektoniczna

Dotąd brama buforująca pełną odpowiedź mogła ukrywać korzyść ze strumieniowego backendu. Nowa opcja pozwala rozważyć przekazanie pierwszych fragmentów szybciej, ale nie jest przełącznikiem „AI działa szybciej”. Nadal trzeba przetestować czas do pierwszego fragmentu, zerwane połączenia, zakończenie strumienia, uwierzytelnienie i limity żądań. Szczególnie ważne: klient może zobaczyć częściową odpowiedź przed błędem; ponowienie całego żądania nie zawsze jest bezpieczne ani tanie.

Jeżeli obecny API Gateway stoi za własną domeną i load balancerem, nie zakładałbym prostej wymiany bramy. Warto porównać dwa warianty: osobną ścieżkę dla odpowiedzi strumieniowych oraz pozostawienie obecnej bramy do zwykłych wywołań. Decyzję podjąłbym po próbie z realnym czasem generowania odpowiedzi, sprawdzeniu zachowania klientów i kosztu utrzymywania dwóch ścieżek. To wniosek projektowy, nie obietnica producenta.

Pytanie do projektu: czy użytkownik rzeczywiście potrzebuje pierwszego fragmentu odpowiedzi wcześniej, a jeśli tak, jak obsłużycie przerwany strumień, limit czasu i obecny adres API?

Źródła pierwotne: Google Cloud release notes, 29 września 2026; API Gateway: konfiguracja, terminy i ograniczenia Public Preview. Sekcja „Interpretacja architektoniczna” jest autorskim wnioskiem.