Безкоштовні ліміти Groq і Cloudflare: де застосунок упирається першим
Мої застосунки використовують ШІ, і для початку я хотів платити якомога менше. Тому сервер працює на безкоштовних тарифах: Groq (модель, що відповідає на запити) і Cloudflare Workers (сам сервер). Поки тестувальників мало, цього вистачає. Нижче те, де я справді впирався в стелю і що з цього вийшло. Ліміти сервісів змінюються, тому цифри нижче актуальні на вересень-жовтень 2026 року, а перед використанням їх треба звірити з документацією Groq і Cloudflare.
Groq: ліміти спільні, а не на ключ
Спочатку я думав, що окремий ключ для кожного застосунку дає окремі ліміти. Це не так: ліміти Groq рахуються на рівні організації та на модель (так прямо сказано в документації Groq). Мої два застосунки жили в одній організації, тож ділили одну квоту.
Для моделі, якою я користувався, за даними сторінки лімітів у моєму акаунті Groq, безкоштовний ліміт становить 200 000 токенів на добу (у відкритій документації Groq безкоштовних цифр немає, їх видно лише в консолі акаунта). Один аналіз фото коштує близько 3,5 тисячі токенів, тобто приблизно 57 аналізів на добу на всіх тестувальників і обидва застосунки разом. 28 вересня ми уперлися в цю стелю: тестувальники бачили повідомлення «не вдалося проаналізувати». У логах сервера це виглядало як відповідь 429 з текстом про токени на добу.
Окремо є ліміт на хвилину (кілька тисяч токенів), який відчувається, коли кілька людей одночасно пробують застосунок, наприклад одразу після оголошення в чаті. Проти цього я додав на сервері кілька повторних спроб із паузою, коли Groq відповідає 429. Це згладжує короткі сплески, але не вирішує проблеми добового ліміту.
Платний тариф Groq (Developer) якийсь час був недоступний через великий попит, про що писала сама сторінка тарифів. Тому довелося шукати інший шлях.
Gemini як запасний варіант
Я підключив Gemini як запасний шлях для розпізнавання. На безкоштовному рівні він виявився ненадійним: частина моделей відповідала помилкою 503 «високий попит» або 429. Після переходу проєкту на платний рівень запити почали виконуватися стабільно, навіть для складних фото складу з відблисками. Тут вартість уже реальна, тому я обмежив місячні витрати в налаштуваннях Google Cloud.
Cloudflare Workers: що рахується
На безкоштовному тарифі в Workers є два обмеження, про які я дізнався вчасно:
- 10 мс процесорного часу на запит. Очікування відповіді від ШІ сюди не входить, а ось розбір великого тексту в самому Worker може. Тому цей блог, наприклад, збирається в готовий HTML заздалегідь.
- Ліміти спільні на весь акаунт, а не на застосунок: кількість запитів на добу та кількість записів у сховище KV. Саме записи в KV виявилися першою стелею: кожен аналіз пише лічильник використання.
Перед публічним запуском я перейшов на платний тариф Workers, який коштує від 5 доларів на місяць і знімає ці обмеження.
Що я виніс
- Ліміти рахуються на організацію й модель, а не на ключ, тож другий застосунок їсть квоту першого.
- Безкоштовний тариф підходить для тесту, але не для публічного запуску. Перед відкриттям рахуйте: кількість запитів на добу помножити на вартість одного запиту в токенах.
- Додайте в сервер логування помилок від ШІ-провайдера. Без нього я б не одразу зрозумів, чому тестувальники бачать загальну помилку.
- Майте запасний шлях, але з обмеженням витрат.