On-Device and hybrid AI

Создание AI-агентов больше не требует постоянного подключения к облаку или огромных затрат на серверную инфраструктуру. Сегодня самые инновационные модели работают там, где находятся ваши пользователи — прямо на устройстве.

Присоединяйтесь к практическому воркшопу, чтобы освоить Edge AI — новую архитектурную модель, которая обеспечивает нулевую стоимость запросов, полную конфиденциальность данных и молниеносную работу даже без интернета.

Мы выйдем за рамки простых чат-интерфейсов и перейдём к созданию полноценных локальных (“local-first”) AI-агентов с использованием лёгких моделей, таких как Gemma, Llama и DeepSeek.

Что вас ждёт:

• Функции прямо на устройстве (On-Device Function Calling):
  Научитесь подключать агента к локальным API (контакты, календарь, сенсоры) без задержек.
• Локальный RAG:
  Работайте с приватными документами и заметками для получения контекстных ответов — без передачи данных в облако.
• Гибридная стратегия:
  Освойте архитектуру «лучшее из двух миров», объединяющую приватность edge-решений и мощность облака.

Практика:

Мы создадим рабочий прототип с использованием Flutter, Gemma и GenKit. (Также поддерживаются нативные решения для Android и iOS.)

К концу воркшопа вы чётко поймёте реальные компромиссы между размером модели, производительностью и функциональностью.