Конспект

YouTubeThe Last AI Roadmap Video You’ll Ever Watch

🧠 Недельный курс по ИИ: от основ до применения

Ключевые тезисы

  • Чтобы глубоко понять современный ИИ, нужно начать с его истории и эволюции.
  • Фундаментальное понимание работы больших языковых моделей (LLM) строится на нескольких ключевых концепциях.
  • ИИ — это не просто абстракция, а сложная система, включающая цепочку поставок, оборудование и геополитику.
  • Основные игроки на рынке ИИ имеют разные философии и стратегии развития.
  • Ключ к практическому применению ИИ — интеграция в уже существующие прибыльные бизнес-процессы.

📜 История и эволюция ИИ

  • Перцептрон (1950-е): Изобретение Фрэнком Розенблаттом заложило основы нейронных сетей. Понимание мотивации его создания помогает прояснить современные термины.
  • «Зима ИИ»: За первоначальным ажиотажем последовало разочарование из-за нехватки вычислительных мощностей для реализации идей.
  • Экспертные системы: Доминировали до 2010-х, представляя собой сложные детерминированные программы на основе правил «если-то».
  • Революция глубокого обучения (2012): Успех AlexNet в классификации изображений возродил интерес к нейронным сетям, так как технологии наконец догнали теорию.
  • Трансформер (2017): Архитектура, лежащая в основе современных LLM (ChatGPT, Claude, Gemini).
  • Модели рассуждений (2024): Значительно усложнили подход LLM к решению задач.

Рекомендуемые ресурсы по истории:

  • Серия статей 3Blue1Brown «Что такое нейронная сеть».
  • Книга Welch Labs «Момент, когда мы перестали понимать ИИ».
  • Видео The Art of the Problem «35-летняя история ChatGPT».
  • Статья Рича Саттона «Горький урок» (об основах пути к Искусственному Общему Интеллекту).

🏗️ Как работают большие языковые модели

  1. Токенизация: Текст разбивается на части слов (токены), а не на целые слова.
  2. Предсказание следующего токена: Модель генерирует распределение вероятностей для следующего токена и выбирает из него (не всегда самый вероятный вариант), что создает вариативность.
  3. Предварительное обучение (Pre-training): Начальный этап «сжатия» огромного массива данных и информации в модель (как в GPT-3).
  4. Дообучение с обратной связью от людей (RLHF): Направление и «формирование» предварительно обученной модели для продуктивного диалога с человеком.
  5. Цепочка мыслей (Chain-of-Thought): Моделирование шагов рассуждения, что улучшает результаты и позволяет «заглянуть» в процесс мышления модели.
  6. Контекстное окно: Объем памяти модели (в токенах), аналогичный человеческой рабочей памяти.
  7. Галлюцинации: Модель может генерировать ложную информацию, так как училась на текстах, которые не всегда отражают реальность.
  8. Выращивание, а не создание: Интеллект моделей не программируют вручную, а «выращивают» с помощью математики и данных, как в эксперименте.

Рекомендуемые ресурсы по устройству LLM:

  • «Кратко объясненные большие языковые модели» (3Blue1Brown).
  • «Введение в большие языковые модели» и «Глубокое погружение в LLM-модели» (Андрей Карпати).
  • Статья Anthropic «Отслеживание мыслей большой языковой модели».
  • «Трансформеры: Технология, лежащая в основе LLM» (3Blue1Brown).

🌐 Система и экосистема ИИ

ИИ — это многослойная «луковица», где приложения — лишь верхний уровень.

Уровни системы:

  1. Чипы и оборудование: Архитектура (Nvidia) → производство (TSMC) → машины для производства (ASML).
  2. Центры обработки данных: Крупные инвестиции от Microsoft, Google, Amazon и других для размещения чипов.
  3. Энергетика и инфраструктура: Огромные энергозатраты и регулирование.
  4. Лаборатории моделирования: OpenAI, Anthropic, Google DeepMind, Meta, xAI — разрабатывают программное обеспечение и модели.
  5. API и промежуточные слои: Инструменты вроде OpenRouter для распределения запросов.
  6. Агенты и системы управления: Автоматизированные системы, использующие модели (Claude Code, Cursor).
  7. Внедрение: Практическое применение технологий в бизнесе, хобби и жизни.

Рекомендуемые ресурсы по системе:

  • Отчет «Состояние ИИ» от Air Street Capital.
  • Статья «Тенденции ИИ» от Epoch (данные по вычислениям и инвестициям).

🏢 Философия ключевых игроков

  • OpenAI: Универсальная компания, фокус на потребительские продукты (чат, изображения, видео, аудио). Цель — создание автоматизированного стажера-исследователя.
  • Anthropic: Сверхконцентрация на программировании как пути к Искусственному Общему Интеллекту (ИОИ). Работают в основном с текстом, чтобы создать лучших программистов для рекурсивного самосовершенствования моделей.
  • Google DeepMind: Одна из старейших лабораторий (AlphaGo), вертикально интегрирована в инфраструктуру Google. Обладает огромными данными и инерцией.
  • Meta: Делает ставку на открытые модели (Muse), чтобы дать каждому собственный «сверхинтеллект» и создать новые рынки.
  • xAI (Илон Маск): Стратегическая ставка на вычислительные мощности и инфраструктуру (через SpaceX, Tesla), сдача мощностей в аренду другим лабораториям.

⚙️ Рекурсивное самосовершенствование (RSI)

  • ИИ, который самостоятельно проводит исследования и разработки в области ИИ.
  • Ключевое преимущество — масштабируемость: можно запустить миллионы «исследователей»-ИИ, ограничением являются только вычислительные ресурсы и энергия.
  • Позволяет моделям оптимизировать собственное обучение и следующее поколение, что ведет к экспоненциальному ускорению прогресса.

Рекомендуемые ресурсы по RSI и будущему:

  • «Мягкая сингулярность» (Сэм Альтман, OpenAI).
  • «Мы должны идти в ногу с прогрессом» и «Машины любящей благодати» (Дарио Амодеи, Anthropic).
  • «Временной горизонт 1.1» (METR).
  • Критическая статья MIT «Рекурсивное самосовершенствование ИИ может произойти не так уж быстро».
  • Прогноз «ИИ 2027» (геополитическая динамика).

🛠️ Практическое применение и инструменты

Выбор инструментов:

  1. Чат-ассистент: Claude, ChatGPT, Gemini.
  2. Агент/система управления: Claude Code, Cursor.
  3. Инструмент автоматизации: Например, n8n (для подключения ИИ к бизнес-процессам).

Эффективное взаимодействие (делегирование):

  1. Контекст: Кто вы, зачем нужна задача.
  2. Цель: Какой конкретный результат нужен.
  3. Критерий «отлично»: Пример или четкое описание идеального выполнения.
  4. Верификация: Как проверить результат (скриншот, сравнение и т.д.).

Рекомендуемые ресурсы по применению:

  • Мини-курс «Основы AI Fluency» (Anthropic Academy).
  • Интерактивный учебник по разработке подсказок от Anthropic.

💰 Превращение знаний в результат

  • ИИ не создает принципиально новых прибыльных процессов, а делает существующие гораздо более прибыльными за счет ускорения.
  • Ключевой вопрос: Был ли процесс прибыльным до внедрения ИИ? Если да, то ИИ может его усилить.
  • Нужно анализировать и оптимизировать уже работающие бизнес-конвейеры, а не придумывать абстрактные идеи.
  • Начинать следует с ручных, «немасштабируемых» действий для первых клиентов, а затем автоматизировать их с помощью ИИ.

Рекомендуемые ресурсы по монетизации:

  • Эссе Пола Грэма «Делайте то, что не масштабируется».
  • Площадки с запросами от стартапов (например, Y Combinator's RFS).

Выводы
Глубокое понимание ИИ требует изучения его истории, основ работы, экосистемы и философии ключевых игроков. Практическая ценность заключается в умении интегрировать ИИ в уже прибыльные процессы, значительно увеличивая их эффективность. Освоение этой области за короткий срок позволяет не только уверенно использовать технологии, но и критически оценивать новые возможности и тренды.