Революция ИИ: от теста Тьюринга до технологической сингулярности
Ключевые тезисы:
- Мы живем внутри многослойной революции ИИ, где каждый новый прорыв (трансформеры, LLM, рассуждающие модели, агенты) ускоряет прогресс.
- Прогресс в ИИ определяется тремя компонентами: физическим масштабированием, алгоритмическими улучшениями и «раскрепощением» (unhobbling) уже обученных моделей.
- Законы масштабирования для трансформеров работают предсказуемо, но имеют физические пределы.
- Скорость прогресса не снижается, и мы приближаемся к моменту, когда ИИ сможет проводить исследования лучше людей (технологическая сингулярность).
Тест Тьюринга и его эволюция
Тест Тьюринга — это интерактивный тест на разумность машины, где судья общается с компьютером и человеком, не зная, кто есть кто.
- Главное отличие от бенчмарков: интерактивность и контекст.
- Историческая несправедливость: компьютер всегда выдает себя за кого-то, а человеку нужно просто быть собой.
- Современный статус: GPT-4 и подобные модели смогли пройти тест около полутора лет назад, причем иногда их выбирали как «человека» с вероятностью выше 50%.
Законы масштабирования в ИИ
Это эмпирические зависимости, показывающие, как улучшается качество модели при увеличении вычислительных ресурсов, данных или размера модели.
- Закон Мура (удвоение транзисторов каждые ~2 года) давно не работает для машинного обучения.
- Ключевой прорыв: трансформеры масштабируются невероятно эффективно. Их главное внешнее свойство — предсказуемое улучшение качества с ростом размера.
- Пример: GPT-4 примерно в 100 раз больше предыдущих моделей, что полностью окупилось в качестве.
- Два «чуда» масштабирования трансформеров:
- Предсказуемое улучшение в предсказании следующего токена (основная задача обучения).
- Появление эмерджентных способностей — модель приобретает навыки (доказательство теорем, знание фактов), которым её явно не обучали.
Три компонента прогресса в ИИ
Прогресс складывается из трех взаимосвязанных, но разных по природе частей:
Физическое масштабирование (синяя часть)- Увеличение вычислительных мощностей, строительство дата-центров.
- Имеет очевидные физические и экономические пределы (энергия, капитал).
- Рано или поздно замедлится и остановится.
Алгоритмический прогресс (зеленая часть)- Улучшение алгоритмов и архитектур при фиксированном железе.
- Пример: бенчмарк NanoGPT — время обучения модели сократилось с 90 минут до 3 минут за 8-9 месяцев без изменения железа.
- Закон: вычисления, необходимые для того же результата, сокращаются вдвое каждые 8 месяцев (на 2024 год).
Раскрепощение (Unhobbling) (красная часть)- Улучшение возможностей уже обученной модели без её переобучения.
- Включает дообучение (RLHF), создание агентских обвязок (Claude Code, Codex) и других надстроек.
- Меняет парадигму использования: одна и та же LLM в составе Claude Code решает гораздо более широкий класс задач.
- Это область, где прогресс может продолжаться долго, так как не требует гигантских вычислительных ресурсов, только идеи.
Текущий контекст и вызовы
- Фронтирные модели (Claude Mythos/Fable, GPT-5.6) настолько мощны, что их выпуск ограничивают из соображений безопасности. Mythos был запрещен правительством США к экспорту.
- Open-source модели догоняют фронтир, но часто за счет дистилляции (обучения на выходах более мощных моделей), что не позволяет выйти за пределы оригинала.
- Проблема бенчмарков: они устаревают быстрее, чем сообщество успевает их проверить и стандартизировать.
Куда мы движемся? Технологическая сингулярность
Технологическая сингулярность — гипотетический момент, когда прогресс (в частности, научно-технический) становится настолько быстрым, что люди не могут за ним осознанно следить и направлять его.
- Не тогда, когда ИИ всё умеет: сингулярность наступит, когда ИИ станет лучше людей в исследованиях по ИИ (AI Research), то есть в математике и программировании для экспериментов.
- Текущий тренд: ИИ уже регулярно решает великие открытые математические проблемы (гипотеза Юка-Биана, гипотеза Диница). 4 года назад максимумом были арифметические задачки для детей.
- График METR: показывает, что одна задача, на которую у программиста уходило 1-2 часа, теперь решается одним запросом к LLM. Прогресс по этому графику не останавливается.
Выводы
- Прогресс в ИИ не замедляется, а, судя по всему, ускоряется.
- Физическое масштабирование упрется в потолок, но алгоритмические улучшения и «раскрепощение» моделей имеют большой потенциал.
- Мы приближаемся к моменту, когда ИИ сможет автономно проводить исследования, что и станет точкой технологической сингулярности.
- Пока мы в эпохе «кентавров» (симбиоз человека и ИИ), но тренд ведет к тому, что вклад человека в некоторых областях (как в шахматах) станет не нужен или даже будет мешать.
- Главный вызов: человечество быстро адаптируется к новым стандартам и забывает, как было «вчера», что может приводить к недооценке рисков и слепому доверию к системам ИИ.