Future Insider

Частные лаборатории в США всерьёз считают, что близки к созданию сверхинтеллекта — технологии, способной дать огромное стратегическое преимущество тем, кто её контролирует. И они, возможно, правы. Но исследования на переднем крае ИИ остаются уязвимыми для шпионажа и саботажа, особенно со стороны Китая. Практически все ведущие американские AI-лаборатории, вероятно, уже частично скомпрометированы КНР. При таком уровне угроз национальная безопасность требует перемен.

В связи с этим всё чаще звучат призывы к государству: усилить защиту ИИ-исследований, вплоть до запуска национального проекта по аналогии с «Манхэттенским проектом». Эта идея обсуждается в кругах ИИ уже давно, но приобрела широкую огласку после манифеста бывшего сотрудника OpenAI Леопольда Ашенбреннера в июне 2024 года.

За последний год группа экспертов провела обширное исследование, опросив более сотни специалистов — от военных и разведчиков до инженеров и юристов. Результаты показывают: чтобы США действительно получили и удержали преимущество в ИИ перед Китаем, необходимо устранить ряд критических проблем:

- Безопасность поставок. США зависят от Китая и Тайваня в производстве компонентов для дата-центров и ИИ-чипов. Это создаёт риск встроенного шпионского или вредоносного оборудования. Переход на собственное производство займёт годы, которых может не быть.

- Безопасность разработчиков. Культура стартапов в Кремниевой долине не подходит для защиты таких чувствительных технологий. Лаборатории уязвимы к кибератакам, а также к работе «инсайдеров», особенно учитывая высокую долю китайских граждан среди исследователей.

- Проблема контроля. Даже если сверхинтеллект будет создан, им нужно уметь управлять. Необходимо оценивать надёжность существующих методов контроля и понимать риски — особенно при разработке ИИ-средств сдерживания других стран. При этом важно действовать быстро: Китай уже инвестирует в ИИ-инфраструктуру сотни миллиардов долларов.

- Прозрачность и контроль. Сверхинтеллект концентрирует власть, поэтому проект должен иметь строгую систему надзора, чтобы ни одна структура не могла использовать его в одиночку. Также нужна стратегия «выхода» — как сделать технологии доступными обществу, не ставя под угрозу безопасность страны.

Сейчас США не учитывают все военные последствия появления сверхинтеллекта, а значит — недооценивают важность безопасности. Однако исправить ошибки позже будет невозможно: переоснастить цепочки поставок или перепроектировать чипы — это долгий процесс. Либо мы инвестируем в безопасную ИИ-инфраструктуру сейчас, либо рискуем проиграть гонку Китаю.

Такой проект потребует строительства новых дата-центров с полной защитой, интеграции с контрразведкой и быстрой адаптации к новым угрозам. По мнению многих в Кремниевой долине, до появления ИИ, способного автоматизировать большую часть разработки ПО, остаётся меньше года. Если это правда — действовать надо немедленно.

В докладе содержатся конкретные рекомендации, которые можно реализовать уже сейчас, даже без запуска полномасштабного проекта. Это будет дорого и сложно, но альтернатива — потеря контроля над сверхинтеллектом или его захват Китаем — куда опаснее.

Главный вывод: версия o3 (medium) показывает в два раза лучший результат и стоит в 20 раз дешевле, чем ближайший конкурент среди AI-систем с пошаговым рассуждением (chain-of-thought) — 57% точности за $1.5 за задачу по закрытому набору ARC v1.

На ARC v2 o3 (medium) показывает лишь 3% точности за $2.5 за задачу.

Тест o3 (high) не удалось провести полностью — из-за тайм-аутов менее половины задач вернули результат, и бюджет $50,000 оказался исчерпан. Мы очень старались!

Анализ по o3:

Когда мы тестировали o3-preview в декабре 2024, стало ясно: привычное представление о возможностях ИИ устарело. Тогда встал вопрос: будет ли финальная версия o3 больше похожа на слабый o1 или на впечатляющий o3-preview?

Теперь ясно: o3 (medium) унаследовала ключевые способности o3-preview — решать нестандартные задачи, выходящие за пределы обучающих данных — но при этом стала значительно дешевле. Хотя точность ниже, чем у o3-preview (76% за $200), результат впечатляет: такую мощную систему логического вывода вы сейчас не купите нигде.

Ожидается выход o3-pro — вероятно, он будет ближе к уровню o3-preview по возможностям, но с меньшей эффективностью.

Интересный момент: результаты o3 (medium) на ARC v1 настолько хороши, что их сложно объяснить просто как работу пошаговой autoregressive-модели. Есть ощущение, что система устроена сложнее.

Хотя o3 не делает дорогую и медленную параллельную генерацию, как o3-preview, точность зависит не только от модели и числа токенов размышления. Похоже, в работе участвует некий дополнительный фактор — X-фактор:

успех_задачи = f(модель, токены_размышления, x-фактор)

Подтверждения:

1. Скорость генерации у o3 стабильна между low, medium и high, значит, модель, скорее всего, одна и та же.


2. При равных условиях (по токенам) o3 (high) работает лучше, чем medium и low.



Что за X-фактор? Это может быть: параллельная генерация шагов рассуждения, вспомогательная модель-оценщик, MoE (Mixture of Experts), или что-то ещё. Автор склоняется к тому, что o3 масштабирует глубину и ширину рассуждений, эффективно комбинируя знания базовой модели.

Итоги:

1. Версии o3 (особенно medium и high) ближе по возможностям к o3-preview, чем к старому o1.


2. Лучше использовать o3 (high), а если возникают тайм-ауты — переключиться на medium. Версия low имеет мало смысла, если важна точность.


3. ARC v1 остаётся ценным инструментом для анализа передовых ИИ — он по-прежнему выявляет слабые места систем.


4. У ARC v2 ещё большой путь вперёд, даже с таким прогрессом в рассуждениях, как у o3 — нужны новые идеи.