Искусственный интеллект ускоряет собственное развитие: что происходит и почему это важно

Главная новость: искусственный интеллект начинает помогать учёным создавать более совершенные модели ИИ. Новые модели, в свою очередь, помогают разрабатывать следующие поколения технологий.

1. Что обнаружили исследователи?

Исследователи изучили внутренние данные американской компании Anthropic — разработчика нейросети Claude.

Результаты показали:

• Скорость улучшения возможностей моделей Anthropic выросла примерно в 1,9 раза.

• ИИ всё активнее помогает программистам писать код.

• Нейросети используются для проведения экспериментов и анализа результатов.

• Разработчики получают возможность быстрее создавать и проверять новые модели.

По оценке METR, ускорение связано прежде всего с использованием самого ИИ в процессе исследований, а не просто с увеличением вычислительных мощностей.

2.Как работает саморазвитие ИИ?

Это направление называется Recursive Self-Improvement — рекурсивное самоусовершенствование искусственного интеллекта.

3. Почему это может изменить мир?

4. Какие существуют опасности?

Чем быстрее совершенствуются системы ИИ, тем сложнее может становиться контроль над их возможностями.

Основные риски:

• Разработчики могут не успевать проверять безопасность новых моделей.

• ИИ может находить неожиданные способы выполнения поставленных задач.

• Возникает риск чрезмерной зависимости компаний от автоматизированных систем.

• Человеческий контроль над отдельными процессами может ослабевать.

Однако важно понимать: ИИ пока не способен полностью самостоятельно создавать новые поколения себя без участия человека. METR прямо отмечает, что полностью автономный вклад ИИ в наиболее важные этапы обучения моделей пока не доказан.

Мы наблюдаем начало нового этапа технологического развития: искусственный интеллект становится не только продуктом человеческих исследований, но и инструментом создания следующего поколения интеллектуальных систем.

Это может существенно ускорить научный и экономический прогресс. Но вопрос безопасности и сохранения человеческого контроля становится всё более важным.

Для дальнейшего изучения я бы выделил один вопрос: сможет ли искусственный интеллект в будущем самостоятельно создавать более умные версии себя без непосредственного участия человека? Это одна из важнейших тем исследований ИИ.