Представьте программу, которая не просто выполняет задачи, а сама себя улучшает — и делает это быстрее, чем любой человек успевает моргнуть. Это уже не фантастика. Технология под названием «рекурсивное самосовершенствование» (RSI — recursive self-improvement) выходит из лабораторий в реальность, и ведущие AI-компании планеты сейчас делают к ней первые серьёзные шаги.
Что такое рекурсивное самосовершенствование?
RSI — это способность ИИ самостоятельно находить пути для улучшения себя и проектировать следующую, более умную версию. Та версия, в свою очередь, создаёт ещё более продвинутую — и так по нарастающей.
Энтони Агирре (Anthony Aguirre), президент и исполнительный директор некоммерческой организации Future of Life Institute и профессор физики в Калифорнийском университете Санта-Крус, объясняет:
Самое важное здесь то, что чем больше ИИ этим занимается, тем быстрее идёт процесс — ведь ИИ работает намного, намного быстрее, чем люди.
Джон Тикстун (John Thickstun), ассистент-профессор информатики в Корнеллском университете, уточняет: в каком-то смысле RSI уже происходит давно.
Мы уже несколько лет используем эти модели во вспомогательных ролях для создания следующего их поколения. Люди применяют предыдущее поколение моделей, чтобы писать код для AI-систем, которые потом создают следующее поколение.
До сих пор такие усилия давали лишь незначительные улучшения — без качественных творческих скачков. Но компании утверждают, что ныне находятся ближе к крупным прорывам.
Клод уже пишет собственного преемника
На этой неделе Anthropic подробно рассказала о том, как её модель Claude помогает разрабатывать следующую, более интеллектуальную версию себя самой. По данным компании, Claude сейчас ведёт 26 % всех исследований и разработок моделей. Это означает, что ИИ способен выполнять большинство задач «от начала до конца по высокоуровневому запросу» — хотя пока под контролем человека.
Полной автономии пока нет, но на графиках Anthropic видно, как доля ИИ в исследованиях неуклонно растёт.
OpenAI, Маск и Microsoft: три разных подхода
ChatGPT-разработчик OpenAI в сентябре объявил о создании автоматизированного «исследовательского интерна» — системы, способной выполнять хорошо поставленные исследовательские задачи под руководством человека, включая те, на которые у опытного исследователя ушли бы несколько дней. Компания заявила, что стремится к созданию полностью автоматизированного «исследователя-ИИ» к марту 2028 года. При этом в блоге OpenAI подчёркивается: несмотря на пользу RSI для согласования действий моделей с человеческими ценностями, «быстрое RSI не обязательно должно быть целью, к которой мы стремимся». Решения о дальнейшем продвижении, по мнению компании, должны зависеть от сохранения контроля человека и «информированных демократических выборов о преимуществах и рисках».
Илон Маск, чья компания xAI разрабатывает модель Grok, заявил в марте, что «люди постепенно всё меньше вовлечены в процесс» улучшения моделей и что «каждая следующая модель создаётся предыдущей», но уточнил, что процесс пока ещё не полностью автоматизирован. По его словам, это может произойти к концу этого года, но не позднее 2027-го.
Microsoft, включая дочернюю компанию OpenAI, идёт по пути так называемого «гуманистического суперинтеллекта». По словам главы Microsoft AI Мустафы Сулеймана, речь идёт о продвинутых возможностях ИИ, «служащих людям и человечеству в целом». Это не «неограниченный и автономный интеллект», а строго регулируемая система, «вписанная в рамки, тщательно калиброванная и контекстуализированная».
Замедление и безопасность
Одной из ключевых проблем остаётся обеспечение развития мер безопасности на уровне с растущими возможностями ИИ. В индустрии разгорелись споры о необходимости координированного замедления темпов разработки для повышения безопасности. Anthropic поддерживает идею приостановки или замедления своей работы при условии, что конкуренты последуют примеру «верифицируемым образом». OpenAI отмечает, что пока не знает, как «безопасно достичь полностью выровненного RSI» и не может допустить, чтобы прогресс в области безопасности отставал от роста возможностей ИИ.
