Noetic Evolution

Noetic Evolution — задуманный нами способ улучшать агентов, навыки, смоделированные миры и даже сами проверки: порождать варианты, испытывать их, сохранять результаты и соединять удачное. Отправная точка — опубликованный эксперимент Darwin Gödel Machine, где от доказательства улучшения отказались в пользу измерения и архива версий.

Главное здесь правила. Кандидат не оценивал бы и не выпускал бы сам себя: его проверяли бы на свидетельствах, до которых он не может дотянуться, и на задачах, которых он не видел, а что продвигать, решал бы человек. Ничего не выбрасывалось бы, потому что слабый вариант может позже куда-то привести. А выросшее число ещё не улучшение, поэтому за мерой следили бы так же строго, как за тем, что она измеряет.

Часть этих правил уже записана в нашем инструменте разработки, и больше нигде.